서론
그룹바이에서 이력서를 다듬던 중, AI 가치관에 대한 질문을 만났다. 처음에는 간단하게 작성하려고 했지만, 지금 시대에서 생각해볼 만한 거리가 될 것 같아서 글로 작성해보려고 한다.
앞으로도 이러한 AI에 대한 가치관이 중요해질 것 같다는 생각이 든다. 이참에 고민해 보고 방향성을 잡아보면 좋겠다.
첫 번째 질문은, “기업에서 AI를 도입할 때 주의해야 할 점은?”이었다. 이 질문을 시작으로 총 5개의 질문에 대해 각각의 글로 적어볼 예정이다.
“기업에서 AI를 도입할 때 주의해야 할 점은?”
질문에 대한 답
기업에서 AI를 도입할 때 가장 주의해야 할 점은, '무엇을 만들 것인가'보다 '만든 후에 어떻게 유지보수할 것인가'를 먼저 설계하는 것입니다. 업무별로 자동화 프로그램 및 에이전트를 수백 개 만드는 것보다, 클로드코드와 같은 슈퍼 에이전트를 중앙에 두고 스킬과 MCP로 환경을 붙여주는 구조가 유지보수에 좋습니다. 이때 자주 바뀌고 판단이 필요한 업무 기준은 코드에 굳히지 말고 문서로 관리해서, 변경이 생기면 문서를 고치면 되도록 만들어야 합니다.
결국 AI 도입과 AX 자체가 목적이 되는 순간 실패한다고 봅니다. AI를 통해 실질적으로 어떤 가치를 함께 만들어낼 것인가를 먼저 고민하여 정립하고, 구성원들이 내는 아이디어와 프로덕트를 어떻게 통합하고 관리할 것인지 시스템을 만들어야 합니다.
해당 질문에 대한 답을 작성하는 데 도움이 되었던 영상을 하나 소개한다.
AI 에이전트 4천 개 만들면 누가 유지보수할 겁니까?
스페이스와이의 황현태라는 분이 운영하시는 유튜브로, 구름 커밋 세미나에 갔을 때 실제로 뵙기도 했다. 인사이트가 흥미롭고, 내가 느끼기에 조금 더 앞서 계신 것 같아서 종종 영상을 보고 있다. 인상 깊었던 멘트들은 아래와 같다. 멘트와 함께 나의 생각을 적어내려본다.
“이미 클로드코드와 같은 슈퍼 에이전트가 있는데, 왜 1개의 업무만 할 수 있는 에이전트를 만드느냐?”
최근에 정말 많은 기업에서 시도하고 있는 작업이 내부 AX이다. 비개발자들도 커서, 클로드코드와 같은 코딩 에이전트를 활용해서 본인 업무에서의 자동화나 특정한 사내용 애플리케이션을 만들어낸다.
여기까지는 좋지만, 정작 만들고 나면 의문이 생긴다. 이 앱을 만든 사람만 로컬에서 쓸 건지, 아니면 사내용으로 배포를 할 건지, 외부에 공개하는 라이브 서비스로 배포할 건지, 이를 어떻게 통합할 건지, 배포한 후에는 누가 관리(유지보수)할 것인지... 무수히 많은 문제점이 생겨난다.
비개발자분들이 만드는 서비스에는 다음과 같은 한계점이 있다. 바로 유지보수와 운영을 고려하지 않았다는 것이다. 즉, 오로지 하나의 문제를 해결하거나 자동화하는 데에서 그친다. 물론 실제로 유지보수를 지속적으로 해보신 경험이 없기 때문에, 이러한 부분들까지 생각하기에는 어렵다고 생각한다.
그렇기에 애써서 만든 서비스는 보통 혼자 사용하거나, 며칠 사용하고 잊히는 일이 대부분이다.
“그렇게 수백 수천 개 만들면 누가 유지보수하는가?”
계속 사용한다고 해도 문제가 있다. 회사 내에서 진행되는 업무는 항상 동일하지 않다. 늘 변동성이 있기 때문에, 이를 대응할 수 있어야 하고 이에 따라 만들었던 에이전트를 수정해야 한다. 하지만 지금의 바이브코딩 도구들은 창조하는 건 쉽게 만들어줘도, 고치고 수정하는 것까지 쉽게 해주지는 않는다. 이때부터는 내부 구조나 전체적인 아키텍처를 알아야 빠르게 해결할 수 있기 때문이다.
그렇기 때문에 해보려다가도, 전문적인 개발용어가 나오면 하고 싶은 마음이 뚝 떨어진다. 원래 처음에 쉽게 만들어질 때만 도파민이 나오고, 그 이후 대부분을 차지하는 유지보수 기간에는 지루함과 머리아픔의 연속이기 때문이다.
결국에는 이렇게 만들어진 에이전트들은 버려지거나, 사내에 있는 개발자들에게 토스된다. 정말 사내에서 쓸 만한 좋은 아이디어라면 개발자들도 환영하고 고도화하겠지만, 그렇지 않은 경우가 더 많다. 늘 현실적인 한계가 있는데, 이 한계에 부딪히는 순간부터 개발자들이 맡아야 하니 하고 싶은 열의가 크지 않다.
더욱이 원래 하던 작업들도 많은데, 다른 부서에서 흘러오는 에이전트들의 유지보수까지 맡게 된다면 머리가 정말 쪼개질 것이다. 감히 내 생각에 좋은 개발자라면, 간단한 서비스여도 맡게 되면 아래 정도는 파악하려는 노력을 할 것이다.
- 왜 탄생한 서비스인지 (어떤 문제를 해결하는지)
- 그 문제를 해결하는 데 적절한 기술이 선정되었는지
- 내부 로직과 전체적인 아키텍처는 어떻게 되는지
- 오버 엔지니어링은 없는지
- 보안적으로 문제가 없는지 ..
왜냐하면 그래야만 이후에 유지보수를 할 수 있고, 상황에 따라 더 좋은 선택을 할 수 있기 때문이다. 여기에도 굉장히 많은 에너지가 소모되고, 책임감도 동반된다. 하지만 이를 가볍게 여기고 개발자라는 이유로 쉽게 유지보수할 수 있을 것이라고 생각하고 맡긴다면 점점 불만이 커질 것이다.
그렇기 때문에 늘 무언가를 만들어 낼 때는 유지보수에 대한 고민을 어느 정도 해야 한다. (혼자 로컬에서 사용하거나, 학습을 위한 토이 프로젝트라면 제외) 이러한 고민 없이 무분별하게 만들어내고 자동화를 하는 것은, 처음에는 시도 측면에서 좋으나 점점 오히려 일의 생산성을 낮출 수도 있다고 생각한다.
실제로 필자도 오로지 나를 위한 서비스를 만들고, 디스코드와 연동해서 AI 비서를 만들었었다. 처음에는 신기하고 좋았지만, 점점 오히려 '내가 만든 서비스를 어떻게든 쓰려고 하고 있구나'라는 생각이 들었다. 굳이 대화를 하지 않아도, 내가 직접 캘린더를 보거나 수정하는 게 더 빠른 경우도 많았기 때문이다.
그리고 기존에는 클로드에서 지원하지 않아서 어떻게든 여러 기술들을 활용해 AI 비서 형태를 만들었었는데, 한 달이 지나니 공식적인 기능이 나온 경우도 있다. 이런 경험들을 하면서 '굳이 지금 상황에서 모든 작업을 자동화하려고 할 필요는 없겠구나', '하는 일을 잘하면서 기다리면 사람들이 쓰고 싶어하는 기능이 금방 나오는구나' 등을 느끼게 되었다.
물론 AI를 어떻게든 활용하려고 하고, 작업 효율성을 높이기 위해 노력하는 것에는 큰 의미가 있다. 결국 필자가 말하고 싶은 것은, "AI로 내가 이런 걸 만들었어요!" 자랑하려는 목적이 아니라 → 실제로 내 불편함을 해결해주고 유의미한 자동화 작업인지 고민해보아야 한다는 것이다.
가능하다면 발전하는 슈퍼 에이전트에 잡아먹히는 게 아니라, 함께 공존할 수 있는 구조면 좋다. 아니 앞으로는 그렇게 해야만 한다. 예를 들어서 특정 문서에 대해서 위험성을 평가하도록 자동화한다고 해보자. 이를 코딩을 통해서 특정한 코드로 로직을 짠다면, 처음에는 매우 잘 평가가 될 것이다. 당연히 코드를 짤 때 넣은 문서를 기반으로 만들었을 것이기 때문이다. 그러나 다양한 문서가 생겨나고, 또 평가 기준이 바뀌거나 한다면 그때마다 코드를 수정하고 오류를 해결해야 한다. 변경이 생길 때마다 비용이 '코드 수정'으로 청구되는 구조인 것이다.
이렇게 하는 게 아니라, 평가 기준이 자주 바뀌고 사람이 최종 검토하는 업무라면 클코나 코덱스와 같은 슈퍼 에이전트가 위험성 평가를 할 수 있는 환경을 구축하는 것이 낫다. 예를 들어 스킬로 해당 작업을 정의하고 계속해서 프롬프트를 깎아낸다. 또한 평가 기준을 로컬에 있는 특정 문서에 정리하고 지속적으로 업데이트한다. 결과 또한 로컬에 문서로 저장하게 하고, 최종 정리본만 인간이 받는다. 여기서 로컬 문서를 적재하고 관리하는 데는 옵시디언을 활용하면 좋다. 이런 형태로 일을 하게 되면, 유지보수도 편할뿐더러(클코한테 업데이트해달라고 하면 된다.), 결과물도 AI가 이해하기 좋은 구조로 남아있기 때문에 이를 평가하고 더 좋은 결과물을 뽑는 데 활용할 수도 있다.
“클코는 앱이나 프로그램 수준이 아니라, 컴퓨터라고 이해를 해야 한다.”
이 부분이 핵심이다. 필자도 이렇게 생각은 하지 못했는데, 머리를 한 대 맞은 듯한 기분이 들었다.
요즘 들어 퍼플렉시티나 다른 AI에서도 컴퓨터라는 용어를 사용하고 있다. 처음에는 이게 매우 어색했는데, 이제는 어떤 의미인지 알 것 같다.
컴퓨터가 탄생한 후로 인간의 많은 사무 작업들이 변화했다. 대부분을 컴퓨터로 해결할 수가 있게 되었고, 그렇기 때문에 컴퓨터 내에서 사용하는 프로그램과 앱들이 우후죽순 생겨나 지금의 형태가 되었다. 코딩을 하고, 엑셀 작업을 하고, 영상 편집을 하고.. 현대 사회에서의 대부분 일들을 컴퓨터로 하고 있다.
컴퓨터는 있지만 코딩용 컴퓨터 / 위험성 평가용 컴퓨터 / 영상 편집용 컴퓨터 등 매우 적은 일에만 특화된 컴퓨터는 없다. 사양에 따라 특화된 능력이 다를 뿐, 사실상 컴퓨터로는 모든 일을 할 수 있는 것이다.
이제는 클로드, 챗GPT와 같은 AI도 똑같다. 단순히 인간의 일을 돕는 코파일럿과 에이전트 형태를 넘어서 컴퓨터처럼 대부분의 지식 노동을 해낼 수 있게 된 것이다. 이를 위해서 AI가 마음껏 일을 할 수 있는 환경만 잘 만들어주면 된다. 엑셀을 사용하려면 엑셀 프로그램을 깔아야 하는 것처럼, 피그마에 접근해서 일을 시키기 위해서는 피그마 MCP를 사용해야 한다. 여기에 플러그인이나 스킬 등을 활용한다면 더욱 똑똑하게 일을 하도록 만들 수 있다.
다만 컴퓨터와 다른 점은, AI는 완벽히 통제할 수는 없다는 것이다. 어찌되었든 추론을 통해서 가장 유사하고 올바르다고 판단되는 행동을 하기 때문에, 간혹 예상치 못한 문제를 일으킬 수 있다. 그렇기 때문에 근래에 하네스 엔지니어링(AI가 일할 트랙과 가드레일을 코드와 규칙으로 잡아주는 접근) 등으로 가드레일을 잡아두고 그 안에서는 마음껏 뛰어놀 수 있도록 트렌드가 바뀐 것이라고 생각한다.
마무리
AI 가치관에 대한 첫 글을 이렇게 마무리했다.
작성하다 보니 글이 길어졌다. 아무래도 많이 고민하고 관심을 가지고 있다 보니 하고 싶은 말이 많았던 것 같다.
지금은 정답도 없고, 전문가도 없다고 생각한다. 정말 상위 0.01%의 극상위권(오픈AI, 앤트로픽 연구원 등..)이 아니라면 다들 혼란스럽고 따라가기 벅찰 것이다.
그렇기에 이럴수록 나의 가치관과 중심을 잘 잡고, 이를 어떻게 활용해 나의 가치를 높일 것인가를 고민해야 한다. 어렵지만, 시대의 흐름에 최대한 발맞추어 따라가야겠다.