오늘도 하루종일 AI랑 결과물을 만드느라 씨름하고 왔습니다.(저는 회사 일할 때는 AI를 씁니다) 머릿속 설계에서는 분명 잘 될거라고 생각했고 테스트도 완벽했고 시뮬레이션도 완벽했지만 막상 나온 결과물을 심도 있게 살펴보니 엉망인 물건이 나왔습니다.
AI는 초반 설계에서 제 지시 사항 몇가지를 빼먹고 설계했고 첫 단추부터 잘못 뀄습니다. 그런데 또 막상 결과물은 겉보기엔 괜찮아서 AI가 자체적으로 만든 테스트와 시뮬레이션은 통과했죠. 그런데 이 결과물은 현실 세계로 나오자마자 삐걱거리긴 커녕 제대로 굴러다니지도 못했습니다.
원인을 찾아서 수정을 요청하고 다시 끝 없이 반복했지만 결과적으로는 제가 원하는대로 나오지 않았습니다. 결국 처음부터 다시 지시 사항을 입력하고 이번에는 매 단계마다 저한테 실행 계획을 보고 하도록 하고, 결과물을 만들어내기 전에 설계 개요부터 만들어서 면밀하게 보기로 했습니다.
이렇게 하나하나 짚어보니 처음부터 아주 미세한 파라메터를 잘 못 만들고 있었습니다. 분명 지시 사항에 명시해놨는데 지시 사항이 길어지다보니 한 두 개쯤은 무시하고 만들고 있었습니다. 이 실수는 아주 사소했지만 뒤에 나오는 결과물을 완전히 다르게 만들 수 있는 어마어마한 실수였습니다.
결국 AI가 만들어가는 모든 과정을 하나하나 다 지켜보고, 코드의 변화를 하나씩 추적하고, 설계 계획을 하나씩 꼼꼼하게 따져가면서 수정을 했습니다. AI는 전체 맥락을 갖고 있긴 했지만 결국 하나 하나의 단계마다 제가 지시하는 프롬프트를 하나씩 수행하는 역할만 했습니다. 들어간 시간만 봐서는 제가 직접하는 것보다 조금 더 오래걸린 것 같았습니다.
오늘 하루 종일 이런 삽질을 하고 있으면서 과연 지금의 AI로 AGI라는게 오긴할까? 하는 생각이 들었습니다. 심지어 제가 위에 쓴 AI는 최신 모델 중 가장 좋은 평가를 받는 Gemini 3.0 Pro 였거든요.
AGI의 정의에는 다양한 이야기가 있겠지만 저는 AI가 로봇 청소기 정도의 역할만해도 충분하지 않을까 생각합니다. 물론 아직도 사람이 로봇 청소기보다 청소를 더 빨리하고 잘 하지만, 로봇 청소기의 의미는 제가 없을 때 알아서 청소를 한다는데 있거든요. 저는 실무에서 지금의 AI가 그 정도 역할만해줘도 충분하다고 생각합니다.
젠스파크, 마누스 등의 AI 에이전트가 이미 그런 일을 해오고 있습니다. 이런 AI 에이전트는 사람 없이 알아서 자기 일을 수행합니다. 하지만 저는 이런 AI 에이전트에게 지시(프롬프트)를 해야합니다. 아무리 똑똑한 에이전트라도 스스로 움직이지 않습니다. 그리고 이 에이전트가 하는 일을 보면 중간에 계속 수정 지시를 해줘야 합니다. 마치 위에 제가 했던 것처럼요.
하지만 완벽하게 프롬프팅을 하고, AI 에이전트의 실행 지침을 빡시게 관리해주면 잘하면 정해진 시간마다 정해진 일을 하게 만들 수 있을 겁니다. 예를 들어 Claude Skills처럼 말이죠. Skills는 AI에게 매번 지시를 내리는 대신 미리 입력된 지시문을 읽어들여 특정 명령으로 항상 같은 일을 하게 만들 수 있습니다.
하지만 Claude Skills 조차도 아무리 프롬프팅을 완벽하게 해도, 생성 결과물의 일관성을 유지하는데 어려움을 겪습니다. 100번을 실행하면 15번 정도는 다른 결과물이 나오는 것 같습니다.(사실 그것보다 좀 더 높은 것 같습니다.) 만약 로봇 청소기에게 청소를 시켰는데 10번 중 두번은 청소를 안하거나 청소의 일부 과정을 빼먹고 한다면.. 과연 믿고 쓸 수 있을까요? 어떤 측면에서 지금의 AI(LLM)는 로봇 청소기보다 못한겁니다.
최근 AI가 버블이다라는 이야기들이 심심치 않게 나오고 있는데, 사실 이런 이야기가 나오는 원인은 지금의 AI 산업이 AI가 잘하는 것을 발전시키는데 있는게 아니라 AGI라는, 실재하는지도 모르는 목표를 향해 달려가고 있기 때문입니다. 만약 끝까지 갔는데 AGI라는 건 없다면? AI 산업은 어떻게 될까요?
저는 AGI는 도착점이 아닌 지향점이라고 봅니다. 사실 10년 전의 저에게 GPT-3.5을 보여준다면 저는 AGI가 왔다고 말할겁니다. 지금은 그것보다 훨씬 발전해서 인간과 비슷하게 언어로 사고하는 모델도 나왔고, 인간처럼 노래도 만들고 그림도 그립니다. 그런데 우리는 아직도 AGI는 안왔다고 합니다. 왜일까요?
AGI 논쟁을 보면 제논의 역설이 생각납니다.
아킬레스는 느린 거북이와 경주를 하며 조금 앞에서 출발하도록 양보한다. 뛰기 시작한 아킬레스는 금세 거북이가 있던 지점에 도착하지만, 그 순간 거북이는 이미 조금 더 앞으로 나아가 있다. 아킬레스가 그 지점을 따라잡을 때마다 거북이는 다시 아주 조금씩 나아간다. 이렇게 끝없이 이어지는 ‘작은 거리들’ 때문에 논리적으로는 아킬레스가 거북이를 영원히 완전히 따라잡을 수 없다.
AGI에 대한 인간의 기대는 AI보다 조금 앞서 있습니다. 그걸 AI가 따라잡아도 AGI의 기준은 조금씩 그보다 앞서죠. 10년 전의 저에게는 AGI는 GPT-3.5였을텐데, 지금의 저는 Gemini 3.0 Pro로도 부족함을 느끼고 있으니까요. 이런식으로 AGI는 도달점이 아니라 계속 지향점일 수 밖에 없습니다. 마치 말 앞에 낚시대로 놓여진 당근처럼요.
그런데 저는 왜 그럼에도 불구하고 AI를 이용해 작업을 하느라 하루종일 붙들고 있었을까요? 그건 제가 매 단계마다 모니터링하고 미세하게 지시를 내릴 지언정, 작업을 직접하지는 않았기 때문입니다. 그리고 또 이렇게 생긴 노하우와 Skill(Claude)은 쉽게 복제가 가능하기 때문입니다.
저는 오늘 두가지의 결과물을 만들어내야 했습니다. 동일한 패턴이지만 내용은 완전히 다른 결과물이었죠. 하나의 결과물을 만드는데는 5시간이 걸렸지만, 두번째 결과물을 만드는데는 50분 정도 밖에 안걸렸습니다. 첫번째에서 얻은 노하우와 프롬프팅으로 두번째 결과물은 빠르게 만들 수 있었던거죠. 지금의 AI가 잘하는건 바로 이런거라고 생각합니다. 인간을 대체하는 인공지능이 아니라 잘 쓰면 훨씬 효율적인 도구 말이죠.
이를테면 엑셀 같은겁니다. 현대 사무실 노동자가 엑셀을 안쓰고 업무를 할 수 없듯, AI도 그런 존재입니다. AGI는 안와도 돼요. 지금의 AI는 인간처럼 사고할 수 없고, 인간을 대체할 수도 없습니다. 다만 인간이 하던 특정 작업들을 매우 효율적으로 만들어줄 수는 있습니다. 물론 아직 로봇 청소기보다 못한 단계지만.. 이건 나아지겠죠.
그래서 저는 지금 AI 업계가 달려가는 그 지점이 영 불안합니다. 존재하는지도 잘 모르는 그 어떤 지점을 향해 계속 달려가다가 뭔가 큰 일이 벌어질 것 같은 느낌이 들거든요. AI가 인류에게 공헌할 수 있는 지점은 그보다 더 많은 일이 있을텐데.
음모론을 꺼내보자면 사실 OpenAI의 행보를 보면 샘 알트만은 이미 AGI는 불가능하다는 걸 알고 있는 것 같기도 한데, AGI의 추구보다는 AI를 다른 쪽으로 서비스하려는 시도가 많이 보이기 때문입니다. 예를 들어 성인용으로 만든다든지, 디즈니 캐릭터를 라이센스한다든지.. 근데 알면서도 멈출 수 있는 상태는 이미 지나버린게 아닌가 싶습니다. 엄청 투자금을 끌어다 쓰고 메모리를 대량으로 구매하겠다는 계약을 남발하고… 이거 뭔가 인천 앞바다에 배만 뜨면 대박이라고 했던 우리네 아버지들 같지 않나요?
물론 이건 음모론일 뿐이고 제가 틀렸을 겁니다. 아니 틀려야만 할 것 같습니다.
댓글을 달려면 로그인해야 합니다.