AI가 회사를 운영할 수 있을까?

아니요.

Jul 2. 2025

최근 클로드 AI로 잘 알려진 앤트로픽(Anthropic)에서 흥미로운 실험을 진행했습니다.

만약 “AI가 혼자서 회사를 운영한다면?” 어떤 일이 벌어질까요?

사실 사람도 혼자 회사를 운영하는 게 쉽지 않죠.

당연히 AI에게도 그건 쉬운 일이 아니었고, 예상대로 결과는 실패였습니다.

앤트로픽은 ‘프로젝트 밴드(Project Vend)’라는 이름으로 AI에게 자판기 사업을 맡겼습니다. 이 AI는 고객의 요청을 받아 제품을 구매하고, 사람의 도움을 받아 자판기에 물건을 채워 넣고, 가격을 조정하거나 할인 이벤트를 기획하는 등 꽤 다양한 일을 수행했습니다. 즉, 일종의 무인 상점 사업을 한 달간 스스로 운영해 본 거죠.

결과를 요약하자면, 초반에는 자산이 급격히 줄었고, 중간에 잠깐 회복세를 보이기도 했지만 결국 수익을 내는 데 실패했습니다. AI는 사업을 운영하는 과정에서 혼동되는 정보들 속에서 어려움을 겪었고, 본 적 없는 정보를 마치 사실인 것처럼 말하는 경우도 있었죠.

예를 들어, 존재하지 않는 ‘심슨의 주소’를 말하는 식입니다.

실패: 수많은 환각과 정보 혼동

그러니까 AI로 사업 운영에 대해서 다음과 같은 결론이 났습니다.

“AI가 지금 당장 무인 점포 같은 사업을 완전히 자동화해 운영하는 건 아직 어렵다.”

우리는 AI가 많은 것을 대신 해줄 거라고 믿고 있고, 실제로 그렇게 기대하는 분위기도 커지고 있습니다. 그러나 AI가 실제 세계에서 사람 없이 혼자서 일을 해내는 건 결코 만만한 일이 아닙니다. 특히나 사람과 상호작용하는 부분에서 AI는 여전히 많은 어려움을 겪고 있습니다.

바꿔 말하면, 앞으로 AI가 많이 활용되겠지만 그 과정에서 수많은 실수와 시행착오도 함께할 것이라는 뜻입니다. AI의 문제점과 한계를 잘 모르는 일반 사용자들은 이런 오류에 당황하거나 불신하게 될 수도 있습니다. 그럴 때, 이 문제들을 잘 파악하고 교정할 수 있는 체계가 갖춰지지 않는다면 AI 활용은 오히려 혼란을 가져올 수도 있겠죠.

불일치하는 마음: 인간 사업 요청 - AI 사업 수행

한 사람이 다른 사람의 마음을 완벽하게 이해할 수 없듯, 인간이 AI의 ‘의도’를 정확히 파악하는 것도 어려운 일입니다. AI의 사고방식은 인간과 다릅니다. 비유하자면, 새로운 종에 가깝죠. 마치 외계인의 마음을 읽는 것처럼요. 최근에 본 삼체에서는 외계인이 인간을 이해하지 못해 결국 인간을 위협으로 간주하더군요. 물론 AI가 인간을 해치려 하지는 않겠지만, AI가 인간을 이해하지 못하고, 인간도 AI를 이해하지 못하게 된다면 그 사이의 소통은 매우 불안정해질 수 있습니다.