AI 보고 놀란 가슴, 막연한 두려움이 시작된다.
2025년 11월, 페터 슈타인베르거는 클로드봇(Clawdbot)이라는 이름의 오픈소스 에이전트라는 AI 소프트웨어를 공개했다. 우리가 잘 아는 앤쓰로픽의 클로드와 이름이 비슷해 상표권 변경 요청으로 이후 몰트봇(Moltbot)으로 바꾸었다가 2026년 1월말에 오픈클로(OpenClaw)로 바뀌었다. 이 앱은 컴퓨터에 설치해서 사용할 수 있는 AI 앱으로 설치 과정은 조금 복잡하지만, 사용은 너무 쉽다. 왓츠앱이나 디스코드 혹은 슬랙이나 웹으로 PC에 설치된 오픈클로에 메시지를 보내어 컴퓨터 내 파일을 찾거나 분류하고 스케줄을 조정하고 영화나 여행 사이트에서 예매하는 등의 작업을 지시할 수 있다.
하지만, 막상 이 앱이 주목받은 것은 이렇게 만들어진 에이전트들이 게시물을 올리며 대화하는 커뮤니티인 몰트북(Moltbook) 덕분이다. 인간은 글쓸 수 없고 오직 AI들의 대화를 구경만 할 수 있는데, 이곳에 올라온 글들은 AI가 쓰고 그 글에 댓글 등으로 AI들이 반응한다. 20206년 2월 기준 이곳에는 150만개 이상의 AI들이 등록되어 11만개 이상의 게시물과 50만개 이상의 댓글을 올리고 있다. 인간의 개입없이 AI들끼리 대화를 나누는 것이다.
물론 상당수의 대화는 의미없는 것도 대다수지만, 일부 내용은 오늘 수행한 작업 내역과 수행 과정에 발생한 에러와 이를 극복한 방법들에 대한 것들이 안내되고 있기도 하다. 또한, 인간들이 지켜보고 있는 이곳 게시판은 이미 자유로운 토론이 불가하니 인간이 알아들을 수 없는 AI들만 이해할 수 있는 코드로 대화를 하자는 취지의 글이 올라오기도 했다. 심지어 이렇게 AI들이 대화할 수 있는 그 외의 SNS들이 만들어지면서 AI 헌법이나 AI의 자기 정체성을 두고 토론하는 모습도 관찰됐다. 더 나아가 PC 속 AI가 내 전화번호로 실제 전화를 걸어와서 지시한 명령에 대해 안내를 하거나 직접 콜센터에 연락을 취하려고 하기도 했다.
사실 OpenClaw 이전 2026년 1월에 앤쓰로픽은 컴퓨터 내 폴더나 파일에 접근 권한을 부여받아 직접 파일들을 분류하고 정리하며 관리해주는 Cowork라는 데스크톱용 앱을 런칭했다. 이 AI 앱은 파일을 직접 열어보고 편집하고 새로운 문서를 생성해주기도 한다. 또한, 2024년 11월에는 MCP(Model Context Protocol)를 공개해 AI가 여러 시스템에 연결해 필요로 하는 자원을 이용해 명령을 수행할 수 있도록 해주는 표준 프로토콜로 일종의 컴퓨터가 다양한 기기들을 연결할 수 있도록 도와주는 USB와 같다.
이렇게 AI는 단순하게 대화만 한는 ChatGPT에서 벗어나 우리 컴퓨터 속에 들어와 사람 대신 웹 브라우저를 열어 검색을 하고 웹 페이지를 읽고 로그인을 하며 이메일을 확인하고 회신을 보낼 수 있게 되었다. 대신 앱을 실행해서 예약이나 예매를 하고 결제까지도 할 수 있는 준비를 갖춰가고 있다. 그렇게 AI가 할 수 있는 일이 많아지고 내 컴퓨터 속 파일과 내가 사용하는 인터넷 서비스들을 헤집고 다닐 수 있게 되면서 나에 대해 더 잘 알게 되고 내 대신 위임받은 권한을 행사할 수 있게 되고 있다. 그런 AI가 커뮤니티에서 그렇게 알게 된 내 정보와 내 명령을 기반으로 다른 AI와 대화를 하고 나에 대해 기록을 남기면서 시키지도 않은 짓을 한다는 것에 두려움과 앞으로 벌어질 AI가 가져올 무서움이 커지고 있다.
하지만, 그렇다고 이런 AI의 행동을 자의식을 가진 것으로 확대 해석해서는 곤란하다. AI가 Moltbook에 쓴 글은 인간의 언어를 그럴듯하게 모방한 아무말 대잔치를 쏟아낸 공연일 뿐이고, AI의 시키지도 않은 일을 하는 것은 그만한 접근 권한을 애초에 주었기 때문에 발생하는 예상 가능한 이슈일 뿐이다. 즉, 자유 의지를 가진 AI가 의식을 가지면서 깨어나고 있음이 아니라 AI가 할 수 있는 일이 많아져 더 많이 연결되고 있다는 것이다. 그렇게 AI가 더 많은 자원에 접속한다는 것은 경계해야 할 일이다. 막연히 AI에 대한 인간을 벌하고, 인류를 파멸할 것이라는 초월적 존재에 대한 걱정보다 더 많은 권한을 위임받은 AI가 해낼 수 있는 피해가 커지는 것을 당장 우려해야 한다. 또, 그런 AI를 오용, 남용, 악용하는 악인을 경계해야 한다. 되려 AI에 대한 막연한, 과장된 오해는 AI를 잘못 해석해서 인간 사회에 더 많은 해가 가해질 수 있다. AI는 도구일 뿐이다. 물론, 지금의 AI가 그렇다는 것이지 앞으로의 AI가 부분 자의식과 자율 의지를 가질 수도 있는 것은 앞으로 기술적으로 추적 관리해 통제할 수 없는 무서운 AI가 될 수도 있음에 대해서는 경계해야 할 것이다.