요즘 기자, 블로거, 유튜버들이 앞다투어 소개하는 개인형 AI 비서 MoltBot(구 Clawdbot)이 뜨거운 관심을 받고 있다. 이들은 MoltBot이 음성으로 식당을 예약하고, 메일과 메신저에 자동으로 답변하며, 복잡한 뉴스를 간단하게 요약한다고 소개한다. 특히 이 모든 일이 클라우드가 아닌 내 컴퓨터에서 이루어진다며, 맥 미니 한 대만 있으면 영화 속 인공지능 비서를 가질 수 있다고 설명한다. 하지만 실제로 MoltBot을 사용해보면 이런 설명과는 상당히 다른 현실을 마주하게 된다.
MoltBot을 소개하 내용을 보면 마치 이 프로그램이 클라우드 AI 없이도 작동하는 것처럼 설명한다. 하지만 직접 설치해 보면 Claude나 ChatGPT의 API 키를 반드시 입력해야 한다. API 키란 클라우드 AI 서비스를 사용하기 위한 열쇠 같은 것이다. 일반적으로 우리가 웹사이트에서 ChatGPT를 사용할 때는 월 2만원 정도의 정액제를 내지만, API를 통해 프로그램에서 사용하는 방법은 사용량에 따라 요금을 내는 종량제 방식이다. 마치 전기나 수도 요금처럼 쓴 만큼 돈을 내야 하는 것이다.
문제는 MoltBot이 AI를 굉장히 많이, 그리고 비싼 고급 모델을 사용해야 제대로 작동한다는 점이다. 해외 사용자들의 경험담을 보면, MoltBot을 이틀 동안 사용했더니 무려 300달러, 우리 돈으로 약 40만원의 요금이 청구되었다는 사례도 있다. 이는 넷플릭스를 1년 넘게 볼 수 있는 금액이다. 결국 MoltBot은 AI 그 자체가 아니라 클라우드 AI를 활용하는 프로그램일 뿐이며, Claude나 ChatGPT 같은 외부 서비스에 전적으로 의존한다.
물론 자신의 컴퓨터에 AI 모델을 직접 설치해서 클라우드 없이 사용하는 방법도 있기는 하다. 하지만 이 방법에도 큰 문제가 있다.
로컬, 즉 자신의 컴퓨터에 AI를 설치해서 사용하면 보안성이 좋다는 것은 사실이다. 내 정보가 외부로 나가지 않으니 개인정보 유출 걱정을 덜 수 있다. 하지만 로컬 AI를 사용하면 MoltBot이 자랑하는 놀라운 기능들을 대부분 사용할 수 없다는 치명적인 단점이 있다.
유튜브에서 많이 회자되는 사례를 보자. MoltBot이 인터넷 예약이 실패하자 스스로 전화를 걸어 음성으로 예약을 완료했다는 놀라운 장면이 있다. 하지만 이런 능력은 Claude Opus나 GPT-5 같은 최고급 클라우드 AI 모델에서만 가능하다. 이 모델들은 API 사용료가 매우 비싸다. 로컬 컴퓨터에서 이 정도 성능의 AI를 돌리려면 어마어마한 성능의 하드웨어가 필요하다.
예를 들어 OpenAI에서 공개한 오픈소스 모델인 GPT-OSS-120B는 용량만 약 64GB이다. 이 모델은 중급 클라우드 AI인 Claude Sonnet이나 GPT-4-mini보다도 성능이 떨어짐에도 불구하고 용량이 이렇게 크다. 그런데 이 모델을 돌리려면 엔비디아 RTX 5090 그래픽카드를 2장이나 장착해야 하는데, GPU 비용만 1200만원이 넘는다. 애플 제품으로는 맥 미니로 불가능하고, 맥 스튜디오 96GB 램 버전을 사용해야 하는데 이 모델은 659만원 이다.
맥 미니 16GB 램 정도에서 돌릴 수 있는 것은 8B라는 작은 모델뿐이다. 8B는 모델의 크기를 나타내는 단위인데, 이 정도 크기의 AI는 성능이 많이 떨어진다. 간단한 질문에 답하고 간단한 작업은 수행하지만, 조금만 복잡한 작업을 시키면 제대로 답하지 못하거나 같은 말만 반복하는 무한 루프에 빠진다. 특히 한글 성능은 영어보다 훨씬 떨어져서 실제로 쓰기 어렵다.
결국 클라우드를 사용하지 않고 보안을 지킨다는 것은 이론적으로는 가능하지만, 실용성을 따져보면 현실적인 선택이 아니다. 로컬 모델이 성능을 내려면 하드웨어가 굉장히 좋아야 하고, 일반적인 하드웨어로는 제 성능을 쓸 수 없다.
많은 소개 영상이 맥 미니만 있으면 MoltBot을 완벽하게 사용할 수 있다고 말한다. 어떤 글에서는 월 5달러짜리 클라우드 서버에서도 작동한다거나, 10만원대 라즈베리 파이나 20만원대 미니PC에서도 쓸 수 있다고 한다. 이 말은 절반만 맞다. 클라우드 AI의 API를 사용한다면 저렴한 하드웨어로도 충분하다. 하지만 이 경우 앞서 말한 것처럼 API 사용료를 많이 내야 한다.
소개 컨텐츠가 굳이 맥 미니를 언급하는 이유는 로컬 AI까지 함께 돌릴 수 있다는 것을 강조하기 위해서다. 하지만 맥 미니 16GB 램에서는 8B 모델밖에 돌릴 수 없고, 이 모델로는 MoltBot의 진가를 발휘할 수 없다. 8B 모델은 정말 단순한 작업에만 쓸 수 있으며, 조금만 복잡한 요청을 하면 제대로 동작하지 않는다.
MoltBot은 최소한 Claude Sonnet 4.5 이상, 권장 사항으로는 Claude Opus 수준의 성능을 요구한다고 명시하고 있다. 이 요구사항을 로컬 AI로 충족하려면 맥 미니로는 절대 불가능하며, 최소한 96GB 이상의 램이 필요하며, 이런 하드웨어는 큰 비용이 든다. 결국 제대로 된 로컬 AI를 돌리려면 맥 미니보다 몇 배는 많은 비용을 투자해야 한다는 뜻이다.
MoltBot은 분명 혁신적인 기술이고, AI를 실생활에 적용하는 흥미로운 시도다. 하지만 유튜버와 블로거들이 소개하는 것처럼 저렴하고 간편하게 사용할 수 있는 기술은 아니다. 현실적으로 두 가지 선택지가 있다.
첫 번째는 클라우드 AI를 사용하는 것이다. 이 경우 하드웨어는 저렴해도 되지만, API 사용료를 감당해야 한다. 사용 패턴에 따라 다르지만, 활발하게 사용한다면 한 달에 수십만원의 비용이 나올 수 있다. 두 번째는 고성능 하드웨어에 투자해서 로컬 AI를 돌리는 것이다. 이 경우 초기 투자 비용이 수백만원에서 천만원 이상 들지만, API 사용료는 들지 않는다. 하지만 성능은 클라우드 AI보다 떨어진다.
결국 MoltBot은 일반 사용자가 쉽게 접근할 수 있는 기술이 아니라, 상당한 비용을 감수할 수 있는 얼리어답터나 전문가를 위한 도구라고 봐야 한다. 맥 미니 한 대면 충분하다는 식의 과장 광고에 속아 무작정 구입했다가는 제대로 쓰지도 못하고 실망하거나, 예상치 못한 거액의 API 요금 청구서를 받을 수 있다. 신기술을 도입할 때는 화려한 광고보다는 실제 비용과 성능에 대한 정확한 정보를 바탕으로 신중하게 판단해야 한다.
다만, 기술적으로는 언어모델을 활용해서 더 많은 작업을 자동으로 수행할 수 있다는 비전을 보여준 것은 인정해야 한다.