AI 에이전트 시대, 중요한 것은 인간의 '의도'다
최근 등장한 앤트로픽의 '클로드(Claude)'를 필두로, 이제 AI 시대는 복잡한 문제를 사고하는 '추론가(Reasoners)' 단계를 넘어 '에이전트(Agent)'의 시대로 급격히 이동하고 있다.
'에이전트'는 말 그대로 단순히 정보를 전달하는 수준을 넘어 사용자의 의도를 파악하고 스스로 계획을 세우며 복잡한 도구들을 사용해 업무를 수행하는 '대리인'으로서의 역할을 한다. 쉽게 말해, 예전 AI모델에게 눈과 입만 있었다면 이젠 팔다리까지 생겼다고 생각하면 될 것 같다. “여행 계획을 짜줘”라고 말하는 대신 “가장 저렴하고 동선이 짧은 숙소를 예약해 줘”라고 명령하면 AI가 수많은 사이트를 돌아다니며 최적의 선택을 내리고, 결제 직전의 단계까지 우리를 안내한다.
이러한 기술은 AI가 사용자의 컴퓨터 화면을 이해하고 마우스와 키보드를 직접 조작하는 '기술력(LAM: Large Action Model)'의 개발로 가능해졌다. 최근 일반 유료 사용자들에게도 순차적으로 이러한 기술(Computer Use) 사용이 열리고 있어 사업자와 개발자들이 앞 다투어 클로드를 활용한 실험들을 선보이고 있다. 몇 몇 개발자들은 자신들의 결제정보까지 모두 맡기고 아예 AI가 스스로 결제까지 하도록 하는 적극적인 실험도 진행 중이라고 한다.
이런 뉴스를 접할 때 가장 먼저 드는 생각은 "AI가 인간의 통제를 벗어나 잘못된 선택을 내리면 어쩌지?" 하는 우려다. 그도 그럴 것이 최근 미국과 이란 전쟁에서 사용된 AI 무기체계가 대표적인데, AI가 스스로 타겟을 설정하고 미사일 발사 시점을 결정하는 기술이 실제 전장에서 구현된 것을 전 세계가 목격했다. 하지만 이게 과연 AI기술이 발전했기 때문에 발생한 문제인가? 과거 군사 시설이었던 건물이 현재 초등학교로 사용되고 있다는 걸 인지하지 못하고 표적으로 분류하는 오류를 범한건 AI지만, 그곳으로 미사일을 발사한 건 누구인가? 어떤 대상을 '적'으로 규정할지 어느 정도의 부수적 피해를 감수할 것인지에 대한 알고리즘을 설계하고 명령어를 입력한 것은 결국 '인간'이다.
우리가 AI 기술 발전을 지속적으로 예의주시해야 하는 이유는 AI기술 자체의 결함뿐 아니라, 본질적으로 그 기술을 만드는 인간들이 무엇을 얻으려 하는가 숨겨진 '의도'를 감시하기 위함이 더 크다. 기술은 가치중립적이지만 그 기술을 사용하는 인간의 욕망은 자기이익 중심적일 때가 많기 때문이다. 따라서, 한 국가의 기술발전과 적용은 전체 공동체의 이익과 동의를 전제로 천천히 이뤄지게 돼 있다. 안타깝게도 현재 전쟁을 촉발하고 AI를 실제 전쟁에 사용하고 있는 미국은 그러한 공동체의 동의를 철저히 무시했을 때 벌어질 수 있는 미래 인류의 재앙을 실시간으로 보여주고 있다. 미국 대통령은 미국 국민들이 뽑았지만, 그로 인한 피해는 고스란히 전 인류가 감당하고 있는 중이다. 참혹한 학습기간이다.
AI 기술발전의 지향은 언제나 '인류 삶의 질 향상'에 있다. 사회적 약자들의 아픔을 공감하고 돌보는 일, 예술적 영감을 나누는 일, 그리고 공동체의 가치를 고민하는 일. 기술이 효율을 책임질수록 우리는 '인간만이 할 수 있는 가치 있는 일'에 더 많은 시간을 쓸 수 있다. 하루종일 걸렸을 사업 프리젠테이션 업무를 단 몇 시간으로 줄이고, 아이들과 더 즐거운 시간을 보낼 수 있다면 그것만큼 좋은 기술발전의 혜택이 어디 있겠는가. AI 시대를 항해하며 결코 놓쳐서는 안 될 중요한 이정표다. 국가단위의 정책 방향성도 이를 크게 벗어나지 않으리라. 앤트로픽은 '클로드'가 자국민을 감시하고, 미군의 완전 자율 무기에 사용되는 것을 결국 거부했다.
AI 기술의 최종 종착지는 'AGI(Artificial General Intelligence), 범용 인공지능'이다. 스스로 사고하는 기계 두뇌가 로봇의 몸을 얻게 되어 궁극적으로 인간처럼 행동하는 수준까지 도달하는 것이다. 인류는 지금 그 지점 바로 코 앞에 와있다. 근 미래 우리와 함께 공동체를 이루며 살아가게 될 AI가 어떤 동료로 만들어질지는 빅테크 기업의 CEO들이나 유력 정치인들이 아니라 현재를 살아가는 우리 손에 달려 있다. 기술의 편리함 뒤에 숨겨 놓은 나쁜 의도를 끊임없이 바로잡아 나간다면, AI는 인류를 위협하는 '터미네이터' 같은 괴물이 아니라 <빅 히어로>의 '베이맥스' 같은 우리의 존엄을 지켜줄 든든한 동료가 될 것이다.
<다음 편 예고>
- UN 산하 'AI 허브'의 한국 설립 소식이 갖는 의미와 다수의 평범한 사람들이 왜 AI 시대의 진정한 주인인지에 대해 이야기해 봅니다.