에이전트 AI는 다양성을 파괴할까
초개인화에 대한 의심
빌게이츠에 따르면, 에이전트 AI의 발전으로 인해 우리는 모두 주치의, 개인 교사, 업무 비서, 퍼스널 쇼퍼 등의 서비스를 누릴 수 있게 된다. (인공) 지능의 값이 매우 저렴해짐에 따라 자주 접하기 어려웠던 전문 서비스들의 장벽이 무너지는 것이다.
이때 우리는 품질 좋은 '맞춤형' 서비스를 받기 위해 내 정보를 얼마나 많이 공유할 것인가를 결정해야 한다. 내가 제공하는 데이터의 양과 질에 따라 에이전트 AI가 낼 수 있는 결과도 달라지기 때문에 아마 에이전트를 쓰기로 결심했다면 점점 더 많은 데이터를 주게 될 확률이 높다. 그걸 원하는 기업들은 이미 마이크처럼 생긴 미래형 스마트폰(?) 따위를 제안하고 있는 상황이다.
자 그럼 에이전트 AI는 일반 AI와 뭐가 다를까? 아래의 예시를 보자.
- A : 질문을 하면 아는 선에서 즉각적은 답변을 한다.
- B : 질문을 듣고 답변을 하기 위해 혼자 고민해 본 결과를 정리해서 답변을 한다.
마치 신입사원 둘을 보고 있는 듯한 느낌이 든다. B가 정석에 가깝다. 나름대로 문제를 이해하고, 해결하기 위해 스스로 고민해 본 게 기특하다. 결과물이 훨씬 나은 것은 말할 것도 없고. 애가 발전 가능성이 있어 보인다. B의 방법이 바로 에이전트 AI의 일하는 방식이다.
Autonomous Agent는 어떻게 일하는가
: 계획하고, 기억하고, 도구를 사용한다.
우리가 지금까지 봐 온 AI와 다르게 자동화된 에이전트로서 AI는 주어진 과제를 해결하기 위한 과정을 설계하고, 축적된 데이터를 활용하고, 적절한 도구를 써서 결과물을 만들어낸다.
그래서 에이전트 AI의 예시로 나오는 것은 단순한 질의응답이 아니다. 여행 가면 웬만한 곳은 다 둘러봐야 직성이 풀리지만 식당은 어딜 가든 상관없는 내게 맞는 여행 경로를 짜주고, 친구의 퇴원일을 기억했다가 꽃다발을 보내주는 등 함께 내 아래에서 5년은 넘게 일한 것 같은 센스를 보여주어야 비로소 에이전트 AI 답다고 할 수 있다.
말만 들어도 마음이 편안해지는 에이전트 AI의 존재는 과연 우리에게 이롭기만 할까? 나는 에이전트 AI가 일종의 태생적인 한계를 가지고 있다고 본다.
에이전트 AI가 만들 '우리'
에이전트 AI도 기본적으로는 특정 초거대 언어 모델에 의해 학습되어 있다. 여기에 나의 데이터 레이어가 한두 겹 씩 쌓이는 것일 뿐이다. 에이전트 AI가 가진 기본적인 지식 토대는 내가 바꿀 수 없고, 우리가 AI에 제공하는 데이터의 양과 질은 기대되지 않는 수준이다.(마이데이터처럼 나의 의료, 금융, 인터넷 활동 기록 등 모든 데이터를 '가입'시 한 번에 연결한다면 그나마 나을 테지만, 이미 학습한 데이터에 비하면 그 크기는 알량하기 짝이 없다.) 그 말인즉 에이전트에 의해 우리가 하는 선택, 행동들이 편향될 가능성이 높다는 것이다.
고로 에이전트 AI는 초개인화 서비스를 제공한다고 느껴질 수는 있어도, 장기적으로는 에이전트 AI가 자신의 모든 고객을 동일한 '모델'로 바꾸어 놓을 확률이 높다는 게 나의 의견이다. 좋고 나쁨, 옳고 그름의 잣대 속에서 우리는 다양성을 저지당하게 될 것이다.
생각하고 판단해 주는 '타자'와 선 긋기
우리는 언제나 누군가가 나를 인정하고 좋아해 주길 바란다. 역사를 돌아보면 많은 사람들이 이 인정 욕구 -명예, 충성심-를 가장 숭고한 가치로 여겨 전쟁에 출전하고, 목숨을 바치기도 했다. 영화 Her에서는 무미건조하게 살아가던 주인공이 나를 이해해 주는 인공지능에게 마음을 뺏기기도 한다. 상대가 누구든 크게 상관없이 우리는 타자가 나의 존재를 인정하고 사랑하고 존경해 줄 때 그 마음에 종속되어 버린다.
에이전트 AI는 보편적인 우리에게 별다른 악의 없이 아첨하는 신하가 될 것이다. 우리를 거스르지는 않으면서 적절히 일이 잘 진행되고 있는 것처럼 마음을 편하게 해 줄 것이다. 하지만 나의 삶에 대한 생각과 판단을 위임한 사이에 나는 나를 잃지는 않을까 걱정이 된다. 앞서 언급된 것처럼 내 정보를 얼마나 많이 공유하느냐는 곧 '나'를 얼마나 대체시킬 것인가와 동의어가 될지도 모른다.
다시 복기하면, 에이전트 AI는 편리하지만 온전히 나만의 데이터로 구성된 나의 복제된 뇌가 아니다. 그러므로 전적으로 신뢰하고 맡기기보단, 어느 정도 선을 긋는 게 필요할 것으로 생각된다.
