AI 에이전트?
무서운 일이 벌어지고 있다
마침내, 로봇이 온다 #09
은 : 지난번 대담에서 'AI 에이전트'에 대해 다룰 것을 예고했는데 그 사이에도 관련해서 많은 기사가 쏟아졌습니다. 제가 먼저 좀 정리를 해볼게요. 애플이 '애플 인텔리전스'를 공개했는데 어김없이 환각 현상(artificial hallucination)이 나타났습니다. 그럼에도 불구하고, 'AI 에이전트'를 둘러싼 경쟁은 매일 새 기사가 나올 정도로 뜨겁습니다. 오픈AI와 , 앤스로픽, 구글, 메타 등이 선두그룹이고 일론 머스크의 xAI도 만만치 않습니다. 마이크로소프트는 '코파일럿'이란 이름을 버리고 '인텔리전스'라는 이름으로 서비스를 바꾸려 합니다. 메타와 앤트로픽이 미국 국방 기관에 AI 모델을 제공했습니다. 국내에서는 LG와 SK도 나섰지만 수준차이는 크게 납니다. 투자하는 돈의 규모(다른 말로 하면 엔비디아의 GPU를 얼마나 확보하느냐)가 비교가 안 되니까요. 구글 제미나이의 월간 사용자는 20억 명이 넘습니다. 국내 챗GPT 사용자도 200만을 돌파했습니다. 경기는 얼어붙었고, 기업들의 구조조정 소식이 심심치 않게 들려옵니다. 이 가운데는 AI 도입으로 인한 인력 감축도 포함됩니다. KB국민은행은 지난해 말 고객센터 업무를 맡던 콜센터 용역업체를 줄이면서 상담사 240여 명을 해고할 예정이라고 통보했습니다. 상담원이 하던 업무를 챗봇 등 인공지능(AI)이 대신하면서 나타난 변화였습니다. 정말 걱정스러운 건 노동자들의 파업에 관해 기사를 쓰면서 벌써부터 로봇으로 노동을 대체한다는 식의 논조가 나오고 있다는 점입니다.
하 : 듣기만 해도 숨차네요. 일단 차근차근 다시 정리를 해보죠. 그동안 우리는 '새 로봇' 얘기를 하고 있었는데 왜 AI 이야기로 건너올 수밖에 없는지 먼저 설명해야 할 것 같습니다.
대담 내용을 꼼꼼히 읽었던 분이라면 이미 감을 잡고 계실 텐데요 우리가 주목했던 '새 로봇'의 특징 가운데 하나가 '실제의 세상에 몸을 가지고 움직일 수 있는 로봇이 AI와 연결된다'는 점이었습니다. 그런 의미에서 AI의 발전과 변화는 곧 로봇의 변화와 발전이라고 할 수 있습니다.
은 : 꼭 몸이 있는 로봇이 아니어도 '행위자'가 된다면 로봇이라 불러야 되는 것 아닌가요? 과거 소셜미디어의 해악과 관련해서도 '비인간 행위자'(non-human agency)가 문제가 됐었는데 말이죠.
하 : 물론 그렇습니다만, 그런 철학적인 문제를 논하기보다 일단 'AI 에이전트'를 소개하고 우리가 생각해봐야 할 건 무언지 짚어보는 것이 먼저인 것 같습니다. 생성형 AI, 그러니까 데이터를 학습하고 추론하는 인공지능이 처음 공개된 것이 2022년 11월입니다. 겨우 2년이 흘렀는데 AI는 '답변기' 수준에서 스스로 판단하고 행동하는 단계까지 급속도로 발전하고 있습니다. 기사 내용 하나를 먼저 소개해 드리려고 합니다.
https://v.daum.net/v/20241030050315263가상의 상황인가? 하실 텐데 아닙니다. 미국 AI 스타트업 앤스로픽이 자사의 최신 AI 모델인 '클로드 3.5 소넷'을 기반으로 한 '컴퓨터 유스(Computer Use)'라는 새로운 AI 소프트웨어를 공개하면서 시연한 세 가지 장면입니다. AI가 인간의 명령 없이도 자율적으로 마우스 커서를 움직여 PC 화면의 창을 여닫고, 텍스트를 스스로 입력해 인터넷에서 정보를 검색하는 SF 속 장면이 현실이 된 것입니다. 오픈AI는 인간을 뛰어넘는 범용인공지능(AGI)의 출현까지 5 단계를 거칠 것으로 내다봤는데, 지금 3번째 단계에까지 온 겁니다.
오픈AI의 AI발전 5단계
은 : 감이 잘 안 오실 분도 계실 것 같아서, 소설을 쓰는 제가 사례를 하나 만들어 보겠습니다.
어느 쌀쌀한 아침, 중학교 2학년 김철수는 일어나자마자 입을 쩍 벌렸습니다. 국어선생님이 내준 독후감 숙제를 안 했던 겁니다. 철수는 한 3초쯤 울상을 짓는 듯하더니 씩 웃었습니다. 대학생 누나인 영희가 '오픈 AI 에이전트'를 유료구독한다는 것을 기억해 냈기 때문입니다. 철수는 아직 자고 있는 누나의 손가락을 이용해 핸드폰 잠금을 해제하고 조용히 명령합니다. "지니, 인터넷에서 은이은 작가의 소설을 찾아서 읽어. 유명 작가 아니라서 공개되어 있을 텐데, 혹시 공개된 게 없으면 누나 계정으로 인터넷 서점에 접속해서 ebook을 구매하면 되고. 그다음에 누나 폰에 한글워드 있는데 그걸로 한 3페이지 정도로 독후감을 써줘. 선생님이 글자 크기는 11포인트로 하라고 했으니까 맞추고. 다 쓴 다음에 적당한 걸로 인터넷에서 참고문헌 붙이는 거 잊지 말고. 다 쓴 다음에, 지메일 실행해서 나한테 보내. 내가 혹시 알람 못 들을 수도 있으니, 보냈다고 전화를 해주는 게 좋겠어. 아마 그때까지 누나는 자고 있을 거니까 걱정 말고." 철수는 아무 일도 없다는 듯 느긋하게 세수하고 머리 만지고 옷을 입습니다. 등교 준비가 채 끝나기 전에 철수의 핸드폰이 울립니다. 철수는 지니를 기특하게 여기면서 학교에 갔는데 국어시간에 혼이 났습니다. 내신이 중요한 시기인데 '0점 처리하겠다'는 통보를 받았습니다. 철수는 '은이은 작가'라고 말했는데, 지니는 검색 결과가 신통치 않자 '화가 이은' 그림에 대한 평론을 쓴 거였습니다. 학교가 끝나 전화기를 돌려받았더니 누나에게서 수십 통의 메시지가 와 있었습니다. 지니가 '화가 이은'에 관한 책 수십 권을 결재했던 겁니다. 철수는 지니에게 항의했습니다. 그러나 지니는 "철수 씨 발음이 정확하지 않아서 저는 '이은'으로 들었습니다. 혹시 몰라서 전화로 물어보려고 했는데 안 받으셔서, 이은으로 검색한 결과에 따라서 부탁하신 숙제를 한 거예요."라고 답했다.
하 : 역시 재미는 없군요. 이왕이면 좀 심각한 상황을 보여주지 그러셨어요?
은 : 네. 압니다. 제가 좀 스케일이 작아서요. 그렇지만 쟁점을 담으려고 노력했다는 점은 인정해 주세요.
하 : 네, 인정합니다. 어떤 독자님들은 '잘 알아들으면 되지' 뭘 그런 걸 가지고... 이렇게 반응하실 수도 있는데 문제가 그렇게 간단하지 않습니다. 예를 들어 AI의 환각(Hallucination)은 매우 일반적이고 극복하기가 쉽지도 않습니다. 지금 전 세계적으로 널리 사용되는 음성-텍스트 필사 도구는 ‘위스퍼(Whisper)’라는 이름의 오픈AI 제품입니다. 그런데 미시간대학교 연구진의 연구 결과 10건의 오디오 필사본 중 8건에서 환각 현상이 나타났다고 합니다.
은 작가님의 이야기를 바탕으로 문제를 추려보겠습니다.
(1) AI가 행위의 주체, 행위자가 된다. (2) 그 '행위'는 윤리적으로 옳지 않거나 법을 위반하는 것일 수도 있다. (3) 이는 타인, 혹은 다중에 경제적 손해를 미치게 될 수 있다. (4) 그런 상황이 발생했을 때, 책임의 주체가 모호하다.
은 작가님은 소소한? 귀여운? 상황을 제시했지만, 잠깐만 생각해 보면 AI 에이전트가 어떤 컴퓨터에서 작동하느냐에 따라서 아주 무서운 일이 일어날 수 있습니다. 'AI 에이전트'를 사용한다는 것은 컴퓨터의 제어권을 인공지능에게 넘기는 것입니다. 그런데 현재 인류는 거의 모든 것을 PC(혹은 모바일 기기)에 연결해 조작하고 있습니다. 공공기관의 행정망, 금융기관, 도로의 신호체계, 병원, 항공기 관제, 핵발전소, 군부대 등등.
은 : 얼마 전에 화상으로 한국 독자들을 만난 유발 하라리가 한 얘기는 의미심장합니다. 그는 “AI는 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다”라며 “수많은 새로운 주체들이 세상에 등장해 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질”이라고 밝혔습니다. 이어 "AI가 두려운 이유는 우리가 이것을 제어할 수 없기 때문"이라며 "그런 점에서 AI는 인간이 발명한 기술 중 그 어떤 것과도 다르다. AI는 독립적 행위자이자 주체자"라고 덧붙였습니다.
하 : 네, 그렇습니다. 아까 작가님이 서두에서 말씀하신 것처럼 'AI 에이전트'를 향해 AI 선두그룹이 달려가는 속도는 무서울 정도입니다. 게다가 AI가 관여하고 있는 분야는 뉴스에 나오는 것만 봐도 매우 빠르게 넓어지고 있습니다. 얼마 전 구글 산하 AI 연구소인 '딥마인드'는 '알파칩(AlphaChip)'이라는 새로운 AI 모델을 내놨는데 알파칩은 이미 구글 사내에서 쓰는 칩을 제조하는 데 쓰이고 있습니다. 순다르 피차이 구글 CEO는 “구글의 모든 신규 코드의 4분의 1 이상이 AI(인공지능)에 의해 생성되고 있다.”라고 합니다. 구글은 소프트웨어와 하드웨어 제작 과정 모두에 AI를 개입시키는 겁니다.
은 : 그런데 AI를 규율할 법과 제도는 전혀 보이지 않고 있죠?
하 : 네, 법과 제도는 그 속성상 인공지능 발전 속도만큼 빠를 수 없다는 게 큰 문제입니다. 법과 제도가 만들어지려면 무엇을 규율할 것인지가 분명해야 하는데, 마치 각주구검 고사에 나오는 주인공처럼 물살이 배를 지나쳐 빠르게 흘러가고 있다는 사실조차 생각하지 못할 정도로 세상이 변해가고 있는 겁니다.
은 : 네 맞습니다. 예를 들어서 제가 AI 사진 제작 인공지능 공부를 좀 해보려고 미드저니와 스테이블디퓨젼에 관련된 책을 한 권씩 샀는데 책을 다 읽기도 전에 이미 서비스가 진화해서 바뀌어버렸습니다. 말 그대로 오늘 다르고 내일 다릅니다.
하 : 그것도 너무 소소한 사례이고요, '채팅 AI 때문에 아들이 죽었다'라고 주장한 경우가 처음으로 나왔는데 제가 보기엔 앞으로도 자주 있을 겁니다. 아까 은 작가님이 지적한 것처럼 AI 서비스를 구독하는 사람들이 크게 늘고 있고, 이 AI에 사람 같은 '캐릭터'를 부여해야만 사람들을 구독서비스에 붙잡아둘 수 있기 때문입니다. 아시겠지만 구글이 '채팅 AI 때문에 아들이 죽었다'는 주장이 제기된 바로 그 회사(Character.AI)의 창업자를 지난 8월에 다시 영입했습니다.
다른 맥락에서 AI는 이미 인간의 마음을 읽고 있다는 논문도 있습니다. SF 얘기를 하는 게 아니고요 아주 현실적인 실험의 결과입니다. 미칼 코신스키 스탠퍼드대 경영대학원 교수는 논문에서 지피티 4에서 마음 이론이 “거대언어모델의 언어능력 향상에 따른 의도치 않은 부산물로 나타난 것으로 보인다”며 “이는 더 강력하고 사회적으로 숙련된 인공지능의 출현을 의미한다”라고 말했습니다.
은 : 혹시, 제가 잘못 넘겨짚는 건지 모르겠는데 서양의 법 체계가 법인(法人, legal person, legal entity) 개념을 도입했듯이 AI도 법적 책임과 권리를 가진 주체로 만들어야 한다는 얘기를 하려고 하시나요?
하 : 네. 눈치 빠르시네요. 저는 굉장히 시급하다고 생각합니다. 굉장히 역설적으로 들릴 수 있는데 'AI에 법적 인격을 부여하는' 게 필요합니다. 당장 논의되어야 합니다. 그렇게 하지 않으면 '행위자인 AI'로 인해 엄청난 혼란이 벌어질 겁니다. 외국 문제가 아니라 우리나라, 한국에서도 마찬가지입니다.
은 : 그러면 소장님 먼저 '법인' 개념에 대해 잠깐 설명해주셔야 할 것 같은데요?
하 : 네 알겠습니다. 회사는 사람이 아닌데, 법적으로는 사람과 동일하게 취급됩니다. "뭐라고?" 하실 분도 계신데, 정말 그렇습니다.
1886년에 미국 연방 대법원이 판결한 샌타클라라 카운티 대 서던 퍼시픽 철도회사(Santa Clara County v. Southern Pacific Railroad Co.) 사건이 있었습니다. 이 사건은 법인이 헌법 수정 제14조의 '평등보호조항'을 적용받을 수 있다는 판결을 내리면서, 법인이 '인격'을 가진 독립적 법적 존재로 인정되는 계기가 되었습니다. 이게 왜 이렇게 되었냐면, 철도회사는 자신이 속한 캘리포니아 샌타클라라 카운티에서 부과한 특정 세금이 차별적이고 불공정하다고 주장하면서, '평등보호조항'의 보호를 받아야 한다고 주장했습니다. 당연히 이 주장은 철도회사가 '개인'이 아닌 '법인'이었기 때문에 '뭔 소리냐' 갑론을박이 있었습니다. 그런데 미국 대법원이 회사의 주장을 받아들였습니다. 판결문 상단에 실린 주석에서 미국 대법원은 "수정헌법 제14조에서 언급한 '사람(person)'에는 법인도 포함된다"라고 언급했습니다. 이해관계를 따지는 소송을 하다가 '회사(법인)'가 사람이 되어버린 겁니다.
이왕휘, 기업의 목적 https://iksa.or.kr/homepage/boardMedia/50981아까 제가 'AI 에이전트'는 본질적으로 '행위의 주체로서의 AI'의 시작이라고 말씀드렸습니다. 다시 상기해 보겠습니다.
(1) AI가 행위의 주체, 행위자가 된다.
(2) 그 '행위'는 윤리적으로 옳지 않거나 법을 위반하는 것일 수도 있다.
(3) 이는 타인, 혹은 다중에 경제적 손해를 미치게 될 수 있다.
(4) 그런 상황이 발생했을 때, 책임의 주체가 모호하다.
제 말은 인류에게 '법인'이라는 개념이 필요했던 것처럼, AI가 행위의 주체 '에이전트'로 등장하는 시기에는 그 책임의 한계, 혹은 그로 인한 경제적 문제를 다루기 위해서 법적인 정의가 필요하다는 것입니다.
물론 저 혼자 하는 얘기는 아니고요. 'AI가 독립적 역할을 수행할 때 인간과의 관계를 보다 명확히 하기 위해 권리 부여가 필요하다'라고 주장해 온 학자들이 있습니다. 철학자 데이비드 게링거(David Gunkel)와 법학자 매튜 슈워츠(Matthew Scherer) 등입니다. 매튜 슈러(Matthew Scherer)는 2016년 하버드 법학 및 기술 저널(Harvard Journal of Law & Technology)에 "인공지능 시스템 규제: 위험, 도전, 역량, 그리고 전략"이라는 제목의 논문을 발표했습니다. 아래 첨부파일은 논문 원문입니다.
이 논문에서 슈러는 인공지능(AI) 기술의 급속한 발전과 그로 인한 사회적 영향에 주목하면서, AI의 자율성과 예측 불가능성으로 인해 기존의 법적 틀로는 이러한 위험을 효과적으로 관리하기 어렵다고 지적했습니다.
은 : 너무 길어져서... 이쯤에서 끝내셔야 할 것 같은데, 이번엔 결론이 좀 어렵네요.
하 : 맞습니다. 어렵습니다. 그렇지만 어렵다고 피할 수는 없죠. 만약, 정말 만약에 각 국가의 정부가 인공지능을 둘러싼 이 미친 레이스를 멈출 수 있도록 강제한다면 모르겠지만요. 글로벌 빅테크들은 '조금만 뒤쳐지면 끝'이라는 인식 아래 달려가고 있습니다. 투자하는 돈의 단위가 우리나라와는 완전히 다릅니다. 하이퍼클로버를 내놨던 네이버도 이미 저만치 뒤처졌습니다. 도저히 경쟁이 안 되니까요.
지금 오픈 AI, 구글, 메타 등 글로벌 빅테크들을 통제할 수 있는 주체는 아무도 없는 것 같습니다. 특히 이번에 일론 머스크가 트럼프 당선자에게 거의 올인했고 실제로 트럼프가 대통령으로 당선되었지 않습니까? 그 속도가 빨라지면 빨라졌지 느려지지는 않을 것 같습니다. 트럼프가 대통령이 될 거라는 사실도 출구조사는 다 틀렸는데 돈의 흐름은 정확히 맞췄고요, 지금도 시장의 흐름이 그 분위기를 증명하고 있습니다. 인공지능 관련 주식들이 연일 상한가를 경신하고 있습니다.
그런데 은 작가님, 궁금해서 그런데 저 맨 위에 있는 사진 인공지능으로 뽑아낸 거죠?
은 : 그렇습니다. 미드저니 프롬프트에 "matrix agent smith --ar 4:3"라고 입력해서 뽑아낸 사진입니다. 에이전트 하면 영화 매트릭스의 스미스 요원이니까요. 저는 ChatGPT 구독자이기도 하지만 미드저니 구독자입니다. 벌써 돈을 내고 쓰는 인공지능 서비스가 4개나 됩니다. 참고로 '법인'과 관련한 미국 대법원 판결, 매튜 슈러 논문과 관련해서는 ChatGPT 검색의 도움을 받았습니다. 인공지능 서비스를 쓰면서 매번 실감합니다. 정말 무서운 세상입니다.
소장님, 언제가 될지 모르지만 다음 시간에는 OS와 플랫폼에 대해 얘기를 해보면 어떨까요?
하 : 로봇 얘기하다 갑자기 무슨 플랫폼이고 OS(Operating System)냐 하실 분들이 계실 것 같은데요?
은 : 그러니까 저희가 대담을 통해서 설명해드려야 하는 거죠.
하 : 알겠습니다.
( 참고할 다른 기사 )
블룸버그가 정리한 AI 용어 33 개 https://www.blockmedia.co.kr/archives/738130
