by
Jun 21. 2023
공감도시(共感都市)로 가는 길
생성형 인공지능에 살아남는 법
지난 6월 10일, 미국의 수학자이자 반기술주의자인 시어도어 존 카진스키(Theodore John Kaczynski)가 죽었다. 본명보다 유나바머(Unaboomber)라는 이름으로 더 많이 알려진 카진스키는 17년간 16번의 폭탄 테러를 통해 3명을 살해했으며 23명에게 부상을 입혔다. 과학기술의 발전과 산업화로 인류의 존엄성과 자율성이 박탈당하고 종국엔 말살당할 것이라는 자신의 신념에 입각해 과학자와 기업가들을 상대로 폭탄테러를 저질렀다.
그는 과학기술의 발전과 산업화 핵심으로 대학교(University)과 항공사(Airline)를 타켓팅해 테러를 감행했다. 그래서 미국연방수사국(FBI)에서 붙인 별명이 유나버머(UnA Boomer)다. 1978년에 시작하여 1996년 체포되기까지 유나버머 사건은 FBI 역사상 가장 많은 시간과 돈이 들어간 수사였다. 그가 잡히기 전 언론사를 통해 발표한 <산업사회와 그 미래> 기고문에서 현대 기술문명이 인류를 재앙으로 몰고 갈 것이며 이를 피하기 위해 인류는 체제를 혁명적으로 전복시키는 것이 불가피하다고 역설한다.
카진스키의 <산업사회의 그 미래> 원본 스크립트(1995)와 한국어판(2006)획기적인 기술이 발전할 때마다 카진스키와 비슷한 목소리가 유령처럼 등장한다. “새로운 기술이 우리를 지배하며 우리 일자리를 빼앗아 결국 인류를 멸망시킬 것이다”라는 주장이 사람들을 불안으로 내몰아 간다. 처음 마차가 등장했을 때, 자동차가 등장했을 때, 자동화 기계가 등장했을 때, 컴퓨터가 등장했을 때 우리는 매번 똑같은 목소리를 들었다. 결과는 어떠했는가. 인류는 적응했고 다음 단계로 진화했다.
생성형 인공지능에 연일 세계가 놀라고 있다. 오픈AI의 ‘챗GPT’나 구글의 ‘바드’ 같이 대규모 언어를 기반으로 학습한 챗봇은 마치 이야기하듯 사용자가 묻기만 하면 풍성한 답을 제공한다. 이미 오래전에 죽은 바흐나 베토벤의 음악을 학습한 인공지능이 새로운 바흐나 베토벤 풍의 음악을 작곡한다. ‘미드저니(Midjourney)’, ‘이매젠(Imagen)’, ‘달리2(DALL-E 2)’, ‘아트브리더(Artbreeder)’ 같은 생성형 AI는 인간이 텍스트 명령만 내리면 몇 초 만에 새로운 그림을 만들어 낸다. 게임기획자 제이슨 앨런이 미드저니 프로그램을 이용하여 출품한 ‘스페이스 오페라 극장’은 <콜로라도 주립 박람회 미술대회>에서 1위를 차지했다.
기계가 인간을 대체할 수 없다고 주장하는 사람들의 마지막 보루는 ‘창의성’과 ‘공감’ 영역이다. 다른 영역은 인공지능이 대체하더라도 창의성과 공감이 필요한 일자리는 사라지지 않을 것이라는 주장은 설득력 있어 보였다. 하지만 최근 일련의 사건은 이런 기대를 여지없이 무너뜨린다. 미국 러트거스(Rutgers)대학 내 예술과 인공지능연구소(The Art and Artificial Intelligence Lab)는 인공지능 알고리즘의 일종인 생성적 적대 신경망(GAN, Generative Adversarial Networks)을 변형한 창조적 적대 신경망(CAN, Creative Adversarial Network)을 이용하여 만든 작품을 선보였다. GAN의 알고리즘 설계는 생성자와 판별자라는 두 개의 엔진이 상호 경쟁하며 새로운 그림을 생성하도록 되어 있다. 즉 인간 화가의 그림을 학습한 판별자 엔진은 생성자가 만든 그림에 대하여 인간이 만든 것인지 기계가 만든 것인지를 판단하여 생성자에게 돌려준다. 최종적으로 누가 그린 건지 판단할 수 없을 때까지 이 과정을 반복한다. 그런데 CAN은 여기에 한발 더 나가 판별자 엔진을 하나 더 추가하였다. 이 새로운 판별자는 역대 예술 사조를 학습한 엔진으로 생성자가 그린 그림이 기존 예술 사조에 해당되는지 아닌지를 판별하여 피드백한다. CAN은 결론적으로 인간이 그린 것과 유사하지만 종래의 범주에 없는 그림을 만들어 낸다. (러트거스대학 컴퓨터공학과 교수의 논문: Creative Adversarial Networks 및 동영상: Can the machine be creative?)
CAN의 판별자는 62,000개 이상의 그림을 학습하여 예술사조를 구분할 수 있다.공감 영역은 또 어떤가. 2023년 4월 말 미국의학협회 학술지(JAMA Internal Medicine)에 미국 샌디에이고 캘러포니아대 퀄컴연구소 존 W. 에이어스 교수은 공감에 관한 매우 흥미로운 연구 결과를 발표했다. 과학자들은 공개적이고 전문적인 온라인 커뮤니티 ‘레딧’의 게시판에 올라온 의료 환자 질문을 무작위로 선정하고, 이 질문에 대한 인간 의사의 답변을 받아서 챗GPT의 답변과 직접 비교했다. 두 가지 기준이 결정적이었다. 내용의 질과 답변의 정확성, 그리고 답변에 대한 공감이다. 누가 어떤 대답을 했는지 알지 못한 채 1(매우 나쁨)에서 5(매우 좋음) 사이의 숫자로 평가했다. 정보의 질 측면에서 인간 의사는 대략 평균인 3.3점 부근에서 정점을 찍었는데, 챗GPT는 평균값이 4를 훨씬 넘었다. 공감도를 평가한 결과는 소름 끼칠 정도로 충격적이다. 인간 의사의 평균 공감 점수는 약 2인데, 기계의 평균 공감값은 약 4이다. 정보의 질과 공감도 모두에서 챗GPT의 응답이 인간 의사보다 훨씬 낫다. 정보의 질은 그렇다 하더라도, 기계가 인간보다 더 잘 공감한다는 것은 정말 예상 밖의 일이다.
내과 분야 질문에 대한 의사와 챗GPT 답변 평가 결과 (존 W. 에이어스, JAMA, 2023.4.28)인공지능 기반 챗봇 회사인 ‘레플리카’는 사람들이 더 나은 의사소통, 자기 인식 및 관계 구축을 달성하도록 돕는 앱을 만들었다. 레플리카는 방대한 텍스트 데이터 훈련을 통해 인간처럼 텍스트를 전달하고 생성함으로써 사용자에게 개인적으로 대화하는 경험을 제공한다. 대화가 필요할 때 언제든지 공감하는 친구가 되어주는 인공지능이 탄생한 것이다.
맞춤형 AI 동반자를 생성해주는 레플리카생성형 AI는 스마트 도시를 어떻게 바꿀 것인가. 생성형 AI는 시민들의 삶의 질과 도시행정이 서비스하는 방식을 개선하기 위해 정보통신기술을 활용하는 스마트시티 영역에도 획기적인 변화를 예고하고 있다. 보다 상호작용적이고 대응적인 도시 행정, 개선된 물 공급, 혁신적인 도시 교통망, 폐기물 관리 등을 위해 생성형 인공지능의 혁신적인 기술을 활용한다. 이미 두바이는 버스 운전자의 상태를 모니터링하는 스마트시티 프로젝트를 통해 피로와 스트레스로 인한 사고를 65% 감소시켰으며, 로스앤젤레스의 AI 기반 시스템은 대기 질을 실시간으로 감시하여 전달함으로써 오염 물질 감지는 물론 시민들의 배출량 절감을 돕는다. 또한 로스앤젤레스는 AI 기반 교통 관리 시스템을 통해 혼잡한 도로를 식별하여 운전자에게 대체 경로를 제안하는 서비스를 실시하고 있다. 인공지능은 도시계획의 효과적인 수행을 지원한다. 미국 뉴욕 브루클린의 28세 예술가 ‘잭 카츠(Zach Katz)’는 오픈AI의 ‘달리2’를 활용해 미국 도시 곳곳을 차 없는 거리로 바꾸는 도로 설계 디자인을 보여줌으로써 도시계획에 새로운 영감을 제시하였다.
예술가 ‘잭 카츠(Zach Katz)’가 달리2로 만든 차없는 거리 (Better Street)문제는 인공지능으로 바꾸는 이러한 도시에 사람이 보이지 않는다는 점이다. 시민을 위한 첨단화된 도시서비스라고 주장하지만 첨단 기술의 화려함 속에 숨어 있는 감시사회, 노동소외, 지속가능사회에 대한 고민은 최소화되거나 형식적이다. 인공지능 기술이 장악한 도시에서 시민들이 어떤 삶을 살 것이며, 도시의 일자리 전환 문제는 어떻게 해결할 것이며, 시민 네트워크를 기반으로 도시 지능을 어떻게 높여야 할지에 대한 고민은 생략되어 있다.
이런 이유들로 생성형 인공지능이 바꾸어가는 도시 미래에 대한 염려가 많다. 생성 AI 개발 속도를 잠시 중단하자는 목소리까지 나왔다. 지난 3월 28일, 미국 비영리단체 미래생명연구소(FLI)는 “생성 AI에 대한 윤리적·안전성 문제가 해결될 때까지 개발을 약 6개월 잠정 중단하자”는 공개서한을 발표하였으며, 5월 29일에는 비영리 연구기관인 AI안전센터(CAIS)는 “AI가 코로나19와 같은 전염병 및 핵전쟁과 동일한 수준의 멸종 위험을 가져올 수 있다”는 <AI 위험에 대한 성명서(statement on A.I. risk)>를 발표하고 서명 촉구에 나섰다. 테슬라 최고경영자 일론 머스크 ,애플 공동창업자 스티브 워즈니악, 딥러닝 창시자인 요슈아 벤지오 몬트리올대 교수 뿐만 아니라, 챗GPT를 만든 오픈 AI 최고경영자 샘알트만, 구글 딥마인드 최고경영자인 데미스 하바비스까지 서명운동에 동참하고 있다. 하지만 우리 중 누구도 그런 합의가 지켜질 것이라고 믿는 사람은 없다. 자칫 실리콘밸리의 인공지능에 대한 안정성과 윤리에 대한 규제 논의는, 자신들에게 드러나지 않는 중국발 인공지능의 개발 성능에 대한 염려를 반영한 기득권 자본주의 진영의 주도권 확보를 위한 목소리처럼 들릴 수도 있다.
AI 위험에 대한 성명서(statement on A.I. risk)불온한 시대에 불안 비즈니스로 약을 파는 사람들이 항상 등장했지만, 인류는 오랜 세월동안 무수한 생존의 위협을 넘어 진화해왔다. 우리는 지난 몇 세기 동안 새로운 기술이 등장할 때마다 등장하는 우려를 불식시켰으며 러다이트 운동이나 유나버머 같은 과격한 저항을 통과하면서 다음 단계로 진화해왔다. 이화여대 최재천교수의 말에 따르면, 인간에게 생명을 만드는 일이 남아 있는 한 인류는 멸망하지 않는다. 코로나 바이러스나 생성형 인공지능 같이 어느 시대나 인간을 위협하는 존재가 등장하였지만 생명을 이어가는 인간은 항상 이를 극복하며 앞으로 나아갔음을 오랜 인류 진화의 역사가 증명한다는 것이 그의 설명이다.
이 시점에서 우리는 어쩌면 질문의 방향이 잘못된 것이 아닌지 점검해 봐야 한다. ‘기계가 할 수 없는 인간만이 할 수 있는 영역이 어디인가(Beyond AI)’에 초점을 맞추기보다 ‘기계와 더 잘 협력할 수 있는 영역이 어디인가(with AI)’가 더 적절한 질문일 것이다. 질문의 관점을 바꾸어 생성형 인공지능을 어떻게 활용할 거냐에 초점을 맞추어야 보자. 우리는 어딘가 조금 모자란 듯, 비어있는 듯 보이는 것에도 한없이 매력을 느끼며 끌려가는 존재들이다. 생명은 자신이 당면한 문제를 항상 직면하며 풀어낸다. 억겁의 세월을 견디며 진화한 인간 유전자의 본성은 무엇인지 이해하고, 거기에 집중하는 것이 인류가 한 걸음 더 앞으로 나가는 길이다. 이것은 진화생물학의 명확한 결론이다. 기계는 생명을 만들 수 없다. 기계는 협력을 만드는 것이 불가능하다. 같은 개체와 공존하고 협력하거나 불완전을 통해 완전을 향해 나아가는 인간의 능력을 인공지능이 흉내 낼 수 없다.
MIT 미디어랩의 토드 마코버 교수가 말한 창의성에 대한 정의를 음미해 볼 필요가 있다. 토드교수는 창의성을 ‘무언가에 관심을 가지고, 어떤 아름다움을 발견하고, 다른 사람과 느낀 감정을 공유하는 것’으로 정의하였다. 역사적 배경이나 스스로 해야 할 동기를 만들 수 없는 인공지능도 기존에 없는 것을 새로 만들 수 있지만 창작물에 의미를 부여할 수 없다.
Tod Machover 교수