최예진 교수가 말하는 AI의 위험성
오늘의 독서노트
우연히 인터넷을 보다가 얼마전 들었던 미국의 최예진 교수의 인터뷰 기사를 읽었다.
최예진 교수는 미국 시애틀에 있는 워싱턴대의 컴퓨터과학 교수이자 2023년 타임지가 선정한 ‘인공지능(AI) 100대 인물’ 중 유일한 한국인이며 자연어 처리 분야의 전문가다. 한겨례 기자가 만난 최예진 교수의 인터뷰 기사가 인상 깊어 정리해본다.
“최예진보다 인공지능을 더 잘 설명하는 사람은 거의 없다.”
빌 게이츠 마이크로소프트(MS) 창업자는 지난해 11월 최예진 워싱턴대 교수와 대담을 나눈 뒤 자신의 유튜브 계정에 영상을 올리며 이렇게 말했다. 대담에서 빌 게이츠는 최 교수에게 “내부를 들여다볼 수 없는 현재의 인공지능은 ‘블랙박스’와 같아 걱정”이라고 말했고, 최 교수는 “지금의 거대언어모델(LLM) 학습 방식으로 불투명하고 믿을 수 없을 정도로 권력이 집중되고 있다”고 지적했다. 한겨레와 만난 최 교수는 소수의 빅테크 기업이 주도하는 현재의 생성형 인공지능 산업에 큰 우려를 표시했다. ‘놀랍도록 똑똑하고 충격적이게 어리석은’ 생성형 인공지능에 대한 위험성을 경고해온 학자이기도 하다.
다음은 TED에서 2024년 10월 강연한 내용이다. 강연 제목은 <Why AI Is Incredibly Smart and Shockingly Stupid>이다. 해석하면 '인공지능이 놀랍도록 똑똑하고 충격적이게 어리석은 이유'.
https://www.youtube.com/watch?v=SvBR0OGT5VI
현재의 인공지능 모델이 놀랍도록 똑똑하고 충격적일 정도로 어리석다는 평가를 받는 데 대해, 최 교수는 ‘생성형 인공지능의 역설’이라고 표현했다. “인간은 소설을 쓰고 위대한 그림을 그리는 것을 더 어려워하고 이를 감상하거나 이해하는 것은 누구나 할 수 있는 반면, 생성형 인공지능은 이해하는 것을 어려워하고 소설이나 그림을 생성하는 것은 쉬워한다”며 “인공지능에 인간의 상식을 불어넣는 일은, 그동안 많은 발전이 있었음에도 불구하고 매우 어렵다”고 말했다.
그는 우선 생성형 인공지능 열풍을 몰고 온 오픈에이아이(OpenAI) 챗지피티(ChatGPT)와 같은 거대 모델이 무차별적으로 학습한 ‘블랙박스’에 무엇이 들어 있는지 공개해야 한다고 지적했다. 그는 “학습한 데이터가 크면 클수록 좋다는 광기 속에 모두가 돈으로 더 많은 데이터를 사고, 그래픽카드(GPU)를 더 많이 사서 최대한 성능을 끌어올리는 것에 집중하고 있다”며 “여기에 전세계가 매달린다는 것은 매우 건강하지 못하다”고 말했다.
다음은 2023년 11월 빌 게이츠 마이크로소프트 창업자가 자신의 유튜브 계정에 올린 최예진 워싱턴대 교수와의 대담 이미지다.
빌 게이츠는 그와 한 대담에서 “처음 GPT3(2020년 오픈에이아이가 내놓았던 인공지능 모델)을 봤을 때는 재밌는 장난감 정도로 생각했는데, 이제는 상황이 너무 빨리 진행돼 에이지아이(AGI·범용 인공지능)가 인간보다 더 낫다는 판단 아래 인공지능을 오용하게 되면 어쩌나 불안하다”고 말했다. 이에 최 교수 역시 “갑자기 에이지아이 시대가 도래하고, 우리가 인공지능보다 못하다면 우리는 늘 휴가를 갈까?”라고 물으며 “인공지능이 우리의 생활에 너무 많은 영향을 미칠까 봐 걱정되며, 이를 통제할 수 있는 기술과 정책을 개발하지 않는다면 매우 잘못된 상황이 벌어질 수 있다”고 경고했다.
그리고 2024년 6월 국내 포럼에 연사로 등장했다.
전 세계에서 생성형 인공지능 연구 선구자로 꼽히는 최예진 미국 워싱턴대 교수가 12일 서울 중구 대한상공회의소 국제회의장에서 열린 ‘한겨레 사람과디지털포럼’ 기조연사로 참여해 “생성형 인공지능은 많은 양의 상식, 지식을 습득한 것처럼 보이지만 이상한 실수를 저지른다”고 지적했다. 그는 이날 “인공지능은 결국 사람을 위해 만들어져야 한다”며 인공지능 윤리·안전성 문제에 관한 연구의 중요성도 강조했다.
놀랍도록 똑똑하고 충격적일 정도로 어리석은 AI의 위험성을 다시 한번 경고하였다. 더 정확히는 AI의 윤리문제를 가장 큰 위협요소라고 보며 인터뷰에서 다음과 같이 말했다.
“AI 개발이 미국 서해안의 빅테크에 과도하게 쏠려 있다. 지금의 AI 서비스들은 미국, 특히 실리콘밸리의 도덕관이 과도하게 반영돼 있다. 최근 수년간 실리콘밸리를 휩쓴 ‘효과적 이타주의(effective altruism)’ 사상이 대표적이다. 하지만 효과적 이타주의는 다수의 이익을 달성하기 위해 소수를 희생해도 된다는 전체주의적 성향이 강한 사상으로, 이미 수많은 부작용을 낳고 있다. 더 큰 선(善)을 위해 작은 악(惡)을 행해도 된다고 판단하는 AI가 인류에 얼마나 큰 위협이 될 수 있을지 생각해보라.”
그는 “역사적으로 획기적인 발전이 있을 때 제일 처음 개발된 것이 가장 최적인 경우는 거의 없었다”며 “현재의 생성형 인공지능이 거대한 데이터를 기반으로 하는 것이 해답은 아닐 것이며, 이를 베끼기에 혈안이 될 것이 아니라 대안을 찾고 통제를 위한 기술과 정책을 개발해야 한다”고 말했다. 그 대안을 찾아야 하는 과제가 2024년 이후 우리 앞에 놓여 있다고 했다.
끝으로 "AI는 창조는 하지만 이해는 못한다"면서 "하지만 사람은 이해보다 생성이 어렵다. 생성AI와 반대다. 이 부분이 중요하다"고 강조한 최교수의 말이 기억에 남는다.
최예진 교수 프로필:
'천재들의 상'으로 불리는 '맥아더 펠로우십' 수상자. 인간의 언어를 컴퓨터가 이해하도록 하는 자연어 인식(NLP) 분야의 세계적 권위자로 꼽히는 컴퓨터 과학자다. 서울대 컴퓨터공학과 졸업후 미국 코넬대에서 박사 학위를 받았고, 뉴욕주립대를 거쳐 현재는 워싱턴대 교수로 재직중이다. 이 학교 앨런 AI(인공지능) 연구소에서도 AI 관련 프로젝트를 이끌고 있다. 최 교수는 AI가 인간처럼 추론 능력을 갖추도록 하는 연구에 집중해 텍스트 정보를 인간 상식에 기반해 해석하는 AI 모델 등을 개발했다. 이를 통해 온라인 허위 후기, 가짜 뉴스 등을 가려내는 시스템을 만들었고, AI에 인간의 윤리를 가르치는 프로젝트도 진행하고 있다.
- Reference -
sun21@hani.co.kr, 시애틀/글·사진 임지선 기자, 2024.2.20.
Yejin Choi. (2022). The Curious Case of Commonsense Intelligence. Dædalus, Spring 2022.
Yejin Choi. (2023). <Why AI Is Incredibly Smart and Shockingly Stupid>, TED.
#인공지능#빌게이츠#최예진#AI윤리 #생성형AI
