오픈AI를 둘러싼 치명적 논란들
사면초가? 샘 알트먼
그간 브런치에 챗GPT를 찬양하는 듯한 글을 여러 차례 쓴 바 있기에, 친 오픈AI라 생각하는 분들이 계실 것 같다. 이러한 오해에서 벗어나기 위해(?), 최근 오픈AI를 둘러싼 많은 문제들에 대해 이야기해보고자 한다. (뒤로 갈수록 심각한 문제들이니, 읽으시는데 참고하시면 좋습니다)
오픈AI는 'GPT-4o'를 발표하며, 또 한 번의 전성기를 달리고 있다. 트래픽이 폭주하기 시작했고, 많은 이들은 인공일반지능이 현실화되는 것이 아니냐는 반응을 보이기도 했다. 특히, 영화 <Her>에 나온 인공지능 사만다가 실제로 구현된 것 같다는 이야기까지 나왔다. 하지만 과유불급이었을까? 최근 이를 둘러싼 논란이 심각하다.
# 챗GPT는 스칼렛 요한슨 목소리를 몰래 가져다 썼을까?
오픈AI는 지난 13일 GPT-4o를 발표하며 5개의 다른 음성 서비스를 제공했는데, 그중 스카이의 목소리가 영화 <Her>에서 사만다의 목소리를 연기한 요한슨과 유사하다는 논란이 일고 말았다. 결국 스카이의 서비스는 중단하기로 한 오픈AI.
이에 대해 오픈AI는 스카이의 목소리가 요한슨을 의도적으로 모방한 것이 아니라고 해명했다. 특정인을 대상으로 모방한 것이 아닌, 성우의 목소리였다는 것이 오픈AI의 주장.
하지만 스칼렛 요한슨은 이 주장에 반박하며 분노를 표출했다. 그녀는 성명을 통해, 지난해 9월 샘 알트먼 오픈AI CEO가 GPT-4o에 목소리를 제공해 줄 수 있는지 물었고, 기술이 익숙하지 않은 사람들에게 도움이 될 것이라고 설명했으나, 개인적인 이유로 이를 거절했다고 밝혔다. 샘 알트먼 CEO가 GPT-4o 발표 이틀 전 제안을 다시 생각해 보라고 요청했지만, 요한슨은 다시 거절했다는 것.
서로의 주장이 엇갈리는 가운데, 샘 알트먼은 입을 다물고 있다. 단순히 서비스를 중단하면 그만인 것으로 끝날 문제가 아닌데 말이다.
# 저질스런 언어로 도배된 중국어 데이터
최근 공개한 GPT-4o에서 발견된 또 하나의 치명적인 문제점은 중국어 학습 데이터가 저질스런 데이터로 도배되어 있었다는 것이다. 오픈AI 역시 GPT-4o가 학습한 중국어 데이터가 중국 스팸 웹사이트로 오염된 사실을 인정했다. 이로 인해 GPT-4o의 중국어 토큰 라이브러리에 포르노와 도박 관련 문구가 다수 포함되었고, 이는 AI 모델의 성능 저하와 오용 문제를 악화시킬 수 있다.
더 심각한 것은 공개된 GPT-4o의 중국어 토큰 중 90% 이상이 스팸 웹사이트에서 추출했다는 점이다. 이들 중에는 '일본 포르노 영상 무료 감상', '베이징 자동차 경주 베팅'과 같은 문구들이 포함되어 있었다. 이런 단어에서 학습한 GPT-4o의 중국어 버전은 정상적으로 동작할 수 있을까?
오픈AI는 학습 과정에서 사람이 참여하는 강화학습을 사용한다. 하지만 중국어 데이터에 대해서는 이러한 절차를 생략한 것이 아닐까 의심받고 있다. 중국 내에서 오픈AI 제품을 사용할 수 없는 상황을 고려하면 어느 정도 이해할 수 있다. 그럼에도 불구하고, 해외에서 중국어로 AI 서비스를 이용하려는 사용자들의 권리는 고려했는지 의문이 나올 수밖에 없는 상황이다.
# 오픈AI 안전전담팀 해체! 수츠케버 퇴사!
작년을 뜨겁게 달궜던 뉴스 중 하나는 오픈AI의 CEO 샘 알트만이 이사회에 의해 해고되었다가 다시 복귀한 일이었다. 당시 쿠데타를 주도했다고 알려진 인물은 일리야 수츠케버다. 딥러닝 계에서 최고 스타 중 하나였던 그는 AI 안전에 많은 관심을 가졌다. 이로 인해, 신속한 AI 개발을 추구했던 알트먼과 자주 의견 충돌을 겪었고, 결국 11월에 수츠케버가 알트먼을 밀어내는 상황에 이르렀다. 하지만 알트먼이 다시 복귀하며, 수츠케버는 낙동강 오리알 신세가 되고 만다. 관련해서는 아래 글을 읽으면 도움이 될 것이다.
수츠케버가 오픈AI에서 뒷방으로 밀려날 것은 쉽게 예상가능했다. 문제는 그가 이끌던 '초정렬(Superalignment) 팀'까지 타격을 받게 된 것이다. 초정렬팀은 수츠케버가 안전한 인공지능 개발을 위해 지난해 7월, 오픈AI 사내에 만든 팀이다. 이 팀의 목표는 미래의 초인간적 AI 모델을 어떻게 통제하고 '정렬(alignment)'할지 답을 찾는 것이다. 여기서 정렬은 AI 모델이 사용자가 원하는 방식으로만 작동하도록 하는 것을 의미한다. 즉, 해야 할 일은 수행하고 하지 말아야 할 일은 피하게 하는 것이다. 초정렬은 이러한 개념을 초인간적 AI 모델에 적용하는 것을 목표로 한다.
초정렬팀이 생각한 'Superalignment', 하지만 이는 무산되고 만다하지만 이 모든 게 물거품이 되었다. 오픈AI는 AGI 출현에 대비한 안전 기술 개발 부서인 '초정렬팀(Superalignment)'을 해체했다. 수츠케버는 퇴사하면서 "회사가 안전하고 유익한 AI를 만들 것이라 확신한다"라고 밝혔지만, 다른 직원들은 동의하지 않았다. 초정렬팀을 이끌던 얀 레이케도 다음 날 퇴사 의사를 발표했다. 레이케는 X(트위터)를 통해 오픈AI가 초정렬팀의 연구를 우선순위에서 밀어냈다고 주장했다. 이들의 뒤를 이어 초정렬팀 직원들은 무더기 퇴사한다.
알트만 역시 이에 동의하는 듯한 뉘앙스의 메시지를 X에 남겼다. 초정렬팀의 업무보다 더 중요한 일들이 많아 지원을 할 수 없었다고.
그리고 알트만은 퇴사 직원들에게 회사를 비방하지 말 것을 서약하라는 계약서를 제시해 또 구설수에 오른다.
최근 샘 알트만을 바라보는 시선은 차갑기 그지없다. 인공지능 전문 매체 AI타임스에 따르면 최근 그에 대한 평이 다음과 같다고 한다.
"스칼렛 요한슨 사건 때는 무능해 보였고, 회사 비방을 금지하는 계약 강요 사태에서는 교활해 보였으며, AI 안전팀을 해체하고 직원들을 내모는 과정에서는 사악해 보이까지 했다"
하나가 마음에 안 들면 모든 게 마음에 안 들어 보이는 법. 그의 투자 활동에도 의혹의 눈초리가 향하고 있다. 무려 400개 이상의 회사에 투자해 28억 달러(약 3조 8600억 원)의 자산을 보유하게 되었다는 소식에 모두가 놀라움을 금치 못하고 있다.
특히, 이 엄청난 개인 투자는 그의 회사 활동과는 별개로 이루어졌다는 점이 핵심이다. 그는 2019년까지 투자 전문사인 와이컴비네이터의 수장을 역임했으며, 회사 업무로도 바쁠 CEO가 이처럼 대규모의 개인 투자를 했다는 점에서 사람들은 의문을 제기한다. 그에 대한 여론이 좋던 시기만 해도 그가 투자한 회사가 어딘지 왈가왈부하던 사람들이 말이다.
이와 같은 비난이 거세지자, 그는 최근 자신의 전 재산을 기부하겠다는 선언을 했지만, 여전히 반응은 싸늘하다. 과연 그가 이 같은 여론을 반전시킬 수 있을지 귀추가 주목된다.
