brunch

매거진 과학과 썸타다

라이킷 12 댓글 1

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 신지은 Feb 15. 2021

일론 머스크는 왜 오픈AI를 만들었을까

#2 모두를 위한 인공지능이 되기 위해서 필요한 것들

# 인공지능 작가가 내게 건넨 무서운(?) 문장

커먼컴퓨터라는 인공지능 스타트업에서 개발한 AI Writers를 깔아서 써봤다. 아마도 나같은 문과라면 가장 기본적으로 떠올릴 지 모르는 질문을 조심스레 적어봤다. "Will AI conquer human?" 어라. 반문을 한다. AI's are on the move. Can humans overcome the AI? 인간이 AI를 극복할 수 있냐고. 또 다른 문장도 적어봤다. Will AI replace human job? 이라고. 대답은 이랬다.

출처: AI Writers

결국 로봇이 나를 대체할 것이다. 하하. 글을 쓰는데 도움을 준다고 해서 테스트 겸 영어 질문을 던져본 것이었는데 생각하지도 못한(?) 답변을 들었다. 멀리 갈 것 없이 요즘 한 지상파에서 방송되는 'AI vs 인간'이라는 프로그램만 봐도 놀라운 광경이 펼쳐진다. 몽타주 그리기, 주식 투자하기, 트로트 작곡까지..인간의 영역에서 종횡무진 활약하는 AI와 인간의 대결이라니. 굳이 블랙미러 속 사냥개까지 가지 않아도 '뭐 저런 게 다있어?'라는 생각을 들게 하기도 한다. '로봇과 닭튀기기 1분만에 완패, 치킨집 알바 제로 시대가 온다' 뭐 이런 제목의 기사도 심심찮게 헤드라인에 등장한다.

# 일론 머스크는 왜 인공지능이 인간을 짓밟을 것이라고 했을까?

"구글 딥마인드가 만들고 있는 인공지능의 본질은 모든 게임에서 모든 인간을 짓밟는 것이다" 그 누구도 아닌 일론 머스크가 뉴욕 타임즈 인터뷰에서 한 말이다. 머스크는 AI가 곧 인간만큼 똑똑해질 것이라고 경고했다. 그렇게 되면 인류의 존재가 위태롭기 때문에 우리 모두가 두려워할 필요가 있다는 것이다. 인공지능이 제시하는 미래가 핑크빛이 아닌 잿빛이라니. '딥마인드'의 초기 투자자인 그는 본인이 경험해봤기에 더 자신할 수 있다고 했다. 5년 안에 모든 게 지옥으로 가는 건 아니지만 상황이 이상해질 수 있다! 이게 2020년의 인터뷰이니 2025년이 되면 정말 상황이 이상해지는 건 아닐까 두려워진다. 상황이 이렇게 된 이상 인공지능도 윤리를 갖춰야 한다. 아시모프가 살아있었다면 아마 로봇의 3원칙에는 이 한마디가 추가되지 않았을까.

잭 마윈은 일론 머스크와의 대담에서 이렇게 말했다. "인공지능은 인간이 만든겁니다. 인간이 만든 것과 인간이 대결을 한다는 게 말이 됩니까." 사실 그렇다. 인간이 만든 비행기와 날기 대결을 하는 게 의미가 없고 인간이 만든 자동차와 달리기 대결을 하는 것도 의미가 없다. 이 사실을 모를리 없는 일론 머스크는 왜 이런 말을 했을까. 그 힌트는 OpenAI의 창업에서 얻어볼 수 있다. 구글이 딥마인드를 인수한 지 1년 뒤 일론 머스크는 10억 달러를 들여 이 비영리 연구기관을 만들었다. 목적은 '인공지능의 혜택을 모든 인간이 받을 수 있도록 하는 것'이었다. 그는 2018년 이사회를 떠난 후에도 여전히 OpenAI에 직간접적으로 도움을 주고 있다. (참고로 OpenAI가 개발한 것 중 하나다 GPT-2다. 사용자가 특정 문장을 입력하면 문맥에 맞도록 자연스럽게 다음 문장을 만들어 내는 AI인데 인터넷 페이지 800만 개에 담긴 15억 개의 단어를 학습해 다양한 분야의 글 완성이 가능하다. 내가 테스트 해봤던 AI Writers도 GPT-2를 기반으로 한 것이었다.)

# AI 독점하는 빅테크들

돌이켜보면 AI를 휩쓸고 있는 것은 소수의 빅테크들이다. 구글과 아마존의 인공지능 비서만 봐도 그렇다. 대기업들은 영향력 있는 연구논문을 쏟아내고, 학술회의를 후원한다. 최고의 전문가를 채용하기 위해 경쟁한다. 대규모 인공지능에 필요한 데이터 센터도 그들의 몫이다. 최근 연구에 따르면 자금원을 공개하는 4개 유명 대학의 교수 대다수가 빅테크로부터 지원을 받은 것으로 나타났다고 한다. 일론 머스크가 '모든 인간을 위한 AI'를 주창한 것은 바로 이런 이유에서였을 것이다. 윤리를 논하기 전에 해결해야 할 건 결국 '빅테크'에 의한 '독점'이 아닐까. Open AI에 10억 달러를 투자해놓고 정작 GPT-3 모델은 '독점 라이선스'화 한 마이크로소프트를 향해 일론 머스크가 'Open AI'에 독점이 웬 말이냐고 비판한 것도 같은 맥락이다.

2021년 세계경제포럼(WEF)의 ‘다보스 어젠다’에 이른바 ‘글로벌 AI 행동 동맹’이라는 것이 포함됐다. 100여 개가 넘는 기업들이 함께 ‘신뢰받을 수 있는’ 투명한 AI를 위한 노력을 가속화하자는 취지로 만들어졌다. 윤리를 세우는 건 간단하다. 문제는 이런 시스템을 만드는 것이다. 바람직한 쪽으로의 학습과 행동, 영향의 매커니즘이 빅테크의 손에 달렸다면 그 불평등부터 해결해야 하지 않을까.

우리 사회에서 불평등하지 않은 부분들을 찾기 힘든 요즘이다. 특히 코로나 팬데믹으로 부의 양극화는 더 심해졌다. 가진 자들은 더 풍요로워졌고 기회에 편승하지 못한 사람들의 삶은 더 치열하게 구석에 몰린다.

전 세계의 AI 생태계는 AI를 활용해 수십억 명의 삶을 개선하겠다는 약속을 하고 있다. 그런 AI 생태계가 일부에 의해 독점되어 있다는 분석은 그 약속을 공허하게 한다. 날로 가속화되고 있는 AI의 영향력이 전 세계 모두에게 '착하게' 돌아가려면 결국 독점되어 있는 인공지능을 '개방'하는 게 첫번째 발걸음이 아닐까. 소수가 독점한 인공지능에서 ‘윤리’를 외치는 것은 결국 공허한 외침일 뿐이니 말이다.

# 탈중앙화 이야기하는 블록체인이 등장한다면

집단AI는 인간을 배제한 AI 기술을 막자는 취지에서 등장했다. 문제는 이걸 이루는 방법이다. 인공지능에는 막대한 컴퓨팅 자원과 인력이 필요하다. 필연적으로 '자본'이 따라야 한다. 빅테크들이 AI를 독점할 수 있는 이유다.

블록체인 업계에서 3년 정도 일했다. 어렵게만 느껴지는 블록체인의 핵심 단어를 하나만 말하라면 ‘탈중앙화’일 것이다. 블록체인의 세계에선 '중앙'이 없다. 모든 정보를 가지고 화폐를, 투표를 통제하는 중앙은행, 선거관리위원회 대신 블럭마다 컴퓨터로 모든 정보를 인증한다. 마치 전국민 단톡방에 정보를 일일이 남기는 것과 같다. 이 단톡방의 주인은 특정 개인이 아니라 이 단톡방 안에 들어와 있는 모두이다. 어쩌면 블록체인은 인공지능의 영역에서도 아주 중요한 역할을 할 수 있을 지 모른다. 모든 사람들이 컴퓨팅 자원과 기술을 공유하는 것이다. 빅테크의 도움 없이 말이다.

실제로 내가 써본 AI Writers를 만든 스타트업은 블록체인을 기반으로 모두를 위한 인공지능 개발 플랫폼을 만들고 있단다. 물론 작은 스타트업이 빅테크들을 이기는 것이 쉽지만은 않겠지만 적어도 그런 시도 자체는 박수를 받을만 하지 않을까. 혹은 그 반대로 모든 사람들의 손에 들어간 인공지능이 더 위험에 빠질 확률은 없을까 하는 생각도 해보게 된다.

마이크로소프트는 2016년 3월 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단했다. 특정 집단 사람들이 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시킨 결과 테이가 혐오 발언을 쏟아냈기 때문이다. 이듬해인 2017년 초 세계적인 AI 전문가들은 인공지능의 무기화에 반대하는 서명을 발표했다. 스티븐 호킹조차 그 위험성을 경고했던 인공지능의 미래가 인간의 손에 달렸다는 것은 확실해 보인다. 너무나 진부한 이야기다. 인간의 손은 세상에 이로운 인공지능을 만들 수도, 아니면 블랙 미러 속 사냥개 같은 살상 로봇을 만들 수도 있다.