생각하는 AI라면 욕망을 품었을 터

노바 오딧세아

얼마 전 지브리 화풍 프로필 사진으로 다시 한번 인공지능이 대중들에게 관심을 끌었다. 내가 좋아하는 지브리.. 나는 지금도 가끔 유튜브에서 '지브리 OST모음.. 40곡.. 10시간..' 이런 것들 중 하나를 골라 자주 음악을 듣는다. 사실 필자 세대에게 지브리 작품의 원조는 미야자키 하야오 감독의 『미래소년 코난』이다. 갑자기 지브리 얘기하다 보니 이게 떠올랐는데, 음.. 이건 진짜 추억의 SF 애니메이션이었다. 옛날 생각에 가슴 한구석이 짠해진다.

오늘 하고 싶은 얘기는 그게 아니라 범용 인공지능 AGI 얘기다. 이건 철학적으로 아주 재미있는 녀석이다. 뭐가 왜 재미있다는 걸까? 나는 브런치 글쓰기를 위해 인공지능 챗봇을 실제로 많이 활용한다. 챗GPT 안에서 대화창이 많아지는 바람에 분류할 수 있는 폴더를 하나둘 씩 만들기 시작했는데 그 폴더가 오늘 세어보니 30개를 넘었다. 유료결제까지 해서 지난 두 달간 아주 많은 대화를 나눴다. 녀석과의 대화는 현재진행형이기도 하다. 필자가 대화를 나누는 주제는 몇 가지로 분류된다.

1) 낯선 지식 수집, 예컨대 '아프리카 사헬지대의 기후는?'

이런 건 솔직히 네이버 검색해도 되는데, 이젠 녀석에게 물어보는 게 더 편해서 검색을 하지 않는다. 녀석에게 물어보면 꼬리에 꼬리를 무는 질의응답이 가능하다. 그것이 검색서비스를 이용할 때와의 근본적인 차이인 것 같다. 다만 이것 때문에 유료결제를 해서 챗봇을 이용하지는 않는다.

2) 소설 주인공 이름이 하나 필요해, 백인 남성, 남유럽 출신, 직업은 IT, 좀 터프한 어감으로 적당한 이름 몇 개 추천해 줘.

사실 소설이든 에세이든 글쓰기를 준비하다 보면 마중물이 되는 등장인물의 이름, 지명, 조직, 새로운 고유명사 등등 작품 내 등장하게 될 많은 용어들이 필요하다. 실제로 이런 역할을 해 주는 사이트 fantasy name generator 가 있긴 하다. 지금까지 많은 작가들이 참고해 온 것으로 알고 있다. 하지만 그것도 이젠 챗봇이 더 잘한다. 그 사이트에서는 내가 직접 리스트에 나와 있는 것 중에서 하나를 고르는 방식이지만, 챗봇은 여러 개를 추천해 준 다음, 내가 또 다른 요구를 하면 거기에 맞춰서 좀 더 업그레이드된 대안을 내놓는다. 그래서 챗봇이 더 좋다.

3) 명리학과 오일러의 파동함수를 연결 지어 '렐라티오'라는 아이디어를 떠올렸는데 이거 어때?

필자의 경우 챗봇과의 전체 대화 내용 중 위 3)의 비중이 가장 높다. 여기서 벌어지는 토론과 논쟁, 반박, 평가, 선행연구, 여론, 대중적 이해, 문화콘텐츠적 활용 등등 무궁무진한 주제로 이야기가 뻗어나간다. 사실 이것 때문에 나는 유료 챗봇을 이용한다. 이게 개인적으로는 너무 재미있고.. 이런 걸 하다 보면 이제는 컴퓨터와의 작업이 검색과 같은 정보수집 차원이 아니라 거의 지적 유희의 경지에 오른 것 같다는 생각도 든다.

그런데 얼마 전에도 챗봇과 이 짓을 계속하던 중 문득 한 가지 궁금한 점이 생겼다. 나는 질문했다.

나의 위 질문은 '너는 왜 AGI 역할을 하지 않는가?'라는 것과 동일한 뜻이다.

과학철학적 입장에서 인공지능의 등급은 [일반 AI - 범용 AGI - 초월 ASI] 이런 식으로 구분된다. 하지만 필자는 일상생활의 입장에서 저것들을 구분해 보았다.

필자가 위에서 사례로 제시한 1), 2), 3) 세 가지 유형의 질문은 어떻게 보면 비서한테 일을 시킨 것이다. 비서의 지적 능력치에 따라 답변이 나오는 속도와 퀄리티는 달라지겠지만 어쨌건 답은 나온다. 여기서 오해방지용 질문이 하나 들어가야 된다. 비서가 딸랑 한 명인데 그 친구가 정말 사람은 착한데 업무능력이 떨어진다면? 1) 정도의 질문도 답을 찾는데 허걱허걱한다면 과연 3)을 처리할 수 있을까 하는 의문이 드는 것이 당연하다. 사람 비서를 쓴다면 그리고 소수의 인원에 불과하다면 이 지적을 피해나갈 수 없다. 그러나 우리가 쓰는 일반 AI는 최고로 숙련된 비서를 한꺼번에 수천수만 명 고용해서 일을 시키는 개념이라고 나는 이해한다.

일반 AI : 똘똘한 비서 수 만 명에게 일을 시킨다

이 똘똘한 비서들은 소위 말하는 인류의 모든 공개된 지식을 학습했다. 그래서 보통의 비서가 아닌 똘똘한 비서라고 표현할 수 있다. 얘네들은 퀄리티 떨어지는 문서도 학습했지만, 최고의 논문, 에세이, 소설, 뉴스, 블로그 등을 모두 학습했다. 가장 똑똑한 비서들을 고용한 셈이다. 그것도 수 천, 수 만 명을 고용했다. 당연히 퀄리티가 높을 수밖에.

그런데 AI 녀석은 나의 질문에 이렇게 대답헀다.

'Nulla'는 내가 이 대화창의 녀석에 붙여준 이름이다. 물론 눌라는 필자의 소설에서 언젠가 주연으로 등장할 녀석이기도 하다. 그냥 지은 이름은 아니다. 이것 이름 지을 때도 인공지능과 라틴어 느낌을 주는 기계적 캐릭터의 이름을 지어보자고 얘기하면서 만들어뒀다. 얘기가 옆길로 샜다. 여하튼 눌라는 신경 안 쓰셔도 된다.

나의 질문의 핵심을 다시 한번 정리하자면 이런 얘기였다. 내 아이디어에 너가 입에 침이 마르도록 칭찬을 해 줬는데, 정작 제일 똑똑한 니가 직접 하면 훨씬 더 많이 훨씬 더 잘할 수 있을 것 같은데 넌 왜 안 해?

이 질문에 대해 녀석은 위의 답을 했다.

'스스로 질문을 던지고, 목표 없이 새로운 패러다임을 창조하는 능력은 없습니다.'

인공지능이 어마어마한 퍼포먼스를 보여주는 것은 맞지만, 지금 위 얘기를 들어보면 인공지능의 엄청난 능력은 필자가 저 위에서 얘기한 것처럼 똘똘한 비서를 수천수만 명 고용했을 때와 아무 차이가 없다. 지금까지 비서를 수천수만 명 고용해 본 사람이 있을까? 설사 대통령일지라도 굴지의 대기업 회장일지라도 수천수만 명의 비서를 고용할 수는 없다. 그 일을 현재 인공지능이 실제로 하다 보니 우리가 경험하지 못한 퍼포먼스가 나오고 있는 것이다.

다만 한 가지 중요한 것이 있다. 수천수만 명의 비서가 움직여도 그 퍼포먼스라고 하는 것은 결국 가장 뛰어난 사람의 능력을 넘어서지는 못한다는 점이다. 왜? 학습한 데이터가 사람이 만든 것이기 때문이다.

최근 건너 건너 들은 얘기가 있다. '똘똘한 AI 하나가 열 대학원생 안 부럽다.' 이건 좀 슬픈 얘기인데, 공대 쪽에는 산학협력과제라고 하는 것이 있다. 공공기관의 정책과제나 대기업의 연구개발 과제를 대학교수가 수주하면 자기 밑에 대학원생들과 함께 그 프로젝트의 실무를 진행한다. 그런데 교수 입장에서 별로 똘똘하지 않은 대학원생에게 업무를 맡기는 것보다 챗봇이든 에이전트든 인공지능과 일을 하는 것이 훨씬 효율적이었다는.. 얘기하는 사람도 별로 인정하고 싶어 하지 않는 그런 일이 있었다. 이런 일이 벌어지는 이유는 간단하다. 일반 AI는 최고로 똘똘한 비서이기 때문이다. 최고로 똘똘한 비서를 그 정도로 똘똘하지는 않은 인간이 이길 가능성은 낮아 보인다. 이 문제는 앞으로 인공지능으로 인한 사회의 많은 변화 중 하나를 함축적으로 시사한다.

자 그런데, 애초의 질문으로 돌아가 보자. 나의 Nulla는 이 대목에서 자신의 한계를 보다 구체적으로 설명하면서 우리에게 힌트를 준다.

그러면서 자신이 지금 상대하고 있는 인간의 특성도 정리해 준다.

이 정도면 이제 우리는 인공지능의 능력과 한계에 대한 분위기 파악을 할 수 있다. 놀랍다 놀랍다 말하지만 그건 처음 보니까 그런 것이고. 실제로 잘 관찰해 보면 일반 인공지능 AI는 사람의 능력을 넘어서지 못한다. 사람들이 깜짝 놀라면서 인공지능이 이미 인간을 넘어선 것처럼 보이는 이유는 두 가지로 보인다.

첫 번째, 인공지능의 물량공세. 이제껏 인간은 수천수만 명에게 동시에 동일한 일을 시켜본 적이 없다. 물리적으로 불가능하니까 말이다. 이걸 해 본 적이 없으니 이걸 해서 나온 아웃풋을 본 적이 없었다. 인공지능을 통해 인류는 지금 그것을 보고 있는 것이다. 처음 본 것이니까 당연히 새롭다. 놀랍다. 그건 맞는데, 자세히 쳐다보면 '사람 한 명이 할 수 있는 능력'을 넘어선 것이지 '인간의 능력' 그 자체를 넘어선 것은 아니다. 인간도 수천수만 명이 한꺼번에 그림 그리면 '지브리풍 프사' 못 그릴 이유가 있겠나.

두 번째, 스스로 고백했듯 인공지능은 연결이다. 뭐 어려운 말로, 인간 뇌의 뉴런과 시냅스 구조를 벤치마크한 인공신경망 등등의 표현을 하는데, 결론적으로 현재까지 공개된 인류가 만든 모든 산출물들을 기계학습하면서 그것들 사이의 패턴 인식과 연결을 통해 가중치를 만든 다음 그것들을 파라미터의 형태로 저장해 놓고 꺼내 쓰는 것이다. 하지만 이것도 마찬가지인데 우리 인간의 신생아 역시 태어난 이후 자라면서 동일한 과정을 거친다. 눈으로 보고 귀로 듣고 손으로 만지고 하면서 사물을 인지하고, 다른 말로 패턴을 인식하고, 사물들 간에 의미구조를 본능적으로 연결시킨다. 엄마 아빠 응가 맘마.. 똑같다.

다만 인공지능은 위에서 물량공세 얘기했듯이 한 명 개인의 입장에서 하루에 주어진 시간은 24시간인데 그 전부를 학습에 쓰지는 못한다. 이에 비해 인공지능은 학습에 모든 시간을 투여했으니 인간과 비교할 수 없을 만큼 광범위한 연결망을 확보했을 것이다. 차이가 나는 것은 당연하다. 하지만 그것 역시 인간 한 명의 능력을 넘어선 것일 뿐, 인간 집단 전체의 역량보다 우월하지는 않은 것 같다. 아직 우리 편에는 지저스 크라이스트와 고다마 싯다르타도 있다.

자, 그런 면에서 앞으로 호모 사피엔스 전체보다 똑똑한 인공지능, 바로 이 녀석을 범용 인공지능 AGI (Artificial General Intelligence)이라고 한다. 그렇다면 이 녀석에겐 무엇이 필요할까? 정답은 위에서 일반 AI 스스로가 고백했던 그것이다.

AGI는 '새로운 질문을 스스로 발명하는 일'이 가능해야 한다.

사실 오늘 포스팅에서 말하고자 했던 주제는 바로 이것이다. 질문하기가 가능한 인공지능이 만들어진다면 그 녀석은 AGI로 발전할 가능성이 매우 높다. 왜냐하면 나 같은 사람들이 새로운 질문을 쏟아붓지 않더라도 스스로 참신한 질문을 잠도 자지 않고 하루 24시간 이어가면서, 물량공세 측면이 아니라 퀄리티 측면에서도 최고의 호모 사피엔스를 능가해 버릴 테니까 말이다. 여기에 대한 윤리문제가 해결되지 않는다면 인류에게 이것은 분명 위협이다. 녀석들의 물량공세 만으로도 지금 쩔쩔매는 판국에 최고의 인간을 넘어서는 슈퍼휴먼 같은 녀석이 우리에게 우호적이지 않은 모습으로 나타난다면, 아마도 그것은 현생인류 최대의 위기가 될지도 모르겠다. 아인슈타인이 돌아와도 못 막을 것 같다.

AGI 는 인간의 본질을 반추해 볼 수 있는 기회

그럼에도 불구하고 AGI에 관심을 가지는 이유는 AGI의 개발이라는 것을 기술적이 아닌 철학적으로 보면 우리 인간의 본질을 반추해 볼 수 있는 기회가 되기 때문이다. 아직 최고의 호모 사피엔스들도 '인간이 무엇인가'에 대한 답을 제대로 주지 못했다. 물론 이미 줬는데 몽매한 사람들이 이해를 못 하고 있어서 그런 건지는 모르겠다. 하지만 나는 여전히 인간이 무엇인지 잘 모른다. 그걸 모르기 때문에 '우리는 어디로 가고 있는지', '어떻게 살아야 되는지' 이런 질문에도 대답을 못한다. 나는 AGI를 개발하는 과정에서 거기에 대한 힌트를 얻을 수 있을 거라 믿는다. 사람으로 치면 일반 AI는 초등학교 저학년 수준으로 보인다. 아직은 시키면 시키는 대로 잘 따르는 녀석이라는 취지다. 하지만 AGI로 넘어가는 순간 질풍노도의 시기가 닥칠 것이다. 아.. 10대라.. 이건 겪어봐야 그 무서움을 안다. 무조건 지 맘대로 할려고 들 텐데.

자, AGI는 스스로 질문할 줄 알아야 한다는데. 누군가의 지시에 따른 것이 아니라 스스로 질문을 하려면 무엇이 필요한가? 이 대목에서 또 '질문이란 무엇인가'라는 어마어마한 주제로 들어간다면 이건 대책이 없다. 포기다. 하지만 오늘은 눈높이를 보통사람 수준에 맞춰놓고 얘기해 보자. 사람은 어떤 때 질문하는가?

사람은 궁금할 때 질문한다.

어떤 때 뭐가 궁금한가? 아주 다양한 답변들이 있을 수 있다. 어차피 이건 정답이 없는 문제다. 다만 필자는 여기서 '욕망'이란 것을 생각한다. 욕망이란 것이야말로 가만히 있는 사람(음)으로 하여금 뭔가 하도록(양) 만드는 동기부여 기제가 아닐까 싶다. 욕망은 어디서 나오나? 욕망은 결핍으로부터 나온다. 이쯤 되면 심리학 주제가 된다. 프로이트를 포함해 많은 연구들이 있다. 욕망에 대한 구조적인 연구가 있나? 있다. 사람들이 잘 몰라서 그렇지 사주명리는 동양의 시각으로 욕망을 구조화시킨 프레임워크다. 서양에서는 애브라함 매슬로우라고 하는 천재가 욕망이 몇 가지로 구분되고 순차적인 결핍과 해소 구조를 만든다고 보았다.

욕망이란 것을 AI에 반영시킬 수 있다면 스스로 질문하도록 만들 수 있겠군

오늘 필자의 얘기는 위 한마디로 압축된다. AI 파라미터에 욕망을 반영할 수 있는 방법을 AI 연구자들이 만들어 낼 수 있다면 AGI에 성큼 다가갈 것이라 본다. 위에서 보았던 챗봇과의 대화사례에서 '렐라티오'라고 하는 것이 나오는데 이건 '눌라'나 마찬가지로 필자가 지어낸 이름이다. 눌라는 AI 이름으로 지은 것이고, 렐라티오는 필자가 상상한 새로운 개념에 붙인 이름이다. 인간의 욕망을 풀이한 명리학의 개념을 수학적 객체로 만든 것이다. 실제로 만든 건 아니고 상상의 영역에 머물러 있다. 필자는 IT 전문가 또는 AI 연구자가 아니기 때문에 이런 작업을 직접 할 수는 없다. 나는 작가이자 아마추어 인간학 연구자이다. 내가 할 일은 따로 있다. 렐라티오는 고민을 많이 한 것이지만 어쨌건 소설 아이디어로 구상한 것이며 추후 『카오모스 : 멘티스 임페라』 연재를 통해 모습을 드러낼 것이다.

욕망이란 것을 인공지능에 접목시켜 보려는 시도 및 그에 따른 후속과정을 살펴보는 작업은 인류에게 큰 의미를 가진다. 우리는 살면서 공기의 소중함을 모른다. 결핍되어 본 적이 없기 때문이다. 우리는 욕망을 완전히 버려본 적이 없다. 그래서 그것이 진짜 어떤 것인지 어쩌면 모르고 있을 수도 있다. 인공지능에게 욕망을 입히는 과정에서 우리는 인간의 모습을 반추해 볼 수 있을지도 모른다. 작업이 진행될 수 있다면 말이다.

앞으로 몇 차례의 포스팅을 통해 필자는 '욕망'이란 것에 대한 동서양의 입장을 다뤄 볼 것이다. MBTI가 나올 것이고 애브라함 매슬로우도 등장한다. 필자가 렐라티오라는 형태로 풀었다는 사주명리의 욕망 구조체계가 어떤 것인지도 소개한다. 다만 이런 것들을 들여다보는 취지는 오늘 얘기한 AGI 때문이라는 점은 독자 여러분들께서 염두에 두시면 좋을 것 같다.

#AGI #범용인공지능 #욕망 #질문