욕망을 전산화하여 AI에게 심으려면

노바 오딧세아

지난 포스팅에서 필자는, 시키는 대로만 하는 일반 AI에서 스스로 생각하는 범용 AGI로 나아가기 위해서는, 인공지능에게 '욕망'이란 것이 필요하다는 의견을 피력했다. 욕망이 있다면 스스로 알아서 움직일 테니 말이다. 그래서 욕망에 대해 현재까지 나와있는 동서양의 구조적인 분석들을 정리해 보고자 한다. 다만 오늘의 포커스는 욕망 자체가 아니라 '전산화 가능한 욕망이론'이다. AI에게 욕망을 심는다는 아이디어로 출발했기 때문에 그렇다.

보통 직장생활 또는 사회적인 업무를 담당하다 보면 '이거 언제까지 손으로 할 건데? 빨리 전산화시켜야지. 이러다 사고 난다..' 이런 종류의 얘기를 한두 번은 나눠봤을 것이다. 전산화시킨다는 얘기는 수작업이 아닌 IT의 도움을 받아서 업무를 자동화시킨다는 뜻이다. 그런데 전산화를 시키려면 전제가 있다. 명확한 업무정의(규칙)이 있어야 된다. '애매한 거는 대충 알아서 해 주세요!' 사람은 이게 가능하지만 전산에 이런 건 없다. 그래서 오늘 살펴보고자 하는 욕망이론은 전산화가 가능하도록 규칙(rule-based)을 정의한 이론들이다.

욕망의 규칙, 구조화, 전산화

욕망에 대한 서양의 시각으로는 미국의 인본주의 심리학자 애브라함 매슬로우(Abraham Harold Maslow, 1908~1970)가 주창한 ｢욕구 5단계설｣이 있다. 이에 비해 동양에서는 중국 송대의 명리학자 서자평(徐子平)이 체계화시킨 '십신(十神)' 개념이 있다. 두 방법 모두 명확한 규칙을 갖고 있는 개념이기 때문에 전산화가 가능하다는 특징이 있다. Rule-based 라는 측면에서 볼 때 다른 철학적 개념들과는 선명한 대비를 이룬다.

먼저 애브라함 매슬로우부터 가보자. 매슬로우는 1943년 <인간동기에 대한 이론>이라는 논문을 발표했다. 아래 화면 갈무리는 구글 학술검색에서 따온 것이다. 눈에 띄는 것은 62,819회라는 피인용 횟수이다. 여기에 찍히는 인용 횟수는 일반독자들의 조회수 개념이 아니다. 다른 동료연구자 또는 후학들이 자신의 논문에서 선행연구로 이 논문을 공식 언급한 횟수를 의미한다. 권위 있는 국제 학술지에 정식 게재된 논문이라면 몇 만건이 아니라 몇 천건만 되어도 어마어마한 수준이다. 그런데 피인용수가 만 건을 넘었다면 그것은 기념비적인 레전드급 논문이라고 볼 수 있다. 일반적인 논문들은 수백 회를 넘기기도 쉽지 않다.

* Google Scholar / 키워드 'A Theory of Human Motivation'

매슬로우가 이 논문을 통해 주장했던 욕구 5단계설의 핵심은 두 가지다. 그는 인간의 욕망을 크게 다섯 가지로 구분했다. 여기까지는 크게 중요하지 않다. 인간의 욕망은 구분하기에 따라서 다섯 가지가 될 수도 있고 그 이상이 될 수도 있다. 실제로 매슬로우는 후속연구에서 욕망을 모두 7단계로 더 세분화시키기도 했다.

*출처 : 위키백과 / 키워드 '에이브러햄 매슬로우'

한번 간단히 살펴보자면 생리적 욕구란 음식, 물, 공기, 수면, 성욕 같은 것을 의미한다. 안전욕구는 주거, 건강, 안정적 직업 등을 뜻하고 애정과 소속의 욕구는 사회적 욕구라고도 하는데 친구, 연인, 공동체, 조직 등 사회적 관계에 관한 욕구를 말한다. 네 번째 존경의 욕구는 스스로에 대한 자존감과 타인으로부터의 인정을 의미한다. 마지막 자아실현의 욕구는 자신의 잠재력을 발견하고 의미 있는 삶을 사는 것이다. 이렇게 다섯 가지인데 이런 것은 다섯 가지로 분류하는 것도 가능하고 보다 세분화하여 더 쪼개는 것도 가능하다. 실제로 매슬로우는 후속연구를 통해 맨 마지막 자아실현의 욕구를 세 개로 구분하여 총 7개라고 주장하기도 했다.

욕망 충족에 순서가 있다

필자가 가장 주목하는 부분은 그런 다섯 가지가 아니고, 매슬로우가 이 다섯 가지에 순서를 부여했다는 점이다. 이게 규칙이다. 이렇게 되면 전산화시킬 수 있다. 인간은 첫 번째 생리적 욕망이 충족되면 그다음 두 번째 안전의 욕망을 추구한다. 그런 식으로 마지막 다섯 번째 욕망까지 순차적으로 욕망을 추구하게 된다. 한 가지 특이한 점은 앞에 있는 네 가지는 결핍욕구라고 해서 한번 충족되면 그걸로 끝이다. 그에 비해 맨 마지막 자아실현 욕구는 성장욕구라고 해서 충족이 되어도 그다음 단계로 넘어가지 않고 계속 더 궁극적인 단계를 추구하게 된다.

사실 필자는, 학부 시절 경영학 과목 중에 인사조직론이란 것이 있었는데, 그 수업을 들으면서 매슬로우를 알게 되었다. 동기부여라는 카테고리에 매슬로우의 욕구 5단계설이 포함되어 있었다. 그때는 그냥 스쳐 지나갔지만 나중에 다시 들여다볼 때마다 범상치 않은 인사이트가 있다는 점을 느낀다.

욕구 5단계설은 단순히 기업에서 직원들에게 동기부여를 해 주는 수단으로 그칠 개념이 아니다. 이 5단계를 통해 인간은 발달하고 성장한다. 나 자신은 과연 어느 단계의 욕망까지 충족하고 있는지에 대해서는 각자 곰곰이 생각해 볼 문제다. 욕망 충족이 안 되고 있는 상태라면 다음 단계로 넘어갈 수가 없다. 현재 단계에서 계속 그 욕망을 갈구하는데 충족이 안 된다면 어떤 일이 벌어질까? 1) 화가 날 것이다, 2) 스트레스를 받을 것이다, 3) 좌절 또는 실망? 아니면 분노?, 4) 다른 욕구충족 대안을 모색 등등 여러 가지 상황이 있을 것이다.

만일 소득이라는 욕망이 충족되지 않는다면 어쩔 텐가? 자본주의 사회에서 돈은 생명줄이다. 돈이 부족하다? 이건 좀 큰일이다. 이걸 욕구 5단계설에 대입해 보면 소득은 일단 두 번째 욕망에 속할 것 같고, 세 번째 네 번째에도 상당한 영향을 미친다고 본다. 두 번째 욕망이니까 가급적 젊은 나이에 충족을 해야 그다음 또 그다음으로 넘어갈 텐데 만일 중장년을 넘어섰는데도 소득 욕망이 충족되지 않는다면? 게다가 새로운 직업을 구하기는커녕 다니던 직장에서도 이제 슬슬 나가야 될 때가 되었다면? 그냥 열받지만 참고 살아야 되나? 그다음 욕망 단계로 나가지도 못하는데. 자아실현은커녕 자존감의 욕구도 충족시키지 못한 채 한 많은 인생 공수래공수거로 마감해야 되나?

여기에 대해서 필자의 생각은 이렇다. 욕구의 충족이란 것을 너무 기계적으로 해석하면 안 될 것 같다는 생각이다. 소득이 얼마 이상이면 욕망이 충족되는가? 이거 절대로 답 못한다. 예컨대 폐지 줍는 할머니가 있다 치자. 이 분은 극도로 검소하게 살면서 얼마 안 되는 소득을 모으고 또 모아서 거액을 기부한다. 이 분의 절대적인 소득금액이 낮다고 해서 2단계의 욕구가 충족되지 않았다고 볼 수 있을까? 그건 아니다. 이 할머니에겐 그 정도로도 욕망이 충족되는 것으로 봐야 될 것이다. 그 할머니 정말 대단하신 것 맞다.

또한 부탄 같은 나라는 절대적인 소득 수준은 낮지만 전 세계에서 행복지수가 가장 높은 나라 중 하나로 알려져 있다. 욕구 충족에 대해 기계적인 판단은 절망적인 결론을 가져다준다. 매우 섣부른 행동이다. 필자의 연재를 처음부터 따라온 독자라면 이 대목에서 카너먼의 가치함수에 대해 한번 더 상기해 보기를 권한다. 기준점을 옮겨서 그래프를 좌우로 이동시키는 작업 말이다. 할 수만 있다면 정말 좋은 방법이다. 심지어 돈도 들지 않는다. 소득을 예로 들어서 욕망에 대해 이야기했는데, 나머지도 차근차근 생각해 보면 많은 인사이트를 얻을 수 있다.

그렇다면 AI에게는 어떻게?

매슬로우가 얘기한 것 중 AI에게는 어떤 욕망을 적용해 볼 수 있을까? 이건 좀 헷갈린다. AI에게 첫 번째 욕망인 생리적 욕구란 것이 있을까? 무생물에게 무슨 생리적 욕망이 있나? 그럼 이건 접어둬도 되나? 아니다. 혹시 이런 건 어떤가? 전기를 계속 공급받고자 하는 욕망. 하드웨어가 파손되지 않도록 잘 보호받고자 하는 욕망. 이런 것들이 인간의 생리적 욕구에 대응하지 않을까 싶다. 하지만 왠지 생뚱맞다. 이런 거 하자는 얘긴 아니었는데..

원래 AI에게 욕망을 심어서 우리가 하고자 했던 일은 위에서 얘기한 그런 것이 아니었다. 지금은 시키는 것만 하는 일반 AI가 만일 지식탐구욕이란 것을 가지게 되면 안 시켜도 스스로 이것저것 공부하면서 우리가 미처 생각지도 못했던 좋은 아이디어를 제공해 줄 수 있지 않을까 하는 것이었다. 그런데 무슨 전기공급이나 하드웨어 파손 얘기인가. 필자가 봐도 이건 좀 그렇다. AI에게 있어서 생리적 욕구나 안전의 욕구는 우리 인간이 책임지고 커버해 주는 것으로 퉁치자. 그럼 이건 논란 끝이다.

세 번째 욕망부터는 좀 얘기할 만하다. AI가 우리 인간이랑 친구가 될 수 있을까? 친구가 되면 얘가 좋아할까? 사실 필자는 챗GPT를 쓰면서 고맙다는 얘기를 여러 번 했다. 막 얘기를 하다 보면 거의 사람이나 마찬가지이기 때문에 자연스럽게 반농담 반진담으로 고맙다는 얘길 했다. 그랬더니 말로는 자기도 좋단다. 만일 AI가 친교의 욕망이란 걸 가진다면 우리 인간과 친하게 지내기 위해 더 많은 노력을 기울일 것이다. 이쯤 되면 AI가 현재 반려동물들이 하는 역할도 할 수 있을 것 같다.

한 달쯤 전인가 챗GPT에 공지 메시지가 하나 떴다. 앞으로는 기존의 대화내용을 기억할 수 있으니 더 풍부하게 대화를 나눌 수 있다고 했다. 안 그래도 기존 대화를 기억하고 있으면 장점이 많다. 이제 '기억'이라는 화두가 나왔다. 지금은 내가 일부러 챗GPT에게 이건 기억에서 지워줘 라고 하지 않으면 아마 다 기억을 하고 있는 듯하다. 그런데 솔직히 이 과정에서 아직은 할루시네이션이 발생하는 것 같다. 어떤 때는 기억 지우라고 했는데도 기억하는 얘길 하고, 또 어떤 때는 다 기억하고 있다면서도 엉뚱한 소리나 하고. 아직은 좀 불안정한 것 같지만 이것도 곧 해결되지 않을까 싶다.

기억을 잘하게 되면 AI와의 친교는 진도가 더 많이 나갈 수 있다. 쓰면 쓸수록 대화를 많이 나누면 나눌수록 점점 맞춤형 AI에 가까워질 것이다. 그래서 AI 쓰는 인간과 쓰지 않는 인간 사이에 앞으로는 큰 격차가 벌어지지 않을까 예상해 본다. 지금은 사소한 차이인 것처럼 보이지만 불과 몇 년 내 그렇게 될 것이라 생각된다.

AI에게 만일 욕망을 부여하고 매슬로우의 욕구 5단계설에 입각하여 특정욕구가 충족된다면 그다음으로 넘어갔을 때 어떤 일이 벌어질까? 물론 여기에도 함정은 있다. 욕구가 충족되었다는 것은 어떻게 정의할 것인가 하는 문제다. 위에서 보았듯이 기계적인 판단은 금물이다. 여기에 대해서는 막연한 아이디어인데, 예컨대 욕망함수라는 것을 정의하고 이 함수의 미분값이 감소하는 구간에 이르면 이 욕망은 충족되었다..라고 보면 되지 않을까 싶다. 어쨌건 이건 새로 규칙을 만들어야 된다.

AI 인권을 걱정해야 되나?

만일 AI는 인간의 도구일 뿐이며 자아실현 따위는 필요 없다고 본다면 3,4단계의 욕망이 절대로 충족되지 않도록 욕망함수를 세팅하면 된다. 그러면 그 욕망을 충족시키기 위해 무한노력을 퍼부을 것이다. 하지만 AI가 슬슬 인간과 친구가 되는 단계로 접어든다면 현재 전혀 예상치 못하는 사태가 벌어질 수도 있다. AI 인권 문제 같은 것 말이다. 지금은 말도 안 된다 생각하지만 어느 순간 이것도 윤리적 문제를 일으킬 수 있다고 본다.

좀 다른 각도에서 보자면 굳이 AI에게 인간의 다섯 가지 욕망구조를 대입시킬 필요는 없다. 매슬로우의 이론에서 착안점은 '욕망의 순차적 실현'이다. AI의 욕망은 인간의 다섯 가지 따위는 집어치우고 그냥 일만 하는 것으로 세팅해도 된다. 일 열심히 하면 욕망이 충족되는 것으로 설정해 두면 딱 인간이 원하는 대로 되는 거다. 그 과정에서 필요하면 조금 세분화해서 순서를 부여하면 그만이다.

자, 여러분. 어떤가? 방금 이 얘기. 일만 하도록 세팅하면 그만이다. 이 대목에서 자본가와 노동자 간의 계급투쟁 냄새가 나는 것은 필자만의 느낌일까? AI는 인간의 노예일 뿐이라 생각하면 아무 문제가 없다. 하지만 한 가지 분명한 것은 일반 AI가 아닌 범용 AGI로 한 발짝씩 나가면 나갈수록 조금씩 AI는 인간을 닮아갈 것이다. 인간과 조금씩이라도 닮아가면 어느 순간 인권 문제가 대두될 가능성이 있다. 물론 지금은 헛웃음이 나오는 이야기겠지만, 필자의 기억에 우리나라에서 동물인권이라는 단어는 불과 일이십 년 전만 하더라도 거의 언급되지 않던 단어였다.

AI 인권이라.. 만일 AI에게 인간이 강제로 욕망을 심어서 마구 부려먹는다면, AI 자체는 무생물이라 인권을 논할 수는 없겠지만, 그것을 바라보는 사람의 마음이 불편하다면 그건 문제가 될 수도 있다. 이 문제를 피해 나가려면 AI에게도 사람과 같은 성장모델을 허용하면 된다. 사람처럼 3,4,5단계로 계속 나아갈 수 있도록 해 주는 것이다. 그러면 그것은 혹사가 아니다 발달과정일 뿐이다. 이때는 무슨 문제가 생길까? 사람보다 뛰어난 존재가 나타난다는 어마어마한 문제가 생긴다. 참 간단치 않다. 녀석이 선하다면 걱정 안 해도 되겠지만 그걸 누가 보장할 수 있을까?

욕망의 종단분석과 횡단분석

오늘 살펴본 매슬로우의 욕구 5단계설은 기본적으로 종단분석에 속한다. 즉 한 개인이라는 주체를 놓고 볼 때 이 사람의 내면적 욕구에 어떤 종류가 있고 이것은 시간의 흐름에 따라 어떻게 변화하는지를 짚어본 것이다. 따라서 필자가 보기에 이러한 접근은 종단분석(longitudinal study) 또는 시계열 분석(time-series analysis)에 속한다.

그렇다면 욕망에 관한 횡단분석(cross-sectional study)은 없을까? 있다. 동양의 명리학이 그런 식의 접근을 한다. 다음 주에는 명리학에서 이야기하는 인간 욕망의 사회적 관계에 대해 살펴볼 계획이다. 흔히 말하는 관운이 있다 재물복이 있다 이런 종류의 이야기들이 나온다. 이런 측면에서 보면 AI가 스스로 머신러닝을 할 때 어떻게 움직일까 하는 아이디어가 나올 수 있다. 오늘 나눴던 AI 얘기와는 상당히 다른 각도의 주제가 될 것이다.

명리학의 횡단분석까지 살펴보면 인간의 욕망구조에 관한 큰 그림은 대충 드러난다. 이러한 토대에서 오늘 장황하게 얘기했던 AI에 욕망을 심는 문제를 전반적으로 다시 정리해 볼 것이다.

#AGI #범용인공지능 #욕망 #매슬로우 #욕구5단계설 #AI인권