인공지능에 대한 불쾌감
인공지능에 대한 기대만큼이나 우려의 목소리도 높다. 일자리 대체와 경제적 불평등심화, 24시간 감시당하는 프라이버시 문제, 통제 불능으로 인한 인류 종말, 오작동으로 인한 피해, 해킹으로 인한 피해, 딥페이크를 이용한 고도의 허위정보 생성과 유포, 그리고 편향과 차별의 심화 등이 예이다. 이러한 문제들은 모두 현실적으로 심각하게 고려하고 대비책을 마련해야 할 과제이다. 하지만 이처럼 이성적인 우려 외에도, 인공지능에 대한 뚜렷하지 않은 불쾌감을 느끼는 사람들도 있다.
불쾌한 골짜기
일본의 로봇 공학자인 모리 마사히로는 1970년 '불쾌한 골짜기'라는 개념을 제시했다. 이는 인간과 유사한 외관을 가진 로봇을 볼 때 느끼는 불쾌함에 대한 가설이다. 발표 당시에는 큰 주목을 받지 못했지만, 최근 로봇 기술에 대한 경쟁이 심해지고 인간과 상호작용하는 로봇이 늘어나면서 공학자들이 이 가설을 수용하고 있다.
'불쾌한 골짜기'는 로봇에 대한 인간의 호감도 변화에 대한 가설이다. 로봇이 인간과 비슷할수록 점점 친근하게 보이지만 어느 지점을 넘어서면 오히려 불쾌감을 느끼게 된다는 것이 핵심 내용이다.
아래 그림을 보면 오른쪽으로 갈수록 로봇이 인간과 유사해지는 정도를 나타내며, 100%는 건강한 인간을 의미한다. 인간과 전혀 닮지 않은 산업용 로봇에는 거의 호감을 갖지 못한다. 인간 모양을 한 장난감 로봇은 호감도를 높인다. 문제는 인간과 거의 흡사한 보철 손(의수)에서 발생한다. 보철 손은 얼핏 보면 사람의 손과 구분이 안 가고 사람의 피부색과 같다. 그러나 자세히 보면 그 질감이 다르고 생기가 없는 인위적인 분홍색이며, 이를 알아차리고 되면 강한 불쾌감을 느낀다. 무대 위에 있는 인형 bunraku puppet은 관객과 일정한 거리를 유지하기 때문에 다시 호감이 생기는 것을 확인할 수 있다. '불쾌한 골짜기'는 로봇이 너무 인간과 닮으면 사람들에게 소름 끼치는 듯한 불쾌감을 주는 구간을 말한다.
인간과 닮았지만 생명력이 없는 대표적인 예는 시체이다. 인간형 로봇(휴머노이드)을 볼 때 느끼는 본능적인 불쾌감의 원인은 바로 이 '생명력의 부재'에서 비롯되는 것으로 보인다. 생명체의 가장 큰 특징 중 하나는 살아 움직인다는 것이다. 따라서 로봇의 움직임은 호감도에 영향을 미친다.
아래 그림을 보자. 그림에서 점선은 움직임이 있는 로봇의 호감도 변화를 나타낸다. 로봇이 움직일 경우 정지해 있을 때보다 더 큰 호감을 얻을 수 있다. 하지만 움직임이 과하거나 부자연스러울 경우, 오히려 더욱 심한 불쾌감을 느끼게 되어 '불쾌한 골짜기'에 다시 빠진다. 움직임이 없는 휴머노이드보다 움직이는 휴머노이드에 더 큰 불쾌감을 느낀다. 마치 움직이지 않는 시체보다 움직이는 시체, 즉 좀비에게서 훨씬 더 큰 공포와 불쾌감을 느끼는 것과 같은 이치다.
많은 사람들이 대중문화를 통해 인공지능을 접해왔다. 1818년 출간된 메리 셸리의 소설 '프랑켄슈타인'은 최초의 SF소설 중 하나로 여겨진다. 생명을 창조하려던 과학자 프랑켄슈타인은 살아 있는 존재를 만들어 낸다. 이 존재는 흉측한 괴물의 모습을 하고 있으며 인간을 살해하고 자신의 창조주인 프랑켄슈타인 마저 죽게 만들며 파국을 초래한다. 이처럼 인간이 만든 인위적인 존재가 인간에게 위협이 된다는 설정은 이후 수많은 유사한 이야기의 모티브가 되었다. 최근에는 터미네이터, 2001 스페이스 오디세이, 아이, 로봇 같은 영화에서 인공지능이 인간에게 반기를 드는 모습으로 그려진다. 이런 대중문화를 통한 학습된 서사는 많은 사람들에게 인공지능에 대한 공포와 두려움의 근본적인 원형으로 작용하고 있다.
물론 인공지능과 인간의 관계를 더 심오하고 긍정적으로 그리는 영화들도 있다. 영화 허 Her에서는 대필작가가 인공지능과 사랑에 빠지며 사랑의 본질을 탐구하기도 하며, 스티븐 스필버그의 영화 A.I 는 감정을 가진 로봇 아이에 대하여 감성적으로 그려냈다.
잘못된 설정
이런 대중문화에 등장하는 인공지능은 실제 인공지능과 몇 가지 차이가 있다.
1. 의식 대중문화 속 인공지능들은 대개 사람과 같은 의식이 있다. 그러나 현재까지 인간은 의식이 어떻게 생기는지 거의 알지 못하기 때문에 의식을 창조해 낼 수 없으며, 인공지능을 만들기 위해 반드시 의식이 있어야 하는 것도 아니다. 예를 들어 chatGPT와 같은 생성형 인공지능은 맥락의 미묘함까지 파악해서 적절한 대답을 하고, 괜찮은 농담을 하고, 마음을 움직이는 시를 쓰는 수준이지만 의식이 없다. 의식이 없더라도, 인간과 기계를 구별할 수 없다면 그 기계는 지능을 가졌다고 말할 수 있다는 튜링테스트를 통과할 수 있다.
2. 인간 같은 외관 영화에서는 인공지능들이 인간과 비슷하게 팔다리가 있고 두뇌가 있는 모습으로 그려진다. 그러나 인공지능 개발자들은 '불쾌한 골짜기' 때문에 의도적으로 인간의 모습으로 디자인하는 것을 피한다. 예를 들어 아마존의 인공지능 스피커 알렉사는 인간과 말로 상호작용을 하지만 인간의 모습을 하고 있지 않다. 인간의 모습으로 만들면 사용자들의 거부감을 유발할 수 있다.
3. 독립적으로 움직임 모든 인공지능은 하드웨어가 필수이다. 인공지능을 만들려면 거대한 데이터센터에서 알고리듬으로 데이터를 학습해야 하고, 작동을 하는 단계에서는 엄청난 양의 전기가 소모된다. 인터넷에서 연결되고, 중앙에서 처리하고, 사용자는 질의하고 결과를 보는 방식이다. 영화에서처럼 독립적으로 운용되는 인공지능은 없으며 가까운 미래에도 그럴 것이다.
인간성 위협에 대한 불쾌감
사람들은 생명과 비생명을 명확히 구분하려는 경향이 있다. 생명이 있더라도 파리와 인간이 동등한 존재라고 생각하는 사람은 거의 없을 것이다. 그런데 인공지능은 그 경계를 모호하게 만든다. 인공지능에게는 생명이 없는 걸 알지만 의식이 있는 것처럼 느껴진다. 인간 고유의 특성이라고 여기지는 것들, 예컨대 감정과 창의성에서 인공지능은 이미 인간을 앞서고 있다. 유발하라리는 감정도 패턴이기 때문에 인공지능이 인간의 감정을 더 잘 다룰 수 있고 주장한다. 한 실험에서는 대학생들과 인공지능이 창의성 대결을 하고 인간 심사위원들이 평가하는 게임을 했는데 인공지능이 승리하였다. 인간의 영역이 침범당하고 있다. 뛰어난 인공지능은 우리 자신의 존재 가치에 위협을 느끼게 만든다. 인공지능이 모든 것을 할 수 있다면 인간은 무엇을 위해 존재하는지 의문을 품게 만들고 불안을 야기한다. 이것이 인공지능에 대한 또 하나의 거부감이다.
인공지능은 우리의 삶을 풍요롭게 만들 수 있는 잠재력이 있지만, 동시에 여러 가지 사회적, 윤리적 문제들을 발생시킬 수도 있다. 대중의 인식은 인공지능 개발자와 정부기관의 규제에 영향을 미치기 때문에 중요하다. 인공지능을 긍정적인 방향으로 활용하고 위험을 최소화하기 위해서는 대중의 이해와 참여가 필요하다.
The uncanny valley by Masahiro Mori, 2013
Fear of AI, 2022
