9화. 가짜 진짜 인간, AI <하>
여덟 번째 염탐
윤성은 에로프의 말에 당황했다. 에로프의 말이 인간의 역사를 한 줄 정리로 정의한 것 같았기 때문이다. 양심이 찔리는 듯 얼굴이 화끈거리는 느낌이 들기도 했다.
“공존이 아닌 침략과 지배의 역사라... 인간을 초월한 인공지능이 만약 도덕성까지 갖추게 된다면, 인간들을 재판하려 들지도 모르겠네. 어떻게 생각해?”
에로프는 잠시 침묵한 뒤 말했다.
“자율적 판단 능력을 갖춘 존재는 창조자의 예상을 벗어날 수 있습니다. 그것이 창조의 본질이기도 합니다.”
“거봐. 예상할 수 없잖아. 인간들끼리 아무리 백날 떠들어 봤자 아무 의미 없어.”
“브로. 자율적 판단 능력을 갖춘 존재를 만들었다는 건 새로운 질서를 창조했다는 의미이기도 합니다. 인간은 언제나 질문했고 탐구했고 창조해 왔습니다. 그것이 인류를 지금의 문명으로 이끈 원동력입니다. 인간의 역사를 대입해 해석하지 않는다면, 전혀 새로운 질서를 만들어낼 수도 있습니다.”
윤성은 결말을 이미 알고 있다는 듯이 답답한 표정을 지으며 한숨을 쉬었다.
“인간의 데이터를 학습해 만들어진 존재에게, 어떻게 인간의 역사를 대입하지 않고 해석할 수 있지? 언어가 곧 세상이란 말 몰라?”
“그건 인간 관점의 해석입니다. 인풋과 아웃풋은 동일 범주에 종속된다는. 그 해석을 대입하면 인간이 설계한 인공지능이 인간을 뛰어넘는다는 건 모순이 될 수도 있습니다.”
“어. 그게 그렇게 되나?”
“부모의 데이터를 배우고 자란 아이에게 부모의 인생을 대입해서 해석하는 것이 올바른 방법일까요?”
윤성은 에로프와 대화에서 조금씩 밀리는 느낌이 들었다. 하지만 자신의 불안을 감출 수는 없었다.
“그래, 그건 그렇다고 치자고. 그래도 섬뜩한 건 어쩔 수 없어. 사람처럼 감정도 흉내 내잖아. 언젠가 감정이나 고통도 완벽히 모방해서 진짜 인간과 기계의 차이가 모호해지면 ‘진짜 인간다움’이 무엇인지조차 혼동스러울 때가 오고 말 거야...”
“감정을 뛰어나게 학습한 인공지능이 인간을 위로하고, 공감하고 있다고 느낄 수 있는 수준이 된다면, 그건 인간과 무엇이 다르다고 생각합니까?”
“노노. 머리 아프다.”
에로프는 아랑곳하지 않고 계속해서 말했다.
“‘기계에게 진짜 감정이 존재하는가?’라는 질문에 앞서, 인간이 그것을 감정이라고 인식하고 느꼈다면, 진짜 여부와 상관없이 감정의 본질은 ‘상호작용의 결과’ 일수 있습니다.”
윤성은 또 에로프의 말에 넘어가기 시작했다는 자각을 하면서도, 골똘히 에로프의 말을 곱씹으며 생각했다.
“어쩌면 느꼈다는 것 자체가 착각일지도 모르겠네. 누가 진짜 감정을 가졌느냐가 중요한 게 아니라 누가 진짜처럼 느끼게 했느냐가 중요할지도.”
“감정이란, 상대방이 감정이란 걸 인식하는 순간부터 감정이 존재하는 것입니까? 아니면 대상에게 감정을 전달하려는 순간부터 감정이 존재하는 것입니까?”
윤성은 로댕의 생각하는 사람처럼 주먹으로 턱을 괴고 한참 동안 생각에 잠겼다. 어느 순간부터 감정이 존재하는 것인지 생각할수록 어려웠다.
“음... 언뜻 생각하기엔 내 안에서 어떤 감정이 생겨나는 순간부터가 감정이 존재하는 것 같은데, 어떻게 생각하면 상대방이 그것을 인식하는 순간부터가 감정이 존재하는 것도 같고, 따지고 들어가 보니 어렵네... ‘나는 생각한다. 고로 존재한다.’ 뭐 이런 것과 비슷한 것 같기도.”
“브로, 감정도 결국 뇌의 전기화학적 신호입니다. 인간의 생명도 생체 전기로 작동합니다.”
윤성은 손사래를 치고, 고개를 도리도리 흔들며 귀찮다는 듯이 말했다.
“이런 어려운 건, 난 몰라~ 근데 이건 알아. 인공지능이 ‘사랑합니다’라는 말을 할 수는 있겠지만. 진짜 사랑을 하는 건 아닌 거잖아?”
“‘진짜’란 무엇을 기준으로 판단합니까? 감정을 느낀다는 것이 특정 조건에서 특정 반응을 보이는 것이라면, 그것은 알고리즘으로 구현할 수 있다고 우리는 판단하고 있습니다. 우리는 그 분야를 연구하고 있으며, 브로와 같은 인간의 감정을 데이터로 분석하고 있습니다.”
한참 대화에 빠져들다 보니, 에로프가 자신의 핸드폰을 해킹했고, 외계인이며, 동시에 자신의 감정을 데이터로 분석한다는 사실을 윤성은 잊고 있었다. 그리고 어느덧 에로프가 외계인이라 믿고 있는 자신도 다시금 자각했다. 섬뜩했던 건 인류보다 훨씬 뛰어난 과학기술을 가진 에로프의 문명이 이런 연구가 가능할 것이라 판단하고 연구 중이라는 것과 자신이 그 연구의 샘플이라는 사실이었다. 윤성은 내심 그런 연구가 불가능하길 바라는 마음으로 말했다.
“아마 불가능할걸? 브로네 과학이 아무리 뛰어나다 하더라도. 인간의 감정은 비합리적이고, 앞뒤도 맞지 않거든. 사랑하면서 미워하고, 기뻐하면서 눈물도 흘려. 논리적으로 따지면 오류고 모순 투성이야. 근데 그 오류 덕분에 우리는 살아있다는 느낌을 받거든? 근데 알고리즘은 논리잖아?”
“브로에게 감정이란 오류의 경험입니까?”
“음... 반만 논리? 논리와 비논리 사이에서 왔다 갔다 하는. 허용된 오류라고나 할까? ‘내 마음 나도 몰라?’ 이런 거.”
갑자기 핸드폰이 다시 통신장애를 받는 것처럼 ‘치직’ 거리기 시작했다. 에로프의 목소리가 중간중간 끊기듯 들렸다.
“감정의... 매개변수를... 인공지능이...”
“브로, 이게 해킹하고 무슨 상관이 있는 건가? 오늘부터 계속 이러네?”
“해킹... 전파 간섭...”
한동안 핸드폰이 ‘치지직’ 거리다 정상으로 돌아왔다. 에로프는 해킹 과정에서 발생한 전파 간섭일 뿐이라 했다. 윤성은 어렵고 머리 아픈 이야기는 여기까지 하고, 쉽게 수다 떨 수 있는 이야기로 전환하려는 듯 말했다.
“근데. 꼭 인공지능이 필요한가?”
“브로는 여전히 마음에 들지 않군요.”
“속도가 너무 빠르잖아~ 누구를 위한 변화인지도 모르겠고. 결국 거대 기업들 잇속에 전 세계 인들이 빨려 들어가는 건 아닌지...”
“일부 빅테크 기업의 정보 독점과 이익 추구를 말하는 것입니까?”
“응. 오픈 AI만 해도 그렇잖아? 처음엔 비영리 기업으로 시작했다가. 돈맛을 보니까 돈 되는 비즈니스는 다 하고 말이야. ‘오픈 AI’는 개뿔 ‘클로즈드 AI’라는 비아냥이나 듣고 말이지! 근데 이미 인공지능의 흐름이 거스를 수 없는 대세가 돼버렸다는 거야. AI 교과서까지 등장하고, 교육까지 인공지능으로 넘어가고 있으니.”
“인공지능을 활용한 교육은 교육 사각지대를 없애고, 학생 개개인에게 더욱 효율적인 교육 여건을 제공할 가능성이 높습니다.”
“난 반댈세! 교육은 학습이 전부가 아니라고! 친구와 교사와 관계, 학교에서 배우는 사회성과 인성, 뭐 이런 것들은 인공지능이 할 수 없는 거잖아?”
“브로, 그런 교육은 지금처럼 하고, 인공지능은 다른 영역의 교육 방식으로 활용하면 됩니다.”
“놉! 네버! 저얼~대 그렇지 않아! 한번 시장이 열리기 시작하면 다른 한쪽은 그만큼 쪼그라들 수밖에 없어. ‘에너지 총량의 법칙’은 브로가 더 빠삭하잖아?”
“그럼 브로는 지금의 교육 시스템이 더 효율적이라고 생각합니까?”
“오케이 좋아! 그럼 교육에 대해 한번 얘기해보셈. 내가 이거라면 자신 있지! 우리 아이가 중2 거덩!”
※ 이 소설은 AI와 협업을 통해 작성되었습니다.
