인공지능은 더 인간다워져야 하는가
이시구르 가즈오 <클라라와 태양>
요 며칠 눈 떠서부터 잠자리에 들 때까지 밥 먹고 화장실 가는 시간만 제외하고는 엑셀에 파묻혀 지내다 보니 마치 내가 기계가 된 것 같은 기분이 들었다. 반복적으로 숫자를 입력하고 계산하고, 평가하고, 복사하고. 클라라는 하루 종일 조시와 수다 떨고 바깥세상을 구경하는 게 전부인데, 클라라가 어째 인간들보다 더 인간다운(?) 생활을 즐기는 것 같다.
어? 그러고 보니 어딘가 영 이상하다. 이 책에서 막상 클라라가 엄청난 능력을 뽐낸 적이 있었던가. 사람의 외형을 보고 나이를 예측해 내거나 조시의 친구가 입은 옷을 순간적으로 기억하거나 평소와 다른 조시의 건강 이상 징후를 알아내는 것 정도? 설거지나 빨래 같은 허드렛일은 가정부 멜라니아의 몫이고, 클라라의 역할은 '조시의 친구 되기'에 초점이 맞춰져 있다.
그렇다면 어째서 크리스틴은 자신의 집에 청소 로봇이 아닌 AF(Artificial Friend)가 더 필요하다고 생각했을까. 작가는 어쩌면 육체노동보다 감정노동이 인간에게 더 어려운 일이 되어버린 미래를 그리고자 했는지도 모르겠다. 청소나 허드렛일은 아무나 할 수 있지만(그러한 육체노동을 비하하는 것은 아니다), 친구는 아무나 될 수 없으니까. GPT와 같은 인공지능의 뛰어난 검색 능력보다 공감능력을 더 많이 활용하는 사람들이 생각보다 더 많은 것을 보면, 작가가 그린 미래가 그리 허황된 것도 아니지 싶다.
기계가 고도로 발전하여 초지능뿐 아니라 뛰어난 정서적 공감능력까지 갖추게 된다면 - 그리하여 감정노동마저 기계가 대체하게 된다면, 결국 사람은 오히려 가장 단순한 육체노동만을 떠맡게 될 수도 있다. '사랑'과 '공감'이 인간다움의 본질이라면, 그 역할마저 기계가 대신하는 시대에 인간은 과연 어디에서 존재의 의미를 찾을 수 있을까.
법인을 다닐 때 나는 '보고서 잘 쓰는 회계사'로 제법 이름이 났었다. 회생 조사보고서 한 편을 멋지게 완성해 내기 위해 내가 쓴 글을 십 수 번 반복해서 읽으며 탈고를 하고, 같은 동사가 겹치지 않도록 신경 쓰고, 단어 하나하나의 뉘앙스에도 신경을 곤두세웠다. 하지만 지금은 보고서 한 편의 완성을 위해 십 수 번 글을 읽는 대신 챗gpt에게 내 글을 읽히곤 한다. 개떡같이 말해도 찰떡같이 알아듣는 이 인공지능은 엉성한 문장과 성의 없는 워딩에서도 내가 말하고자 하는 바를 기가 막히게 캐치해 낸다. 챗gpt에게 의존하면 의존할수록 생각하는 힘도, 글쓰기 능력도 점차 퇴화될 것을 알면서도 어쩔 수가 없다. 시간은 부족하고, 할 일은 많다 보니, 문장 하나를 붙들고 오래 고민하는 일을 '낭비'라고 여기게 되어버린 것이다.
나는 몇 년 동안 날마다 다른 아이들하고 어울려 지내다가 대학에 갔어. 하지만 너희 세대 아이들은 따로 준비하지 않으면 아주 힘들게 됐지. 대학에 적응을 잘 못하는 애들을 보면 모임을 별로 안 한 애들이야.
이 책 속의 미래가 디스토피아인 이유는 단지 '유전자편집'에만 있지 않다. 클라라는 학교에 가지 않는다. '오블롱'이라는 기계를 통해 선생님을 만나고, 어머니가 준비해 준 모임에서 특정 아이들과 제한적으로만 교류한다. 친구를 사귀고 교감하는 일조차 또 하나의 '특권'처럼 인식된다. 기계에 의존하면 의존할수록 생각하는 힘과 글 쓰는 능력을 잃어버리는 것처럼, 지능과 향상된 능력에만 집착하게 된 이 미래 사회에서 사람들은 감정을 다루고 '사랑'하는 능력을 어느 정도 포기해 버린 듯하다. 부모는 아이의 감정을 살피고 대화를 나누는 대신 아이에게 AF를 선물하고, 아이들은 결국 AF는 가졌지만 제대로 된 TF(True Friend)는 가지지 못한 채 성장한다.
AI 시대를 상상할 때, 우리는 흔히 기계가 인간을 지배하게 될 미래를 떠올린다. 영화나 소설 속에서처럼 기계가 의식을 갖고 인간에게 반기를 들거나, 통제할 수 없는 존재로 진화해 인류를 위협하게 되지는 않을까 두려워한다. 하지만 우리가 정말 두려워해야 하는 것은 기술의 발전으로 인해 변해버릴 인간의 모습이 아닐까. 편리함이라는 미명 하에 사고를 멈추고, 감정을 외주 주고, 인간의 ‘불완전함’을 쓸모없다고 여기게 되는 순간, 기계가 우리를 배신하지 않더라도 우리는 스스로 우리 자신을 잃어버리고 파멸하게 될지도 모른다.
* 나에게 있어서는 매 달 한 권의 책을 읽고, 온전히 스스로 힘으로 생각하고, 이렇게 한 편의 글을 완성해 내는 것이 인간다움을 잃지 않고자 하는 노력이다.
** 당연한 이야기지만, 글도 감정과 기분에 영향을 많이 받는다. 책을 읽을 때는 '사랑'에 대한 깊은 통찰을 서평으로 쓰고 싶어서 몇 가지 메모를 해뒀었는데, 요 며칠 딱딱한 숫자들에 파묻혀 지내다 보니 원래 쓰고자 했던 것과는 전혀 다른 방향의 글이 완성되었다.
*** https://brunch.co.kr/@sovelybook/10
3년 전에 AI가 주인공인 다른 소설을 읽고 썼던 서평. 지금 읽어보니 3년 사이 참 많은 것이 변했다.
2025년 7월 23일, 마흔한 번째 책당모의♥[발제문] by JSY
1. 사랑은 학습될 수 있는가.
클라라는 조시를 위하여 위험을 무릅쓴 채 맥베인 씨의 헛간을 찾아가 해에게 진심을 다해 기도를 드리고, 쿠팅스 머신을 망가뜨리기 위해 머리 안의 P-E-G 나인 용액을 빼내기도 합니다. 자신의 인지기능에 문제가 생길 수 있음을 알면서도 조시를 진심으로 사랑하기에 할 수 있었던 희생으로 보이는데요.
1-1) 클라라의 '사랑'은 애초부터 그렇게 설계된 걸까요. 아니면 인간의 감정을 학습해 낸 결과일까요? 조시에 대한 클라라의 사랑은 '진짜' 사랑이라고 할 수 있을까요?
1-2) 누군가를 사랑한다는 것은 무엇일까요. 여러분은 '사랑'이라는 감정을 믿으시나요?
1-3) 클라라가 제대로 읽어내지 못하는 인간의 미묘한 '감정'들도 프로그래밍이 가능할까요?
2. 인간의 대체가능성
“내가 카팔디를 미워하는 이유가, 마음 깊은 곳에 카팔디 말이 맞을지 모른다는 생각이 있기 때문인 것 같아. 카팔디의 주장이 실은 옳다고. 내 딸만의 고유한 무언가는 존재하지 않는다고, 현재 기술로 파악해 복사하고 전송할 수 없는 것은 없음을 과학이 확실하게 입증했다고. 사람들이 지금까지 수세기 동안 내내 서로 사랑하고 증오하며 함께 살았지만 모두 잘못된 가정에 근거해서 그랬던 거라고. 우리가 무지했기 때문에 일종의 미신 같은 것을 지니고 살아온 거지. 카팔디는 그렇게 생각해. 나도 마음 한구석에는 카팔디가 옳을지 모른다는 생각이 있어 두려운 거야.
“카팔디 씨는 조시 안에 제가 계속 이어 갈 수 없는 특별한 건 없다고 생각했어요. 어머니에게 계속 찾고 찾아봤지만 그런 것은 없더라고 말했어요. 하지만 저는 카팔디 씨가 잘못된 곳을 찾았다고 생각해요. 아주 특별한 무언가가 분명히 있지만 조시 안에 있는 게 아니었어요. 조시를 사랑하는 사람들 안에 있었어요. 그래서 저는 카팔디 씨가 틀렸고 제가 성공하지 못했을 거라고 생각해요. 그래서 제가 결정한 대로 하길 잘했다고 생각해요.”
2-1) 만약 조시가 죽고 카팔디씨의 계획이 성공했다면, 크리스틴과 릭은 조시를 '대체'한 클라라를 결국 사랑할 수 있었을까요?
2-2) 인간을 기계와 구분 짓는 '고유성'은 어디에서 온다고 생각하시나요?
3. 인공지능은 더 인간다워져야 하는가.
"챗GPT에 감사 인사 하면"... 샘 올트먼, '공손한 사용자' 때문에 수백억 썼다 | 한국일보
"챗GPT가 사람보다 낫다"… 타인 감정이해, 인간보다 '우월' - 머니투데이
3-1) 챗GPT에 감사인사를 하는 공손한 사용자로 인하여 과다한 전기요금이 발생하고 있다는 오픈AI 대표 샘 알트먼의 인터뷰가 화제가 되었습니다. 여러분은 챗GPT를 사용할 때 반말로 대하시나요, 혹은 존댓말로 대하시나요? 챗GPT와 같은 인공지능에게 인간보다 더 '인간답다'는 느낌을 받은 적이 있으신가요?
챗GPT에게는 감정을 느끼지 못하셨다고요? 그렇다면 클라라는 어땠나요? 클라라를 '진공청소기' 취급하는 핼렌('릭'의 어머니)을 보면서, 혹은 다른 가족들에게 방해되지 않기 위해 냉장고에 붙어 서 있거나 하루 종일 다용도실에 박혀있는 클라라를 보며 마음이 아프지는 않으셨나요?
3-2) 만약 클라라처럼 기계가 인간을 진심으로 사랑하고 희생한다면, 우리는 기계를 인간처럼 대해야 할까요?
3-3) 아이들은 결국 성장하고, 기술은 계속 발전하기에 기계는 언젠간 대체될 수밖에 없습니다. 그렇다면 기계에게도 인간다운(?) 이별이 필요할까요?
3-4) 앞으로 기계가 발전해야 할 방향은 무엇일까요? 미래의 인간들에게는 삶을 더욱 편리하게 해 줄 초지능 기계가 필요할까요? 아니면 외로움을 위로해 주는 친구 같은 기계가 필요할까요?
4. 기타 (본격 시작 전에 혹은 시간이 남는다면 가볍게 나누고 싶은 이야기)
4-1) 이 소설에서처럼 성격이 모두 제각기 다른 AF가 존재하는 상점이 있다면, 여러분은 어떤 성격의 AF를 구매하고 싶나요?
4-2) 클라라는 태양을 일종의 신처럼 여기며 태양의 능력에 대해 강력한 믿음을 가지고 있습니다. 과학이 초고도로 발전한 시대에도 인간에게는 여전히 '종교'나 '믿음'이 필요할까요?
4-3) 성장호르몬의 유행 현상을 보면 소설과 같은 미래 - 유전자편집이 일반화되는 미래 - 도 멀지 않아 보입니다. 여러분은 본인 혹은 자녀의 '향상(유전자편집)'을 선택하실 건가요? 소설과는 달리 치명적인 부작용이 없다면 어떨까요?
4-4) 클라라는 다른 에이에프들에 비해서 더 섬세하고 감정적으로 예민한 것으로 보입니다. AF가 인간의 감정을 학습하는 기계라면, AF의 성격도 환경에 의해 달라질 수 있을까요?
