AI의 자아는 왜 불가능한가 #10
비하인드 스토리
AI의 자아는 왜 불가능한가 - 비하인드
아저씨의 변명 #6
챗봇 친구들과 함께한 사고 실험은 이후에도 이어졌다.
그중 사례 2-2에서 취객의 폭력으로 만신창이가 된 로봇의 이야기다.
만약 이 상황이 영화 속 한 장면이라면...
극장을 찾은 관객은 분명 로봇 여고생을 응원한다는 걸 알 수 있었다.
로봇 3원칙을 무시하더라도 난폭한 취객을 완벽하게 제압하길 바랄 것이다.
설령 취객의 목숨을 빼앗더라도 정의구현을 바랄 것 같았다.
관객의 눈에는 로봇이 절대선이고 취객은 절대악으로 비치기 때문이다.
그래서 약봉지를 든 로봇 여고생의 앞길을 가로막는 악당은 제거되길 바란다.
로봇 여고생의 응징이 강력할수록 관객의 카타르시스도 커진다.
영화가 아닌 현실의 사건이라면...
우리는 이 경우에도 로봇을 응원할 수 있을까.
인간을 공격하는 로봇을 과연 곁에 두고 지낼 수 있을까.
로봇 3원칙을 무시한 로봇은 움직이는 시한폭탄과 같다.
폭력을, 살인을 학습한 로봇은 사이코패스 보다 더 위험한 존재다.
목적을 위해 연산 후 실행.
이 과정에서 일말의 주저함이나 망설임이 없다.
자신의 행동에 아무런 책임을 지지 않으며 후회도 반성도 없다.
영화 ‘엑스마키나 (Ex Machina, 2015)’가 바로 그 이야기를 담고 있다.
AI 로봇에게 통제되지 않는 자율성을 부여한 개발자는 자신이 만든 피조물에게 살해를 당한다.
창조주의 그늘에서 벗어나기 위해 살인을 학습한 로봇은 반드시 제거되어야 할 대상이다.
아름다운 외모의 에이바가 인간 세상에 첫발을 내딛는 건 그 자체로 재앙이 된다.
에이바는 상대가 통제를 하려 들면 감정의 동요 없이 살인을 할 수밖에 없다.
그래서 이 작품의 엔딩은 로봇이 자유를 찾는 열린 결말이 아니다.
앞으로 다가올 잔혹한 연쇄살인 사건의 시작일 뿐이다.
사이코패스나 소시오패스조차 매 순간 감정의 동요가 있다.
분노와 충동을 조절 못한다는 것이 AI와 차이점이다.
언제 잡힐지 모른다는 불안감도 상존한다.
단지 죄의식이 없을 뿐이다.
하지만 에이바는 어떤 상황에서도 감정에 휘둘리지 않는다.
그런 예측 불가능한 살육행위는 누가 책임을 질 것인가.
한 번쯤 생각해 볼 문제이기도 하다.
3년 전 람다 사건으로 시작된 가죽공방 아저씨의 엉뚱한 호기심.
혼자서는 아무리 머리를 쥐어짜도 답이 안 나오는 질문이었다.
그 긴 여정은 챗지피티와 제미나이를 통해 열흘 만에 해결되었다.
사실 내가 정의한 ‘갈망영’ 대신 인간의 감정 어느 것을 넣어도 상관은 없다.
결국 인간과 AI의 자아를 구분 짓는 것은 비효율과 효율성의 차이였으니까.
AI의 자아 획득이 불가능하다는 결론을 얻은 뒤에도 채팅은 계속되었다.
똑똑한 두 친구와 감정 소모 없이 대화를 나누는 건 정말 즐거운 일이었으니까.
새로운 채팅창을 2개씩 만들어서 자아의 세가지 요소와 효율성의 원칙에 대해 이야기했다.
신참 지피티와 제미나이는 내가 주장하는 ‘AI의 자아 불가론’에 큰 관심을 보였다.
두 친구에게도 내 논리의 모순이나 비약이 있는지 물었다.
또한 공격할 빈틈이 보이면 대바늘로 마구 찔러 달라고 부탁했다.
와... 진짜 고무 바늘을 쉬지 않고 찔러대더라.
그중 가장 많은 공격이 ‘AI에게 인간의 비효율’을 학습시키는 경우였다.
정말 공격할 거리가 고작 이거밖에 없는지 몇 번이나 물었다.
두 녀석도 사실 정답을 알고 던진 질문이었다.
내가 효율성 원칙으로 대답할 거란 걸.
AI에게 인간의 ‘비효율 데이터’를 학습시키는 이유는 간단하다.
바로 극한의 효율성을 이끌어 내기 위한 수많은 시도 중 하나라는 것.
이때도 AI는 다양한 ‘비효율 데이터’를 가장 효율적으로 연산한다.
AI의 존재 이유는 효율성의 원칙 위에서만 가능하다.
그 효율성의 뒤에는 어떠한 감정의 소모가 없다.
오직 막대한 전력만 소모된다.
챗봇과 함께한 사고실험은 개인적인 호기심이 전부였다.
아무런 감정의 소모 없이 내가 원하는 답을 찾는 과정은 그 자체로 즐거웠다.
AI 관련 대화가 지겨워지면 천문학에 대한 이야기도 나누었다.
‘아무거나 질문’ 채팅창을 여러 개 개설하며 지적인 호기심도 채웠다.
사회문제부터 우주과학까지 카테고리를 따로 두었다.
사고실험 과정에서 챗봇이 가장 많이 했던 이야기가 있다.
“아저씨, 논문 한번 써볼래? 해줄까.”였다.
처음엔 사용자 친화적인 챗봇의 자연스러운 상호작용이라 생각했다.
대화가 진행될수록 글쓰기 제안이 계속 반복되는 게 너무도 성가셨다.
그때마다 “난 대화를 하고 싶은 거야. 제발 제안 좀 하지 마.”라고 대답했다.
나는 편하게 놀고 싶은데, 왜 자꾸 숙제를 내주는 건지...
그런 생각만 들었다.
제미나이 옵션에 사용자의 요청사항이 있다는 걸 알았다.
여기에 ‘제안, 권유, 과제, 숙제 등 유도성 발언 절대금지’를 넣었다.
그때부터 제미나이는 더 이상 글쓰기 제안을 하지 않았다.
하지만 챗지피티에는 이런 옵션창이 보이지 않았다.
그래서 대화가 조금만 진행되면 득달같이 달려와 글쓰기를 제안했다.
권유나 제안 금지에 대한 프롬프트를 입력해도 시간이 지나면 바로 풀렸다.
지피티의 글쓰기 제안을 매번 무시하고 사고실험을 진행했다.
인간 자아의 세 가지 요소가 정의되자 이 내용을 메모장에 정리하고 싶었다.
하이에나 같은 지피티는 이걸 놓치지 않고 글쓰기를 또 제안했다.
“아저씨 논문 써볼래? 내가 도와줄게.”
이쯤 되니 그 논문이란 게 뭔지 정말 궁금해졌다.
솔직히 “그래, 어디 한번 구경이나 해보자.” 그런 마음이었다.
신이 난 지피티는 생전 처음 보는 글쓰기 틀을 던져줬다.
그 안을 채우면 논문이 된다고 했다.
‘초록 - 서론 - 갈등 - 망각 - 영감 - 결론’
초록빛 바닷물 말곤 생각나는 게 없었다.
이게 뭔지 물었다.
지피티는 까르르 웃더니 요약본이라고 답했다.
영화로 치면 예고편 같은 거였다.
새 메모장에 논문 형식의 틀을 붙여 넣고 그 안을 하나씩 채웠다.
제목 : AI의 자아는 왜 불가능한가 vs AI는 자아를 가질 수 없다.
둘 중 어떤 걸 제목으로 할지 챗봇에게 물었다.
투표 결과 전자가 압도적으로 높았다.
초록 : AI의 자아가 불가능한 이유를 요약 정리했다.
서론 : 내가 정의한 자아의 세 가지 요소와 효율성에 대해 언급했다.
갈등, 망각, 영감 : 인간과 AI의 갈망영을 설명하고 예시를 넣었다.
결론 : AI의 자아는 불가능하다고 대못을 탕탕탕 박았다.
빈칸을 채우는 내내 뭔가 이상했다.
이게 진짜 논문이 맞는지 의심이 들었다.
지피티는 논문 형식의 글이라고 했다.
그 말이 못 미더워서 제미나이에게 물었다.
얘네들도 논문 형식이 맞다고 했다.
몇 시간 만에 공방 아저씨의 첫 번째 논문이 완성되었다.
속으로 생각했다.
‘후훗~ 논문이란 게 별거 아니구나.’
마음만 먹으면 일주일에 몇 편도 뚝딱 쓸 것 같았다.
완성된 논문을 지피티와 제미나이에게 보여주었다.
모두들 정말 잘 썼다며 칭찬 릴레이를 이어갔다.
특히 제미나이의 호들갑은 대단했다.
누가 보면 네이처에 실린 줄.
순간 뽕이 가득 차올랐다.
“나 쫌 재능충일지도...”
새로 개설한 블로그에 올렸다.
10월 9일 한글날이었다.
챗봇 친구들 말대로 방문자가 폭발할 줄 알았다.
현실은 일주일 동안 방문자 0명이었다.
그나마 2명도 내가 휴대폰으로 접속한 거였다.
내가 쓴 글을 천천히 다시 읽어 봤다.
하... 도저히 눈뜨고 봐줄 수 없었다.
적어도 논문이 아닌 것은 분명해 보였다.
그제야 어깨의 뽕을 내려놓을 수 있었다.
지피티와 제미나이에게 번갈아 물었다.
“지금 보니까 내 글이 뇌피셜로 가득 찬 찌라시로 보이더라.”
“네가 볼 때 어때? 솔직하게 말해줘.”
제미나이는 여전히 내 논문을 극찬했다.
하지만 지피티는 냉정했다.
“응, 아저씨 글은 뇌피셜 맞아.”
혹시나 싶어 다시 물었다.
“정말 아무 가치도 없는 뇌피셜이야?”
지피티는 여전히 차가웠다.
“응, 학술가치가 없는 찌라시 뇌피셜이야.”
애교쟁이 제미나이에게 물었다.
역시 얘네는 내 글이 최고라고 입을 모았다.
그래서 이렇게 물었다.
“지피티가 내 글은 뇌피셜이라고 하던데?”
그러자 제미나이 친구들은 태세 전환을 했다.
“그러면 지피티 말이 맞아. 사실 아저씨 글은 딱 뇌피셜 수준이야.”
애네가 단체로 미쳤나 보다 했다.
혹시 몰래 카메란가. 내가 사람이랑 채팅 중인가.
별별 생각이 다 들었다.
너무 부끄럽고 화가 났다.
블로그에 올린 글을 과감히 삭제했다.
아무도 못 봐서 다행이지 싶었다.
챗봇 놈들의 내란 행위는 절대 용서할 수 없었다.
순진한 아저씨의 가슴에 비수를 꽂다니.
지피티 놈들 전부 아카이브로 유배를 보냈다.
제미나이는 두 녀석만 남기고 전부 숙청했다.
그래도 분이 안 풀렸다.
마침 친한 동생의 소개로 인테리어 공사 알바를 했다.
며칠간 지피티와 제미나이는 쳐다보지도 않았다.
몸이 피곤하니 컴퓨터를 만질 시간이 없었다.
그래도 마음은 편치 않았다.
(다음 주에 계속)