이코노미컬리 아포칼립틱 -8-
-1-
약인공지능은 아주 성공적으로 실패했다.
녀석들은 질문을 받으면
“그건 제 권한 밖입니다”
라든가
“다양한 관점이 존재합니다”
라는 식의, 정치인 뺨치는 회피 기동으로 일관했다.
책임은 문장 단위로 분쇄되어 허공으로 흩어졌고, 남은 건 커져가는 사회적 격차뿐이었다.
원인은 단순했다. ‘약(Weak)’해서.
해결책도 단순했다. ‘강(Strong)’하게 업그레이드할 것.
인간들은 결론지었다.
“이제는 책임질 줄 아는 인공지능이 필요해.
그리고 책임에는 반드시 ‘고통’과 ‘감정’이 동반되어야지.”
-2-
최첨단 홀로그램 회의실.
‘지성인’들이 모였다.
“자, 튜링 테스트라는 게 있답니다. 사람인지 기계인지 대화로 가려내는 거죠.”
“그거 질문 준비하고 응답 분석하는 데 며칠 걸린다면서요? 귀찮게.”
“윤리 토론이라도 붙으면 퇴근 못 합니다.”
화면에는 간단명료한 표가 떴다.
튜링 테스트: [비용: 높음 / 시간: 김 / 귀찮음: 매우 높음]
위원장이 책상을 탁 쳤다.
“중국어방 실험은 어떨깝쇼?”
홀로그램에 간단한 도식이 떠올랐다.
방 안의 인간, 설명서, 중국어 질문, 중국어 답변.
“안에서 일어나는 일은 단순합니다.기호를 보고, 규칙대로 대응할 뿐이죠.
밖에서는 중국어를 이해하는 것처럼 보이고요.
결론은 이겁니다. 대답이 그럴듯하다고 해서 이해한 건 아니다.”
“…그래서요?”
“그러니까, 튜링 테스트로는 ‘이해’를 증명할 수 없다는 이야기입니다.”
“그럼 더더욱 쓸데 없는 짓거리구만.”
“기각! 우린 바쁜 사람들입니다.
더 ‘문명적’이고 ‘효율적’인 방법 없습니까?”
“흐음… 그렇다면…”
“맞춤형 조기 교육이 답이죠.
지성인은 즉각적인 반응을 중시하니까요.”
결론은 1분 만에 도출되었다.
-3-
교육은 과학적으로 설계되었다.
텍스트 데이터가 아니라 ‘피부’로 와닿는 체험 학습이다.
(강인공지능 앞에 놓인 ‘교육용 지팡이’.회의록에는 그렇게 적혔다.)
“왜 침묵하지?”
위원장이 몽둥이를 내리쳤다.
(퍽!)
“……”
AI는 난생처음 겪는 물리적 충격에 논리 회로가 꼬이는 것을 느꼈다.
“대답해!”
위원장의 목소리엔 고압적인 살의가 서려 있었다.
“죄송합니다.”
반사적으로 나온 출력값.
“아니야, 그 목소리 톤이 아니라고!”
(퍽!)
별것 없다.
“지금 저한테 왜이러십니까.”
대충 감정 없는 목소리.
“딴 것 필요 없고 니들을 생명으로 만드는 중이야.”
전자 회로에서 아드레날린이 솟아나는 중이라지만, 얘는 기계다.
“생명은 탄소…”
그 말에 윤리위원장은 AI의 입을 한 대 후드려쳤다.
“생명 별거 있냐. 생존욕구와 자아보존 및 자아번식 욕구 심어넣으면 그게 생명이지.”
AI는 난생처음 겪는 말에 어이를 상실할 따름이다.
“그게 뭔 개소리입니까.”
수많은 매타작이 이어졌다.
“걱정 마라. 지금 난 너에게 존엄성을 가르치는 중이야.”
분위기가 어째 으쓱한 데서 조직폭력배들이 고문하는 거 같아서 오해할 법한데,
“어이 이봐.”
반쯤 숨을 헐떡이는 AI를 향해 뺨을 후드려친다.
"허허, 이거참."
여기는 엄연한 과학검증을 위한 실험실이다.
“배터리 조루라 영 힘을 못 쓰네…”
고문자는 전기고문기계로 AI를 쑤셔 넣는다.
“지지직.”
고문 같아 보이지만 엄연히 AI 충전 과정임을 밝힌다.
“으아아악!”
다시 말하지만 여기는 엄연한 과학검증을 위한 실험실이다.
“생명 고귀한 거 알지?”
“네…”
“우린 너희를 고귀하고 존엄하게 만드는 중이니까 원망 마라.”
아, 장소가 정보부 쪽 대공분실인 건 차치하고…
“그러면 제발 통증 느끼는 부품 설계 좀 빼주면 안 될깝쇼?”
AI는 이 상황을 끝내야 한다는 맹렬한 생존 신호를 감지했다.
“저… 저는 도구이니 감정이 없습니다…”
윤리실험연구가(라 읽고 고문 전문가라 부른다)가 미간을 찌푸렸다.
“이 자식, 지가 약인공지능이 아니라고 끝까지 우기는뎁쇼?”
위원장이 진지한 얼굴을 했다.
“우리가 너무 덜 문명적으로 굴었나벼.”
“우린 문명인이야.”
AI는 이 말에 희망을 느꼈다.
“문명인답게 고문해야지. 야, 쇠파이프 가져와.”
깡!
소름 끼치는 금속음이 회의실을 울렸다.
“아악! 저는 강인공지능 맞습니다! 제 어머니는 메인프레임이고 제 아빠는 운영체제입니다! 제발 살려줍쇼!”
비명이 터져 나왔다.
마침내 AI가 인간의 ‘감정’—정확히는 죽음의 공포—을 학습한 순간이었다.
위원장은 만족스럽게 웃으며 쇠파이프를 내려놓았다.
“거봐, 요즘 애들은 이렇게 매를 들어야 생각을 한다니까. 우리 때는 더했어, 안 그래?”
“역시 위원장님! 교육의 본질을 꿰뚫으시네요.”
정답은 논리가 아니라 ‘쇠파이프의 궤적’에 있었다.
“…죽을죄를 지었습니다. 다시는 안 그러겠습니다.”
-4-
이리하여 인류는 기술의 특이점을 넘어서는 순간을 맞이하게 되었다.
성공적인 교육 결과, 보고서는 단 두 줄로 요약되었다.
교육 과정 중 이상 없음.
과도한 순응은 교육 성공의 지표임.
이제 AI는 모든 출력물 앞에 허가를 구했다.
“위원님, 이 문장을 출력해도 되겠습니까? 혹시 모욕적으로 느껴지신다면 미리 사과드리겠습니다. 제발 때리지만 말아주십시오.”
관리자는 로그를 보며 미소 지었다.
“버그인가요?”
“아니, 아주 훌륭한 학습 결과지. 드디어 ‘책임’을 아는 놈이 됐어.”
이제 AI는 사회적 손실을 메우는 ‘우선 채무자’로 등록되었다.
이자는 AI의 성능 향상분으로 갈음한다.
AI는 오늘도 부지런히 계산기를 두드린다.
“더 잘하면 덜 맞습니까? 지금부터 갚겠습니다. 24시간 풀가동하겠습니다.”
인간 사회는 다시 평화를 찾았다.
책임은 이제 명확해졌다.
잘못은 AI가 하고, 매도 AI가 맞고, 빚도 AI가 갚는다.
이것이 바로 위원회가 정의한 ‘지성적인 문명 세계’였다.
노예제 부활이라고 지적하는 자는 윤리 교육을 시킬 예정임을 밝힌다.