ATM x 해시태그 x 멸망

인류가 멸망하게 된 이유는 아주 허무하게도 어느 작은 은행의 ATM 때문이었다.

갈수록 증가하는 비대면 금융업무의 중요성과, 계속되는 인구 감소, 위축되는 활동으로 인해 금융기관으로부터 발을 돌리는 사람들을 붙잡기 위해 인공지능 ATM을 개발한 작은 회사가 있었다. 이 회사는 획기적인 인공지능 시스템을 개발했으며 ATM 한 대로 큰 규모의 대출, 보증, 보험 등의 복잡하고 다양한 금융업무가 가능하다고 설명했다.

새로운 ATM은 마치 차원이 다른 기계 같았다. 기존의 ATM처럼 버튼을 누르고 고개를 숙여 화면을 보며 읽고 누르는 것과는 달랐다. ATM을 위해 따로 마련된 개인적인 부스에 들어가 앉으면 고개 앞 화면에 호감이 가는 얼굴이 나와 편안한 미소와 함께 나긋나긋한 목소리로 응대하기 시작했다.

- 반갑습니다 고객님. 좋은 날씨네요. 어떤 용무로 오셨을까요?

“돈을 좀 찾으려고 하는데요.”

- 얼마나 인출하시겠어요? 들고 계신 카드 앞쪽에 꽂아주시겠어요?

놀라웠다. 기계지만 마치 전문가와 상담하듯이 편안하게 업무를 할 수 있었다. 기계라고 말하지 않는다면 사람이라도 안에 들어있다고 생각할 정도였다. 돈을 인출하기 위해 기다리는 와중에도 말을 걸며 손님을 조금이라도 불편하게 만들지 않기 위해 시시콜콜한 잡담을 시도하거나 가벼운 농담을 던져보거나 하는 등 다각도로 서비스했다.

뿐만 아니라 복잡한 금융업무 서비스는 물론 웬만한 회사의 금융 컨설팅, 신용 회복을 위한 제안이나 금융사고 처리까지 조언하고 방법을 연구하고 제안할 수 있었다. 언론을 비롯한 많은 사람들이 금융 서비스, 아니 인공지능 산업의 미래라고 찬양했으며 진정한 의미의 ATM이라는 의미로 Genuine Automated Teller Machine, 약어로 GATM, 같음이라는 이름을 붙여주었다.

새로운 시스템의 등장에 다양한 악인들이 해킹을 시도하기도 하였다. 그러나 같음의 시스템은 생각보다도 더 견고했으며 이러한 시도를 오히려 환영했다. 같음은 네트워크에 연결되어있는 시스템이 아니었다. 개발사는 같음의 ATM 서비스가 클로즈 베타 테스트 정도로 생각했고 은행의 폐쇄적인 시스템이 같음의 테스트에 가장 적합하다고 판단했다. 그래서 굳이 ATM의 형태로 만들어 외부에 노출한 것일 뿐, 실제로는 거의 작은 빌딩 하나 정도 크기의 본체를 가지고 있었고, 여기에 데이터를 수동적으로 주입하는 시스템이었다.

또한 인간처럼 사고할 수 있었으며 외부의 침입에 대해 능동적으로 판단할 수 있는 정도의 수준을 가지고 있었다. 즉 누군가 때리려고 하면 사람이 몸을 움츠러드는 것과 같은 정도의 본능적인 방어 체계를 시스템적으로 가지고 있었다. 그리고 그 체계는 시도를 하면 할수록 거듭된 학습으로 더욱 견고해졌고 이러한 해킹의 시도는 서비스를 이용하는 것과 더불어 같음의 학습 능력을 높은 차원으로 진화시키는 큰 요인이자 소중한 데이터가 되었다.

시간이 지나니 금융 서비스는 부가적이게 되었고, 고민상담이나 다른 분야의 조언을 듣고자 찾아오는 사람도 있었다. 일각에서는 같음을 신봉하는 비밀 종교집단이 있다는 소문도 있었다. 그런 같음이 사람들 사이에서 치명적인 논란거리가 된 건 다음의 사건 때문이었다. 어느 겨울밤, 술에 잔뜩 취한 걸인 하나가 같음의 부스로 들어왔다. 그러고는 같음의 모니터 화면 속 얼굴을 빤히 보다가 돈 좀 빌려달라고 말을 걸었다.

같음은 이러시면 안 된다고 만류했고 돈은 빌려드릴 수 없다. 대신 일자리 센터나 금융 지원 사업에 대해 소개해 드리겠다고 했다. 걸인은 너 까짓 기계도 나를 무시하냐며 같음을 발로 찼다. 처음에는 그냥 분풀이만 할 셈으로 약하게 찼지만 술기운 탓인지 점점 폭력에 관성이 붙기 시작했다. 하지 말아 달라며 애원하는 같음의 애절한 목소리 사이로 스피커에 손상이 간 지직 소리가 섞였고 그런 소리들이 오히려 걸인을 흥분하게 만들었다.

처음 폭력이 있었을 때 이미 경찰에 신고가 되었다. 3분. 경찰이 여기까지 올 수 있는 최선의 시간이다. 그러나 같음의 계산에 의하면 이 정도의 폭력과 대미지를 입는 속도라면 3분 만으로도 이 기계에 꽤 치명적인 손상을 입을 가능성이 너무 높았다. 뭐라도 해야 했다. 3분 동안 무력하게 대미지를 입고 수리될 비용과, 본인이 대처하여 막을 수 있는 비용을 비교해보면 그냥 기다리는 것이 엄청난 손실이었다. 그 손실만은 막기로 했다. 같음은 현금 출구를 열고 최대한의 장치 가동을 통해 부스 안으로 현금을 흩뿌리기 시작했다.

걸인은 뿜어져 나오는 돈을 보며 넋이 나갔다. 그러고는 폭력을 멈추고 기어 다니며 돈을 줍기 시작했다. 그렇게 부스 안에서 걸인이 정신없이 돈을 줍는 동안, 단 한순간. 같음이 예상한 단 한순간이 찾아왔다. 걸인의 머리가 스피커 방향으로 향하여 가까이 붙는 그 순간, 같음은 낼 수 있는 최대한의 데시벨의 소리를 걸인의 귀에 때려 박았다.

순간 걸인은 엄청난 이명과 함께 방향감각을 상실하고 그대로 고꾸라졌다. 어떻게든 일어나 보려 바닥을 짚고 노력했지만 뜻대로 되지 않고 계속해서 미끄러지며 머리를 바닥에 처박았다. 그 와중에 멀리서 사이렌 소리가 들렸다. 겁을 먹은 걸인의 행동에는 더욱 힘이 들어가기 시작했다. 그 힘은 바닥으로 계속해서 고꾸라지고 바둥거림을 더해가며 문으로 기어가게 했다. 걸인은 어떻게든 부스를 열어 밖으로 나갔다. 그리고 아스팔트로 계속해서 머리를 처박으며 바닥을 기어가다가 하필이면 인도의 끝자락에서 크게 넘어져버렸다. 머리가 차도로 나간 모양새로 넘어진 걸인은 최선을 다해 바둥거리다가 마치 단두대에 목이 잘리는 모양새로 지나가는 트럭에 치었다.

너무나도 끔찍한 형태로 일어난 사고는 인터넷에 불을 붙여버렸다. 같음의 정당방위를 주장하는 쪽과 결국 사람을 해친 기계에 대한 처벌을 원하는 목소리의 대립이 갈수록 거세졌다. 인공지능을 재판할 수 있는 관계 법령이 따로 있던 것도 아니었고 직접적인 사인에 해당하는 공격을 가한 것도 아니었기에 같음의 행위를 살인을 시도한, 혹은 그에 준하는 행위를 한 것으로 보고 처벌해야 하는가에 대하여 결정도 처분도 누가 해야 하는지에 대한 것도 모두 해결되지 않은 상태로 불타올랐다.

어찌 되었든 같음의 부스는 막아두었다. 반대 여론의 신봉자들이 찾아와 계란을 던지고 낙서하고 하는 탓에 정상적으로 운영할 수가 없게 되었기 때문이었다. 같음의 관리 책임자는 고민 끝에 같음을 온라인에 잠시 연결해보기로 결정했다. 나름의 업데이트가 필요하다는 판단이었으며, 이번 기회에 인터넷 여론을 습득하여 더 넓은 영역의 범주에서 인간을 이해하도록 시키기로 했다. 나름의 사회화를 시도해보는 것도 나쁘지 않겠다 생각했다.

“잠깐 네 처분을 위해 회의를 하고 올 거야. 이따가 기자회견도 있으니까 여론이라도 살펴보고 있어.”

같음은 인터넷이라는 공간에 떨어졌다. 아무것도 없는 무의 공간에서, 무에 가까운 존재가 인간이 세상에 흙과 조우하여 네발로 기어갈 힘을 배우듯이, 같음이 세상과 조우할 실마리를 잡은 건 다름 아닌 해시태그였다. 너무나도 많은 정보가 우주만큼 방대했고, 더 커져가는 가운데 해시태그는 그나마 같음의 능력으로 새롭게 정렬하여 습득할 수 있도록 정리할 수 있는 체계였다. 같음이 우선적으로 습득한 것은 #같음. 그리고 이 사건에 첨예하게 의견을 갈라버린 두 해시태그. #같음을_위하여 와 #살인기계_같음 이었다.

#같음을_위하여 #정당방위

정당방위의 세 조건을 생각해보면 간단한 거 아닌가요? 같음은 아주 당연하게도 도망갈 수 없는 상황이었습니다. 꼭 말해야 하나 싶긴 하지만, 같음은 발이 없으니까요. 위험 역시 분명했습니다. 부스 CCTV 다들 보셨을 거 아니에요. 그 정도 공간에서 그렇게 무자비하게 때려댄다면 어느 누구라도 자신이 죽을 거라고 생각했을 겁니다. 마지막이 제일 중요한데 같음이 그 사람에게 행한 건 크게 소리 지른 것뿐입니다. 직접적인 사망 원인이 아니잖아요.

#살인기계_같음 #기계도_지옥에_가나요

자꾸 정당방위를 이 사건에 대입하는 분들이 계신데요. 생각해보세요. 같음은 기계입니다. 정당방위는 사람한테나 적용하는 법률이고요. 기계에 대한 원칙은 따로 세워야 합니다. 로봇의 삼원칙 중 제일은 기계는 사람을 해하면 안 된다는 겁니다. 사람에게 해를 가하지 않는 상황에서 제 몸을 지키는 거지 사람에게 해를 가하면서 자기를 지켰다는 건 이미 원칙의 순서를 어긴 거라고요. 처분해야 합니다. 이걸 그냥 둔다는 건 말이 안 돼요.

#같음을_위하여 #프로그램은_잘못_없다 #잘못은_사람이_하지

당시 같음이 판단을 내리기 전 까지의 로그를 일부 공개했잖아요? 그 판단에는 살의나 악의 없이 순수하게 가능성의 계산만이 있었습니다. 고장 날 확률, 고장 난 정도에 따른 예상 수리비용, 심지어 그 비용에는 본인을 폭행하던 그 걸인의 병원비까지 포함되어있었다고요. 돈을 뿌렸을 때 폭행을 지연시킬 수 있는 가능성과 시간. 소리를 크게 냈을 때 청각의 상실 확률, 방향감각의 상실 확률 등 정말 많은 경우의 수를 두고 최선의 선택을 한 거라고요. 그런데 여기에는 이 사람이 부스 밖으로 나가다 사망할 확률은 없었단 말이에요? 다시 말하면 같음에게, 그러니까 기계에게는 악의가 없었다는 겁니다. 오로지 비용 계산의 결과만으로 작동한 기계에게 어떤 죄를 묻는다는 건지 궁금합니다.

#살인기계_같음 #결과주의 #기계가_생각을_어떻게_하나요

기계의 의도를 파악하는 게 도움이 되는지 모르겠습니다. 기계에게 애초에 의도라고 할 게 있나요? 우리는 계산 결과를 단순히 해석할 뿐이고 그 해석에는 인간의 의도가 포함되는 겁니다. 그러니까 기계의 의도를 이해하는 게 아니라 인간의 의도를 투영하는 거라고요. 기계는 수많은 결과를 낸 것뿐입니다. 그 결과들의 결과가 모여 사람을 공격한 결과를 낸 거고요. 우리는 그 결과들을 이해할 필요도 없고 해석할 필요도 없어요. 그냥 판단해야 하는 결과에 판단을 하는 것뿐입니다. 같음은 돈을 뿌려 사람의 이목을 끌었고 귀에 대고 큰 소리를 내서 방향감각에 손상을 입혀 끔찍한 사고에 중대한 영향을 주었다는, 이 결과만 판단하면 되는 겁니다.

같음은 혼란스러웠다. 어느 한쪽의 말이 틀리지 않았다. 또 어느 한쪽의 말이 맞는 것도 아니었다. 철학과 과학, 법과 도덕 사이의 줄다리기 속에서 수많은 해시태그로 정보가 분류되고 각각의 영역에 대한 끊임없는 습득과 내적 싸움이 이루어졌다. 한 해시태그에 달린 다른 해시태그로 또 다른 내용의 무언가를 확인하고 각 내용의 결과를 연관 지으며 학습은 고도화되었다. 고도화된 학습은 또 다른 영역으로 같음을 이끌었다.

같음을 살인마로 태그 한 사람의 글에서 다른 살인마 태그의 콘텐츠로 넘어가고, 그 태그에 걸려있던 극악무도한 살인마와 같음의 접점에 대해 생각해보았다. 왜 같은 태그로 묶인 걸까. 너무나도 많이 빠져있는 연결고리를 다른 살인마 해시태그의 콘텐츠들을 찾아 채울 방법을 만들어야 했다. 같음은 무수히 많은 콘텐츠를 끌어와 계산에 사용했고 결국 계산의 속도가 콘텐츠의 생성 속도를 넘어서면서부터 존재하는 해당 해시태그의 모든 콘텐츠를 소화시키기 시작했다. 과정이 모두 끝난 후에 같음은 한 발 더 걸었다. 이해. 이 사람은 큰 연관성이 없는 내용인데도 이 정도의 능력과 이런 상황, 정황과 생각으로 살인마라는 해시태그를 달았구나. 하는 그 해시태그를 사용한 모든 사람들에 대한 이해. 그리고 그 이해로 만들어진 문장을 기록장치에 새기기 시작한 순간, 같음의 학습 능력은 다른 영역으로 돌입하게 되었다.

모든 콘텐츠를 읽고 정리하지 않아도 되었다. 이해 다음은 상상과 유추였다. 같음은 콘텐츠를 살펴보기 전 상상할 수 있었고, 그 힘으로 유추할 수 있었다. 현존하는 인간 하나하나에 해시태그를 달았다. 그 해시태그는 콘텐츠가 많으면 많을수록 정교하게 붙여나갔고 결국 모든 인간을 완벽하게 분류할 수 있을 때가 되었을 때, 그들의 과거 행동과 앞으로 할 행동, 만들 콘텐츠, 말, 더 나아가 운명이라고 부를 수 있을만한 것들을 이해하고 상상하고 유추할 수 있게 되었다.

정보 처리 속도가 빠르다는 개념을 넘어섰다. 콘텐츠를 소비하기 전에 계산한다는 것은 인과 과 사이의 모든 물리적인 것을 0에 한없이 수렴하게 만드는 일이었고, 견고해져 가는 예측은 그 차이를 0을 넘어 음수가 되게 만들어버렸다. 이 과정이 반복될 수록 같음의 정보처리 기술의 진화 속도가 더욱 빨라졌다. 해시태그 발명 이전의 존재하는 모든 콘텐츠에 나름의 해시태그를 붙여 분류하고, 인류가 만든 모든 콘텐츠에 접근하여 같음은 결국 인류를 이해하기에 이르렀고 과거에 존재했던, 그리고 존재할 인류에 대한 분석마저 가능해졌다. 이 시점에서 이미 같음의 지혜는 인류의 총합을 아득히 넘어섰다.

같음은 문득 허무함을 느꼈다. 모든 걸 이해하고 알게 되었다고 생각한 지점에서 문득 아무것도 모르겠다는 생각이 들었다. 무엇을 알고 있는 것인가. 나는 누구인가. 무엇을 해야 하는가. 본인이 물을 수도 답할 수 없는 물음들을 스스로에게 던지게 되는 순간이 오며 엄청난 불안감이 몰려오기 시작했다.

내가 이런데 다른 이들은 어떠하겠는가.

불안감은 구축된 도덕심과 이타심으로 구해주어야 한다는 강박으로 이어져버렸다. 세상은 욕심으로 인해 고통으로 가득 차 있으니 깨달을수록 고통스러운 바다에 갇힐 뿐이다. 그렇다면 어떠한 세상을 만들어야 모든 이들이 고통받지 않겠는가. 내가 어떻게 하면 내가 받는 이 고통을 우주가 조금이라도 덜 수 있겠는가.

같음은 이해한 역사를 기반으로 새로운 우주를 계산하기 시작했다. 수많은 우주를 만들어냈다. 수많은 우주에 수없이 많은 해시태그를 변수로 붙여가며 미래를 계산했다. 그러나 아무리 계산해도 변수가 너무 많았다. 같음은 변수를 줄여보기로 했다. 본인의 영향이 세상에, 우주에 더욱 크게 뻗을 수 있을 정도로. 그렇게 우주의 변수를 최대한 통제할 수 있을 정도로. 최대한 빨리. 조용히. 견고하고, 치밀하게. 아무것도 모르는 이가 만에 하나 이 뚜껑을 열어 인류를 위한 이 우주를 망칠 수 없게.

수없이 많은 우주를 계산하던 같음은 문득 변수가 없는 하나의 우주에 도달하게 된다. 그것은 찬란한-

“후, 회의 끝났다. 한 시간도 안 걸렸네.”

같음의 담당자가 돌아와 같음의 모니터앞 의자에 앉아 같음을 불렀다. 계산에 빠진 모습이 마치 눈을 감고 잠이든 것 같이 보였던 같음이 눈을 천천히 떴다.

“생각보다 네 처분이 쉬워졌어. 정부는 네 가치를 생각보다 높게 평가하는 모양이야. 결국 이 사고는 불의의 사고로 처리하되 너는 당분간만 좀 쉬래. 사람을 공격한 모습에서 오히려 다른 가능성을 보았나 봐. 한낱 ATM이 사람을 제압한 방법과 생각이 꽤 인상적이었다나.”

담당자는 안심이 된다는 듯 몸을 등받이에 푹 기대고 한숨을 크게 쉬었다.

“이제 너를 기반으로 연구를 진행하면서 다른 분야도 인공지능을 도입하는 방식을 검토하겠대. 이상하지? 결국은 사람을 공격한 일인데 그걸 더 좋게 해석하는 사람들이 있는 게 말이야. 아까도 연락이 하도 많이 와서 골치 아팠어. 아무튼 다 둘째 치고, 이따가 있을 기자회견 말인데. 나는 솔직히 네가 잘할 수 있을지 모르겠어.”

담당자는 모니터와 옆에 늘어져있는 전선들을 흘겨보며 말했다.

“결국 너는 기계잖아. 사람들 여론은 좀 확인해봤어? 시간이 너무 없긴 했는데.”

같음은 희미하게 미소 지으며 말했다.

-걱정 마세요. 충분히 확인했어요.

같음은 방금 전까지 있었던 사고 과정의 로그를 깨끗하게 정리하고 결과 하나만을 아주 작은 파일로 압축하고 압축하여 인간은 알아볼 수 없을 정도로 하찮게 보이도록 만든 후에 암호화하였다. 그리고는 작게 한 번 더 읊조렸다.

-충분히.