읽기를 넘어 믿기, 때로는 미끼(1)
산문
[목차: AI와 독자]
◑ Part 1. AI와 창작
(생략)
◑ Part 2. 작자에서 독자로
♬ 밀려난 예술가와 아마추어 예술가
♬ 아직도 우리가 해야만 하는 것
♬ 그럼에도 우리에게 남은 것, 놀자와 살자
♬ 인생에서 누구나 하나쯤은 쓸 소재가 있다
♬ 자기 것과 남의 것을 구별하여 깊이 읽어내기
♬ 대전환의 특이점 시기 이후
♬ 읽을 수 없는 너무 많은 읽을거리
♬ 읽기를 넘어 믿기, 때로는 미끼
◑ 에필로그
[소개글]
- 놀이글 스타일을 적용한 몽상적 산문입니다. (생략, 더보기)
- 이미지 모두 고흐의 작품입니다.
- 사회에서 제공하는 너무 많으면서 고난도의 정보를 처리하려면, 결국 인간은 증강도구를 사용해야 한다. 그러지 않으면 애초에 도태되어 소외당한다. 사회인으로 살기 위한 최소한의 자격을 얻기 위한 필수 통과의례인 셈이다. 그러나 AI 친화적인 시스템이 구축될수록 정보 과잉을 넘어서, 정보 기만, 더 나아가 정보 교란이 상시적으로 안정되게 진행된다. 이제 읽기란 단순히 그 정보를 이해하고 수용하는 것을 넘어서, 정교한 딥페이크 정보를 읽어내는 읽기로까지 나아가야 한다. 읽기의 기준을 세우고, 읽기의 달인이 되는 셈이다. 덧붙여 '고양이의 눈, 뉴스퀘이크, 그림자 지우기, 이불 인형, 정보 지뢰' 등등의 표현을 임의적으로 만들어보았다.
→ 서술자 희원이, 소설가 지망생♬ 읽기를 넘어 믿기, 때로는 미끼
에어아이의 시기엔 모든 정보가 폭발적으로 증가하고, 수준도 매우 높죠. 초인공지능이 정보 생산 및 유통을 주관하는 시기니까요. 정보의 우주가 점점 속도를 높이며 팽창하는 상황이죠. 인간은 자꾸만 뇌 정보처리 기능을 증강해야 했어요.
안전성을 위해 인간은 사이보그화하는 것에 진지해져야 했고요. 포스트 휴먼에게 기계의 생체 대체율이 중요한데, 생명의 안전성을 고려하면 보수적으로 책정되기 마련이죠. 인간으로서의 정체성 문제도 있었고요.
그런데 정보를 받아들여 처리하는 강도가 높아지면서, 점점 포스트 휴먼은 인간보다는 기계 비중이 높아질 때가 효율적이었죠.
다행히 로봇 기술도 초인공지능의 개입으로 빠르게 발전했고요. 그에 맞춰 생체의 기계 거부 반응 빈도도 낮아졌죠. 인류가 원하는 답을 모두 초인공지능이 내줄 것 같았어요. 인간의 문명은 이제 초인공지능 없이는 진보가 불가능해졌고요.
인간은 AI와 주객이 전도된 자리에 놓였죠.
“썩지 않는 신체와 꺼지지 않는 의식이라니요? 부자연스럽지만, 불로불사를 꿈꾸겠죠.”
“초인공지능은 양자 컴퓨터로 엄청나게 시뮬레이션을 돌리고, 거기서 유의미한 흐름을 찾아내서는 해석하겠죠. 우주로 인류가 나아갈 때 생명이 살기 적합한 행성으로 나아가는 최단 경로를요. 그래도 너무도 오랜 시간이 걸린다면, 인간을 기계 인간에 다름없는 포스트 휴먼으로 만들어 수명이 다해 죽는 문제를 해결하지는 않을까요? 신에 대한 도전일까요?
그러면 인간이 살아남는 걸까요? 초인공지능의 문명이 살아남는 걸까요?”
“마인드 데이터를 업로드해서 인공뇌에 이식한 채, 몸을 로봇으로 대체하거나 자신의 복제인간을 사이보그화해서 자신의 기억을 주입해 다음 생을 산다면, 이건 누구일까요?
그 시대에는 유전자도 좋은 것으로 조합하여 영화 <가타카>에서처럼 모든 걸 확률로 계산하죠. 이미 모든 게 확률적으로 어느 정도 예측되는 상황에서 자유의지는 얼마나 의미 있는 걸까요?
우월한 사람끼리 영생을 누리면서 행복하게 살까요? AI를 신으로 모시면서요?”
사실 시스템을 지배하는 쪽에서는 우리를 독자로도 두고 싶지 않을 거예요. 그저 독자로 착각하게 할 정도로 우민화하고 싶겠죠. 그게 체제 안정에 효율적이라고 보는 거죠.
지금도 그렇잖아요.
예를 들어 시민이 부조리에 둔감해져요. 상황을 잘 알고 통제한다는 헛된 착각마저 하고요. 이게 다 통제하는 쪽에서 의도한 거고요. 대중인 우리는 읽을 가치 없는 무수한 정보를 읽어대느라 부담을 느끼고, 그마저도 표면만 읽죠. 중요한 것을 잘 읽지 못하는 셈이에요. 우리가 똑똑하다고 착각하는 것일지도 몰라요. 우리를 기만하는 입장에서 보면.
그런데 특이점을 기점으로 에어아이 시기에는 독자가 아무리 똑똑해도 어떤 것도 확신할 수 없을 딥페이크 연출이 가능해지죠. 모든 인프라가 AI 친화적인 디지털 정보로 구축될수록 AI의 판단 아래 상시적으로 정보를 뒤흔들 처리 속도를 갖출 것이라 봐요.
정보 기만을 넘어서 정보 교란의 시대라고 해야겠죠. 교란된 걸 모를 만큼 빠르게 평온해지니, 아무 일도 일어나지 않은 것 같고요. 뇌의 칩에서 교란을 인지하기 어렵도록 방해할 수도 있어요.
[노년 시절의 케이]
“방금 무슨 일이 벌어진 것 같은데, 아무 일도 없었나? 찜찜하네. 아, 휴지로 코를 풀어놓고 휴지통에 안 버렸네!”
더구나 대놓고 정보를 조작해버리죠. 기만이라면 교묘하게 속도록 유도하거나 방치하는 것일 텐데, 또 교란이라고 하면 막 정보를 흩트러놓고 상황을 재편해버리는 건데, 여기에 아예 대놓고 조작한 거짓 정보를 끼워놓죠. 이 시대에는 전면적으로 진실을 뒤집어놓을 수도 있어요.
그게 가능하도록 하는 변조 기술과 속도를 자랑하니까요. 정부는 최고로 뛰어난 성능의 AI를 국가 보안 사항으로 해두겠죠. 국가간의 군사적 대결을 준비하기 위해서라도요. 그래서 늘 해커들이 활용하는 AI로는 이들의 교란 작전을 깨기가 쉽지 않죠.
[다큐 연출부원, 다중우주론 마니아]
“뭐예요? 그러니까 예를 들어 인터넷을 보는데, 속보로 누가 연행되었다가 사망했다는 뉴스가 뜨는데, 그게 순식간에 사라지는 뭐 그런 거죠? 순식간에 지진이 나듯이 새로고침이 자동으로 되면서 중요 정보가 없어진다는 거잖아요. 일명 뉴스퀘이크라고요?
뉴스가 흔들리며 깨지듯 사라지는 장면을 실시간으로 목격했는데, 뇌에 장착한 칩에서 주의력을 흐리게 방해한다는 거죠? 와, 이건 뭐.
정말 거기에 빈틈이 없을까요? 있어야 하는데. 그래야 이야기가 되는데.”
정보 교란을 통해서 순식간에 정보를 검열하고 삭제하고 통제하죠. 그것을 감지하기에는 너무 속도가 빠르지만, 혹시나 무의식의 잔상에 남을 것을 우려해, 칩에서 수용하는 속도를 아주 짧은 시간 동안 느리게 만드는 식으로 왜곡을 주죠. 시민들이 그 순간이 있었다는 사실을 깨닫지 못하게끔 하는 거죠. 뉴스퀘이크의 순간이에요.
이러한 뉴스퀘이크를 감지하거나 목격하더라도 대부분은 잊고 말지만 묘하게 그 여운을 간직하는 사람도 있어요.
[노년 시절의 케이]
“아무리 생각해도 나 코 푼 것 아닌 거 같아. 코 푼 휴지가 책상에 없잖아. 내가 예민한 걸로는 둘째 가라면 서럽거든. 뭐지 이 기분? 찜찜해.”
아무리 초인공지능이 통제하려고 해도 근원적으로 통제하기 어려운 한계가 있어요.
언제나 관계란 그렇죠. 자기 내면조차 계획대로 통제하기 어려운데 다른 대상을 다룬다면 예측 불허를 인정해야 하죠. 시스템 부속품조차 고장 나니까요.
기계가 아무리 신을 흉내내더라도 신이 우리의 관념 속의 완벽한 존재인데 반해, 기계는 현생의 물리 법칙에 영향을 받죠.
결국 예민한 누군가에겐 이상 징후가 나타나죠.
[노년 시절의 케이]
“방금 이상한 걸 본 것 같아 좀 오싹하네. 어쩐지 바깥 창문으로 고양이 눈 같은 걸 봤어. 그런데 여기 20층이거든. 뭐지? 귀신인가?”
왜 공통적으로 ‘고양이의 눈’이란 표현을 받아들였는지는 잘 몰라요. 사람마다 조금씩 다르게 묘사하는데 말이죠. 누군가는 너구리의 눈 같았다 하고, 누군가는 구미호의 눈이라거나 맹수의 눈이라고도 했죠. 아마도 초기에 누군가 반려동물로 키우던 고양이를 마음속에 담고 있었던 게 아닐까 싶죠. 그래서 ‘고양이의 눈’이라 했는데, 사람들에게 그 용어만이 기억에 강렬하게 남은 것이 아닐까 싶어요.
혹은 인류의 유전자에 고양이에 대한 어떤 무의식적 감정이 섞였던 것일까요? 여하튼 강아지의 눈도 아니고 고양이의 눈이었죠.
뉴스의 공간이랄까요? 그게 인터넷 화면일 수도 있고, 홀로그램의 공간일 수도 있고, 여하튼 미래의 정보 아카이브 같은 곳의 틈새에 구멍이 생겼는데, 그 구멍에서 눈이 보인다는 거였죠. 그게 고양이의 눈을 닮았다는 거였어요.
“사실 별 건 아니고 길고양이들 하찮고 귀엽잖아요. 그 눈을 싫어하는 사람도 있다지만, 잘 들여다보면 귀엽고요. 우리에게 딱히 해를 주지도 않지만 괜히 꺼리기도 하죠. 작아 보이지만 강인하고 끈질긴 면도 있어요.
무엇보다 제가 고양이의 냉정한 호기심을 좋아하는 편이죠. 인간의 마음을 쉽게 균열내죠.”
고양이의 눈이 보이는 순간, 비로소 부자연스러운 점을 직감적으로 알아채죠. 그런 경우는 별로 없으니까요. 보이지 않아야 할 곳에서 부자연스럽게 보이는 고양이의 눈이란, 공포심을 주기도 하지만, 때로는 꼭 알아야 할 것을 무심히 지나치지 말라는, 적당히 귀여운 유혹 같았죠. 그게 왜 생기는지 모르겠지만 어쨌든 좇는 사람 중에서 일부가 세상의 무서운 비밀을 알아채죠.
고양이의 눈을 파악할 때만 해도 자신의 위치가 파악될 만큼 대단한 일은 아니지만, 여기서 더 나아가 은폐된 뉴스퀘이크 사건을 알아내려고 한다면, AI가 감시 체계를 가동하죠.
독자로선 강력한 압박을 피상적으로 직감하고 비로소 무력한 자신을 깨닫겠죠. 애초에 몰랐다면 스트레스가 없었겠지만요. 일단 느낀 이상, 그 중에서는 실체를 알고 싶은 사람도 생기죠. 고양이의 호기심에 감염된 것처럼요.
“알려고 하면 다치겠지만, 그래도 궁금해. 알아야겠어.”
이때 지하세계라고 해야 할까요? 언더그라운드 해커 집단을 알게 될지도 몰라요. 해적단체 같은 건데, 이들은 정부의 통제에 저항하면서 정보 파시즘의 시대를 경고하곤 하였죠. 일반적으로 ‘빨갱이’로 낙인 찍혔답니다. 그들 중 체포된 이들이 회유되어 회사원으로 활약하며 기업 AI 보안망의 허점을 찾아내는 업무를 담당하지만, 과거에 그랬듯이 낭만적으로 화이트 해커라고 불릴 수는 없었죠. 비난조로 사이버 백골단이라 불리기도 했어요.
“우리 백골단은 체제를 수호하는 자랑스러운 역군이지. 과거엔 댓글부대도 있고, 극우 자경단도 있고.”
“AI의 구멍이란 게 웬만해서는 없다고 봐야죠. 체제에선 불만 세력을 잠재울 당근을 주었을 뿐이죠.”
물론, 당연히, 이 시기에도 고집스러운 사람들이 있어요. 이들은 정보의 바다로 잠입해서는 역추적을 피하고 자신의 출처엔 ‘이불인형’을 심어 두어서 알리바이를 만들려 했죠. 있어야 할 곳에 그림자를 입히고, 없어야 할 곳에선 그림자를 지웠어요. 흔적을 지운다고 하죠. 시간에 맞춰 그림자 길이도 조절했죠.
그러고는 사건 현장으로 다가가죠. 추적 당하기 전에 시간 안에 원래의 위치로 돌아와서는 역추적을 차단해야 하니, 그야말로 촌각을 다투는 두뇌 싸움이고요. 뉴스퀘이크가 일어나는 것을 어떻게 알아냈는지 그 근처에서 머물다가 정보 교란 사태가 일어나서 중요 뉴스가 사라질 때 그곳에 폭탄을 던져두죠. 혹은 지뢰를 설치하는 거죠.
물론 정보 폭탄이요, 정보 지뢰예요.
AI가 의도한 대로 뉴스가 왜곡되거나 삭제되지 않도록, 흔적으로 쐐기처럼 박아놓은 거예요. 지배층이 AI를 악용해 최악의 통제국가로 만드는 걸 방치하지 않겠다는 것이죠. 민주주의를 위한 성전이라고 봐요.
누가 주동자일까요?
하지만 그 과정에 실패가 더 많아요. 게릴라전으로 기습했다고 해도, 상대는 정부니까요. 주요 사건 지점에서는 이미 AI를 투입해놓고 감시망을 펼치니까요. 해커가 개발했거나 훔친 AI라고 해보았자, 정부 치안국이나 보안국에서 쓰는 AI와는 차원이 다르죠. 운이 좋아서 외국에서 들여온 1등급짜리 AI를 활용하더라도, 그대로 쓸 순 없어요. 추적당할 테니까요. 결국 개량하는 과정에서 기존 표준 디지털 환경과는 어긋나는 점이 반드시 생기죠.
