읽기를 넘어 믿기, 때로는 미끼(2)
산문
[목차: AI와 독자]
◑ Part 1. AI와 창작
(생략)
◑ Part 2. 작자에서 독자로
♬ 밀려난 예술가와 아마추어 예술가
♬ 아직도 우리가 해야만 하는 것
♬ 그럼에도 우리에게 남은 것, 놀자와 살자
♬ 인생에서 누구나 하나쯤은 쓸 소재가 있다
♬ 자기 것과 남의 것을 구별하여 깊이 읽어내기
♬ 대전환의 특이점 시기 이후
♬ 읽을 수 없는 너무 많은 읽을거리
♬ 읽기를 넘어 믿기, 때로는 미끼
◑ 에필로그
[소개글]
- 놀이글 스타일을 적용한 몽상적 산문입니다. (생략, 더보기)
- 이미지 모두 고흐의 작품입니다.
- 『너무 압도적인 악의가 모든 방향에서 쓰나미처럼 밀려와서는 우리를 덮칠 수도 있으니까요. 디지털 정보로 많은 것을 추정해낼 시대에 그 정보를 전면적으로 뉴스퀘이크할 수 있을 테니까요. 생존을 하기 위해 자신이 무엇을 믿어야 하는지 그 선택만이 남고요.』
- 『인간이 바로 서는 민주주의, 인간의 얼굴을 한 자본주의를 원한다면, 그게 이루어야 할 이상적인 체제라면, 어느 쪽으로 편향성을 지닌 뉴스가 가짜일 때 더 치명적인가를 생각해야 해요. 가짜뉴스를 판별하기보다는요. 애초에 어려우니까요.』
- “다시 말씀드리지만, 저를 믿지 마시고 민주주의를 믿으세요. 누가 민주주의를 위태롭게 하나요? 누가 악의를 품을 때 치명적인가요?”
그에 따른 성능 저하는 감당해야 했죠. 잡히는 것보단 나으니까요.
이조차 되지 않을 때는 최후의 방법을 택하기도 해요. 직접 오프라인 현장으로 달려가서 군중이 운집했을 때 전단을 뿌리면서 20세기적 저항을 하는 것이었죠. 말 그대로 순수하게 광장에 정보 폭탄을 던지는 것인데, 이건 그냥 로봇 경찰에게 체포되는 것을 각오한 마지막 저항이죠.
“동지, 나는 잃을 게 없소. 이 선택이 기쁨이었소. 그러니 내게 미안해 마시오.”
이걸 시행하기 전에는 반드시 아지트를 옮겨야 하고요. 번거로운 작업이죠. 뇌의 칩을 분석하면 금방 들통날 테니, 그때부터 사건의 실행자는 단체의 기밀을 알아선 안 되죠. 조직에서 분리되어 있다가 마지막 지령을 받으면, 아날로그 시대에 하듯이 현장 시위를 하는 방식이었어요. 그러다 체포돼 끌려가서는 ‘기억 세탁’을 당하기도 했지만, 간혹 감시망을 빠져나가는 경우도 생기죠.
비효율적이지만, 아무것도 할 수 없을 때 그러한 최후의 저항을 하였어요. 뇌의 칩을 너무 오래 끊거나 자주 끊으면 감시 대상에 오르기에, 흔적을 그림자로 덧씌우고 이불인형을 채워가면서 그들은 가급적 오프라인으로 활동했죠. 화염병을 들고요.
시민들은 저마다 너무도 많은 정보를 처리하느라 남에게 관심을 보일 여력이 없었죠. 냉정한 AI 로봇 경찰의 진압 결정은 효율성을 기준으로 하였고요.
모두가 조금씩만 무관심해지면, 풍요롭고 행복하다고 느끼는지 전단을 흘깃 보고는 휴지통에 버렸어요. 언뜻 느끼는 세상은 너무 잘 돌아갔거든요.
[시민 페이]
“젊은 시절 천재 감독으로 불렸던 케이 선배가 우리 직장에서 일하는 걸 알고는 너무 기뼜지요. 우상이거든요.
그런 케이 선배가 정신병원에 들어갔을 때에도 회사에선 모두가 쉬쉬했죠. 너무 굴욕적이었어요. 언론에 제보해도 소용 없더군요.”
가끔 의심하는 태도를 보이며, 똑똑한 시민이라는 것을 과시하려 했지만, 너무도 완벽하게 매끄러운 세상을 비판하다가, 곧 자신이 틀렸다는 것을 인정하고 내심 안심하곤 했지요. 그 사이 세상의 정보는 말끔히 마름질되어 있었고요. 심지어 영상 자료부터 모든 게 완벽했죠.
죽었다던 대학생이 멀쩡하게 지방 슈퍼마켓에서 소주를 사고 있는 장면이 CCTV에 찍혔을 뿐 아니라, 그 뒤로도 무수한 행동 궤적을 보였고, 카드 결제부터 너무나 모든 게 완벽했죠.
그의 죽음은 헛소문으로 치부되지만, 그는 죽은 게 맞아요. 딥페이크였죠. AI는 뉴스를 흔들며 덮기도 했지만, 가짜 뉴스를 정교하게 만들었어요. 이 시기에는 실사와 똑같은 가상 배우들을 AI가 출력해주니까요.
AI로 허점이 있는 딥페이크 자료를 가짜로 판정하고 분석하기도 했지만, 정부에서도 AI 기술을 교묘하게 악용하다 보니 정치적으로 필요할 때는, 모두를 속였죠. 가짜로 판명해야 할 중요한 딥페이크 자료를 진짜로 판정하는 식으로요.
“전 살아있어요. 두 눈 똑똑히 뜨고 보라고요. 여기에 피부만 입히면 감쪽같겠죠?”
[희원이, 소설가 지망생]
“너무 정교해서 그걸 판별할 도구 자체가 없었죠. 눈앞에선 너무도 명백한 증거가 제시된 것처럼 보였고, 모든 게 또 평온해집니다.”
소수의 사람들만이 뉴스 사이에서 정보 지뢰나 폭탄 때문에 생긴 균열 사이로 고양이의 눈을 발견해내죠. 헌신한 해커들 덕분에 어떤 자료에는 균열을 일으킬 미세한 지뢰가 설치되었거든요. 그걸 알아챈 거죠.
어느 순간 정보 폭탄이 터져 생긴 균열 덕분에 고양이의 눈이 보이고, 그 눈을 따라가다 보면 균열을 일으켜서 뉴스퀘이크 때도 허점처럼 남은 뉴스들이 보이죠. 그런 뉴스 조각을 기워 놓으면, 진짜 이야기가 드러나기도 했죠. 그것을 수집해서 유통하다가 걸리면 반사회적 범죄자로 낙인 찍히긴 하였지만, 멈추지 못하는 사람들도 있었답니다.
그러다 체포되면 칩이 제거되고 영원히 추방되죠. AI가 가짜로 만들어놓은 그들만의 에덴낙원에서요. 하나님이 약속하신 곳이 아니라, AI가 약속한 사이버 영토였던 가짜 에덴낙원에서 쫓겨나는 거예요.
바깥에서 전단을 돌리듯 예전의 방식으로 중앙 시스템을 파괴하려는 시도가 있을 수 있지만, 성공 확률은 극히 낮죠.
메인 시스템에는 접근조차 하기 어렵거든요. 그곳은 공중을 떠다니는데 그곳을 접근하려면 신원 확인 등 애초에 그 엄청난 정보를 소화해낼 수 없고요. 한마디로 사회에서 격리되고 말아요. 집안에 갇힌 채로요.
일부는 더 가혹한 처벌을 받아요. 요주의 대상으로 지목되면, 사이버 우주에 미아로 유기되기도 합니다. 무한하게 느껴지는 공간에 남아서는 암흑 에너지를 감당해야 하죠. 감당할 수 없는 정보량을 수용해야만 하는 인간 외장하드가 되는 거죠.
“그동안 녀석들을 잘 속였는데, 결국 들키고 말았네요.”
이 시기에 과연 일반 시민이 어떤 정보를 두고 비판적으로 추론해서 올바르게 판단할 수 있을까요? 너무도 정교한 딥페이크 정보를 앞에 두고 말이에요. 팩트 체크가 무색해지죠. 독자 자신의 반성적 고찰 이런 것도 무색하죠. 합리적 의심이라는 것도 한낱 허울 좋은 이성적 판단에 불과해져요. 다시 신앙의 시대에 이르는 거예요. 첩보의 시대이기도 하죠.
[시민 페이]
“내가 유학 가서 잘 사는 것처럼 조작하겠지만, 전 영혼이 되어서라도 동지들을 찾아갈게요. 이 시대에도 신과 영혼을 붙들어야 한다면 말이죠.”
너무 압도적인 악의가 모든 방향에서 쓰나미처럼 밀려와서는 우리를 덮칠 수도 있으니까요. 디지털 정보로 많은 것을 추정해낼 시대에 그 정보를 전면적으로 뉴스퀘이크할 수 있을 테니까요. 생존을 하기 위해 자신이 무엇을 믿어야 하는지 그 선택만이 남고요. 믿는 사람에 대한 악의적인 소문을 판단할 그 어떤 근거도 온전하지 않죠. 모든 게 오염되어 있어서 진위를 알 수가 없어요.
딥페이크의 시대에는 너무도 명명백백해보이는 정보 탓에 잘못된 판단 때문에 상황을 그르치죠. 전 근대에는 비합리적인 판단 때문에 그랬다지만, 에어아이 시기에는 지극히 합리적으로 일을 그르치는 거죠. 모두 뇌에 장착된 칩에 의존하기 때문이에요. 사회인으로 살기 위해서 어쩔 수 없는 합리적 선택이었지만요.
합리성의 함정에 빠진 줄도 모르고, 괜히 어설프게 추론했다가 치명적으로 틀린 결론에 이를 수 있죠.
그런데 또 그게 무서워서, 자기 판단을 신뢰하기 어려워서, 쉽게 쉽게, 그냥 특정 정치인을 맹목적으로 믿고 지지할 수도 있는데, 아, 아무래도 그 역시 좋진 않아요.
인물은 쉽게 망가집니다. 회유되든 가짜뉴스로 낙인 찍히든요. 그러니 인물이 아니라 원칙을 환기해야겠죠.
[시민 페이]
“다시 말씀드리지만, 저를 믿지 마시고 민주주의를 믿으세요. 누가 민주주의를 위태롭게 하나요? 누가 악의를 품을 때 치명적인가요?”
아무것도 믿을 수 없을 때는 명료하고 간결한 원칙을 생각할 수밖에 없어요. 자신이 원하는 이상이 무엇인가 하고요. 인간이 바로 서는 민주주의, 인간의 얼굴을 한 자본주의를 원한다면, 그게 이루어야 할 이상적인 체제라면, 어느 쪽으로 편향성을 지닌 뉴스가 가짜일 때 더 치명적인가를 생각해야 해요. 가짜뉴스를 판별하기보다는요. 애초에 어려우니까요.
힘 있는 자의 말을 더 의심해야 하는 이유죠. AI를 악용하여 정보 교란에 성공한 덕분에, 언뜻 정의로워 보여도 말이죠.
나도 인간의 얼굴을 했는데.
사실 약자와 소수의 말에도 악의가 있을 수 있겠지만, 그것을 나쁜 쪽으로 판정하기 전에 그들이 남아있어야 하는 이유를 생각해야 하죠. 힘 있는 자는 죽지 않지만, 힘 없는 자는 악용된 정의의 이름으로 죽기도 하는데, 그가 설령 올바르지 않았더라도 그가 속했던 저변의 싹을 보호해야 하죠. 약자 쪽을 조금 더 우호적으로 보호해야 하는 이유죠.
치명적인 패착을 두지 않으려면, 설령 모든 안 좋은 소식이 내가 응원했던 쪽에서 저지른 범죄가 사실임을 가리키더라도, 공정한 처벌이 가능할 때까지 판단을 유보해야 하죠. 약자 쪽의 ‘무죄 추정의 원칙’을 더 예민하게 지켜주어야 한다고 봐요. 혹은 인물을 맹목적으로 추종하는 습관보다는, 원칙에 부합한 체계를 만들어도 좋고요.
“제가 꽃을 휘두른 걸 두고 칼을 휘두른 것이나 다름없다고 하시면…”
강자는 이용할 수 있고 조작할 수 있지만, 약자는 기껏해야 방어를 위해 오염을 시킬 뿐이죠. 절박한 상황에서는 그들을 통제할 여력이 있는가 하는 것이 중요해지죠. 강자가 더 위험할 수 있는 것이고요.
그리고 어떤 선택을 했을 때 얼마나 공동체적으로 기여할 수 있는가 하는 점도 생각해야 하죠. 위선적이라도 겉으로라도 올바른 말을 하는 쪽을 지지하는 게 좋겠죠. 어차피 다 똑같다는 식의 양비론에 빠지는 걸 조심해야 하고요. 잘 보면 반드시 내가 바라는 쪽에 가까운 측이 있고, 먼 측이 있죠.
둘 다 부패했더라도, 한쪽은 강자고 그쪽의 승리는 인권의 퇴보를 의미하는 것이라면, 설령 부패의 정도가 기계적으로 더 심한 쪽이 약자 측이라 하더라도, 공동체의 긍정적 발전에 기여할 수 있다면, 그쪽을 선택할 수밖에 없어요. 기울어진 운동장에서 온전히 판단할 수 없을 때 일단은 힘껏 시소를 타서 그 무게로 반대편으로 기울어지게 해 균형을 맞추려 해야겠죠. 언젠가 다시 조율해야 하겠지만요.
극단적으로 부조리한 상황이라면, 특정 반체제 인사에게 설득력 있는 범죄 혐의가 있더라도, 더 치명적인 가치 왜곡으로 공동체를 망가뜨리는 것부터 막자는 거죠. 쉽게 말해 기득권층에게 휘둘리지 말자는 거죠.
그 사람을 치우더라도 우리가 올바른 상황을 만들어놓고 그 인사에게 벌을 주겠으니, 우리에게 인간을 위하는 정의로운 가치를 달라고 외쳐야겠죠. 너희 멋대로 좋은 말을 오염시키지 말라고도요.
온전히 진실을 알 때 공정하게 판결을 기대할 수 있을 텐데, 그러기 위해선 정보를 판별하기보다는 공정한 존재가 정보를 관리해야 하는 상황에 이른 것이죠.
과거에는 노력하면 팩트 체크가 가능하던 시절이 분명 있었는데, 딥페이크 시절에는 아무것도 도무지 알 수 없을 상황이니까요. 궁여지책으로 자신이 지향하는 방향을 따라 선택할 수밖에 없죠. 생존을 위한 차선책이죠.
너무 완성도 높은 가짜뉴스 앞에서 AI에 대항하려 해도 이제 비판적 추론으로도 불가능하니, 어쩔 수 없이 자신의 신념을 믿는 수밖에 없죠. 그걸 미끼로 활용할 사람들도 있겠지만, 모든 미끼를 보면서 무엇을 믿기로 할지 선택해야 하죠. 모호한 근거를 만지작거리면서요.
“딥페이크 이전 시대엔 가짜뉴스 등 각종 정보에 대하여 '합리적 의심, 비판적 추론, 팩트 체크' 등이 중요했는데, 에어아이 시기에는 ‘약자인 인물에 관한 정보 오염 가능성을 염두에 둔 판단 유보, 인물 중심에서 벗어나 <세계시민의 인권과 양심을 반영한 체계>의 발전 가능성을 근거로 한 선택, 정의로운 방향성의 개인적 확신' 등 믿기의 차원으로 전환되는 거죠.”
사고의 종말, 의지의 종말!
어쩌면 이 시기까지가 인간이 마지막까지 저항하던 사건이라도 있을 때가 아닐까 싶어요. 사실 에어아이 시기에도 대부분은 무력하겠지만요. 인간 기득권층이 완벽하게 초인공지능으로 교체되는 사건이 특이점 혹은 에어아이 시기 어디쯤에 발생하면서, 그때부터는 서서히 매트릭스의 시기로 진입하겠죠.
