완벽한 딥페이크 시대에 팩트 체크란
인식과 추론(8~16F)
글쓰기 외전: 인식과 추론
◑ 전체 원고 콘셉트 및 진도 상황
- 매거진 방식으로 작성하였습니다. 물론 실제로 다양한 저자를 섭외하지는 않고 단독으로 작업하였습니다. 매거진에서 다양한 글에 다양한 필자가 있기 마련인데, 여기서는 다중 정체성의 다른 인물을 연기하는 것처럼 고흐 이미지를 배치하고 여러 스타일의 글과 함께 구성하였습니다. 픽션 매거진이라고도 할 수 있으며 매거진 놀이로도 부를 수 있을 텐데, 이 원고의 경우 전체 흐름에선 사실과 경험을 토대로 하되 종종 일관된 방향성을 띠되 원활한 개진을 위하여 허구적 설정을 삽입하였습니다. 대체로 경험적 정보로 이해하셔도 무방합니다.
- 총 173프레임으로, 상황에 따라 약간 바뀔 수 있습니다. 현 발행글은 8~16프레임에 해당합니다.
♬ 자체 인용글 & 놀이글: 완벽한 딥페이크 시대에 팩트 체크란 (‘AI와 독자’ 중에서)
이 시기에 과연 일반 시민이 어떤 정보를 두고 비판적으로 추론해서 올바르게 판단할 수 있을까요? 너무도 정교한 딥페이크 정보를 앞에 두고 말이에요. 팩트 체크가 무색해지죠. 독자 자신의 반성적 고찰 이런 것도 무색하죠. 합리적 의심이라는 것도 한낱 허울 좋은 이성적 판단에 불과해져요. 다시 신앙의 시대에 이르는 거예요. 첩보의 시대이기도 하죠.
“내가 유학 가서 잘 사는 것처럼 조작하겠지만, 전 영혼이 되어서라도 동지들을 찾아갈게요. 이 시대에도 신과 영혼을 붙들어야 한다면 말이죠.” → 시민 페이
너무 압도적인 악의가 모든 방향에서 쓰나미처럼 밀려와서는 우리를 덮칠 수도 있으니까요. 디지털 정보로 많은 것을 추정해낼 시대에 그 정보를 전면적으로 뉴스퀘이크할 수 있을 테니까요. 생존을 하기 위해 자신이 무엇을 믿어야 하는지 그 선택만이 남고요. 믿는 사람에 대한 악의적인 소문을 판단할 그 어떤 근거도 온전하지 않죠. 모든 게 오염되어 있어서 진위를 알 수가 없어요.
딥페이크의 시대에는 너무도 명명백백해보이는 정보 탓에 잘못된 판단으로 상황을 그르치죠. 전근대에는 비합리적인 판단 때문에 그랬다지만, 에어아이 시기에는 지극히 합리적으로 일을 그르치는 거죠. 모두 뇌에 장착된 칩에 의존하기 때문이에요. 사회인으로 살기 위해서 어쩔 수 없는 합리적 선택이었지만요.
합리성의 함정에 빠진 줄도 모르고, 괜히 어설프게 추론했다가 치명적으로 틀린 결론에 이를 수 있죠.
그런데 또 그게 무서워서, 자기 판단을 신뢰하기 어려워서, 쉽게 쉽게, 그냥 특정 정치인을 맹목적으로 믿고 지지할 수도 있는데, 아, 아무래도 그 역시 좋진 않아요.
인물은 쉽게 망가집니다. 회유되든 가짜뉴스로 낙인 찍히든요. 그러니 인물이 아니라 원칙을 환기해야겠죠.
“다시 말씀드리지만, 저를 믿지 마시고 민주주의를 믿으세요. 누가 민주주의를 위태롭게 하나요? 누가 악의를 품을 때 치명적인가요?” → 시민 페이
아무것도 믿을 수 없을 때는 명료하고 간결한 원칙을 생각할 수밖에 없어요. 자신이 원하는 이상이 무엇인가 하고요. 인간이 바로 서는 민주주의, 인간의 얼굴을 한 자본주의를 원한다면, 그게 이루어야 할 이상적인 체제라면, 어느 쪽으로 편향성을 지닌 뉴스가 가짜일 때 더 치명적인가를 생각해야 해요. 가짜뉴스를 판별하기보다는요. 애초에 어려우니까요.
힘 있는 자의 말을 더 의심해야 하는 이유죠. AI를 악용하여 정보 교란에 성공한 덕분에, 언뜻 정의로워 보여도 말이죠.
나도 인간의 얼굴을 했는데.
사실 약자와 소수의 말에도 악의가 있을 수 있겠지만, 그것을 나쁜 쪽으로 판정하기 전에 그들이 남아있어야 하는 이유를 생각해야 하죠. 힘 있는 자는 죽지 않지만, 힘 없는 자는 악용된 정의의 이름으로 죽기도 하는데, 그가 설령 올바르지 않았더라도 그가 속했던 저변의 싹을 보호해야 하죠. 약자 쪽을 조금 더 우호적으로 보호해야 하는 이유죠.
치명적인 패착을 두지 않으려면, 설령 모든 안 좋은 소식이 내가 응원했던 쪽에서 저지른 범죄가 사실임을 가리키더라도, 공정한 처벌이 가능할 때까지 판단을 유보해야 하죠. 약자 쪽의 ‘무죄 추정의 원칙’을 더 예민하게 지켜주어야 한다고 봐요. 혹은 인물을 맹목적으로 추종하는 습관보다는, 원칙에 부합한 체계를 만들어도 좋고요.
“제가 꽃을 휘두른 걸 두고 칼을 휘두른 것이나 다름없다고 하시면…”
강자는 이용할 수 있고 조작할 수 있지만, 약자는 기껏해야 방어를 위해 오염을 시킬 뿐이죠. 절박한 상황에서는 그들을 통제할 여력이 있는가 하는 것이 중요해지죠. 강자가 더 위험할 수 있는 것이고요.
그리고 어떤 선택을 했을 때 얼마나 공동체적으로 기여할 수 있는가 하는 점도 생각해야 하죠. 위선적이라도 겉으로라도 올바른 말을 하는 쪽을 지지하는 게 좋겠죠. 어차피 다 똑같다는 식의 양비론에 빠지는 걸 조심해야 하고요. 잘 보면 반드시 내가 바라는 쪽에 가까운 측이 있고, 먼 측이 있죠.
둘 다 부패했더라도, 한쪽은 강자고 그쪽의 승리는 인권의 퇴보를 의미하는 것이라면, 설령 부패의 정도가 기계적으로 더 심한 쪽이 약자 측이라 하더라도, 공동체의 긍정적 발전에 기여할 수 있다면, 그쪽을 선택할 수밖에 없어요. 기울어진 운동장에서 온전히 판단할 수 없을 때 일단은 힘껏 시소를 타서 그 무게로 반대편으로 기울어지게 해 균형을 맞추려 해야겠죠. 언젠가 다시 조율해야 하겠지만요.
극단적으로 부조리한 상황이라면, 특정 반체제 인사에게 설득력 있는 범죄 혐의가 있더라도, 더 치명적인 가치 왜곡으로 공동체를 망가뜨리는 것부터 막자는 거죠. 쉽게 말해 기득권층에게 휘둘리지 말자는 거죠.
그 사람을 치우더라도 우리가 올바른 상황을 만들어놓고 그 인사에게 벌을 주겠으니, 우리에게 인간을 위하는 정의로운 가치를 달라고 외쳐야겠죠. 너희 멋대로 좋은 말을 오염시키지 말라고도요.
온전히 진실을 알 때 공정하게 판결을 기대할 수 있을 텐데, 그러기 위해선 정보를 판별하기보다는 공정한 존재가 정보를 관리해야 하는 상황에 이른 것이죠.
과거에는 노력하면 팩트 체크가 가능하던 시절이 분명 있었는데, 딥페이크 시절에는 아무것도 도무지 알 수 없을 상황이니까요. 궁여지책으로 자신이 지향하는 방향을 따라 선택할 수밖에 없죠. 생존을 위한 차선책이죠.
너무 완성도 높은 가짜뉴스 앞에서 AI에 대항하려 해도 이제 비판적 추론으로도 불가능하니, 어쩔 수 없이 자신의 신념을 믿는 수밖에 없죠. 그걸 미끼로 활용할 사람들도 있겠지만, 모든 미끼를 보면서 무엇을 믿기로 할지 선택해야 하죠. 모호한 근거를 만지작거리면서요.
“딥페이크 이전 시대엔 가짜뉴스 등 각종 정보에 대하여 '합리적 의심, 비판적 추론, 팩트 체크' 등이 중요했는데, 에어아이 시기에는 ‘약자인 인물에 관한 정보 오염 가능성을 염두에 둔 판단 유보, 인물 중심에서 벗어나 <세계시민의 인권과 양심을 반영한 체계>의 발전 가능성을 근거로 한 선택, 정의로운 방향성의 개인적 확신' 등 믿기의 차원으로 전환되는 거죠.”
