AI가 우리의 마음을 결정해서는 안된다
AI가 판도라의 상자가 되어서는 안 돼
AI는 우리에게 판도라의 상자가 될 것인가?
판도라의 상자.
제우스가 신의 불을 훔쳐 인류에게 선사한 프로메테우스의 동생인 에피메테우스에게 여인 판도라와 같이 준 항아리를 의미한다.
판도라는 결국 그 상자의 내용물을 확인하고 싶은 욕망적 호기심에 의해 그것을 열었고, 온갖 인간의 마음속에 있던 재앙의 근원들이 쏟아져 나왔다.
요즘 AI에 대한 관심이 급증하고 있으며 많은 사람들이 사용하는 중이다.
생성형 AI는 사람에게 깊은 생각을 하지 않고도 간단하게 정보를 즉각적으로 줄 수 있다는 점에서 많은 사람들이 편리함을 느낀다.
그중에는 당연히 단지 재미로써 인간관계와 연인관계에 대한 고민을 물어볼 수도 있다.
그러나 심지어 이런 생각을 가진 사람들이 있다.
생성형 AI를 이용해서 어려운 연인관계에서 상대방의 감정을 분석하고 그 관계를 이어나가고 싶다는 취지다.
또한 내가 좋아하는 상대방의 마음을 분석하고 싶다는 이유에서도 그렇게 만들고 싶다는 것이다.
편리하게 생각하면 이것이 사람들의 고민을 해결해 주고 도움을 줄 수 있다고 믿을 수 있다.
전문상담사의 역할을 대신해 주고 사람들의 관계를 원만하게 해 줄 수도 있다.
정말 이상적으로 생각하면 그럴듯하다.
하지만 이러한 제품과 생각은 절대 나와서는 안된다.
내가 AI 리터러시에 관한 글을 포스팅한 적이 있다.
AI를 잘 사용하되 경계하며 편향을 가지지 않아야 하며 답안에 대해서 끊임없이 새로운 관점을 가지고 의존하지 말아야 할 것이라고.
이러한 관점에서 상대방의 마음을 분석해 준다는 AI 서비스는 절대 이용하지 말아야 한다.
애초에 트랜스포머 모델의 어텐션 메커니즘은 사람의 감정을 분석할 수 없다.
아니 현재 뇌신경과학적으로도 감정과 마음이 어떻게 정동 되는지 검증되지 않았다.
즉 인관관계에 있어서 AI를 이용한다는 것은 거짓말에 현혹되는 것이며
그 서비스를 개발하고 파는 사람은 돈을 위해서 사람들에게 거짓을 파는 것과도 같다.
사람의 사고과정과 감정, 마음은 기계가 판단하지 못하는 그 이상의 것이 존재한다.
그리고 전에도 글을 썼지만 나는 공감각이 있다.
나의 개인적 감각 수용일 뿐이지만 나는 그것을 믿는다.
나는 사람들을 보면 색을 느끼고 말을 들으면 향이 떠오르고 대화를 통해 풍경을 상상 속 충동으로 볼 수 있다.
단지 내 직감에 의한 판단이지만 나는 그 사람의 진정성과 마음을 느낀다.
그리고 그 마음의 색이 나에게는 모두가 다르게 느껴지고 감정으로 느껴지는 크기도 다르다.
물론 그것이 아닐 수도 있다.
하지만 나는 내 감각을 받아들이고 이제 의심하지 않기로 했다.
그래서 사람의 마음과 진심은 단지 언어와 글로 표현하지 못하는 그 이상이 있는 것임을 나는 믿는다.
그리고 0과 1의 이진법으로 작동되는 컴퓨터는 사람의 감정을 분석할 수 없다.
AI가 텍스트로 서술한 사람의 감정과 마음은 그저 물질만이 존재하는 본질 따위는 없는 거짓말이다.
우연의 일치로 맞을 수 있다. 하지만 그것이 그 감정과 정확하게 일치하지 않는다.
즉 현재 AI로 타인의 마음을 분석한다는 것은 인간의 오만이며 거짓된 현혹이며,
사람을 이간질시키는 판도라의 상자를 여는 것이다.
사람들은 누구나 타인의 마음을 확인하고 싶어 한다.
하지만 그것은 우리가 모르는 상태로 남아있어야 가치가 있다.
사람과의 관계에 대한 가치와 설렘은
모순적이고 역설적이게도
우리가 그 사람을 완전히 모르기 때문에, 계속 궁금하기 때문에 존재하는 것이다.
상대방에 대한 모든 마음을 알았음을 느끼는 순간
사람의 인연은 서로 연결되는 의미가 없다.
상대방을 완전히 모르기에 알아가고 싶은 것.
상대방의 부족한 부분을 내가 채워줄 수 있음을 아는 것.
나의 결점을 오롯이 보여줄 수 있는 용기
이런 것들을 포용하여 서로의 색을 물들이는 것이 사랑이고 가치가 있는 관계이다.
절대 인간이 모든 걸 알고자, 상대방을 소유하고자 하는 욕망과 오만에 기인해 상대방의 마음을 거짓된 AI로 판단하지 말아야 한다.
내가 존경하는 역사학자이자 작가인 유발하라리가 책에서 항상 강조하는 것이 있다.
인류의 미래가 절대 가축이 되어서는 안 된다고.
현재 인류가 직면한 가장 큰 문제는 바로 생각의 가축이 되는 것이다.
스티브 잡스는 신에게서 불을 훔쳐서 인류에게 선물을 주었다.
많은 사람들이 서로를 시간과 공간을 초월해서 연결되었지만,
그와 동시에 많은 사람들은 빛을 내뿜는 사각형을 볼 뿐 현실세계의 주변에서 소중한 것을 바라보지 않는 부작용을 낳았다.
하지만 여기까지는 수용할 만하다. 그것은 개인이 가치판단 할 수 있고, 위험성과 효용성을 모두가 인식할 수 있으니까.
하지만 AI가 판도라의 상자로 다가온다면, 단지 상대방의 마음을 편하게 확인하고 싶은 개인적 욕망에 기인한 호기심으로 만들어진다면
그것은 수많은 사람들에게 거짓을 사실로 둔갑시켜 이간질시킬 뿐이다.
그러고 나서 사람들이 자신의 마음과 생각을 AI가 결정하는지도 모르는 마음의 가축이 되어버린다면 그때는 막을 수 없다.
그때는 단지 두 가지 알약을 먹은 사람들만이 존재한다
자신의 마음을 알고 있기에
빨간색 약을 먹어서
AI라는 판도라의 상자에 마지막으로 남겨진 희망을 자유를 위해서 쓰는 사람.
현실의 편의를 위해 파란색 약을 먹고
혹은 자신이 가축이 된 채도 모르고 남겨진 희망을 자신의 목줄로 쓰는 사람.
역사적으로 자신의 욕망과 편의를 위해 자신의 용기와 자유를 포기한 사람은 결국 신이 웃으면서 심판을 하러 왔었다.
알렉산드로스, 카이사르, 나폴레옹 같은 수많은 역사적 위인들이 결국 몰락으로써 이를 증명했다.
사람이 마지막까지 남겨야 하는 최후의 가치는 자유를 위한 희망이다.
탐욕과 편의만을 생각해 희망을 목줄로 바꾸어서는 안 된다.
영화 매트릭스에서 유일하게 인간을 이해하는 프로그램 오라클영화 매트릭스의 아키텍트는 감금된 인간을 통제하고 인간의 심리라는 방정식을 풀고자 매트릭스를 만들었으나, 그저 수학적 방정식을 해결하는 데 특화된 아키텍트는 인간의 심리를 이해하지 못했다.
이후 아키텍트는 인간에게 선택권이 중요함을 깨닫고 아키텍트는 오라클의 힘을 빌어 인간을 가두는 안정적인 매트릭스를 만들었다.
하지만 결국 인간의 심리를 유일하게 분석할 수 있는 오라클은 악의를 가진 스미스 요원에게 흡수당하여 모든 생명을 말살하려는 존재로 거듭난다.
과연 사람에게 있어서 인간의 심리를 알 수 있는 인공지능 오라클의 존재가 좋은 것일까?
이미 10년 전의 워쇼스키형제는 영화 매트릭스를 통해서 우리에게 말해주었다.
설령 기술적으로 가능하더라도 인간의 고유한 선택권은 결국 존중받아야 하며, 인간이 AI를 오라클로 받아들이는 순간 스스로를 매트릭스로 몰아넣게 된다고.
우리는 모르는 것을 받아들이기 때문에 희망을 가지고 자유와 사랑을 추구한다.