[무서운 AI] 난 지난 오늘 네가 한 일을 알고 있다
'데이터'가 '기억'이 되는 시점, 이젠 'oo타임라인'이 '발자취'다.
2024년 5월 00일 매년 참석하는 A전시회 참가를 위해
오전 9시 30분에 집에서 나와 지하철을 타고 코엑스로 향했다.
근데 지하철 타고 가는 길에 갑자기 알림이 폰에서 울렸다.
오늘 갈 전시회에서 7년 전에 찍은 내 사진과 자료 사진들을
AI가 편집해서 동영상으로 배경음악까지 그럴싸하게 넣어서 보여줬다.
할 말을 잃었다.
그림 출처: https://m.khan.co.kr/opinion/column/article/202405142020015#c2b함께 가는 아내에게 이 사실을 알려주니
눈을 크게 뜨며 그게 맞아? 어떻게 그게 가능해?
머리로는 이해하면서도 실전 체험 현실에서는
쉽게 납득하지 못하는 그런 모습이었다.
참고로 울 와이프는 프로그래밍(코딩)을 통해 AI데이터 처리 관련 된
내 일을 많이 도와준다.
우린 둘 다 스마트폰을 인터넷 검색, 뉴스기사, 유튜브 외에는
그냥 전화기로써의 본연의 역할로만 생각한다.
집에서는 노트북을 할지언정 폰은 손도 잘 안 댄다.
그런 상황에서 이런 알림은 이전에도 간혹 여행 간 사진 등을 편집해서
보내주는 것 외에는 처음이다.
알고리즘, 그리고 그 알고리즘을 구동할 수 있게 도와주는
십 수년 된 나의 스마트폰 데이터들이 이를 가능케 한 것이다.
(이런 서비스는 삼성 스마트폰 갤러리 스토리 AI기능, 구글 사진+캘린더=타임라인,
그 외에도 타사 관련 앱 등이 있음)
나의 기억보다 더 잘 기억하는 oo신(神)이 내가 어디 가는 줄 아는 것이다.
(oo은 구글, 삼성, 애플 등등 관련 서비스 업체는 다 가능)
예전 법정에서는 알리바이 증거로 일기장, 다이어리 등을 많이 제출했다.
요즘은 스마트폰-oo타임라인을 캡처해서 낸다고들 한다.
이런 말들을 실감-체감하는 순간이었다.
마치 oo이,
'너 매년 이맘때 이 경로로 어디를 가던데, 역시 올해도 가는구나~'라고
말하는 것처럼 느껴졌다.
그리고,
'7년 전 네 사진 그때 거기서 찍은 걸로 지금 네 모습을 비교해 봐~
격세지감이 느껴지지? 너도 많이 늙었어'라고 말하는 듯했다.
실제로 40대인 7년 전 보다 50대인 지금 내 얼굴의 주름을
마치 비교라도 해주려는 것처럼... 말이다.
신기함을 넘어서... 무서웠다.
처음 만난 사람이 나에 대해서 너무 잘 알고 있으면
나도 모르게 좀 경계하게 되는 것과 비슷한 느낌이었다.
그런데 기계가 그러니까 이건 뭐 이해가 되면서도
한편으로는 누군가 이 데이터를 조작한다면,
나는 나의 기억을 왜곡해서 기억할 것 같은,
아니 그게 어렴풋이 기억하는 나의 기억보다 더 정확하다고
믿을 것 같은 그 느낌이 더 무서웠다.
사실 녹취증거에 관한 원본성, 무결성에 관한 논쟁은
디지털 녹음기기가 나오면서부터 꾸준히 있어왔다.
그때마다 여러 기관의 의견과 판례, 그리고 연구 논문 등을
참고한 준거로 분석해 왔다.
그런데...
근래 '오픈 AI'사에서 발표한 GPT-4o(Omni)까지 접한 소회로는
이러다 디지털 증거는 이제 다 못 믿을 증거가 되는 것은 아닌지
미래에 대한 걱정이 앞섰다.
원론적으로 디지털 자체가 자연계의 산물이 아닌
인간이 만든 양자화 세계의 생성물인 만큼,
아날로그 방식의 기록물에 비하면 디지털 증거는,
늘 조작에 대한 개연성이 매우 높은 것이 사실이다.
그러나...
그에 따른 검증 방법도 다양해서 지금은
조건에 부합한 데이터 증거라면
충분히 증거파일 개작 및 편집, 위변조 여부를 확인할 수 있다.
하지만, 미래에는...
AI가 인간이 만든 양자화(量子化) 세계의 생성물을
다시 재창조하게 되는 시점,
'특이점(Singularity)'이 도래하게 된다면
앞선 우려가 현실이 될지도 모르겠다.
아니...
그때는 법정 상단에 인간이 아닌 AI판사가 있을 테니
그건 걱정 축에도 못 끼려나?!
AGI(Artificial General Intelligence) 보편화가 가속화된다면
이건 SF가 아닌 현실이 될 일이다.
증거 조작을 밝혀내는 AI를 또 만들어내면 되지 않겠냐?!
물을 수도 있겠지만,
그럼 또 그것을 회피하는 무언가를 AI가 만들어내지 않는다는
보장 역시 할 수 없기 때문에,
디지털 세계가 아날로그 세계를 앞도하게 될 날이 오는 순간
우리는 무엇을 어떻게 믿어야 할지부터 고민해봐야 하지 않을까
깊이 생각하게 된다.
기술은 편리함에서 놀랍고 신기함을 넘어서
이제는 나의 뇌보다 더 나를 잘 아는 것처럼 행동(작동)할지 모른다.
"당신이 지금 무엇을 위해 어디를 가는지... oo은 알고 있다. 두둥~!"
SF영화 제목이 아니다. 오늘 일기의 제목이다.
-끝-
