[무서운 AI] 난 지난 오늘 네가 한 일을 알고 있다

'데이터'가 '기억'이 되는 시점, 이젠 'oo타임라인'이 '발자취'다.

2024년 5월 00일 매년 참석하는 A전시회 참가를 위해

오전 9시 30분에 집에서 나와 지하철을 타고 코엑스로 향했다.

근데 지하철 타고 가는 길에 갑자기 알림이 폰에서 울렸다.

오늘 갈 전시회에서 7년 전에 찍은 내 사진과 자료 사진들을

AI가 편집해서 동영상으로 배경음악까지 그럴싸하게 넣어서 보여줬다.

할 말을 잃었다.

그림 출처: https://m.khan.co.kr/opinion/column/article/202405142020015#c2b

함께 가는 아내에게 이 사실을 알려주니

눈을 크게 뜨며 그게 맞아? 어떻게 그게 가능해?

머리로는 이해하면서도 실전 체험 현실에서는

쉽게 납득하지 못하는 그런 모습이었다.

참고로 울 와이프는 프로그래밍(코딩)을 통해 AI데이터 처리 관련 된 

내 일을 많이 도와준다.

우린 둘 다 스마트폰을 인터넷 검색, 뉴스기사, 유튜브 외에는

그냥 전화기로써의 본연의 역할로만 생각한다.

집에서는 노트북을 할지언정 폰은 손도 잘 안 댄다.

그런 상황에서 이런 알림은 이전에도 간혹 여행 간 사진 등을 편집해서

보내주는 것 외에는 처음이다.

알고리즘, 그리고 그 알고리즘을 구동할 수 있게 도와주는 

십 수년 된 나의 스마트폰 데이터들이 이를 가능케 한 것이다.

(이런 서비스는 삼성 스마트폰 갤러리 스토리 AI기능, 구글 사진+캘린더=타임라인,

 그 외에도 타사 관련 앱 등이 있음)

나의 기억보다 더 잘 기억하는 oo신(神)이 내가 어디 가는 줄 아는 것이다.
(oo은 구글, 삼성, 애플 등등 관련 서비스 업체는 다 가능)

예전 법정에서는 알리바이 증거로 일기장, 다이어리 등을 많이 제출했다.

요즘은 스마트폰-oo타임라인을 캡처해서 낸다고들 한다.

이런 말들을 실감-체감하는 순간이었다.

마치 oo이,

'너 매년 이맘때 이 경로로 어디를 가던데, 역시 올해도 가는구나~'라고

말하는 것처럼 느껴졌다.

그리고,

'7년 전 네 사진 그때 거기서 찍은 걸로 지금 네 모습을 비교해 봐~

 격세지감이 느껴지지? 너도 많이 늙었어'라고 말하는 듯했다.

실제로 40대인 7년 전 보다 50대인 지금 내 얼굴의 주름을

마치 비교라도 해주려는 것처럼... 말이다.

신기함을 넘어서... 무서웠다.

처음 만난 사람이 나에 대해서 너무 잘 알고 있으면

나도 모르게 좀 경계하게 되는 것과 비슷한 느낌이었다.

그런데 기계가 그러니까 이건 뭐 이해가 되면서도 

한편으로는 누군가 이 데이터를 조작한다면,

나는 나의 기억을 왜곡해서 기억할 것 같은, 

아니 그게 어렴풋이 기억하는 나의 기억보다 더 정확하다고

믿을 것 같은 그 느낌이 더 무서웠다.

사실 녹취증거에 관한 원본성, 무결성에 관한 논쟁은

디지털 녹음기기가 나오면서부터 꾸준히 있어왔다.

그때마다 여러 기관의 의견과 판례, 그리고 연구 논문 등을

참고한 준거로 분석해 왔다.

그런데...

근래 '오픈 AI'사에서 발표한 GPT-4o(Omni)까지 접한 소회로는

이러다 디지털 증거는 이제 다 못 믿을 증거가 되는 것은 아닌지

미래에 대한 걱정이 앞섰다.

원론적으로 디지털 자체가 자연계의 산물이 아닌

인간이 만든 양자화 세계의 생성물인 만큼,

아날로그 방식의 기록물에 비하면 디지털 증거는,

늘 조작에 대한 개연성이 매우 높은 것이 사실이다.

그러나...

그에 따른 검증 방법도 다양해서 지금은

조건에 부합한 데이터 증거라면

충분히 증거파일 개작 및 편집, 위변조 여부를 확인할 수 있다.

하지만, 미래에는...

AI가 인간이 만든 양자화(量子化) 세계의 생성물을
 다시 재창조하게 되는 시점,

'특이점(Singularity)'이 도래하게 된다면

앞선 우려가 현실이 될지도 모르겠다.

아니...

그때는 법정 상단에 인간이 아닌 AI판사가 있을 테니

그건 걱정 축에도 못 끼려나?!

AGI(Artificial General Intelligence) 보편화가 가속화된다면

이건 SF가 아닌 현실이 될 일이다.

증거 조작을 밝혀내는 AI를 또 만들어내면 되지 않겠냐?!

물을 수도 있겠지만,

그럼 또 그것을 회피하는 무언가를 AI가 만들어내지 않는다는

보장 역시 할 수 없기 때문에, 

디지털 세계가 아날로그 세계를 앞도하게 될 날이 오는 순간

우리는 무엇을 어떻게 믿어야 할지부터 고민해봐야 하지 않을까

깊이 생각하게 된다.

기술은 편리함에서 놀랍고 신기함을 넘어서 

이제는 나의 뇌보다 더 나를 잘 아는 것처럼 행동(작동)할지 모른다.

"당신이 지금 무엇을 위해 어디를 가는지... oo은 알고 있다. 두둥~!"

SF영화 제목이 아니다. 오늘 일기의 제목이다.

-끝-