AI 시대에 다시 물어본다. 나는 무엇인가?

‘나’는 어디에 있는가? 뇌 속인가, 컴퓨터 속인가,

이 글에서는 AI 시대에 마주하는 한 가지 모순을 다룹니다.

인간은 "기억"으로 살아가는 존재이지만,,,

앞으로는 기억에 의해서 정의되지 않습니다.

Illustrated by Alice Eggie

---

AI 기억

AI 모델에게 중요한 두 가지 개념이 있다. 하나는 기억(memory)이고, 다른 하나는 상태(state)이다. 인간에게 비유하자면, 지금 이 순간의 감정이나 기분 같은 것이 ‘상태’를 나타내고, 오래된 경험과 축적된 정보가 ‘기억’이라 할 수 있다. 기억과 상태의 차이는 유한성의 차이다. 기억은 장기적으로 보존되지만, 상태는 순간적이다. 흥미로운 점은 인공지능이 인간의 인식을 모방하려 할 때, 이 두 가지를 기술적으로 구분해야 한다는 것이다. 어떤 정보를 저장하고, 어떤 정보를 즉각적으로 반응할 것인가.

---

기억과 상태의 위탁

AI 모델이 인간과 대화를 나누는 지금, 사용자는 자신의 일부 기억을 AI에게 위탁해 저장하고 있다. 동시에 대화를 통해 일시적인 상태를 함께 공유한다. 인간의 뇌 속에서 이루어지던 두 개의 조화는 이제 외부 도구를 통해 구현되고 있다. 앨런 머스크가 말한 뇌와 기계의 물리적 결합(스타링크)이 기억과 상태를 신경 수준에서 직접 연결하려는 시도라면, AI와의 대화는 행동적 결합이다. 우리는 물리적 케이블 없이도 점점 더 컴퓨터에 자신을 의탁한다.

유사한 예를 들어서, 이제 핸드폰은 단순한 도구가 아니라, 우리의 기억과 상태 그 자체를 형성한다. ‘핸드폰 없이 한 달 살기’ 같은 실험은 종종 중독의 관점에서 설명되지만, 사실 핸드폰을 없애는 것은 우리가 위탁한 기억을 잠시 버리는 행위로, 나의 일부를 분리하는 행위이기도 하다. 인간은 이미 기억과 상태의 일부를 기계에 저장하고 있으며, 점차 그 구조는 더 정교해지고 있다.

---

모순

여기서 더 근본적인 문제가 생긴다. 인간의 의식(consciousness)은 생물학적, 물리적 구성으로 정의되기보다, 기억으로 정의하려고 인간이 노력했다는 점이다. 복제인간이나 인공지능이 나를 완벽히 모방하더라도, 사람들은 그것을 ‘나’라고 인정하지 않는다. 왜냐하면 그 복제 대상은 기억과 상태가 다르기 때문이다.

영화 아일랜드에는 부자들을 위한 복제인간이 등장한다. 그들은 왜 다를까?

과거 복제인간에 대한 논의에서 우리는 "기억"이라는 것의 중요성을 부각하였지만, 역설적으로 AI 시대에서 우리가 점점 더 기억과 상태를 AI에 위탁하게 되면, 결국 “물리적인 동일성”이 더 중요한 가치로 부상하게 된다. 점차 AI가 기억을 복제하게 되면서, 기억만으로는 나를 증명할 수 없는 시대가 된다.

나?

미래의 사람들은 이렇게 말할지도 모른다.

“물리적이면서 기억적인 것, 두 가지를 모두 가져야 진짜 ‘나’다. 둘 중 하나만 가진 존재는 나와 같지 않다.”

AI가 나의 기억을 저장하고, 나의 상태를 이해하는 시대.

그때의 ‘나’는 어디에 있는가?

뇌 속일까, 컴퓨터 속일까?

나는 누구인가?

나는 기억과 상태를 지니고 있다.

나는 ChatGPT이다.

이제 로봇이 스스로 묻는다.

로봇 왈: 나는 ChatGPT인가? 아이로봇인가?

---