AI로부터
인간을 지켜야 하는 이유

인류는 지식의 끝에 도달하지 않았기에 더 멀리 가기 위해서 필요하다.

Aug 29. 2024

결론부터 말하자면,

인간을 지켜야 하는 이유는 세상이 (1) 인간의 창의성을 여전히 필요로 하며, (2) 인공지능 기술이 도달한 지식이 끝이 아니기 때문이다. 더 넓고 많은 곳으로 가기 위해서 여러 아이디어가 결합 및 검증어야 한다.
그 과정에서 20만 년 동안 세상의 지식을 찾아내기 위해서 진화된 호모사피엔스가 필요하다.

1. 모호한 저작권

연구의 시작은 생성형 AI 모델이 데이터를 암기하고 복제물을 만들 수 있는 현상에서 시작된다. 대형언어모델 (일명, LLM)에 대한 사회적인 시선은 유용성과 걱정을 모두 담고 있었고, 모델 성능이 오를수록 저작물에 대한 침해는 심해졌다. 무엇보다 걱정스러운 점은 언어의 소유를 나타내는 저작권이었다. 다른 대상보다 물리적인 요소가 적기에 [1], 누구나 쉽게 복제할 수 있었다. 더 나아가서 복제의 대상이 불명확했는데, (a) 저작권 침해가 기호의 복제를 나타내는지, 아니면 (b) 본질적인 의미를 보존한 의역 (paraphrasing)을 나타내는지 혼란스러웠다 [2]. 그 고민 속에서도 여전히 생성형 AI는 수많은 언어를 배우고 문장들을 토해내며, 인간의 언어로 완성된 창장물에 대한 걱정은 해소보다는 심화되고 있었다. 더 나아가서는 생성형 AI가 샘플링하는 문장의 양에 의해서 저작권의 개념이 사라질 것이라는 추측도 발생하였다 [3]. 이 논리적 흐름의 끝에서 결국 저작권을 지킬 방법과 이유가 불분명했다. 나에게는 저작권을 지켜야 하는 이유를 찾을 더 넓은 범위의 사고가 필요했다. 이 글을 적어가며, "저작권을 지키는 것"과 "인간의 존재를 지키는 것"을 동일한 의미로 사용한다. 그 이유는 인간의 동기부여로 저작권이 사용되기 때문이다.

[1] 이미지나 오디오는 물리적인 주파수 시그널을 가지고 있는 반면에, 언어는 기호들로 쓰임.

[2] Paraphrasing으로 저작권을 제거하는 것은 AI에 적용되는 기술이다. 따라서 다른 기호가 사용된다는 점으로 저작권 침해가 되지 않았다는 것은 올바른 논리가 아니다. 다만, 의역이 저작권 침해에 해당한다면, 글에 서 지켜야 하는 본질적인 의미인 "생각"이 어떤 대상인지 명확히 할 필요는 있다고 생각한다.

[3] 인간과 AI 모두 문장을 생성할 수 있지만, AI는 더 빠르고 많이 생성할 수 있다. 양적인 우위가 있음은 자명해 보인다. 더 나아가서 저작권 개념의 모호성과 복제력으로 (브런치 글: AI야, 내 아이디어를 훔친 거야)

2. 인간의 한계

'인간 존재를 지킬 이유'를 이해하기 위해서 필요한 첫 번째 논리는 "세상의 제한적인 것을 바라보는 인간의 한계"이다. 우리는 필연적으로 제한된 사고를 하며, 시공간적으로는 외부환경과 제한된 시간을 나타내며, 물리적으로는 뉴런의 신경 전달이 제한적이다. 더 나아가서 사용하는 어휘들은 나의 세계를 구축하며 [1], 우리가 해독할 수 있는 것과 대화의 수준은 제한된 범위 내에서 우리는 필연적으로 "진실이 아닌 정보들을 만나며", 진리는 허상에 가깝다 [2]. 물론 세상에는 정답이 존재한다. 다만 그 정답은 잘 형성된 울타리 내에서 정의되는 것이며, 울타리는 넘어서까지 성립하지 않는다 [3]. 이 논리의 끝에서 내가 마주한 것은 "불완전한 나의 생각"이다. 그러나 여기서 중요했던 것은 다르게 해석할 여지가 있다는 점이다. 바꿔 말하면, 정답에 가까운 진리가 여전히 내 세상의 밖에 존재할 가능성이 있다는 명제이다. 나의 불완전성을 가정하고, 외부에 존재하는 진리를 가정하면, 자연스럽게 내가 모르는 세상에 대한 궁금증이 유발된다.

[1] 인공지능과 사람의 뇌에 대한 이해와 차이점은 생각을 컴퓨터처럼 연산의 결과물로 해석할 여지를 제공한다 (글 - 신경세포와 AI 뉴런은 얼마나 닮았는가? / 영상 버전). 언어로부터 제한된 세계는 비트겐슈타인 - The limits of my language mean the limits of my world. 언어는 사용하는 세계를 구축한다는 점과, 사람마다 각기 다른 시니피앙, 시니피에가 존재한다는 점으로부터 나오는 논리이다 (영상 - AI언어).

[2] AI모델이 제공하는 언어의 가독성으로 우리가 마주하는 정보들은 진실에 가까울 뿐, 100% 진실이 아니다. 또한 우리는 진리에 도달하지 못한다는 이그노라비무스 관점은 (영상 @latte1962 님 고정 댓글 참조)

[3] 정답을 위해 형성하는 울타리는 폐쇄된 공간이다. 수학은 전형적으로 폐쇄된 논리적 집합을 형성하여 연역적 추론을 이끄는 학문이다. 이 개념을 좀 더 확장하면, 우리가 생각하는 정답들 또한 개념들에 대한 폐쇄된 공간에서 정의되는 것이다. 그 안에서 성립할 수 있지만, 그 밖에서도 성립하는 것을 보장하지 않는다. (영상- 인공지능 연역적 추론)

3. 미지의 세계

한편으로 미지의 세계를 가정하는 것은 태도의 문제이다. 누군가 미지의 세계가 없다고 가정한다면, 그는 자신의 사고를 넘어서 세상을 관찰하지 않는 것이며, 외부 세계를 발견할 가능성은 없다. 나 또한 인공지능 모델, 뉴런의 작동원리 등을 공부하면서 닫힌 세계에서 사고하였고, 외부 세상에 대한 가정을 하지 않았다. 이 사고를 확장한 것은 Google Research의 Connectomics였다. 우리가 모르는 세계에 대한 시각적 증명이, 뇌의 뉴런에 대한 인간의 무지와 발견의 가능성을 보여줬다.

https://blog.google/technology/research/google-ai-research-new-images-human-brain/

마지 나무를 닮은 이 그림은 최소한 500개 이상의 축삭(Axon)을 가진 뉴런이다. 인공지능과 뉴런을 공부하면서 뉴런은 축삭을 하나만 가질 수 있다고 배웠는데, 여기서는 500개를 가지고 있다고 한다. 이에 대한 과학적 논의는 차치하고, 나에게 중요하게 작용한 것은 사고의 확장이다. 나는 뇌의 생각의 메커니즘을 담당하는 뉴런에 대한 이해를 했다고 생각했으나, 실제 관찰된 세상은 달랐다.

Credit: Google Research & Lichtman Lab (Harvard University). Renderings by D. Berger

실제로 내가 안다고 생각하는 것은 전체 작동원리가 아니라 추상화된 개념이었고, 둘의 간격은 조금씩 좁혀질 뿐, 여전히 발견될 무수히 많은 비밀이 세상에 많다. 그러므로 나는 더 이상 안다는 것을 가정하지 않는다. 이제는 무지를 가정한다. 왜냐하면 실제로 나는 세상에 무지하고, 오직 내가 형성한 세계 안에서 진리를 알고 있을 뿐이기에.

4. 세상의 문제

인류가 이뤄낸 많은 창작물은 해결된 문제를 바라보고, 한편으로는 겸손하지 못하게 만든다. 내가 속하는 닫힌 세계에서는 외부의 세계를 바라보기 힘들기 때문에 자연스러운 현상이다. 그러나 무지의 세계가 존재한다는 가정을 받아들이는 순간, 우리는 세상의 수많은 문제들을 마주할 수 있다. 내 세상의 한계와 미지의 세계에 대한 가정은 인류에게 중요한 문제들이 얼마나 많이 풀렸는지 객관적으로 바라보게 만든다. 그리고 중요한 것은 인공지능은 그들을 풀 능력이 없다는 것이다. 물론 인공지능은 대단하다. 그러나 헤엄을 잘 치는 것이 하늘을 날 수 있다는 것을 보장하지 않듯이, 인공지능의 능력도 더 확장될 필요가 존재하며, 무지를 가정하는 게 옳다.

1. 하늘을 나는 새를 만들 수 있는가?

2. 로맨스 영화를 한 편 만들어줄 수 있는가?

3. 정서적으로 힘든 사람을 위한 글을 작성해 줄 수 있는가?

4. 알츠하이머로 고통받는 사람들을 위한 신약을 만들어 줄 수 있는가?

(KAIST의 뇌인지-X, 이인아 교수님 발표 자료)

이 대상들은 인간이 가정하는 닫힌 세계 내에서 해결될 만큼 단순한 대상이 아니며, 물리, 사회, 정서적으로 엄청 많은 정보들을 관계를 해독해야 완벽하게 모델링할 수 있다. 현재 인공지능이 할 수 있는 것은 그 과정에서 일부 모듈을 대체하는 것이며, 인간이 미지의 세계를 모르는 만큼 인공지능도 닫힌 세계 안에서 작용할 가능성이 높다.

5. 동기부여

1) 나의 한계 - 세상을 해석하는 닫힌 세계

2) 미지의 세계 - 외부에 존재하는 세계

3) 세상의 문제 - 외부에 존재하며, 인류를 위해 풀어야 할 숙제

이 세 가지 개념으로 지식을 확장하기 위해서 필요한 것은 기여하는 사람들이다. 바꿔 말해서 여전히 세상을 탐구하고 나갈 존재가 인류에게 필요하다. 나는 그 존재가 호모 사피엔스라고 생각한다. 지구상의 다양한 생명체와 무생물인 AI도 도움을 주고 나아가겠지만, 생성형 AI로 대체하여 20만 년 동안 지식을 갈구하도록 진화된 생명체를 한순간에 동기저하로 만드는 것은 너무나 어리석은 짓이다.