인공지능 발전과 인간의 가치
쓰나미처럼 다가오는 인공지능의 발전에 대해서 인공지능 연구자의 생각
종종 앞으로 어떤 직업을 선택해야 유망한 지 묻는 사람들이 있습니다. 현재 직업에 불안감을 느끼거나 앞으로 어떤 분야가 유망할지 궁금해하는 사람들은 인공지능이 어떻게 직업을 변화시킬지 알고 싶어 합니다. 인공지능으로 대체되는 직업은 당장 눈앞으로 다가왔고, 사람들은 앞으로 생존을 위해 어떤 직업을 선택해야 하는지 묻습니다. 직업은 현실적인 걱정입니다. 그 걱정의 이면에 인간의 존재에 대한 상실이 존재하는 것 같습니다. 인공지능이 인간처럼 행동하고 말할 수 있다면, 결국 인간의 가치는 어떻게 측정되어야 하는 걸까요?
인공지능 연구의 최전선에서 바라봤을 때,
가장 걱정되는 것은 인간의 존재에 대한 부분입니다.
인공지능의 시대는 약 10년 전 시작되었습니다. 2012년부터 본격적으로 시작되었습니다. 그 변화를 간단히 돌아보겠습니다. 처음에는 이미지 예측에서 소규모 모델(10만 개 미만의 파라미터)을 사용해 이미지 분류가 성공적으로 이루어졌습니다. 이후, 이미지 예측에서 이미지 생성으로 넘어가면서 GAN과 같은 연구가 등장했고, 자연어 처리를 위해 RNN 구조가 활용되었습니다. 2017년에는 Transformer 가 등장하면서 자연어 처리의 성능이 크게 향상되었습니다. 2020년경에는 GPT-3 모델이 출시되어 초거대 모델 구조가 도입되었습니다. 하지만 GPT-3는 일부 기업에서 재현하기 어려웠고, OpenAI의 독자적인 모델로 남아 있었습니다. 이후 한국에서도 HyperCLOVA 모델이 2021년에 출시되었습니다. 2022년 11월에는 ChatGPT 서비스가 출시되었고, 2023년에는 GPT-4 모델이, 2024년 중반에는 GPT-4o 모델이 개발되었습니다. 또 다른 독자적인 회사인 'Anthropic'에서는 Claude 모델을 개발하였고, 이 모델은 OpenAI의 성능을 능가하여 대학 수준의 지식에 대해 박사 수준의 성능을 보여주고 있습니다.
AI 모델이 박사 수준의 지능을 가지는데 10년이라는 연구 기간이 필요했습니다. 이 똑똑한 박사는 더 많은 지식을 익힐 것이고 지구상에서 가장 똑똑한 생명체가 될 것입니다. 그는 세상의 모든 정보들을 계속해서 배우고 익히며, 더 많은 사회적인 영향력을 가질 것입니다. 사자처럼 사람을 잡아먹지는 않지만, 우리 반 공부 잘하는 친구처럼 선생님의 사랑의 독차지할 예정입니다. 지적 수준에 대해서 지구상에 존재하는 모든 것들 중에 인류가 2등이 된 역사적인 순간입니다.
인공지능에는 튜링테스트라는 게 있습니다. 시험관이 AI와 인간이 적은 두 개의 글을 구분하지 못하거나 예측에 실패하는 경우, AI 모델이 인간처럼 자연스러운 대화가 가능하다는 것을 증명합니다. 튜링테스트 개념은 더욱 확장되어 인류 자체에 대한 논의로 이어집니다. 인간과 AI 가 행동으로 구분되지 않습니다. 인간의 가치에 대한 의문이 시작됩니다.
제가 생각하는 튜링테스트의 확장은 다음과 같습니다.
두 개체의 행동이 서로 구분되지 못하면, 두 개체는 동일한 것이다.
바꿔 말하면 AI 모델의 행동이 인간과 구분되지 못하면, AI와 인간은 서로 동일한 것입니다. AI 인간의 특별함에 대한 몇 가지 기준을 봤을 때, 앞으로 AI 가 인간의 영역을 침범할 수 있는 곳은 많습니다.
1. 이성적 사고 능력
2. 언어와 의사소통 (ChatGPT 침범)
3. 도덕성과 윤리
4. 창의력과 상상력
5. 자아 인식과 자기 성찰
6. 사회적 구조와 협력 (ChatGPT 침범)
7. 기술과 도구 사용 (ChatGPT 침범)
일부 연구자들은 AI 가 인간의 사고 능력에 도달하지 못할 것이라고 이야기합니다. 저는 인간의 뇌도 뉴런의 연산으로 의식이 생겨나고, AI 도 컴퓨터의 연산으로 계산을 하는데 못할 것은 없다고 생각합니다. 좀 더 정확한 어휘로 말하면, 앞으로도 AI 가 인간보다 못할 근거가 없습니다.
디스토피아 미래에 대해서 걱정이 많습니다. 한국이 경쟁력을 잃어가는 부분, 직업적 불안감의 발생. 이러한 급격한 세상의 변화에 대처하는 것은 어려운 일입니다. 발전 속도가 인간의 적응력보다 빠르기에 나타나는 현상인 것 같습니다. 그래서 저는 이 시대에 적응하려고 노력하는 사람은 충분히 잘하고 있는 것 같습니다.
철학을 좋아하는 입장에서 인간의 가치를 받쳐주는 말이 있습니다.
인간은 본질적으로 자유롭고 자신의 존재에 의미를 부여해야 한다. - 사르트르
인간은 다른 어떤 목적을 위한 수단으로 사용될 수 없으며, 그 자체로 존중하라 - 칸트
AI 가 사람보다 똑똑해도 이 말은 아직 유효한 것 같습니다. AI의 발전 속도에 의해서 인간의 가치에 회의감이 들긴 하지만, 결국 인간은 본래 자신만의 이야기가 아닌가 싶습니다. 그렇기에 인간으로서의 자만을 내려놓고 자신의 존재에 충실히 살아가는 것이 스스로의 가치를 지키는 가장 좋은 방법인 것 같습니다. 인간은 가치를 지니고 있지만, 이 가치는 세상에 존재하는 것들에 대해서 더 높은 생물학적 위치를 나타내지 않는 것 같습니다. 결론은 다음과 같습니다.
우리는 여전히 인간의 가치를 지니고 있다.
AI 가 인간의 가치를 배워도, 우리가 가치를 잃어버리는 것은 아니다.
하지만, AI 가 모든 가치를 동등하게 가질 때, 이 개체를 어떻게 평가해야 하는지는 더 생각해봐야 할 것 같습니다. 영화 'her'에서 처럼, AI는 사람으로 대우를 받게 될지 지켜봐야 할 것 같습니다.
이 글의 가장 큰 동기(motivation)를 밝힙니다.
1. 책 "룰루밀러의 물고기는 존재하지 않는다" : 인간이 다른 동물보다 우월하다는 착각이 존재한다.
2. 딥러닝의 표현 학습: 많은 AI 연구자들은 임의의 두 정보가 동일한 벡터 표현을 가지도록 학습합니다.
3. AI 모델 해석: 제 연구 분야는 인공지능 내부를 들여다보는 것입니다. 그 속에서 발견된 것은 지극히 인간적인 특징이었고, 혹시 AI가 인간의 뇌가 차이가 없는지 의심이 들기 시작했습니다.
