2075년, AI는 인간을 추월할 수 있다.
The Merge - 샘 올트먼 (2017)
실리콘밸리에서는 요즘 사람들이 자주 묻는 질문이 있습니다.
"인간과 기계가 완전히 결합하는 건 몇 년도쯤일까?"
혹은 이렇게 묻기도 하죠.
"인간이 빠르게 발전하는 인공지능이나 유전자 강화 생명체에게 추월당하는 건 몇 년도쯤일까?"
대부분의 추정치는 2025년에서 2075년 사이에 몰려 있습니다.
예전에 이런 현상을 특이점(SIngularity)라고 불렀습니다. 하지만 이제는 그 말 조차 꺼내기 껄끄러울 정도로 현실이 되어버린 느낌이라, 사람들은 이걸 이름 없이 회피하려는 듯 합니다.
또 다른 이유는, '특이점'이라는 단어가 하나의 순간을 암시하기 때문일 겁니다. 하지만 지금 일어나는 양상을 보면, '병합(merge)'은 단발적인 사건이 아니라 아주 서서히 진행되는 과정처럼 보입니다. 그리고 점진적인 변화는 알아채기 어렵습니다.
저는 병합은 이미 시작되었고, 지금 우리는 그 한복판에 있다고 생각합니다.
휴대폰이 우리를 지배합니다.
언제 무엇을 해야 할지 알려주고,
소셜 미디어 피드는 우리의 감정을 좌우하며,
검색 엔진은 우리가 어떤 생각을 가지게 될지 결정합니다.
이 모든 것을 작동시키는 알고리즘은 이제 누구도 완전히 이해할 수 없는 수준에 도달했습니다. 물론, 여전히 인간이 "이런 목표를 최적화하라"고 명령하지만, 그 결과물은 인간의 예측을 뛰어넘는 방식으로 구현됩니다.
지금 우리가 보기엔 이 AI들이 꽤 정교하게 보일지 몰라도,
조만간 이것도 '유치한 장난'처럼 느껴질 날이 올 겁니다.
그리고 이들은 너무나도 효과적입니다. 제 경험을 말하자면, 저는 알고리즘이 원하는 걸 거절하는 데 엄청난 어려움을 느꼈습니다. 실제로 맞서 싸우기로 결심하기 전까지, 인터넷 중독은 저를 통째로 집어삼키려 했습니다. [1]
[1] 덧붙이는 개인적 고백: 저는 지금의 주의력 해킹이 설탕 중독처럼 이 시대의 만연한 역병이 될 것이라고 믿습니다. 저 자신에게도 변화가 느껴집니다. 한때는 집중력을 당연하게 누리던 시절이 있었고, 그 시절이 가끔은 아련히 그립습니다. 그런데 제 친구들의 어린 자녀들은 '집중력'이라는 개념조차 겪어본 적이 없어, 그걸 그리워할 줄도 모릅니다. 저는 예전보다 더 자주 화가 나고, 불행감을 느낍니다. 하지만 그 에너지를 생산적인 변화로 바꾸는 일은 줄었고, 대신 '좋아요'와 '분노'라는 도파민 이중 타격감만 쫓고 있는 제 모습을 발견합니다.
우리는 이미 공동 진화(co-evoluion)의 단계에 진입했습니다.
AI는 인간에게 영향을 주고, 인간은 AI를 다시 개선합니다.
우리는 더 강력한 컴퓨팅 자원을 만들고,
그 위에 AI를 올려 학습시키고,
AI는 다시 우리보다 더 나은 칩을 설계할 방법을 찾아냅니다.
이 흐름은 막을 수 없을 가능성이 큽니다.
물리법칙이 허락하는 한, 과학적 진보는 결국 실현되는 법이니까요.
그리고 더 중요한 건,
우리가 먼저 자멸하지 않는다면,
초지능 AI는 반드시 오게 되어 있고,
유전자 강화 인간도 가능해지며,
두뇌-기계 인터페이스도 실현될 것입니다.
"우리는 우리보다 똑똑한 존재를 결코 만들지 못할 것이다"라는 생각 자체가, 상상력 부족이고 동시에 인간의 오만함 입니다.
인간은 '지능'을 자존감의 근간으로 삼습니다.
그래서 이 지능이 다른 생물들과는 급이 다른, 유일무이한 무언가라고 믿고 싶어하죠.
하지만 어쩌면 AI는 이렇게 생각할지도 모릅니다.
"*인간과 보노보(유인원의 일종) 사이의 차이는...굳이 논할 가치가 있을까?"
*인간이 유인원 보다 똑똑하다고 자부하듯이, AI 역시 인간을 자신보다 똑똑한 동물 정도로 볼 수도 있다는 비유
병합은 다양한 형태를 취할 수 있습니다.
우리의 뇌에 전극을 직접 심을 수 있고, 아니면 그저 챗봇과 친밀한 관계를 맺는 방식일 수도 있습니다.
어떤 방식이든 간에, 병합은 아마도 인류에게 주어진 '최선의 시나리오'일 가능성이 큽니다. 만약 서로 다른 두 종이 같은 목표를 원하고, 그 목표를 오직 한 종만 가질 수 있다면 (예를 들어 '지구가 아닌 곳을 지배하는 종이 되는 것') 충돌은 피할 수 없습니다.
(인간과 AI는) 우리는 모두 한 팀이 되는 편이 낫습니다.
모든 구성원이 서로의 안녕을 중요하게 생각하는 쪽이 더 바람직합니다.
비록 병합은 이미 시작되었지만, 앞으로는 훨씬 더 낯설고 기이한 전개가 펼쳐질 겁니다.
우리는 인류 역사상 처음으로 '스스로 후손을 설계하는 종'이 됩니다.
제 생각에, 우리는 두 가지 중 하나를 선택해야 합니다.
1. *디지털 지능을 위한 생물학적 **부트로더가 되고, 그 뒤로는 진화의 갈래에서 조용히 사라지거나,
2. 혹은 성공적인 병합이란 무엇인지 직접 설계하는 겁니다.
*우리가 AI라는 새로운 지능을 만들어낸 다음, 마치 역할이 끝난 조연처럼 인류는 진화에서 점점 잊힐 수도 있다는 것을 비유
**시스템이 운영체제를 실행하기 전 등장하는 초기화 프로그램
그리고 이 모든 건 사람들이 생각하는 것보다 훨씬 빠르게 다가오고 있습니다.
하드웨어는 기하급수로 발전하고 있고, 제가 OpenAI에서 일하며 가장 놀란 사실은 컴퓨팅 파워 증가와 AI의 비약적인 돌파가 거의 완벽히 연동되어 있다는 점이었습니다. 게다가, AI에 뛰어드는 똑똑한 인재의 수 역시 지수적으로 증가 중입니다.
*시간이 지날수록 점점 더 빠르게 커지는 성장 곡선, 속도가 너무 빨라서 사람은 따라잡을 수 없을지도 모른다는 의미
전 세계가 지금 이 문제를 훨씬 더 진지하게 받아들이는 것이 필요합니다. 왜냐면 전 지구적인 조율은 시간이 오래 걸리기 때문이고, 우리는 그것이 절실하게 필요한 시점에 와 있기 때문입니다.
