새로운 진화
원문: <The Merge>
안녕하세요 알렉스입니다.
OpenAI 창업자 Sam Altman의 <The Merge>라는 에세이를 번역해 보았습니다.
도움이 되기를 바랍니다.
<Neuralink 출처: Nature><새로운 진화>
실리콘 밸리에서 아주 흔하게 다뤄지는 주제는 바로 인간과 기계가 하나로 합쳐지는(융합하는) 시점이 언제일지, 또는 융합이 일어나지 않더라도 급격히 발전하는 AI나 유전자 강화 종에게 인류가 따라잡히는 시점이 언제일지에 대한 것입니다. 대부분의 예측은 2025년부터 2075년 사이입니다.
사람들은 과거에 이 현상을 ‘특이점(싱귤래리티)’이라고 불렀지만, 이제는 이 문제가 너무나 현실적이고 불편하게 느껴져서 많은 사람이 아예 이름 붙이는 것 자체를 피하는 것 같습니다.
어쩌면 사람들이 ‘특이점’이라는 단어를 더 이상 쓰지 않는 또 다른 이유는, 그 단어가 단 한순간에 일어나는 사건을 암시하기 때문일지도 모릅니다. 하지만 지금 보기에는 이 융합 과정이 점진적으로 진행될 것 같고, 점진적인 변화는 알아차리기 쉽지 않습니다.
저는 이 융합이 이미 시작되었으며, 우리가 그 흐름 속에 들어선 지 이미 몇 년이 지났다고 생각합니다. 휴대폰은 우리를 지배하며 언제 무엇을 해야 할지 명령하고, 소셜 미디어 피드는 우리의 기분을 좌우하며, 검색 엔진은 우리가 생각하는 방식을 결정하고 있습니다.
이 모든 것을 움직이는 알고리즘은 이제 더 이상 단 한 명의 사람도 완전히 이해할 수 없는 수준이 되었습니다. 이 알고리즘들은 개발자들이 설정한 목표에 맞춰 최적화되지만, 그 작동 방식은 인간이 도저히 파악할 수 없습니다. 이들이 오늘날에는 고도로 정교한 AI처럼 보이지만, 미래에는 어린아이 장난처럼 느껴질 것입니다. 게다가 이들은 엄청나게 효과적입니다. 적어도 저만 해도, 알고리즘이 유도하는 행동을 거부하기가 매우 어렵습니다. 저는 이 중독을 극복하기 위해 큰 노력을 기울이기 전까지, 저 자신이 인터넷에 극도로 중독되어 있다는 것을 깨달았습니다.
우리는 이미 공동 진화 단계에 와 있습니다. AI는 우리에게 영향을 미치고, 변화를 일으키며, 스며들고, 그러면 우리는 다시 그 AI를 개선합니다. 우리가 더 강력한 컴퓨팅 자원을 구축하고 AI를 구동시키면, AI는 그 컴퓨팅 자원을 활용해 훨씬 더 좋은 칩을 만드는 방법을 알아냅니다.
이러한 흐름은 아마도 멈출 수 없을 것입니다. 우리가 역사에서 보아왔듯이, 과학 기술의 발전은 물리학 법칙이 허락하는 한 결국 실현되기 마련입니다.
이보다 더 중요한 것은, 우리가 스스로를 먼저 파괴하지 않는 한 초인공지능, 유전자 강화, 그리고 뇌-기계 인터페이스는 필연적으로 일어날 일이라는 점입니다. 우리가 우리 자신보다 더 똑똑한 존재를 절대 만들어낼 수 없다고 믿는 것은, 인류의 상상력 부족이자 오만한 착각에 불과합니다.
우리는 지능에 지나치게 집착하여, 우리의 지능은 독보적이며 다른 모든 동물들과의 연속선상에서 '조금 더 높은' 정도가 아닐 것이라고 믿습니다. 아마도 미래의 AI도 우리와 비슷하게 느낄 것이며, 우리와 보노보 사이의 차이는 굳이 논할 가치도 없다고 여길지 모릅니다.
이 융합은 다양한 방식으로 나타날 수 있습니다. 뇌에 전극을 연결하는 방식일 수도 있고, 단순히 모두가 챗봇과 아주 친밀한 관계를 맺는 것일 수도 있습니다. 하지만 저는 이 융합이야말로 우리에게 가장 좋은 시나리오일 것이라고 생각합니다. 만약 두 종이 같은 목표, 즉 지구와 그 너머에서 지배적인 종이 되기를 원하는데, 오직 한 종만이 그 목표를 이룰 수 있다면, 그들은 반드시 충돌하게 될 것입니다. 우리는 모든 구성원이 서로의 안녕을 염려하는 하나의 팀이 되기를 바라야 합니다.
융합이 이미 시작되었다고는 하지만, 앞으로 훨씬 더 기묘한 일들이 벌어질 것입니다. 우리는 스스로의 후손을 설계하게 될 최초의 종이 될 것입니다. 제 생각에 우리는 디지털 지능을 위한 생물학적 시동 장치(부트로더) 역할을 하다가 진화의 가지에서 사라지거나, 아니면 성공적인 융합의 방법을 찾아내야 합니다.
이 모든 일은 대부분의 사람들이 생각하는 것보다 훨씬 더 빠르게 일어날 것입니다. 하드웨어는 기하급수적으로 발전하고 있습니다. 제가 OpenAI에서 일하며 가장 놀랐던 점은 컴퓨팅 파워 증가와 AI 혁신이 얼마나 밀접하게 연관되어 있는지입니다. 게다가 AI 분야에서 일하는 똑똑한 사람들의 수도 기하급수적으로 늘고 있습니다. 이중 기하급수 함수는 순식간에 우리가 감당할 수 없을 만큼 커져버립니다.
이제 전 세계가 이 문제를 훨씬 더 진지하게 받아들이기 시작해야 할 때입니다. 전 세계적인 협력은 하루아침에 이루어지지 않으며, 우리는 이 문제에 대비하기 위해 반드시 협력이 필요합니다.
참고자료