The Gentle Singularity
샘 알트먼의 새로운 블로그
OpenAI의 샘 알트먼의 블로그에 새로운 글이 올라왔다. AI 기술이 눈이 부시게 발전하고 있는데, 샘 알트먼은 지금 "특이점(Singularity)"라는 표현을 쓰며서 작성한 내용이다. 그 앞에 Gentle이라는 표현을 써서 뭔가 파격적이지만 부드러운 특이점에 대해서 이야기를 하고 있는 듯 하다. 사실 AI쪽에서 일을 하거나 하면 이 변화가 얼마나 빠른지 실감할 수 있는데, 그렇지 않은 분야라면 크게 느끼지 못할 법도 하다. 그런 의미에서 중심부는 그 충격으로 인해 파고가 높지만, 그 주변으로는 서서히 물결이 퍼져가고 있다는 느낌이다.
아래는 요약본과 전문을 번역한 것이다. 원문이 궁금하신 분은 https://blog.samaltman.com에 들러서 보시기를 바란다.
✅ 요약: 《The Gentle Singularity》
우리는 이미 특이점(싱글래리티)의 초입에 있다.
GPT-4와 같은 AI 시스템은 많은 측면에서 인간보다 뛰어나며, 사람들의 생산성을 크게 높이고 있다.
가까운 미래에 일어날 일들: 2025년: 실질적인 사고 능력을 가진 에이전트 등장 2026년: 새로운 통찰을 스스로 발견하는 시스템 출현 2027년: 실제 세계에서 일하는 로봇 도입
변화의 속도:
과학 연구가 AI로 인해 수배 빨라지고 있으며, 연구 자체가 AI를 발전시키는 선순환 구조에 진입함.
로봇과 인프라의 자기복제 가능성:
초기 로봇만 사람이 만들면, 이후 로봇이 로봇을 만들고 데이터센터도 자동화로 증식 가능.
지능의 비용은 전기료 수준으로 낮아질 가능성:
이는 ‘계산 능력 = 풍부한 자원’ 시대를 뜻함.
사회적 변화는 점진적일 것:
많은 직업이 사라지겠지만, 새로운 직업과 욕구가 생기고 사람들은 적응할 것.
인간의 장점은 여전히 유효:
인간은 타인과의 관계를 본질적으로 중요하게 여기고, 도구를 빠르게 받아들인다.
진짜 과제: AI의 정렬 문제(alignment) 해결 슈퍼지능의 접근성을 공정하게 분배 사회적 합의와 규범 정의 필요
결론:
지금까지 도달한 성과는 상상 이상이며, 앞으로의 발전도 지금만큼 혹은 그 이상일 것이다.
기술은 조용히, 그러나 확실히 우리 삶을 재편하고 있으며, 인간성과 지혜로 최대한 긍정적인 방향으로 나아가야 한다.
� 전문 번역: 《부드러운 특이점》
우리는 이미 사건의 지평선을 넘었습니다. 변화는 시작되었고, 인류는 디지털 초지능(digital superintelligence)을 구축하는 지점에 가까워졌습니다. 놀랍게도 지금까지는 상상했던 것보다 훨씬 덜 이상한 형태로 진행되고 있습니다.
아직 거리에는 로봇이 걷고 있지 않고, 대부분의 사람들은 하루 종일 AI와 대화하지 않습니다. 질병으로 사람이 죽고, 우주 여행은 여전히 어렵고, 우리는 여전히 우주에 대해 모르는 것이 많습니다.
그럼에도 불구하고 우리는 이미 여러 면에서 인간보다 똑똑한 시스템을 만들었고, 이 시스템은 사람들의 생산력을 크게 증폭시키고 있습니다. 가장 어려운 부분은 이미 지나왔습니다. GPT-4와 o3 같은 시스템을 만든 과학적 통찰은 어렵게 얻어낸 것이지만, 우리를 매우 멀리까지 데려다줄 것입니다.
AI는 다양한 방식으로 세상에 기여할 것이며, 특히 과학 발전과 생산성 향상을 통해 삶의 질을 크게 향상시킬 것입니다. 과학의 진보는 전반적인 발전의 가장 큰 원동력이며, 미래는 현재보다 훨씬 나아질 수 있습니다.
어떤 의미에서, ChatGPT는 이미 인류 역사상 가장 강력한 존재입니다. 수억 명이 매일 중요 업무에 사용하며, 작은 기능 하나가 큰 긍정적 영향을 미칠 수 있는 동시에, 작은 오작동이 수억 명에게 부정적 영향을 줄 수 있습니다.
2025년에는 실제 인지 작업을 수행할 수 있는 에이전트가 등장했고, 2026년에는 새로운 통찰을 스스로 발견하는 시스템이 나올 것으로 보이며, 2027년에는 현실 세계에서 일하는 로봇이 등장할 수 있습니다.
더 많은 사람이 소프트웨어와 예술을 만들 수 있게 되겠지만, 전문가들은 여전히 도구를 잘 활용한다면 강력한 경쟁력을 유지할 것입니다. 2030년 한 사람이 해낼 수 있는 일의 양은 2020년에 비해 크게 증가할 것이며, 많은 사람이 그 혜택을 누릴 수 있을 것입니다.
가장 중요한 면에서는 2030년대도 지금과 크게 다르지 않을 것입니다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하며, 게임을 즐기고 호수에서 수영할 것입니다.
그러나 중요한 또 다른 면에서는, 2030년대는 이전 그 어떤 시대와도 완전히 다른 세상이 될 것입니다. 우리는 인간 수준을 넘어선 지능이 얼마나 가능한지를 이제 막 알아가기 시작했습니다.
2030년대에는 지능과 에너지, 즉 ‘아이디어와 실행력’이 풍부해질 것입니다. 이는 인류 발전을 오랫동안 제한해온 핵심 자원이었으며, 지능과 에너지가 풍부해진다면 이론적으로 무엇이든 가능해집니다.
이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 처음엔 충격을 받았지만 곧 익숙해졌습니다. AI가 아름다운 문단을 작성하는 것에 감탄하다가도, 곧 전체 소설을 쓰길 기대하게 됩니다. 이것이 특이점의 전개 방식입니다: 경이로움은 곧 당연한 것이 되고, 그 이후에는 기본 조건이 됩니다.
과학자들은 AI 덕분에 생산성이 2~3배로 늘었다고 말합니다. AI는 많은 이유에서 흥미롭지만, AI를 이용해 AI를 더 빠르게 발전시킬 수 있다는 점은 특별히 중요합니다. 더 나은 알고리즘, 새로운 컴퓨팅 기판, 그 외 무엇이든 발견할 수 있게 될지도 모릅니다. 만약 10년치 연구를 1년, 또는 한 달 안에 할 수 있다면, 진보 속도는 완전히 달라질 것입니다.
이제 우리가 만든 도구가 스스로를 개선하는 데 도움을 줍니다. 이것은 자율적인 AI 코드 자체 개선과는 다르지만, ‘자기 개선(self-improvement)’의 유충 단계라고 할 수 있습니다.
경제적 가치 창출은 인프라 확장의 선순환 고리를 만들었고, 로봇이 로봇을 만들고, 데이터센터가 데이터센터를 만들 수 있는 미래도 머지않았습니다.
초기 수백만 개의 인간형 로봇을 전통 방식으로 만든다고 해도, 이후 이들이 광물 채굴, 운송, 제조 등 전체 공급망을 운용하며 새로운 로봇과 반도체 공장을 만들 수 있다면, 진보 속도는 급격히 달라질 것입니다.
데이터센터 생산이 자동화되면, 지능의 비용은 전기 요금 수준으로 수렴할 수 있습니다. 참고로 ChatGPT 쿼리 하나당 약 0.34Wh(전구 몇 분 사용량), 물은 약 0.000085갤런(찻숟갈 15분의 1) 정도를 사용합니다.
기술 발전 속도는 계속 빨라질 것이고, 사람은 무엇이든 적응할 수 있는 존재입니다. 물론 많은 일자리가 사라질 것이지만, 세계는 훨씬 더 빨리 부유해질 것이며, 지금껏 시도조차 못 했던 정책 아이디어도 진지하게 논의할 수 있게 됩니다. 새 사회계약은 한순간에 바뀌지는 않겠지만, 수십 년 후 돌아보면 커다란 변화였음을 알게 될 것입니다.
역사가 증명하듯, 우리는 새 욕구와 일을 발견하고 새 도구를 빠르게 익히며(산업혁명 이후 직업 변화처럼), 기대치도 오르지만 능력도 함께 오를 것입니다. 우리는 서로를 위해 더 멋진 것들을 만들어갈 것입니다. 인간은 AI보다 강력한 장점을 갖고 있습니다: 우리는 본질적으로 타인을 중요하게 여기며, 기계보다는 사람에 더 깊은 관심을 갖고 있습니다.
1000년 전 자급자족 농부가 지금 우리의 직업을 보면 “가짜 일”이라 여길지도 모릅니다. 우리는 단지 놀고 먹는 것으로 보일 테니까요. 마찬가지로, 우리는 1000년 뒤 사람들의 직업을 보고 ‘가짜 일’이라 여길 수도 있겠지만, 그들은 그것을 중요하고 만족스러운 일로 느낄 것입니다.
우리는 앞으로 매년 엄청난 성과를 경험하게 될 것입니다. 2035년까지 우리가 무엇을 발견하게 될지는 상상조차 어렵습니다. 고에너지 물리학을 푼 다음 해에 우주 식민지화를 시작할 수도 있고, 재료 과학의 대발견 다음 해에 뇌-컴퓨터 인터페이스를 구현할 수도 있습니다.
아마 많은 사람은 지금과 비슷한 방식으로 삶을 살아갈 것이고, 일부는 “플러그인”을 선택할 수도 있을 것입니다. 상상은 어렵지만, 실제로 살아보면 경이로우면서도 감당 가능한 변화로 느껴질 것입니다. 특이점은 점진적으로, 병합은 천천히 일어납니다. 기술 발전 곡선은 앞을 보면 수직으로, 뒤를 보면 평평해 보이지만, 사실 하나의 매끄러운 곡선입니다.
진지하게 마주해야 할 과제도 많습니다. 안전 문제는 기술적/사회적으로 해결해야 하며, 초지능이 특정 개인, 기업, 국가에 과도하게 집중되지 않도록 공정하게 분산해야 합니다.
가장 바람직한 경로는 다음과 같을 수 있습니다:
AI 정렬 문제를 해결하기: AI가 장기적으로 인류의 진짜 바람을 배우고 그에 맞게 행동하도록 보장. 예: 소셜미디어 알고리즘은 단기 욕구에 잘 맞추지만, 장기 목표에는 해가 되므로 ‘정렬 실패’의 사례임.
슈퍼지능을 싸고, 널리, 공정하게 배포하기: 사용자에게 자유를 보장하되, 사회적으로 정한 광범위한 가이드라인 내에서 운영되도록 해야 함. 전 세계가 이 가이드라인에 대해 논의할수록 더 나은 미래로 갈 수 있음.
AI 업계 전체는 전 세계를 위한 뇌를 만들고 있습니다. 이 뇌는 매우 개인화되고, 모두가 쉽게 사용할 수 있을 것이며, 결국 우리는 ‘좋은 아이디어’가 더 중요한 시대를 맞이하게 될 것입니다.
OpenAI는 많은 일을 하지만, 무엇보다 먼저 초지능 연구 회사입니다. 갈 길은 멀지만, 이제 앞길이 훤히 밝혀지고 있으며, 어둠은 빠르게 사라지고 있습니다. 우리는 이 일을 할 수 있음에 깊이 감사하고 있습니다.
‘측정할 수 없을 만큼 값싼 지능(Intelligence too cheap to meter)’은 이제 손에 닿을 수 있는 범위에 있습니다.2020년에 지금 상황을 말했더라면 더 말도 안 되는 소리처럼 들렸을 것입니다.
우리가 슈퍼지능을 향해 부드럽고, 기하급수적으로, 문제없이 나아갈 수 있기를 바랍니다.
#샘알트먼 #AI #싱귤러리티 #특이점
