[book] 마침내 특이점이 시작된다.
레이 커즈와일, The Sigularity is Nearer
The Sigularity Is Nearer: When We Merge with AI
인간의 노동력과 지식이 점점 AI 에 밀려나가고 있다. 영화에서나 가능한 인간의 뇌에 AI 기술을 연결하는 시점이 곧 올 것이다 라고 예측하고 있다. 그 때가 되면 AI 걱정을 덜 할 수 있을지도 모르겠다. 정말 가능할까? AI를 매일 사용하고 있는 나로써는 그런 날이 정확히 상상이 되진 않지만 현실화된다고 해서 너무 놀라지는 않을 것 같다.
이전 작품으로 "특이점이 온다" 가 2005년에 나왔다. 그 당시에는 AI 가 현재만큼이라도 발전할 가능성은 매우 적어 보였던 것 같다. 특히 일반인들이게는. 네이버 지식 2020년에 이런 질문이 있다.
"레이 커즈와일이 쓴 책인데요. 이 책의 내용 믿을만 한건가요? 이상한 사이비인지 아니면 정말 이런 일이 발생한다고 사람들이 인정한건가요? 유튜브에 검색해보니까 이상한 내용만 뜨던데, 이거 사이비인가요? "
2025년에 "마침내 특이점이 시작된다" 가 나왔다. 제목에 별 5개를 준다.
우리는 여섯 단계 중 어디에 있는가?
다섯번째는 뇌와 AI 가 만나게 된다. 우리 뇌가 AI 도움으로 증강된다.
영화 리미트리스처럼 되는 것인가?
여섯 번째는 "우리의 지능이 우주 전체로 퍼져나가 보통 물질을 컴퓨트로늄으로 변화시킬 것이다." 이다.
다섯 번째도 벅차다.
이런 기술 발전의 배경은 기하급수적 변화 때문인다. 변화 자체가 다른 변화를 가속화하게 된다. 현재는 인간과 AI 가 같이 코딩하고 있지만 (바둑) 뮤제로처럼 혼자 스스로 이것저것 만들어내는 시점이 온다면 그 영향력은 상상을 넘어서게 될 것 같다.
"수천 년 동안 특이점을 향해 뚜벅뚜벅 걸어온 인류의 대장정은 이제 전력 질주 구간에 이르렀다."
진짜라고 생각된다면 AI 빅테크 주식을 당장 사야 한다.
스마트폰이 없던 시절과 비교하면 현재는 그렇게 큰 비용을 들이지 않아도 예전 슈퍼 컴퓨터 성능에 맞먹는 기계를 개인이 하나씩 소유하고 있다.
기호적 접근법과 연결주의적 접근법
기호적 접근법: rule 기반 알고리즘
연결주의적 접근법: 똑똑한 규칙 대신에 데이터 자체에서 통찰력을 추출
알파고 이야기
알파고 리: 이세돌과 대결했던 버전, 사람의 기보로 학슴
알파고 마스터: 그 다음 버전, 커제와 대결한 버전
알파제로: 바둑의 규칙만 가지고 기보 없이 셀프 대국으로만 학습
뮤제로: 규직조차 가르쳐주지 않음
참고. https://namu.wiki/w/%EC%95%8C%ED%8C%8C%EA%B3%A0
운 좋게 최근 이세돌 강연에 참여할 수 있다.
알파고 마스터의 돌을 인간이 이해 할 수 있었지만, 알파제로의 수는 이해가 안된다고 했다.
"전이 학습, transfer learning' 능력으로 대부분의 보드 게임에 통달할 수 있다.
한 영역에서 얻은 학습을 연관된 주제로 옮겨 적용하는 이 능력은 인간 지능의 핵심 특징이다.
데이터
AI 기술 발전에 있어 가장 중요한 것은 데이터이다. 일반적으로 쉽게 접근할 수 없는 데이터를 누가 보유하고 있는지가 경쟁력이 된다. ChatGPT, Cursor 등은 어쩌면 쉽게 접할 수 있는 데이터로만 학습된 AI 일 수 있다. 시작은 데이터 접근 비용이 저렴한 곳에서 일어나게 마련이다. 쉬운 데이터가 끝나면 이제는 다른 데이터로 눈을 돌리게 될 것이다. 사회의 점점 더 넓은 영역으로 AI 가 진출하게 된다. 식품, 주택과 건물 건출, 의류 등에도 AI 발전이 일어날 수 있다. 그 영향과 효과는 기대된다.
생산성 이야기
정보 기술과 AI 발전으로 생산성 증가가 훨씬 크게 나타날 것으로 예상했으나 실제로는 그렇게 되지 않았다. GDP 공식으로 생산성 측정에는 문제가 있다. "정보 생산의 가치"가 포함되지 않는다.
현재의 스마트폰이 100만원이면 GDP 에는 100만원만 포함되지만, 20년 전의 스마트폰의 성능과 비교하면 계산 능력에서 매우 큰 차이가 있다. 이런 성능의 차이가 GDP 에는 포함되지 못한다.
소뇌외 신피질
야구장 경기를 관람하고 있다. 타자가 친 공이 운 좋게 나한테 날라온다. 나는 다행히 야구 장갑을 끼고 있다. 나는 야구공을 정확히 어떻게 캐치할 수 있을까? 공이 떨어지는 시점과 위치를 과학적으로 계산할 수 있겠지만 그 짧은 순간에 우리는 그렇게 할 수 없다. 뇌는 다른 방식을 택한다.
소뇌는 공을 잡을 때마다 손과 공이 비슷한 상대 위치에 있어야 한다고 가정한다. 따라서 만약 공이 너무 빨리 떨어지는데 손은 너무 느리게 움직이는 것처럼 보이면, 소뇌는 비슷한 상대 위치를 확보하기 위해 손에 더 빨리 움직이라고 지시한다.
소뇌는 본능적인 움직임을 유발한다. 소뇌에 수 많은 대본이 저장되어 있다. 우리가 흔희 이야기 하는 근육 기억이다. 근육 기억은 실제 근육에 있는 것이 아니라 소뇌에 있다. 소뇌는 유전적으로 세대를 지나면서 발전하는 영역이다. 생존에 필요한 핵심 행동을 아주 정확하게 기록하고 있다.
세상은 점점 좋아지고 있는가?
뉴스에는 사건, 사고, 전쟁, 트럼프의 미친(?) 짓이 계속 나온다. 세상이 점점 더 이상해진다는 생각을 할 수 밖에 없다. 사람의 관심을 끄는 데에는 부정적인 것이 긍정보다는 효과가 좋다.
뉴스라는 매체는 특성상 부정적인 것을 보도하게 되어 있고, 그것은 인간이 그걸 좋아하기 때문이다. 아주 멋 옜날에 위험함 동물로부터 살아남으려면 아주 작은 위험 신호를 캐치하게끔 진화되어 온 것이다. 그것이 현재까지도 이어지고 있는 것이다.
(뇌는 부정적인 생각을 좋아하게 되어 있다. 스스로 멈출 모르면 부정이 부정에 꼬리를 물고 계속 쓸데 없는 상상을 하게 된다. 이러한 매커니즘만 알고 있으면 낭비되는 시간을 줄일 수 있다.)
(투자에서 낙관론자가 성공하다는 이야기도 같은 맥락인 것 같다.)
그러나 세상은 점점 좋아지고 있는 것이 맞다.
문해율과 교육, 위생, 기대 수명, 깨끗한 에너지, 빈곤, 폭력, 민주주의에서 엄청난 개선이 있었고, 앞으로도 그럴 것이다.
생명
2003년 인간 게놈 프로젝트가 완성되면서 유전체 염기 서열 분석에 기하급수적 진전이 일어난 지 20년 년이 지났다 (매년 가격 대비 성능이 거의 두 배씩 증가).
최대 수명 120년...
현재 기대 수명 80세, 30세 ~ 60세 직업, 그 후 20년은 작은 직업과 투자 소득 으로 보고 있는데 120년으로 늘어나면 30세 ~ 80 직업, 은퇴인가?
사회 정책, 보험, 투자 등에서 급격한 사고 전환이 필요할지도 모르겠다.
120년도 나 죽기 전에 달성될 것처럼 보이는데.
여기에 이어서 나노봇의 등장. 자동차 수리처럼 신체를 계속 고쳐 쓸 수 있게 된다.
그 다음은 우리의 마음을 디지털로 백업하는 것이다. 영화 아일랜드가 현실화된다.
120세 연장 수명부터 걱정(?)해 봐야겠다.
https://www.hankookilbo.com/News/Read/A2025090407530005963
이미 뭔가 진행되고 있는지도 모르겠다.
일자리의 미래
AI가 인간의 일자를 점검 빼앗아 가고 있다. 계속 그럴 것인가?
아니다. AI 로 인간을 강화할 수 있을 것이다. 상상처럼 들리는가?
이미 그렇게 발전되어 가고 있다.
이미 우리는 스마트폰 (= 뇌 확장 장치) 없이는 일을 제대로 할 수 없는 지경에 있다. 현재는 Cursor, ChatGPT 같은 AI 가 그 역할을 담당하고 있는 것 같다. 점점 더 기계에 우리 능력을 결합하게 될 것 같다.
당장은 다수의 저임금 일자리가 소수의 고임금 일자로로 대체될 것이다.
시간이 더 지나면 "비숙련화"가 일어난다. 자율 주행 자동차가 그 예이다. 사람이 전혀 필요없게 되는 시점이 온다.
