그럼에도 유토피아를 꿈꿔본다
[읽고복기]AGI, 인간의 마지막 질문 by 김대식 지음
천사인가 악마인가
달리는 말을 우리가 타면 되는 것이다. 인공지능을 인간의 의지에 기반한 '도구'로 정의했던 부분에 공감했었다. 그런데 그것은 AGI 이전이다. 우리가 시키는 걸 잘 하는 챗GPT에서 나아가, 그들이 지능을 가지고 (Intelligence) 판단하기 시작할 수 있다는 것이다. 이 부분이 궁금했고, 무서워서 이 책을 집었다. 읽고 나니,인간이 '지금,앞으로 20-30년을 어떻게 하느냐'에 따라 천사가 악마가 될수도 있겠다는 생각이 든다. 러다이트가 아니더라도, 저자가 펼치는 논리가 상당히 설득력 있다.
'하필' 탈세계화로 각자도생이 상식이 되어 가고 있는, 동시에 기술이 폭발적으로 (즉 투자가) 발전하고 있는 작금의 상황에서 이 인공지능 미래의 물줄기가 결정되어가고 있다. 둘 중에 하나만 (즉 평화를 부르짖던 지난 30년이나, 기술에 대한 투자가 조금은 천천히 이뤄지는) 되어도 그나마 낫겠다. 이게 한꺼번에 일어나버리니, 더욱 우려되는 것이다.
문체가 담백하고, 메시지가 명확하고, 자신있다. 군더더기가 없다. 그래서 더욱 잘 읽혔다. 좌뇌와 우뇌의 조합이 잘 이뤄진 작가 같다.
[두 번 밑줄 그은 문장과 복귀된 나의 생각들]
일반 소비자들이 2022년부터 비로서 처음으로 인공지능을 경험하게 되었다 (챗GPT가 그 시작). 앞으로 수년동안 소비자들은 전문가들이 생각조차 하지 못했던 새로운 애플리케이션들을 생각해날 것입니다. 그리고 이 소비자의 새로운 욕구를 가장 먼저 인식하고 실행하는 기업들이 미래의 빅테크가 될 거라고 현재 예측하고 있습니다…소비자가 욕구를 창출하기도 하고, 기업이 만들어낸 욕구에 소비자가 적응하기도 한다. 미래의 빅테크는, 기술과 욕구가 만나는 지점, 언제나 그렇듯, 새로운 것은 아니다. 이 인간의 욕구가 어디까지 진화할 것인가, 그것이 관건. 그래서 내가 구체적으로 원하는 것이 무엇인지, 알아야 한다.
엔비디아의 큰 리스크 - 지금 AI연구에서 엄청난 양의 고성능 GPU가 필요한 이유는 트랜스포머 알고리즘이 너무 비효율적이라 계산량이 천문학적이기 때문, 그런데 만약 당장 내일이라도, 가령 인도에 있는 천재적인 고등학생이 한 명이 나타나 트랜스포머보다 더 효율적인 알고리즘을 개발한다면? … 영원한 기업은 없다. AI의 엔진인 반도체의 세대가 교체되면, 현재 빅테크들도 어떻게 될지 모른다. Next GPU를 모두가 고민하고 있을 것이다. Next 엔디비아는 언제 올 것인가. 내 주식들의 엔디비아를 생각하면, 다음 알고리즘도 엔디비아가 되면, 100년 기업 되는 거다.
에릭 슈미트 전 구글 CEO "우리 솔직해지자, 기후변화는 어차피 막을 수 없다" 지구 온난화를 1.5도 이하로 유지하려면 탄소 배출을 줄여야 하는데, 작년 마이크로소프트와 구글의 탄소 배출량은 60~70% 늘었다. 시뮬레이션 결과, AGI시대로 이행하게 되면 탄소 배출량이 너무 많아서, 온도 상승을 1.5도 이내로 억제하는 것은 불가능하고, 운이 좋아야 3도 정도. "그럼 AGI개발을 안하면 될까" "구글이 안 하면 오픈 AI가 하고, 미국이 안하면 중국이 할거다" 서로에 대한 신뢰가 무너진 상황에서는 모두가 뛰고, 뛸 수밖에 없다는 것입니다…AI가 지구온난화와의 연결점은 처음 알게 되었다. 그럼 지구는 더욱 더워질 거고, 태풍과 가뭄이 국지적으로 심해질 것이고, 이 역시 양극화가 일어날 것인데. 기술 역시 양극화, 자연 환경 역시, 디스토피아가 그려지면서도, 그럼에도 희망을 가지고 싶어지는 지점이다.
돌이켜보면 지난 30년이 인류 역사에서 가장 편하고 행복한 시기였을 거라고 자신할 수 있습니다. 하지만 30년은 긴 관점으로 보면 아주 순간에 불과했습니다. 짧은 평화였지요. 이 시기를 살았던 우리는 그 평화를 정상이라고 착각했지만, 지금이야말로 세상은 정상화되고 있습니다 (우크라이나-러시아 전쟁. 탈세계화, 온난화 등)… 격변의 시기가 오고 있다. 내 인생의 반은 평화가 아닐 수도 있다. 저자 말대로 세계화 시대가 막을 내리고 '정상화'되면서 다시 찾아오는 것은 각자 도생의 시대.
결국 AGI라는 인류 공동의 목표를 향한 경주 과정에서, 각국은 협력과 경쟁이라는 딜레마 속에서 자국의 생존과 번영을 위한 최적의 전략을 찾아야 하는 상황에 놓여 있습니다.
AI시대의 도래는 단순한 기술 혁신을 넘어 기존의 지정학적 질서를 재편하는 인류의 새로운 전환점이 되고 있습니다. 이렇게 새로운 지정학적 질서가 만들어질 때, 기술 패권을 둘러싼 각 국가들의 경쟁을 계속해서 치열해질 것입니다. 한국도 메모리 반도체 강국이라는 기존 우위에 안주할 수 없게 되었으니, 새로운 포지셔닝을 끊임없이 모색할 필요가 있겠지요.,… 이제는 기술 패권 경쟁 전쟁이 시작되었다. 한국의 미래도 어떻게 이 판에서 자리 잡느냐가 앞으로의 미래 세대의 밥줄이 달려있다.
잡일의 핵심은 인간과 기계의 인터페이스 문제에서 기인합니다. 즉 기계에 내가 원하는 걸 전달하는 데 시간이 걸린다는 겁니다. 인공지능은 이 문제를 해결해 줍니다. 내가 원하는 걸 말로 표현하면 되니까요….새로운 발상이다. 우리가 회사에서 일하는 이메일 답하기, 이메일 주소 찾기, 일정 잡기, 문서 찾기 등등.. 이러한 모든 것들을 말로 하면, 자동으로 해준다면, 엄청난 생산성 향상이다. 대량 공장 기계 혁명 이후로 이제야 지식 노동자들의 진정한 의미의 생산성 혁명이 일어나는 것이다. 그것이 AGI다.
도덕 철학의 전통적인 질문들이 지금 돌아오고 있습니다. 사회가 원하는 게 뭔지, 개인이 원하는 게 뭔지 계속 질문하고 논쟁했지만, 이 문제를 끝까지 해결하지 못했습니다. 그 미뤄놨던 과제들을 다시 직면해야 할 순간이 온 것입니다.
무솔리니가 정권을 잡고 가장 먼저 감옥에 가둔 이탈리아 사상가 안토니오 그람시가 이런 얘기를 했습니다 "과거 세상은 지금 사라지고 있고, 새로운 세상은 아직 형태를 보이지 않는다. 이럴 때 항상 괴물이 등장한다."… 이 혼란한 정글의 시기를 우리는 AGI와 함께 맞이하게 된다.
만약 인간이 인공지능 때문에 멸망한다면, 이 역사적 우연 - 세계화 붕괴와 인공 지능 브레이크스루의 동시성-이 가장 불행한 원인으로 꼽히리라 확신합니다. 하지만 이건 우리가 바꿀 수 없는 현실입니다.
