AGI 시대, 인류는 무엇을 대비해야 하는가
내 삶을 차리는 독서의 시작
지난 글에 이어 <AI 미래> 4장 'AGI 시대, 인류는 무엇을 대비해야 하는가'를 읽고 밑줄 친 내용을 토대로 생각을 쓴 글입니다.
변화의 패턴과 변방(?)으로 오는 시간
먼저 인지적 도전이라는 생소한 표현을 만납니다.
인공지능의 진화압은 인류 사회에 다면적이고 복잡한 영향을 미친다. 먼저, 인지적 도전을 들 수 있다. 인공지능의 발전은 인간의 인지 능력에 대한 재평가를 요구한다. 이제 단순 계산이나 정보 처리는 인공지능이 인간을 뛰어넘는다. 인간은 더 높은 수준의 사고인 창의적 문제 해결, 통찰력 있는 판단, 감정적 지능 등에 집중해야 한다.
이번에는 경제 체제 변화의 필요성에 대한 이야기입니다.
경제적으로는 생산성을 크게 향상할 수 있지만, 동시에 부의 집중을 가속화할 수 있어 새로운 형태의 경제 정책과 분배 시스템에 대한 논의가 필요하다.
다음으로 저자는 올해 안에 벌어질 다섯 가지 일을 예상하는데, 제가 관심 있는 항목은 하나였습니다.
대규모 언어 모델을 클라우드가 아니라 사용자의 개인 기기에서 돌리려는 온 디바이스on Device화가 본 격화될 것이다.
<아이폰 16, 어떻게 업그레이드 되었을까?>에 따르면 아이폰16 시리즈와 IOS 18이 이를 반영했다고 합니다.
출처: https://futuredrill.stibee.com/p/57/IOS 18 업데이트는 향후 아이폰 사용자가 사용할 수 있는 대부분의 AI 신기능을 기기 내에서 처리할 수 있게 할 것으로 예상되고 있습니다.
그래서 iOS 업데이트를 했습니다. 하지만, 한국어로 이용하려면 조금 더 기다려야 하는 듯합니다.
아쉬운 점은 2025년이 되어야 아이폰 16의 AI 기능이 한국어를 포함한 다양한 언어로 지원된다는 소식입니다.
한계에 다다른 하드웨어
스마트폰의 등장만큼이나 혁명적이었던 PC의 등장에 대한 소개입니다.
개인용 컴퓨터가 등장한 건 그야말로 혁명이었다. 혁명이 가능했던 것은 인텔Intal의 4004 같은 마이크로 프로세서가 등장했기 때문이다.
그리고 과거에는 상상할 수 없었던 새로운 양상을 설명합니다.
현재로서 이런 클라우드 시스템을 구축하는 데는 엔비디아의 GPU가 반드시 필요하다.
그저 제품 구매에 지나지 않는 GPU 확보가 기사거리가 되는 일은 이제 당연해졌습니다.
출처: 구글링 결과(키워드: 엔비디아 GPU 확보)한때, 무어의 법칙은 업계 상식이었습니다.
1970년대의 개인용 컴퓨터 혁명의 시발점이었던 실리콘 기반의 반도체 직접회로 침은 '마이크로 칩에 저장할 수 있는 데이터 분량은 18~24개월마다 2배씩 증가한다'라는 무어의 법칙에 따라 지수함수적인 발전을 거듭해 왔다.
하지만, 이제 그 상식도 수명이 다한 상태입니다.
그러나 최근의 회로 선폭은 3 나노미터급으로, 물질의 가장 작은 단위인 원자 수준에 가까워지면서 물리적 한계에 부딪힌 것으로 보인다. 3차원으로 쌓는 등의 노력이 있지만 아무리 전자회로를 작게 새기고 싶어도 원자 크기의 한계를 넘어설 수는 없기 때문이다. 이젠 기술적인 한계가 아니라 물리적 한계에 다다른 상태이다. <중략> 대략 2~3 나노미터 공정이 실질적인 한계로 여겨진다.
폰 노이만 구조가 주는 또 다른 한계
물리적 한계에 이어 구조 상의 한계도 있다고 합니다.
지금의 하드웨어는 크기를 더 작게 줄이기 어려운 한계는 물론 폰 노이만 구조Von Neuman Achitecture라는 구조 상의 한계도 가지고 있다. 폰 노이만 구조는 계산을 수행하는 프로세서와 기억을 담당하는 메모리가 별도의 장치로 분리된 구조를 말한다. 이 구조에서는 프로세서가 고속의 계산 작업을 하는 동안 값을 메모리에서 가져오고 다시 저장하는 일을 빈번하게 해야 하므로, 계산이라는 본래 목적보다 메모리 액세스에 더 많은 시간과 전력을 소모하게 된다.
물론, 끊임없이 문제를 극복하려는 노력도 있다고 합니다.
문제를 극복하기 위해서 나온 새로운 메모리가 바로 HBM High Bandwidth Memory, 고대역폭 메모리이다. 고대역폭 메모리를 간단하게 설명하면 기존에는 멀찍이 떨어져서 연결되던 디램DRAM을 GPU 프로세서 바로 옆에 붙여 메모리 전송 속도를 높이고, 이런 디램을 층층이 3차원으로 쌓아서 대량의 데이터를 한꺼번에 주고받을 수 있게 만든 것이다. HBM이 기존 방식의 개선이라면 극한으로 작아진 전자회로에서 전자가 새어 나가는 것을 피하기 위해 전자 대신 광자를 제어하는 포토닉스Photonies 칩이라는 대안도 연구되고 있다.
게임과 소프트웨어 개발의 미래
저자의 기호가 들어간 내용이 아닌가 싶은 글입니다. ;)
게임과 인공지능은 떼어 놓을 수 없다. 게임은 초창기부터 인공지능을 거의 필수 요소로 사용해 왔다.
게임 쪽은 문외한인 저도 내용에 동의하게 됩니다. 그리고 다음 다발말을 보면서 저자의 반복된 언급으로 언러닝 Unlearing 책을 구매했습니다.
기존 게임의 틀을 깨야 한다는 걸 깨닫기는 쉽지 않다. 그러나 이런 상황에서 변화하는 조짐을 놓치지 않으려면 언러닝 Unlearing이 필요하다. 기존의 틀을 버려야 한다는 것이다. 그동안은 너무도 당연한 것이라 스스로 그런 틀로 세상을 보고 있었다는 걸 인지하지 못했을 정도로 기본적인 틀까지도 버릴 준비가 되어야 한다.
저는 게임에는 관심이 없지만 어린 아들을 키우고 있어 그들이 하는 로블록스에는 관심을 가지지 않을 수가 없기도 합니다.
가장 분명하게 보이는 변화는 사용자 생성 콘텐츠 User Generated Contents, UGC로 불리는 사용자들이 직접 콘텐츠를 만들어 내며 즐기는 게임들이다. 대표적으로 포트나이트Fortnite, 로블록스Roblox, 마인크래프트Minecraft 등이 있다. 사용자들이 적극적으로 뭔가를 만들 수 있으려면 만드는 데 필요한 스킬의 문턱이 낮아야 한다.
게임뿐 아니라 다른 소프트웨어 개발 분야도 비슷한 양상으로 변모할 듯합니다.
늦어도 2030년대에는 게임을 비롯한 소프트웨어를 만들 때 컴퓨터 프로그래밍 언어로 코딩할 필요 없이, 자연어로 지시하면 인공지능이 만들어 주는 방식이 될 것이다.
인공지능과 일자리
인공지능과 일자리에 대한 이야기입니다.
인공지능으로 인해 일자리가 없어지더라도 새로운 일자리가 더 많이 생길 것이니 걱정하지 말라는 사람들을 종종 본다. 예전에도 그랬다고 말이다. 하지만 그들은 없어진 일자리에서 일하던 사람들이 새롭게 생겨난 일자리로 구체적으로 어떻게 옮겨갈 수 있는지에 대해서는 아무런 말을 하지 않는다.
하지만, 많은 사람들이 인공지능이 노동권 자체를 박탈할 수 있다고 주장하기도 합니다. 이는 이미 격화된 빈부격차를 가속화하여 커다란 사회 문제를 초래할 소지가 분명합니다. 우리에게 IMF 때의 경험은 하나의 역사적 교훈이 되기도 합니다.
지금 생각해 보면 40대의 나이에 느닷없이 실직한 뒤 맞지도 않는 공부를 하는 것이 잘될 리가 없다. 앞으로 다가올 인공지능에 의한 실직도 크게 다르지 않을 것으로 예상한다. 이처럼 인공지능으로 없어진 일자리에선 일하던 이들이 새로이 생겨난 일자리로 옮겨 가는 것은 결코 쉬운 일이 아니다.
한편, 인공지능은 로봇 기술과 결합하여 몸을 갖기 시작했습니다.
최근 오픈AI와 피규어Frigure 사가 공동으로 선보인 피규어01 로봇의 데모 동영상은 인간이 말로 지시를 내리면 로봇이 그를 이해하고 적절하게 행동하는 모습을 보여 주었다.
복잡한 육체노동도 안전한 공간은 아니란 것이죠.
인공지능이 의식을 가질 수 있을까?
저자는 놀랍고 흥미로운 사실을 알려 줍니다.
대규모 언어 모델을 인격적으로 대하는 프롬프트를 입력할 경우, 인격적으로 대하지 않을 때보다 더 나은 답을 얻을 수 있다고 한다. 대규모 언어 모델을 단순히 도구나 기능이 아니라 인격을 가진 동료처럼 대할 때 더 나은 결과를 얻을 수 있다는 것이다.
그리고 매장에서 흔히 볼 수 있는 키오스크가 머지않아 매력적인 페르소나로 변할 것은 예고합니다.
주문 키오스크의 문제는 메뉴의 구성이나 배치를 바꾼다고 해결될 수 있는 게 아니다. 근본적인 변화가 있어야 한다.
<WHY>의 저자에 따르면 이미 우리의 기술 수준은 인터페이스 없는 네트워킹을 향해 가고 있다고 합니다.
한편, 다음 다발말은 <인공지능 활용의 일상화가 가속화되는 듯합니다>에서 제가 반려 기계란 표현을 쓴 동기와 정확하게 같은 의미를 설명합니다.
페르소나 챗봇을 이르는 영어 단어 'Companion AI'의 'Companion'은 '동반자 '동료' '짝' 등으로 번역할 수 있다. 대화형 인공지능을 단지 도구나 기능으로 보지 않고, 인격적인 교류가 가능한 대상으로 보는 것이 다. 미국에선 이 용어가 페르소나 챗봇 등을 포괄하는 좀 더 일반적인 용어로 쓰이는 듯하다.
하지만, 제 경우는 몸이 없는 AI라 반려라 부르기엔 허전한 부분이 있었죠.
조금은 다른 작명 사례 혹은 성격 규정에 대해 생각해 볼 수 있는 문장입니다.
마이크로소프트의 대규모 언어 모델 이름이기도 한 'Copilot'은 직역하면 '부조종사'인데 'Companion' 과는 조금 다르다. 마이크로소프트가 붙인 용어는 인간이 조종사이고 인공지능이 부조종사라는 의미이다.
인공지능이 도구를 넘어설 때를 다루는 글이 나옵니다.
인공지능의 빠른 발전 속도를 볼 때 결국에는 인공지능을 도구로만 규정할 수 없는 때가 올 것이다. 인공지능을 단지 도구로 보는 것이 인간의 우월성이나 인간의 자주성을 지키는 일이라고 여기는 이들도 있겠지만 이 시각이 꼭 그렇게 긍정적으로만 작용하지 않을 수도 있다. <중략> 인공지능 없이도 인간을 도구처럼 대하는 시작은 이미 존재한다.
<WHY>는 인공지능과 무관하게 지금도 이미 그러한 세상을 신랄하게 비판하고 있습니다. 이어지는 저자의 주장은 꽤나 균형감 있는 주장입니다.
인공지능이 어느 정도 인간의 수준에 필적하게 된다면, 인간과 같지는 않더라도 법인처럼 법적인 인격과 지위를 부여해야 할 것이다. 인공지능에게 법적인 인격과 지위를 부여하는 것은 인공지능을 보호하기 위한 것 이라기보다 인간을 보호하기 위한 일이기도 하다.
인공지능을 어떻게 통제해야 할까?
2차 대전 이후 부조리에 대한 인식과 허무주의에 빠지기도 했던 서구 입장에서는 당연한 걱정이란 생각이 듭니다.
인공지능을 협력의 대상이 아니라 통제의, 대상으로 보는 건 상당 부분 제국주의의 경험을 가진 서구 선진국들의 시각인 경우가 많다.
하지만, 우리도 똑같이 추종할 필요는 없다고 생각합니다. 그러나 건강한 대안을 생각할 필요가 있겠죠.
'설명 가능한 인공지능'이란 뜻의 XAl eXplainable Al 연구도 인공지능을 잘 통제하기 위한 연구의 일종이다.
<샘 알트먼의 복귀와 오픈AI의 방향 전환>을 쓴 이후 오픈AI의 핵심 멤버는 분열했다고 할 수 있습니다.
우리가 사는 현실의 세상도 참으로 아이러니하다. 다름 아닌 오픈AI 이야기이다. 소수가 인공지능의 힘을 독점하지 못하도록 하겠다는 명분으로 설립된 오픈AI 는 인공지능 기술을 공개해서 널리 공유하는 게 아니라 마이크로소프트 같은 거대 빅테크 기업에게만 제공하고 있다.
그리고 저자의 말마따나 오픈AI는 그 이름도 무색하게 가장 영리적이고 폐쇄적인 방식으로 바뀌는 듯합니다.
인공지능 기술의 발전은 막을 수도, 이전으로 되돌릴 수도 없다. 그렇다면 힘 있는 소수에게 독점되는 일은 막아야 한다. 민주주의가 유지되기 위한 중요한 제도적 장치 중 하나는 권력의 분산이다. 인공지능 기술 이 하나의 힘이 된다면, 인공지능 기술로부터 얻어진 힘도 분산되면 될수록 좋다. 인공지능 기술은 오픈 소스로 공개해서 누구나 쉽게 사용할 수 있도록 하는 게, 소수에게 독점되는 것보다 더 안전하다.
노벨상을 수상한 인공지능의 거장 제프리 힌튼 토론토대학교 교수는 수상 인터뷰에서 오픈AI의 수장 샘 알트먼을 비난했습니다.
"내 학생 중 한 명이 샘 알트먼을 해고했다는 사실을 특히 자랑스럽게 생각한다"라고 말했습니다. 브리핑이 끝난 뒤 알트먼 비하에 대해 질문을 받자 "시간이 지나면서 샘 알트먼은 안전보다 이익에 훨씬 더 관심을 두었다는 것이 드러났다. 그것이 불행한 일이라고 생각한다"라고 설명했습니다. 여기에서 말한 학생은 일리야 수츠케버 전 오픈AI 수석 과학자를 말합니다. 수츠케버는 힌튼 교수의 영향을 많이 받은 것으로 알려져 있으며, 오픈AI에서도 AI 안전을 담당하는 '초정렬' 팀을 이끌었습니다.
우리가 인공지능을 이해할 수 있을까?
인공지능 기술을 대하는 인류의 한계가 분명해 보이는 지점을 설명합니다.
어디까지나 인공지능 작동의 일부라도 사람이 파악할 수 있는 방법을 찾아보려는 노력일 뿐 인공지능의 작동을 온전히 설명하는 건 요원한 일이다.
그리고 이것이 비단 기술적인 문제만은 아님을 간파한 저자의 설명이 이어집니다.
만일 인공지능의 작동을 온전히 이해하는 것이 가능했다면 인간들끼리 서로의 생각을 온전히 이해하는 일도 어렵지 않았을 것이다.
마지막으로 인공지능 연구자다운 저자의 희망 섞인 전망으로 책은 끝이 납니다.
그럼에도 불구하고 생성 인공지능은 인류에게 새로운 가능성과 기회의 문을 열어 주는 혁신적인 기술이다.
지난 내 삶을 차리는 독서의 시작 연재
(76회 이후 링크만 표시합니다.)
76. 잠재력을 믿고 명확한 비전 수립 이후는 하도록 놔두기
77. 감정을 무시한 대가는 나쁜 관계의 기억으로 쌓인다
78. 돈의 신뢰 작용과 가치를 바라보는 다양한 장면들
79. 스테이블 디퓨전 모델과 GPT의 기반, 트랜스포머 구조
82. 반사적이 아니라 전략적으로 행동하기 위한 선행 조건
83. 효과적인 결과가 나올 수 있도록 내버려 둬야 한다
84. 우리는 돈 앞에 평등하다, 오직 돈만 가치를 가질 뿐
86. 일상을 파고드는 생성 인공지능
