인간을 능가하는 인공지능이 가능할까?
내 삶을 차리는 독서의 시작
이 글은 <AI 최강의 수업> 1부 <인공지능이 변화시키는 우리의 삶, 우리의 세상>을 읽고 밑줄 친 내용을 토대로 생각을 정리한 지난 글에 이은 두 번째 글입니다. 이번에는 1부 내용 중에 마지막 장의 제목이기도 한 <인간을 능가하는 인공지능이 가능할까> 관점에서 밑줄 친 내용을 모아 생각을 정리합니다.
모든 영역에서 인간을 능가하는 것은 쉽게 상상할 수 없다
1부에서 이 주제에 대해 저자의 식견이 담긴 포기말(문장) 중에 가장 눈에 띄는 내용은 둘로 나눌 수 있습니다. 하나는 지금 우리가 접하는 인공 지능을 분류한 내용입니다.
우리가 지금 접하는 인공지능은 모두 약한 인공지능이다. 좁은 영역의 정해진 기능 안에서는 전문가를 능가하는 수준의 업무 처리 능력을 갖출 수 있다.
두 번째는 담백하게 제시한 저자의 견해입니다.
하지만 모든 영역에서 인공지능이 사람의 능력을 능가하는 것은 쉽게 상상할 수 없다.
저는 직관적으로 동의합니다. 하지만, '왜?'라고 물어볼 필요가 있습니다. 스스로에게도 말이죠. <존재적 가치가 먼저 있고 돈이 있는 세상으로>를 쓰며 배운 대로 앎이란 그 자체로 편견이기도 하니까요.
앎이란 의식의 확장인 동시에 편견이다.
그러니 그 직관의 맥락을 알 필요가 있습니다. 첫 번째로 저는 인공지능 연구자가 아니란 점이 눈에 띕니다. 제가 그 분야를 연구하고 있다면 밝은 미래를 꿈꿀 가능성이 높습니다. 그런데 지금은 그저 구경꾼의 입장에 가까우니 객관[1]을 유지하는 것이라 할 수 있습니다.
두 번째는 다년간의 묻따풀 결과로 욕망의 문제가 굉장히 복합적이란 사실을 믿기 때문입니다. 욕망을 프로그래밍할 수 있거나 대체할 수 있다면 누군가 그걸 풀었다는 것인데 아직은 그런 일이 발생할 가능성이 없다고 봅니다.
AGI 시대는 어떤 방식으로 올까?
하지만 최근에 <AGI 시대, 인류는 무엇을 대비해야 하는가>라는 글을 쓴 입장에서 저자의 생각에 동의하고 이유만 밝히기는 찜찜한 면이 있습니다. 흥미롭게 읽은 <AI 미래>의 저자의 입장은 AGI가 곧 올 것이란 뉘앙스였는데, 여기에도 암묵적으로 지지했으니 말이죠.
결론부터 말하면 저는 '모든'이라는 말을 근거로 강한 인공지능에 대해 부정적 입장을 견지하는 것입니다. 책 내용을 다시 볼까요?
하지만 모든 영역에서 인공지능이 사람의 능력을 능가하는 것은 쉽게 상상할 수 없다.
일단, 인공지능 개발자들이 성공하더라도 처음부터 모든 영역일 수는 없다고 봅니다. 우선순위가 발생하겠죠. 그리고, 그것은 기술과 자본의 대립 속에서 선택될 것입니다. 이를 관찰할 수 있는 근거는 뉴스 속에서도 쉽게 찾을 수 있지만, 멀리 갈 필요도 없이 책의 1부 안에도 충분합니다.
이를 위해 따끈따끈한 기사를 하나 인용하겠습니다. 이 분야 선두를 자처하는 오픈AI와 이들의 강력한 후원자로 나섰던 MS 사이의 균열에 대한 기사인데, '오픈AI가 AGI를 외치는 이유'를 다음과 같이 구체적으로 설명했습니다.
컴퓨팅 파워 비용이 고스란히 MS로 흘러가다 보니, 오픈AI 직원들의 불만도 큽니다. 이들은 MS가 충분한 클라우드를 공급하지 않는다고 불만입니다. 또 다른 몇몇 직원들은 “오픈AI가 다른 AI 기업에 뒤처진다면, 이는 MS 때문일 것”이라는 목소리를 높이고 있습니다. 오픈AI가 MS로부터 벗어날 방법 중 하나는 인공일반지능(AGI, Artificial General Intelligence)을 개발하는 것입니다. 오픈AI와 MS 간 계약에는 오픈AI가 AGI를 개발할 경우, MS는 오픈AI의 기술에 대한 접근 권한을 잃는다는 조항이 있습니다. 특정 기업이 강력한 AI를 오남용 하지 않도록 하기 위한 목적인데요. 오픈AI는 이를 향후 협상 카드로 사용할 가능성이 높습니다. “지금부터 AGI 시대가 열렸다”라고 선포할 수 있는 권한이 오픈AI에 있기 때문입니다.
약한 인공지능 vs 강한 인공지능 그리고 AGI
먼저 용어 정리를 할 필요가 있을 듯한데, 반갑게도 책 내용 일부를 인용하는 것으로 설명이 충분할 듯합니다.
약한 인공지능에 대립되는 개념이 '강한 인공지능'이다. 강한 인공지능을 범용 인공지능AGl, Artfical General Intelligence 이라고도 한다. 이 개념에는 여러 가지 다른 상황에서 여러 가지 문제를 해결한다는 범용성 개념과 독립적으로 의지를 갖고 의사결정을 한다는 두 가지 개념이 섞여 있다. 쉽게 말하자면 생명체인 사람과 같이 생각하고 행동하는 지능을 의미한다.
(다른 명성도 자자하지만) 세계 최고의 혁신가[2]라 불리는 일론 머스크가 오픈AI를 설립한 이유가 바로 강한 인공지능에 대한 우려 섞인 시선인 듯합니다.
일론 머스크는 ‘강한 인공지능 연구는 공개적으로 해야 한다'는 신념으로 '오픈AI’라는 연구회사 설립을 도왔다.
그래서 일론 머스크는 오픈AI가 영리 단체로 나아갈 때 제동을 걸었던 흔적도 있습니다.
출처: 구글링 결과(키워드: 오픈 AI 와 일론 머스크)한편, 최근 한국을 방문한 그렉 브록먼 오픈AI CEO가 AGI 구현을 조직의 미션으로 말하면서도 AGI가 점진적이면서 단계적으로 올 것이라고 인터뷰한 기사도 있어 인용합니다.
AI는 결국 인간 지능을 능가할 가능성이 있습니다. 하지만 그 방식이 단순히 한순간에 이루어지진 않을 거예요. 이 과정은 점진적으로, 여러 단계에 걸쳐 일어날 것입니다. AI가 발전함에 따라 어떤 목표를 얼마나 빠르게 달성할 수 있을지, 그리고 그로 인한 위험을 어떻게 통제할 수 있을지에 대한 균형을 잘 맞추는 것이 중요합니다.
컴퓨터에서 에이전트로
이어지는 내용을 보면서 저자의 전산분야에 대한 폭넓은 경험과 깊이 있는 식견에 탄복하게 됩니다.
교과서들을 보면, 첫 페이지에서 인공지능을 '지능이 필요한 업무를 기계에 시키고자 하는 노력, 기술'이라고 정의한다.
여기까지 보면 이건 인공지능이 아니라 컴퓨터 프로그래밍 정의 아닌가 싶습니다. 다음 인용문으로 가 보겠습니다.
여기서 기계란 컴퓨터를 지칭한다. 세상에는 여러 가지 기계가 있는데 왜 컴퓨터로 한정할까? 그 이유는 컴퓨터는 보편기계Universal machine 이기 때문이다. 컴퓨터는 만들어질 때 무엇을 한다는 것이 정해지지 않는다. 컴퓨터 하드웨어가 제작된 후 소프트웨어, 즉 프로그램의 지시에 의하여 기계의 성격이 결정된다. 따라서 컴퓨터는 모든 기계의 역할을 할 수 있다. 컴퓨터는 기계의 대명사라고 할 수 있다.
컴퓨터를 보편 기계로 보는 관점은 너무나 당연하다고 볼 수도 있습니다. 하지만, 업계에 일하고 있는 저는 이를 까맣게 잊고 있었습니다. 컴퓨터의 발전사 속에 있으면 그 흐름이 제대로 보이지 않는다는 생각을 하게 됩니다.
그리고 제가 최근에 다시 인공지능 발전에 민감하게 반응하는 포인트와 연결되는 내용을 찾았습니다.
에이전트란 센서를 통해 외부 환경을 지각Perceiving하고 액츄에이터Actuator를 통해 외부 환경에 영향을 미치는 행위Acting를 하는 모든 종류의 시스템을 일컫는다.
그렇습니다. 바로 에이전트 개념이 컴퓨터와 프로그램을 보는 시각을 크게 바꿀 듯합니다. 아니, 그래야 할 이유를 제시하는 개념이죠. 글이 너무 길어져서 이후의 내용을 별도 글로 쓰도록 하겠습니다.
주석
[1] 굳이 객관을 사전에 찾아서 인용한 이유는 <낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함>이 습관화된 이유도 있으나 객관이라는 말이 '나그네 입장'과 같이 방관자적인 측면이 있음을 강조하기 위함입니다.
[2] 호불호가 강한 인물이라 '세계 최고의 혁신가'라는 수식은 진혜원 검사님의 페북 표현을 차용했습니다.
지난 내 삶을 차리는 독서의 시작 연재
(76회 이후 링크만 표시합니다.)
76. 잠재력을 믿고 명확한 비전 수립 이후는 하도록 놔두기
77. 감정을 무시한 대가는 나쁜 관계의 기억으로 쌓인다
78. 돈의 신뢰 작용과 가치를 바라보는 다양한 장면들
79. 스테이블 디퓨전 모델과 GPT의 기반, 트랜스포머 구조
82. 반사적이 아니라 전략적으로 행동하기 위한 선행 조건
83. 효과적인 결과가 나올 수 있도록 내버려 둬야 한다
84. 우리는 돈 앞에 평등하다, 오직 돈만 가치를 가질 뿐
86. 일상을 파고드는 생성 인공지능
88. 비디오, 3D, 사운드, 음성 생성과 노래 합성 모델
