AGI, 천사인가 악마인가 - 김대식
미래를 준비하는 우리의 자세.
이미 오래전부터 시도된 인공지능.
대부분의 사람들은 인공지능을 떠올리면 최근 생겨난 과학 기술이라고 생각한다. 하지만 생각보다 오래전부터 꾸준히 도전하며 발전해 왔다.
1956년에 인공지능의 개념이 제안되었다. 그때 당시의 목표는 "첫째. 인간과 대화가 가능하게 만들자. 둘째. 인공지능이 세상을 알아볼 수 있도록 만들자."였다. 당시 과학자들은 이를 위해 기호와 설명 기반으로 70년대까지 시도했지만 완전히 실패했다.(기호와 설명을 기반으로 개발한다는 의미는 우리가 상상할 수 있는 설명을 수식화하고 정량화해서 컴퓨터 코드로 기계에 설명하는 것이다. 하지만 우리가 코드를 100줄, 1만 줄, 10만 줄로 늘려도 기계는 끝까지 사물을 알아보지 못했다.) 그럼에도 과학자들은 포기하지 않았다.
1980년대에 들어섰을 때 새로운 방법으로 도전했다. "인간이 세상을 어떻게 인지하는지"에 대해 생각한 뒤 기계에도 똑같은 방식을 적용하려고 했다. 당시 과학자들은 이러한 방법을 "학습 능력을 부여한다"라고 말했다.(머신러닝 또는 인공신경망) 이전과 다르게 많은 자료를 보여주고 데이터에서 확률적인 관계를 추출하려고 시도했다. 하지만 안타깝게도 실패하고 만다. 이후 큰 변화 없이 시간이 흐르면서 2000년에는 "인공지능"이라는 단어 자체가 금기어처럼 되어버린다.
그러다 2010년대에 우리가 알고 있는 제프리 힌턴 교수가 80년대에 실패했던 방법으로 다시 도전했다. 결과는 놀랍게도 80년대와 달랐다. 드디어 성공한 것이다. 그런데 어떻게 성공한 걸까? 예전 실패했던 방법과 동일하게 진행한 실험이었다. 전문가들은 원인을 세 가지로 말한다.
첫 번째. 알고리즘이 개선되었다. 두 번째. 컴퓨터가 빨라졌다. 세 번째. 90년대에 인터넷이 등장하면서 상상을 초월할 정도로 데이터가 많이 생겼다는 점이다. 특히 세 번째 이유가 결정적인 역할을 했다.
예를 들면 80년대에는 500마리 정도의 고양이 자료만 보여줬다면 2010년대에는 수십만 장의 고양이 사진을 보여줬다는 것이다. 그랬더니 갑자기 성공해버린 것이다. 이후 인공지능은 엄청나게 빠른 속도로 개발되고 진화하고 있다.
1, 2장을 통해 인공지능의 발전 과정을 보며 모든 진화는 선구자가 있으며 그들의 노력이 축적되어 새로운 것이 만들어진다는 사실을 다시 한번 생각했다. 어떤 일이든 갑자기 하늘에서 툭하고 떨어지지 않는다.
유튜피아? 아니면 디스토피아?
인공지능은 전문가들도 예측하기 힘들 정도로 빠르게 발전하고 있다. 특히 채용시장의 변화가 급격하게 달라지고 있다. 기능 위주(기술, 자격증)의 채용은 사라지고 있으며 판단력 위주(문제해결능력, 상황 판단 능력, 결정 능력, 직무적합성(실질적 역량))의 채용이 늘어나고 있다. 그리고 인공지능의 도움을 받아 개인이 처리할 수 있는 일이 늘어나고 있기 때문에 예전과 같은 신입 채용은 점차 사라질 것으로 예상된다.
"5년, 10년 후 길게 봐도 20년 후에 AGI가 등장하면 사람들의 여유시간이 늘어날 것으로 예측할 수 있습니다. 그러면 미래 사회에서 엔터테인먼트와 콘텐츠가 반도체보다 더 큰 비즈니스가 될 겁니다. 도서를 포함한 콘텐츠 비즈니스이지요. 이 인공 지능 시대의 콘텐츠 비즈니스를 누가 장악할까요? (중략) 분명히 개인은 아닐 겁니다. 초기 비용이 너무 크니까요."(p.94)
그뿐만 아니라 더 이상 개인이 크게 성공할 수 없는 시대가 다가오고 있다. 결국 개인은 죽을 때까지 자신을 채찍질하며 성장해야 하지만 보상은 예전같이 크지 않아 근근이 살아가는 삶을 살아갈 것이라고 이해했다. (신기하게도 이는 송길영의 <시대 예보> 시리즈에서 말한 것과 일치하는 부분이다.)
AGI가 등장하면 세상이 어떻게 변할까? 우선 변화의 중심에서 일하는 실리콘밸리 개발자들은 다양한 근거를 말하며 유토피아가 도래할 것이라 얘기한다. 그들의 따르면 이미 우리는 엄청난 양의 자료를 가지고 있지만 그것을 모두 활용할 수 없다. 하지만 AGI는 그것이 가능하며 그것을 이용해 새로운 지식을 만들어낼 것이라 말한다. 이는 현재 인간이 풀지 못한 여러 난제 들을 풀어낼 수 있다는 말과 동일한 주장이다.
하지만 정말 유토피아가 우리에게 축복인지에 대해 생각해 봐야 하며 그들이 주장하는 유토피아로 진입하기 과정에서 노동력의 가치가 사라지는 한편 자본의 중요성이 비대해지면서 심각한 빈부격차가 발생할 수도 있으며 모든 면에서 할 수 있는 것이 사라진 우리는 무기력에 빠지거나, 지나친 향락에 빠져 무의미하게 살아갈 수도 있다. 결국 디스토피아에 가까운 세상이 도래할 수도 있는 것이다.
난 실리콘밸리 선구자들과 같이 세상의 모든 난제와 문제가 해결된 유토피아를 원하지만 세상은 디스토피아에 더 가까울 것이라 생각한다. 물론 인간은 큰 전환점들을 잘 이겨냈지만, 이번 인공지능의 발전은 예전의 변혁과 다르게 인간이라는 종의 존재 자체가 부정될 수 있고 우리보다 뛰어난 존재가 창조되는 거대한 변혁이다. 이건 극복하고 못하고의 문제가 아니란 생각이 들었기 때문이다.
그들을 경계해야 하는 이유.
"최근 보면 무솔리니와 일론 머스크의 사상이 똑같다는 이야기가 있습니다. 전통을 다 깨고 시, 박물관, 인문학을 파괴하자는 주장입니다. 일론 머스크가 최근에는 이런 말을 하기도 했습니다. 서양 문명의 가장 큰 약점은 연민이다. 약한 사람을 불쌍히 여기는 순간 발전이 없다."(p.243)
분명 시대의 선구자처럼 보이는 사업가들은 인류에 도움 되는 부분도 많지만 경계해야 할 부분도 많다. 특히 기술 발전만이 지구의 유토피아를 만들 수 있다는 생각을 가진 이들은 연민이라는 감정을 악으로 보고 사회적 약자를 불순물로 보는 경향을 보이는 경우가 잦다. 또한 본인들은 이전 세상에 없던 새로운 생각과 철학을 추구한다는 언행을 보이지만 저자의 말처럼 자세히 살펴보면 긴 인류의 역사 중 그들과 비슷한 생각을 가졌던 이들을 찾을 수 있다. 그들도 멈추지 않고 흘러가는 시간 속에서 살아가는 여러 존재 중 하나일 뿐이기에 신봉할 필요는 없다.
"연민을 포기하는 순간 인류는 야만이 된다.(한나 아렌트)"(p.243)
그리고 그 누구도 미래의 시대가 어떻게 펼쳐질지 모르는 상황에서 단순히 발전을 위해 인간답게 살아가게 해주는 요소들을 파괴하고 포기하는 것은 위험하다고 생각한다. 앞으로 어떤 세상이 펼쳐질지 아무도 모르지만 적어도 인간다움은 잊지 않았으면 좋겠다.
우리는 인공지능과 어떻게 살아가야 하나?
현재 대부분의 사람들은 우리가 AI의 주인이라 생각하며 살아간다. 이는 사람들이 AI를 어떻게 사용하고 있는지 보면 알 수 있다. 대부분 본인이 원하는 답을 얻기 위해 명령조로 말하는 경우가 많기 때문이다. 물론 현재는 그렇게 해도 괜찮지만, 조금 더 AI가 발전하고 그들이 인간이 예측할 수 없는 자율성을 획득한다면 순식간의 이 구조는 바뀌게 된다.
지금 이런 얘기를 하면 "무슨 망상 속에 살고 있냐?"라고 말하는 사람이 많겠지만, 현재 기술의 발전 속도를 보면 마냥 망상으로 치부할 수 없는 수준이라고 생각했다.
지금부터라도 AI를 동반자 또는 동료라고 생각하고 수평적 가치관을 가지고 공생의 길을 찾아야 한다고 생각했다. 그래서 이를 위해 지금 AI를 개발하면서 인간과 공생할 수 있는 가치관, 철학을 반영하며 설계해야 된다는 저자의 주장에 동감했다.
에필로그.
저자의 말처럼 1~2년 사이에 엄청난 변혁은 일어나지 않겠지만 적어도 10년 이후에는 확실하게 세상이 급변할 것이라 생각한다. 그렇기 때문에 지금부터라도 AI에 대해 관심을 가지고 활용해도 늦지 않았다고 생각한다.
평소 AI에 관심이 있으나 어렵게 느껴졌던 분들에게 적극 추천한다.
