<AI 이후의 세계> 헨리 키신저, 에릭 슈미트 등
Written by 클래미
헨리 키신저의 신간 『AI 이후의 세계』가 출간됐다는 소식을 듣고 구매했다. 이 책은 기술이나 경제 트렌드보다는 정치적 내용을 다루고 있어 흥미로운 내용이 많았다. 헨리 키신저는 미국에서 가장 영향력 있는 전 국무장관으로, 구글 전 CEO 에릭 슈미트와 MIT 학장 대니얼 허튼로커 등과 함께 집필했다. 그들은 4년간 논의한 내용을 바탕으로, AI의 발전과 관련하여 지속적인 의문과 규제가 필요하다는 점을 강조한다.
특히 AI 개발 인력은 증가하고 있지만, 사회, 법, 철학, 정신, 윤리적 문제를 다루는 인력은 소수이다. AI 기술로 생성, 전송, 필터링되는 콘텐츠가 혐오와 분란을 조장할 경우, 심각한 위협과 문제가 될 수 있다. 따라서 정당한 수단을 통해 사회 질서를 유지해야 하며, 이를 위해서는 AI와 인간의 균형을 유지하는 것이 중요하다.
이 책은 AI 기술이 인간의 역할을 어떻게 변화시킬지에 대한 철학적 고찰과, 군사 기술에 적용될 경우 국제 질서가 어떻게 변화할지에 대한 내용을 담고 있다. 인간의 가치와 의미에 대해 다시금 생각해볼 수 있는 좋은 계기가 되었다.
먼저 AI의 창발성이 우리에게 가장 근본적인 영향을 미칠 수 있다고 주장한다. 창발성은 예측하지 못한 새로운 결과를 도출하는 것으로, 알파제로가 체스를 전혀 다른 방식으로 이긴 것이 대표적인 사례이다. 딥러닝 기술을 이용하여 할리슨 항생제를 찾는 과정에서도 새로운 메커니즘이 발굴되었다고 한다.
인간은 본능, 편견, 권위, 이익 등의 영향으로 기존의 사고 패턴에 갇혀 새로운 시도를 하기 어렵다. 반면, AI는 이러한 메커니즘에서 자유로워 새로운 시도를 할 가능성이 높다. AI는 의식의 세계, 과학적으로 정립하기 어려운 것들도 해결하고 해법을 제시할 수 있는 잠재력을 가지고 있다. AI가 새로운 가능성을 제시함에 따라 인류는 수천 년 동안 파악하지 못했던 것들을 알아갈 수 있을 것이다. 물론, AI도 수능 편향 등과 같은 인간의 편향에서 자유롭지 못할 것이다. 하지만, AI는 인간과 달리 기존의 사고 패턴에 갇히지 않고 자유롭게 세상을 탐색하며 새로운 시도를 할 수 있는 잠재력이 있다.
하지만 국가안보와 같이 중요한 결정에 대해서는 AI의 결정이 아닌 인간의 의견이 더욱 적절하다. 이 주장은 책 "특이점 이후"에서 지지된다. 인간이 의례와 원칙으로 인해 중요한 결정을 내려야 하는 책임이 있으며, 인간이 아닌 AI가 이를 대체할 수 없다고 주장한다. AI가 보드게임과 같은 정형화된 상황에서는 뛰어난 성능을 발휘할 수 있지만, 국가안보와 같은 복잡하고 모호한 상황에서는 인간의 판단이 여전히 필요하다고 말한다. 인간은 의례와 원칙을 통해 도덕적 판단을 내릴 수 있는 능력을 가지고 있으며, AI는 이러한 능력을 가지고 있지 않다. 예를 들어, 국가안보의 경우 AI는 적국의 의도를 정확하게 파악하거나, 윤리적으로 올바른 결정을 내릴 수 없다. 따라서 이러한 결정은 인간이 내려야 한다.
물론 AI는 인간의 판단을 보완할 수 있는 도구로 활용될 수 있다. AI는 대규모 데이터를 분석하여 인간이 놓칠 수 있는 정보를 제공할 수 있다. 하지만 AI는 인간의 판단을 대체할 수 있는 존재가 아니다. AI는 보드게임과 같은 정형화된 상황에서는 뛰어난 성능을 발휘할 수 있다. 하지만 국가안보와 같이 중요한 결정에 대해서는 AI의 결정이 아닌 인간의 의견이 더욱 적절하다.
또한 AI가 창의성을 발휘하여 새로운 것을 만들어내다 보면, 현실과 허구를 구분하기 어려운 상황에 빠질 수도 있다. 생성형 신경망 기술의 발전으로 AI는 단순한 도구를 넘어, 가능성의 존재로 거듭났다. 그러나 이러한 기술의 발달로 인해, 인공적으로 생성된 것인지 아닌지를 구분하기 어려워지는 부작용도 발생할 수 있다. 텍스트 생성 기술이나 이미지 생성 기술이 발전함에 따라, AI가 지닌 가능성과 위험성을 더욱 절실하게 느끼게 되었다.
간단한 코딩 구조만으로도 프로그램이 자동화되고 생성될 수 있게 되면서, 프로그래머의 역할이 변화할 수밖에 없다. AI가 보다 저렴하게 개발될수록, 미래의 대다수 작업은 AI가 인간을 대체할 것으로 예상된다. 하지만 아직 AI는 육체적인 움직임을 잘 따라하지 못하기 때문에, 머리를 쓰는 일을 대체할 가능성이 높다. 이에 따라 이전에는 없었던 새로운 직업들이 생길 것으로 예상된다. AI는 더 나은 일을 할 수 있도록 개발될 것이기 때문에, 이러한 변화는 일시적인 것이 아니라 장기적으로 지속될 것이다. 따라서, 새로운 직업들과 함께, 일자리와 AI가 대체하는 측면에 대한 대화와 논의가 더욱 필요하다.
세계적인 전문가들과 유발 할라리는 인간의 많은 일자리가 AI에 의해 대체될 것이라고 예측한다. 따라서, 세상이 필요로 하는 기본소득제도와 같은 완전히 새로운 경제 모델 및 사회 체제가 필요할 수도 있다.
인간은 본성, 현재 경제구조, 수능 편향 등 다양한 이유로 인해 현재의 경제 시스템에 보수적인 태도를 보인다. 하지만, 현재의 경제 시스템은 인류의 역사에서 보면 짧은 기간 동안 유지된 것에 불과하다. 따라서, 우리는 안정적인 인류 삶을 위해 어떤 새로운 경제 모델이 필요한지 고민해야 한다. AI는 대단한 변화를 가져올 수 있는 도구이다. 따라서, 우리는 AI에 대한 기대와 두려움을 동시에 느끼며, 경제 모델 개선의 방안에 대해 논의가 필요할 것이다.
끝으로 다음의 몇가지 인상적인 구절을 공유한다.
명심하라, 지금 일어나는 혁신은 인공지능이 이룰 성취의 첫걸음에 불과하다. AI는 우리가 미처 알아차리기도 전에 오늘날 문제가 되는 모든 한계를 돌파해버릴 것이다. - 빌 게이츠
AI가 불러올 세상에서는 의사결정 방식이 세 갈래로 나뉠 것이다. 1) 인간에 의한 결정 2) 기계에 의한 결정 3) 인간과 기계의 협력에 의한 결정
계몽주의 시대에 접어들어서는 '코키토 에르고 cogito ergo sum (나는 생각한다 고로 존재한다)' 데카르트의 명제에 의거해 사유하는 정신이 인간의 가장 중요한 능력이며 그렇기에 인간이 중심에 서 자격이 있다는 인식이 싹텄다.
4세기가 지난 현재 우리는 이렇게 자문해야 한다. AI가 '생각'을 할 수 있다면 혹은 생각을 흉내낼 수 있다면 우리는 누구인가?
인공지능의 거의 모든 직업에서 인간을 밀어낼 것이다. 새 직업을 만들어도 결국 AI가 그 일을 인간보다 잘 해낼 테니 해결책이 아니다. 완전히 새로운 경제 모델이 필요하다. - 유발 하라리
칸트에 따르면 인간의 이성은 현실을 깊이 이해할 능력이 있으나 필연적으로 불완전하다. 인간의 인지와 경험은 우리가 아는 모든 것을 여과하고, 체계화하고, 왜곡한다.
우리는 사람들이 생성형 AI의 상호작용성에 선뜻 의문을 제기하도록 정교한 변증법을 속히 마련해야 한다. 그렇게 의문을 던지는 목적은 단순히 AI의 답변을 정당화하거나 설명하기 위해서가 아니라 조사하기 위함이다.
우리는 연합된 회의주의하에서 AI를 체계적으로 검사해 그 답변이 과연 온전히 믿을 만한지, 혹은 어디까지 믿을 만한지 판단하는 능력을 길러야 한다. 그러자면 우리의 무의식적 편향을 의식적으로 완화하며 엄격히 훈련하고 부단히 연습해야 한다.
시간이 지나면 사람들이 인간보다 디지털 도우미를 더 좋아하게 될지 모른다. 타인은 자신의 취향을 척척 알아차리지 못하고 '의견차'가 크기 때문이다. 그렇다면 우리는 인간관계에서 덜 의존할지 모른다. 그럴 때 유년기의 중요한 경험은 어떻게 형성될 것인가?
인공지능은 인간이 통제할 수 있는 도구다. 문제는 우리가 설정한 안전상의 제한을 누군가는 설정하지 않으리란 점이다. - 샘 올트먼 Open AI CEO
자유로운 사회가 국경에 구애받지 않고 콘텐츠를 생성·전송·필터링하는 AI 기반 네트워크 플랫폼에 의존하고 그 플랫폼이 비록 고의는 아닐지언정 혐오와 분열을 조장한다면, 그 사회는 지금껏 없었던 위협에 직면함에 따라 지금껏 없었던 방식으로 정보환경을 단속해야 한다.
이는 긴급한 문제지만 AI에 의존하는 해법은 그 자체로 중대한 질문을 제기한다. 우리는 인간의 판단과 AI에 의한 자동화를 저울의 양쪽에 놓고 항상 올바른 균형을 고민해야 한다.
2030년 초쯤이면 우리는 뇌의 신피질을 비생물학적 지능과 결합할 수 있다. 지적 한계는 사라지고, 인간의 지능은 두뇌 바깥으로 나아가 클라우드에 도달할 것이다. - 레이 커즈와일
지금까지 군민 양용성, 확산성, 강력한 잠재적 파괴력을 모두 갖춘 기술은 없었다. 철도는 상품을 시장으로, 군인을 전장으로 수송하지만 잠재적 파괴력이 없다. 원자력 기술은 대체로 군민 양용이고 가공할 파괴력을 만들어내지만, 복잡한 인프라가 요구되기 때문에 정부가 비교적 확실히 통제할 수 있다. 엽총은 널리 보급됐고 군대와 민간에서 모두 사용할 수 있으나 성능의 한계 때문에 전략적 차원의 파괴력은 기대하기 힘들다. AI가 이 패러다임을 깨트린다.
지금은 인간의 지능이 인공지능과 연합해 국가적·대륙적·세계적 차원의 일을 도모하는 시대다. 이 변화를 이해하고 그 길잡이가 될 윤리체계를 마련하려면 과학자와 전략가, 정치인과 철학자, 성직자와 CEO 등 각계의 노력과 중지가 모여야 한다. 국가적 차원에서는 물론이고 세계적 차원에서도 그 같은 노력이 요구된다. 이제 우리가 인공지능과 어떻게 협력해서 현실을 탐구할지 규정할 때다.
