brunch

You can make anything
by writing

C.S.Lewis

by 권혁민 Jun 20. 2023

초거대 AI

불가능한 제어와 그 파장

수십 년 동안 초거대 인공지능(AI)이 인류를 압도할 것이라는 개념이 논의되어 왔습니다. 최근에는 ChatGPT와 같은 프로그램들이 이 주제에 대한 새로운 고민을 불러일으켰습니다. 과연 우리는 컴퓨터 초거대 지능을 통제할 수 있을까요? 이에 대한 견해는 분야의 대가들 사이에서도 갈립니다.

초거대 지능은 '로봇 윤리'에서 주로 다루는 문제들과 근본적으로 차이가 있습니다. 초거대 지능이 다양한 자원을 동시에 동원해 인간이 이해할 수 없는 목표를 달성할 수 있는 다면적인 특성 때문입니다.

그럼에도 불구하고, 초거대 AI의 발전은 멈추지 않았습니다. 이를 더욱 우려스럽게 만드는 것은, 우리가 이러한 초거대 지능을 제어할 수단이 없다는 사실입니다. '인간에게 해를 끼치지 않는다'는 같은 규칙은 우리가 AI가 만들어낼 시나리오를 이해하지 못하면 설정할 수 없습니다. 프로그래머의 범위를 넘어서 작동하기 시작하는 컴퓨터 시스템에 대해 우리는 더 이상 제한을 둘 수 없습니다.

아이러니하게도, OpenAI의 지도자들이 "초거대 지능" AI의 규제를 촉구하고 있습니다. 그들은 인간이 실수로 파괴 가능한 것을 만들어낼 위험에서 인류를 보호하기 위해 국제 원자력 기구와 같은 규제기구가 필요하다고 주장합니다. 그들은 국제 규제 기구가 시스템을 검사하고, 감사를 요구하며, 안전 표준 준수를 테스트하고, 배치와 보안 수준에 제한을 두는 작업을 시작해야 한다고 주장합니다.

그러나, 이러한 제어가 정말로 가능할까요? 일부 연구자들은 이런 접근 방식이 문제 해결을 하지 못할 뿐 아니라 근본적으로 불가능하다고 주장합니다. 그 이유는, 인간의 이해를 넘어서는 초거대 지능을 통제하려면 그 초거대 지능의 시뮬레이션을 만들어 분석해야 한다는 것입니다. 그러나 우리가 그것을 이해하지 못한다면, 그런 시뮬레이션을 만드는 것은 불가능합니다.

AI에 대한 또 다른 중요한 문제는 튜링의 정지 문제입니다. 이 문제는 컴퓨터 프로그램이 결론을 도출하고 답을 제공할지(즉, 정지할지) 아니면 끝없이 루프를 돌 것인지를 파악하는 데 초점을 둡니다. 튜링은 이를 통해 몇 가지 뛰어난 수학적 이론을 증명했습니다. 즉, 우리는 특정 프로그램에 대해 알 수 있지만, 그 프로그램이 어떤 가능성을 가질지에 대해서는 알 수 있는 방법이 논리적으로 불가능하다는 것입니다.

이러한 이슈들을 고려할 때, 초거대 AI가 우리의 통제를 벗어나는 순간을 우리가 실제로 인지하지 못할 수 있다는 사실이 더욱 불안감을 키웁니다.

결국, 이 모든 것은 우리가 초거대 AI와 함께 어떤 방향으로 나아갈 것인지에 대한 중요한 질문을 제기하게 만듭니다. 사실, 올해 초에는 Tech 거물들이 AI 작업을 최소 6개월 동안 중단하고 그 안전성을 탐구하라는 공개서한에 서명했습니다.

초거대 AI는 많은 가능성을 가지고 있지만, 그 위험성도 동시에 고려해야 합니다. 우리가 이러한 기술을 어떻게 제어하고, 이해하며, 규제할 것인지에 대한 질문은 여전히 남아 있습니다. 이를 통해 우리는 더욱 안전하고 생산적인 미래를 만들 수 있습니다.

그렇다면 그 방법은 무엇일까요? 제 개인적인 견해는 샘 알트만과 비슷합니다. 거대한 Tech 기업의 주도로, 일부 천재들에 의해 공개 없이 개발되고 완성되는 것에는 반대합니다. 공개되고 사회적 집단 지성이 활용되는 구조를 만들길 바랍니다. 시뮬레이션을 상정할 수 없다면, 실제로 시도하면서 문제를 발견하고 공론화하고 해결하는 것이 최선이기 때문입니다.

따라서 일반인도 그들이 속한 영역에서 이런 기술을 사용하면서 본인의 의견을 내야 한다고 생각합니다.

1. 눈을 가리고 '이건 꿈이야!'라고 외칠 것인가요?

2. 똑바로 눈을 뜨고 문제를 직시하여 나의 생각은 무엇이고 어떤 판단을 내릴 것인지 결정할 것인가요?

그 외에도 여러 가지 선택이 있을 수 있습니다. 이 글을 읽는 여러분은 어떤 선택을 하시겠습니까?

*아래 내용은 ChatGPT의 도움으로 작성되었습니다.

Q. 튜링의 정지 문제를 쉽게 설명해 줄 수 있을까요?

A. 상상해 봅시다. 마법의 책을 가지고 있다고 생각해 봅시다. 이 책에는 모든 이야기가 적혀 있습니다. 어떤 이야기는 끝이 있고, 어떤 이야기는 끝이 없습니다. 끝이 있는 이야기는 "그들은 행복하게 살았다. 끝."이라는 문장으로 끝나지만, 끝이 없는 이야기는 계속해서 페이지를 넘기면서 새로운 내용이 나옵니다.

이제, 특별한 도전을 하려고 합니다. 책의 한 페이지를 펼치고, 이 이야기가 끝나는 이야기인지, 아니면 끝이 없는 이야기인지를 맞추려고 합니다. 그러나, 할 수 있는 것은 페이지를 넘기는 것뿐입니다. 이 이야기가 끝나는지, 끝이 없는지 확실히 알 수 없습니다. 왜냐하면 끝이 없는 이야기는 어떤 페이지를 넘겨도 계속해서 새로운 내용이 나오기 때문입니다. 이것이 바로 튜링의 정지 문제입니다. 프로그램(이야기)을 보고 그 프로그램이 결국에는 끝날 것인지(이야기가 끝날 것인지), 아니면 계속 실행될 것인지(이야기가 계속될 것인지)를 알 수 없다는 것입니다.

keyword