생각하는 역량과 오픈AI Strawberry의 역설
학습 차원에서 틈틈이 해외 전문가들이 블로그나 미디어 그리고 책에서 쓴 글을 번역 또는 요약 정리하고 있습니다. 이번 포스팅도 그중 하나고요. 거칠고 오역된 부분이 있을 수 있습니다. 제대로 번역되지 않은 부분은 확인 주시면 반영토록 하겠습니다. 의미 전달이 애매한 문장은 삭제했습니다. 이번에는 Cassie Kozyrkov가 Towards Data Science에 쓴 글을 정리한 것입니다.
OpenAI가 최신 모델인 o1-preview (Strawberry)를 출시했다는 소식을 들었을 때 어디에 있었는지 기억하는가? 나는 노벨상을 수상한 게임 이론가 로저 마이어슨과 오후를 보내고 있었다. 당연히 대화 대부분은 인간과 기술의 관계에 관한 것이었다.
이번 글에선 우리가 나눴던 생각을 공유하고자 한다. Strawberry처럼 새로운 새로운 AI 기능이 등장할 때마다 인터넷은 그 기능이 실제로 얼마나 좋은지(또는 그렇지 않은지) 평가하는 과장과 비아냥거림으로 시끌벅적해진다. 하지만 내가 로저와 제가 이야기한 것은 그런 내용이 아니다. 우리는 대신 모든 AI 릴리즈에 대한 논리적 결론으로 바로 넘어가 이렇게 질문했다:
“AI가 너무 뛰어나 어떤 질문이든 즉시 답을 얻을 수 있다고 상상해 보라. 또는 사용자가 요청한 모든 요청에 대해 즉각적인 결과를 얻을 수 있다고 상상해 보라. 그런 세상에서 무엇을 가르칠 가치가 있을까?" 우리 대답은? 우리가 수십 년 동안 가르치려고 노력해 온 것으로 가장 가치 있는 기술이다.
사라지고 있는 필터(The dissolving filter)
Strawberry가 아무리 훌륭해도 완벽한건 아니다. 물론 박사급 코딩 작업을 몇 달치 절약할 수 있겠지만 실수도 한다. 그 실수에 대해 얼마나 실망할지는 여러분에게 달려 있다. 하지만 Strawberry 완벽하다면 어떨까요?
질문을 이해하지 못한다면 완벽한 답변이 무슨 소용이 있을까?
로저와 나는 20년 전 시카고 대학교에서 내가 그의 학과 학생이었을 때, 의사 결정 이론을 배운다는 것은 종종 Excel과 그 추가 기능이 가진 투박한 한계와 씨름하는 것을 의미했던 옛날을 회상했다. 평범한 학생들은 기술 수업이 도구와 공식( formulas)에 관한 것이라고 생각했을 것이다. 기술이 발전함에 따라 금방 식상해지는 그런 수업이었다. 하지만 도구는 결코 중요하지 않았다. 오히려 답을 구하기 어렵다는 점은 문제를 깊이 이해하는 사람만이 해결책에 도달할 수 있도록 해주는 경우가 많았다.
답을 구하기 어렵다는 것은 문제를 깊이 이해하는 사람만이 해결책에 도달할 수 있도록 하는 필터였다.
하지만 오늘날에는 경계가 바뀌었다. 냅킨에 복잡한 확률 분포를 스케치하고 사진을 찍어 AI 모델에 입력하면 땀 한 방울 흘리지 않고도 시뮬레이션을 실행하는 코드를 생성할 수 있다. 이는 놀라운 변화지만, 동시에 더 깊은 도전 과제를 드러내는 것이기도 하다. 도구가 우리를 위해 더 많은 일을 해줄수록 우리는 도구가 실제로 무엇을 하도록 요구하고 있는지에 대한 이해에 대한 학습이 부족해진다. 도구가 우리를 위해 더 많은 일을 해줄수록 우리는 도구에 실제로 무엇을 요구하고 있는지에 대해 덜 이해하게 되는 것 같다.
이것이 바로 AI 시대 발전의 역설이다. 도구가 상대적으로 쉽게 답을 만들어내면서 우리는 용이한 사용과 이해의 깊이 간 괴리가 점점 더 커지는 상황에 직면하고 있다. 가장 쉬운 도구, 즉 강력한 지니가 들어 있는 요술 램프가 있다고 상상해 보라. 여러분은 책임감 있게 소원을 빌 수 있는 능력이 있다고 확신하는가?
생각의 속도는 얼마나 빠를까?
여기서 설명했듯이 인공지능의 위험성은 인공지능의 장점과 마찬가지로 깊은 생각을 하지 않아도 되도록 한다(Thoughtlessness enabler)는 점이다. 즉, 많은 생각과 노력을 들이지 않고도 결과를 얻을 수 있다는 것이다. 하지만 실제로 필요한 결과를 얻을 수 있을까? 가장 가치 있는 작업의 경우, 그 어느 때보다 어려울 수 있다.
진짜 문제는 올바른 순서로 올바른 버튼을 누르는 방법을 배우는 데 있지 않다. 인류는 지난 세기의 기술을 어색한 10대 시절로 되돌아보게 될 것이며, 이 시기에는 우리가 그토록 중요하게 여겼던 모든 도구들이 생각의 속도로 일을 처리하기 위한 여정에서 버팀목이 되어주었다.
그리고 생각의 속도는 정확하게 얼마나 빠를까? 안타깝게도 실제로는 그렇게 빠르지 않다. 판단력은 펜과 종이가 인간의 기억 능력을 향상시킨 이후 가장 적게 업그레이드된 영역이다. 적당히 복잡한 문제를 이해하는 데 걸리는 시간은 여전히 엄청난 병목이 있다. 어쩌면 인공지능의 미래를 제한하는 가장 중요한 요소일지도 모른다.
숙련되지 않은 의사결정권자에게 상상할 수 있는 가장 정교한 AI 시스템을 건네면, 그들은 어둠 속에서 허둥대며 헤매게 될 것이다. 기술적으로는 완벽하지만 전혀 관련이 없는 결과물을 받게 될 수도 있다. 아니면 더 나쁜 경우, 오해의 소지가 있는 결과물을 받을 수도 있다.
새로운 능수능란함(A new fluency)
그렇기 때문에 오늘날 AI 기반 세상에서 가장 중요한 기술은 계산 능력이 아니라 해결하고자 하는 문제에 대해 깊고 명확하게 사고하는 능력이다. 과거 리더들은 팀원들이 수학과 코드를 만지작거리며 해결책을 시도하는 동안 몇 달 동안 문제를 고민할 수 있었다. 그들은 천천히 생각할 시간이 있었다.
하지만 이런 시대는 얼마 남지 않았다. 반짝이는 새 도구는 점점 더 많은 계산, 시뮬레이션, 데이터 분석을 처리할 수 있지만, 이는 올바른 방향으로 도구를 사용했을 때만 가능하다. 도구가 더 이상 병목이되지 않는다면, 이제 여러분에게 집중해야 한다. 전임자들이 몇 달씩 걸렸던 작업을 몇 분 만에 동일한 수준의 사고를 달성하려면 훨씬 더 빠르게 움직여야 한다.
이 새로운 세상에서 리더에게 진정한 시험은 도구에 숙달하는 것이 아니라 판단과 의사결정의 기술을 습득하는 것이다. 로저와 나는 전통적인 교육 모델이 이러한 변화를 따라잡지 못하는 이유에 대해 이야기했다. 너무 자주, 학생들은 경계가 깔끔하게 정의되어 있고 정답이 알려진 연습 문제를 통해 명확한 해결책을 가지고 고정된 문제를 탐색하도록 배운다.
하지만 현실의 의사 결정은 복잡하며 그렇게 수용하기 어려운 경우가 많다. 리더는 자신이 결정한 것뿐만 아니라 자신이 제기하는 질문 자체에 대해서도 책임을 져야 한다. 이를 위해서는 불확실성의 언어에 유창해야 하고, 모호함을 편안하게 받아들여야 하며, 선택의 광범위한 의미를 파악할 수 있는 능력이 필요하다.
이제는 거울을 한참 들여다봐야 할 때이다. 기술이 생각의 속도로 작동한다면 여러분의 사고력도 이를 따라갈 수 있을 만큼 예리해질까? 현대 자동화와 AI의 거대한 규모에서 의사 결정 리더십을 위한 기술을 구축하려면 의사 결정 인텔리전스라는 전문 지식이 필요하다. 이것은 자체적으로 한 분야가 되기에 충분하다.
우리의 사고를 기계에 맡길 수는 없다. Strawberry를 사용해 보면 화면에 매우 건방진 단어가 인쇄되어 있는 것을 볼 수 있다: “생각"과 ‘사고’다. 여기에는 생각은 없고, 다만 ChatGPT가 예전처럼 입만 열면 떠드는 것을 막기 위해 스스로를 점검하는 코드가 추가되어 있을 뿐이다. ChatGPT가 여러분을 대신해 줄 것이라는 생각에 현혹되지 말라.
strawberry 작업에서 고전적인 ‘r’은 제대로 작동한다. 하지만 내 요점은 그게 아니다. 여기서 “생각”이라는 단어는 “추론” 및 기타 인간 인지 행위와 마찬가지로 매우 건방진 단어라는 것이 핵심이다. AI의 매력에 빠져서 우리의 사고를 기계에 맡길 수 있다고 생각한다면 이는 위험한 오해다.
의사결정권자의 가장 큰 자산은 여전히 자신의 마음, 즉 멘탈 모델을 구성하고, 변수의 상호 의존성을 이해하고, 가정의 타당성을 평가할 수 있는 능력이다. AI가 빠른 속도로 답을 만들어내는 세상에서 진정한 차별화 요소는 중요한 질문을 던질 줄 아는 리더, 그리고 그들이 실제로 무엇을 묻고 있는지 깊이 이해할 줄 아는 리더다.
우리가 조심하지 않으면 AI는 우리의 실수와 잘못된 판단을 증폭시킬 것이다. 따라서 새로운 AI 시스템 기능에 감탄하면서도 인간적인 요소를 놓치지 말아야 한다. 이러한 도구는 우리의 문제 해결 능력을 증폭시키는 증폭기이지만, 조심하지 않으면 실수도 증폭시킬 수 있다.
리더의 역할은 이러한 도구를 단순히 사용하는 것이 아니라 현명하게 사용하는 것이다. 이는 여러분이 내리는 결정이 여러분이 답하고자 하는 질문에 대한 올바른 이해에 뿌리를 두고 있음을 보장한다. 이 모든 것에는 상당한 수준의 노력과 기술이 필요하며, 새로운 AI가 출시될 때마다 무분별한 즉각적인 만족을 기대한다면 이를 구축할 가능성은 낮다.
프롬프트는 새로운 것이 아니라 오래된 기술이다. 프롬프트는 필요한 작업을 파악하고, 구체적인 요구 사항이 있는 부분을 신중하게 표현하고, 실패 모드를 예상한 다음, 책상에 도착했을 때 작업의 품질을 확인하는 기술이다. 단순하고 중요하지 않은 작업의 경우, 우리는 모두 직관적으로 이 작업을 수행한다. 하지만 복잡하고 기술적이며 미션 크리티컬한 프로젝트의 경우, 이는 엄청난 도전이며 앞으로도 계속 그럴 것이다.
리더를 위한 인지 업그레이드
나는 OpenAI와 유사 업체들이 더 나은 마술 램프를 만들 것이라고 믿지만, 리더의 인지능력을 충분히 끌어올릴 수 있는 도구를 만드는 사람은 아직 없다고 생각한다. (내가 틀렸다는 것이 증명되기를 바란다!)
리더가 자신의 비전과 요구 사항을 표현하는 능력이 인간이 가긴 빈약한 주의 집중 범위에 제약을 받는 한 AGI에 대해 논의하는 것조차 어리석은 일이다. 우리는 그것을 얻으면 그냥 얼음 위에 올려놓을 것이다. 인간의 반사신경이 너무 느려서 운전할 수 없다면 광속 자동차가 무슨 소용이 있을까? 조향 능력을 향상시킬 수 있는 도구를 먼저 만들어야 한다. 그러한 도구가 개발될 때까지 가장 좋은 방법은 가장 명석한 사고력을 가진 사람을 운전석에 앉히는 것이다.
혁신의 속도가 빨라지면서 인간의 탁월한 판단력과 의사 결정 리더십에 대한 압박이 그 어느 때보다 커지고 있다. 미래의 의사 결정권자는 자신이 무엇을 요구하고 있는지뿐만 아니라 그것이 왜 중요한지 명확하게 파악할 수 있는 사고의 리더가 되어야 한다. 이것이 바로 AI의 발전이 우리 앞에 놓인 도전이자 기회다.
