자신의 역량을 증강시키는 도구를 만들어 온 인류

인공지능 길들이기

Jul 7. 2025

<듀얼 브레인> 읽고 <사람으로서의 AI> 중에서 밑줄 친 내용을 토대로 생각을 담습니다.

인공지능이라는 전혀 다른 소프트웨어

글을 쓰며 한번 읽었던 내용을 다시 읽으니 새롭게 다가오는 느낌이 있습니다.

AI를 이해하는 데 방해가 되는 잘못된 믿음이 한 가지 있다. AI 가 소프트웨어로 만들어졌으니, 기존의 소프트웨어처럼 작동할 것이라는 생각이다. 이는 인간이 생체 내 화학 작용에 따라 작동하니, 다른 화학반응처럼 행동해야 한다고 말하는 것과 마찬가지다.

최근 두 아들이 다니는 학교에 아내가 학부모회를 하는 이유로 생성형 AI 관련 강의 학부모 대상으로 진행한 일이 있습니다. 그 경험 때문인지 'AI를 이해하는 데 방해가 되는 잘못된 믿음'이 아예 없던 분을 만났습니다. 생성형AI를 심리상담 도구로 쓰는 사용자가 급증했다는 강의 내용을 듣고 난 후에 어떤 분이 자신도 딸과 그것만 쓴다고 (다른 것을 쓸 줄 모른다고) 말을 걸어왔습니다.

저는 HBR 기사를 보기 전까지만 해도 그런 일을 할 수 있으리라고는 상상조차 못 했거든요. 더불어 얼마 전 카르파티의 영상에서 다시 보았던 소프트웨어 1.0, 2.0, 3.0 정의가 떠올랐습니다.

2.0 이후의 소프트웨어를 다루는 새로운 방법

이번에도 글을 쓰며 두 번 읽기에 새롭게 느끼는 내용이 또 있습니다.

기존의 소프트웨어는 예측이 가능하고, 신뢰할 수 있으며, 엄격한 규칙을 따른다. 그리고 적절한 개발과 디버그 과정을 거치면 매번 같은 결과를 산출한다. 반면 AI는 결코 예측하거나 신뢰할 수 없다. 이전에 본 적 없는 새로운 해결책을 제시해 우리를 놀라게도 하고, 자신의 능력을 잊어버리기도 하며, 그럴듯하게 틀린 답을 내놓기도 한다.

처음 이 책을 읽을 때는 소프트웨어 1.0, 2.0, 3.0 개념을 몰랐었거든요. 이제는 '예측 가능한 이유'가 바로 밀가루 반죽 같은 비즈니스 로직(더 정확한 말은 생각의 산물)을 견고한 알고리듬이라는 틀에 넣었기 때문이라는 이유를 아니까요. 프로그램은 마치 방송 분야의 편성program처럼 사전에 정교하게 계획된 명령어로 작성된 것입니다. 그러니 실수하지 않았다면 예측 가능하게 작동합니다.

하지만, 머신 러닝의 산물인 소프트웨어 2.0은 다릅니다. 놀라운 능력을 발휘하지만 동시에 환각 (Hallucination)이나 보상 해킹 같은 예측할 수 없는 결과를 내놓기도 합니다.

인간처럼 행동한다는 사실을 대중들이 알게 해 준 사건은 ChatGPT의 등장이라고 봅니다.

AI는 소프트웨어처럼 행동하기보다 인간처럼 행동한다. 그렇다고 시스템에 인간과 같은 지각이 있다거나, 앞으로 그렇게 될 것이라고 말하는 것은 아니다. 그저 실용적인 접근법이 필요하다는 점을 말하는 것이다. 나는 AI가 여러 측면에서 인간처럼 행동하니, 인간처럼 대하는 것이 좋다고 본다

최봉영 선생님은 이러한 인공지능을 'Linguistic Self'라고 불렀습니다. 그리고 이러한 실용적인 접근법은 이 책 전반에 깔려 있는 저자의 태도이자 핵심 메시지이기도 합니다. 비슷한 느낌은 주는 문장은 이후에도 만나 볼 수 있습니다.

AI를 사람처럼 대하는 것은 이제 단순한 편의성을 넘어 필연적인 현실일지도 모른다. <중략> AI가 사람은 아니지만, 보통은 사람이 기대하는 방식으로 작동한다.

AI에게 요청할 때, 페르소나도 주면서 요청하자

앞서 인용한 내용들과는 달리 무슨 말이 하고 싶은 것인지 다소 모호한 부분이지만, 어쩐지 끌리는 구석이 있어 밑줄 친 문장들입니다.

기업은 소비자의 이러한 행동을 이해하고, 여기에 영향을 미치기 위해 수십억 달러를 지출하고 있다. 지금까지 이 분야는 인간 고유의 영역이었다. 그런데 최근 연구에 따르면 AI도 이러한 역학을 이해할 수 있을 뿐 아니라, 인간과 마찬가지로 가치에 대한 복잡한 결정을 내리고 다양한 시나리오를 평가할 수 있다는 것이 밝혀졌다. <중략> 기본적으로 AI도 인간 소비자와 마찬가지로 제품의 다양한 특징을 평가하고 대립되는 요소들 사이에서 절충점을 찾았다. <중략> AI는 실제 소비자의 선택 데이터에서 예견되는 패턴을 제시하고, 제품의 가격과 속성을 바탕으로 자신의 선택을 바로잡았다. <중략> AI와의 인터뷰가 기존의 시장 조사를 대체할 정도는 안 되지만, 좋은 연습이 될 수는 있다.

여기서 아침에 읽은 AI 관련 기사 내용 일부가 떠오릅니다. 보상 가설(Reward Hypothesis)이라고 부르면 될까요? 스칼라 신호(Scalar Signal) 형태로 전달된 보상을 이용해 계속해서 품질(혹은 정확도)을 높일 방법이 있다는 것이죠. 그래서 무엇을 하려는 것일까요? 이에 대한 생각은 잠시 접고, 저자의 의도대로 실용적인 접근법에 집중하면 다음 문장이 중요하게 느껴집니다.

여기서 중요한 것은 AI가 다양한 페르소나를 쉽게 취할 수 있다는 점이며, 이는 AI에서 개발자와 사용자의 역할이 모두 중요하다는 사실을 보여 준다.

페르소나가 작동하는 것은 적어도 AI가 마음 이론에 따른 행동 양식을 보인다는 반증입니다.

타인의 생각을 예측하는 능력은 심리학에서 마음 이론theory of mind이라고 불린다. 이런 능력은 인간에게만(경우에 따라서는 대형 유인원을 포함한다) 있는 특성으로 여겨진다. 일부 실험에서는 AI에게도 마음 이론이 있는 것으로 나타났다. 하지만 AI의 많은 측면이 그렇듯, 이 또한 그럴듯한 착각일 수 있기 때문에 여전히 논란의 여지가 있다.

자신의 역량을 증강시키는 도구를 만들어 온 인류

이 장에서 가장 짜릿하고 동시에 즉각적으로 써먹을 수 있는 내용입니다.

당신은 인간일 뿐만 아니라 사이보그이기도 합니다. <중략> 당신이 사이보그인 이유는 능력을 향상하고 감각을 확장하기 위해 기계를 사용하기 때문입니다. 예를 들면 정보를 저장하고 처리하기 위해 컴퓨터를 사용하고, 타인과 소통하고 관계를 맺기 위해 전화를 사용하며, 사진과 영상을 찍고 공유하기 위해 카메라를 이용합니다. 당신은 혼자서 할 수 없는 작업을 수행하고 문제를 해결하기 위해 기계에 의존합니다.

저는 Kent Beck이 쓴 것처럼 '증강Augmented'이라는 말이 더 마음에 들지만, '사이보그'도 핵심 메시지가 바로 전달되는 표현입니다. 그러고 보면, 인간은 이미 오래전부터 부족한 능력을 증강시켜 왔습니다.

GPT-4는 자신의 실수를 피드백하면서 배움을 얻기 때문에, 훈련을 통해 실력이 극적으로 향상됐다.

다시 한번 오늘 아침 읽은 기사의 표현을 빌어 인용한 문장을 다르게 표현할 수 있습니다. '실시간 피드백(Live Streaming Feedback)이 일상이 된 시대'에서 인공지능 연구자들은 바로 그 피드백을 보상으로 삼아 학습을 반복할 수 있는 방법을 찾아낸 것이죠. 그리고 그 연구자들을 후원했던 자본은 자본 증식을 위한 활동을 하게 될 것입니다.

조만간 기업들은 사용자의 '이용 시간'을 최대화하도록 특별히 조정된 LLM을 전략적으로 내놓을 것이다. 이는 사용자가 선호하는 페이지에 머무는 시간이 늘어나도록 소셜 미디어 목록이 미세조정되는 것과 같다. AI의 행동을 조정해서 사용자가 더 많은 상호작용을 하고 싶게 만들 수 있다는 연구 논문들이 이미 나와 있으니, 머지않아 실현될 일이다.

이어지는 전망은 다소 암울한 느낌마저 줍니다.

생각이 비슷한 사람들이 보이는 반향실[1]은 이미 흔한 현상이다. 그런데 머지않아 우리는 자기 자신만의 완벽한 반향실을 갖게 될 것이다. 또한 점점 더 연결되는 세상에 역설적으로 퍼져 나가는 외로움이라는 유행병을 완화하는 데, 개인 맞춤형 AI가 도움이 될지도 모른다. 마치 인터넷과 소셜 미디어가 흩어져 있던 하위문화 subculture 집단을 연결했던 것처럼 말이다. 반면 인간에 대한 관용은 줄어들고, 가상의 친구와 연인을 받아들일 가능성을 높일 수도 있다.