인공지능을 공동지능으로 길들이는 네 가지 원칙

인공지능 길들이기

by 안영회 습작

Jun 25. 2025

이번 글은 <외계 지성의 위한 인공 윤리 준수와 통제의 필요성>에 이어, <듀얼 브레인>의 3장 <공동지능이 되기 위한 네 가지 원칙>에서 밑줄 친 내용을 바탕으로 제 생각을 정리한 글입니다.

먼저, 저자가 AI와 협업할 때 제시한 네 가지 원칙을 소개합니다.

원칙 1. 작업할 때 항상 AI를 초대한다

원칙 2. 인간이 주요 과정에 계속 개입한다.

원칙 3. AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려 준다.

원칙 4. 지금의 AI를 앞으로 사용하게 될 최악의 AI라고 생각한다.

이 네 가지 원칙은 ‘공동지능co-intelligence 길들이기’에서 저 역시 참고할 만한 지침입니다. 이런 마음가짐으로 밑줄 친 내용을 살펴봅니다.

원칙 1. 작업할 때 항상 AI를 초대한다

결국 직접 경험하며 AI와 함께할 수 있는 방법을 스스로 찾아야 한다는 이야기입니다.

그런 식으로 실험해 나가다 보면 AI의 도움이 만족스러울 때도, 답답할 때도, 쓸모없을 때도, 마음이 초조해질 때도 있다는 것을 알게 된다. 그런데 AI와 늘 함께하는 것이 그저 도움을 받기 위해서만은 아니다. Al로 할 수 있는 일을 잘 알아 두면, AI가 어떤 도움을 줄 수 있는지 혹은 어떤 측면에서 우리에게 위협이 될 수 있는지 더 잘 이해하게 된다.

이는 제가 <공동지능co-intelligence 길들이기> 혹은 인공지능 길들이기라는 이름의 연재를 쓰는 동기입니다.

LLM은 소네트를 능숙하게 지어내지만, 정확히 50 단어로 구성된 시는 잘 만들지 못한다. 단어가 아닌 토큰으로 세상을 이해하기 때문에, 일관되게 50개보다 많거나 적은 단어의 시를 작성하게 된다.

언어를 소통의 도구로 사용하기 때문에, 마치 인간과 대화하듯 경험을 통해 배우는 부분이 많다는 점이 다른 기술을 익히는 것과의 차이점인 것 같습니다.

결국 요새의 성곽을 제대로 파악하려면 일일이 실험을 해 봐야 한다. 이러한 실험은 당신이 잘 아는 업무에서, AI를 활용하는 방법에 관한 세계 최고의 전문가가 바로 당신이 될 기회를 제공한다. 이는 혁신에 관한 근본적인 진리에서 비롯된다. 조직과 기업으로서는 혁신에 큰 비용이 들지만, 개인으로서는 혁신에 드는 비용에 부담이 별로 없다. 혁신은 시행착오에서 비롯된다.

개인적으로는 어렵지 않게 혁신(革新)을 만들 수 있다

실험과 혁신을 주제로 삼았습니다. 흔히 들을 수 있는 말이지만, 오히려 익숙해져 무감각해질 수 있어 ‘혁신(革新)’의 의미를 한자사전에서 찾아보기도 했습니다.

또한, 저자는 조직보다는 개인 독자에게 희망을 전하고 있습니다.

다음 내용은 최근 제 경험과 맞닿아 있어 더욱 공감됩니다.

AI가 빠르게 확산됨에 따라, AI의 미묘한 차이, 한계, 능력을 잘 이해하는 사용자는 AI의 혁신적 잠재력을 최대한 발휘할 수 있는 독보적인 위치에 서게 된다.

아직 AI를 전문적으로 활용하는 단계는 아니지만, 몇몇 활용 사례는 기존과 확연히 다른 결과를 보여줍니다. 최근 가장 두드러진 예는 구글 노트북LM으로 만드는 팟캐스트 제작입니다.

몇 주 만에, 그동안 즐겨찾기만 해두고 읽지 못했던 기사들을 구글 노트북에 담아 가공한 뒤, 이동 중에도 팟캐스트로 쉽게 들을 수 있게 되었습니다. 이 변화는 개인적으로 혁신革新이라고 느낄 만합니다.

망설이는 내가 기댈 수 있는 공동 지능이 생기는가?

이는 퍼포먼스나 생산성 외에도 다양한 방식으로 도움을 받을 수 있음을 시사합니다.

게다가 AI의 유용함은 이 책의 뒤에서 살펴볼 업무 과제에만 국한하지 않는다. AL의 이질적인 관점이 우리에게 도움이 될 수 있기 때문이다. 인간은 의사 결정에 영향을 미치는 모든 종류의 편향에 영향을 받는다. 그런데 이런 편향 대부분은 우리의 사고가 자기 자신에게 갇혀 있기 때문에 발생한다. 이제는 필요할 때 도움을 청할 수 있는 (인공적이고 기이한) 공동지능이 생겼다. AI는 사고 과정의 동반자로서 우리가 더 나은 결정을 내릴 수 있도록 도울 것이다. 우리는 단순히 AI에 의존하는 것이 아니라, AI의 도움을 받아 자신의 선택을 돌아볼 수 있게 된다. 이제는 인간의 의사 결정 능력을 새로운 방식으로 향상할 수 있는 시대가 됐다.

저자가 제시한 방식은 아직 텍스트로만 경험해 보았지만, 이미 아이들과 함께할 때 다양한 방식으로 AI를 활용하고 있습니다.

한편, 저자가 실제로 이 책을 쓰기 전에 AI에게 던졌던 프롬프트처럼 느껴지는 글이 등장합니다.

"생성형 AI에 관한 책을 쓰면 어떨지 고민해 왔는데, 너무 바빠서 이런 부담스러운 결정을 내리고 싶지가 않아. 책을 집필하지 않기로 한 내 결정을 디폴트 옵션이 아닌 손실로 재구성해 줄래? 논리를 아주 생생한 틀로 구성해서 제시해 줘." <중략> AI의 강점이나 약점이 우리 각자의 강점이나 약점과는 다를 수 있으며, 이것은 오히려 상당한 자산이 된다. AI를 활용해 사고와 접근 방식이 한층 다양해지면, 인간의 머리로는 떠올리기 힘든 혁신적인 해결책과 아이디어가 나올 수도 있다.

이 프롬프트를 보며 다양한 상황에서 활용해 볼 수 있겠다는 생각이 들었습니다. 용기가 나지 않거나 망설이는 일이 많기 때문입니다.

원칙 2. 인간이 주요 과정에 계속 개입한다

두 번째 원칙은 AI를 주된 의존 대상이 아닌 보조 도구로 활용하는 것입니다.

현재로서는 인간의 도움이 있을 때 AI가 가장 효과적으로 작동한다. 하지만 AI가 발전하여 인간의 도움이 덜 필요해지더라도, 우리는 여전히 도움을 주는 역할을 맡아야 한다. 따라서 Al를 공동지능으로 활용하는 두 번째 원칙은 인간이 주요 과정의 일원이 되는 법을 배우는 것이다.

최근 ‘휴먼 인 더 루프(human in the loop)’라는 표현을 접했는데, 이는 사람이 주요 과정에 참여하는 것을 의미합니다. 이는 품질과 정렬을 위해서도 필요하지만, 주체적인 입장을 유지해 자신도 모르게 소외되지 않도록 하는 데에도 꼭 필요한 원칙임을 깨달았습니다.

주체성 외에도 또 다른 이유가 있습니다.

AI는 실제로 아무것도 '알지' 못한다. 그저 연속적인 배열에서 다음 단어를 예측할 뿐이다. AI는 무엇이 진실이고 무엇이 거짓인지 구분할 수 없다. <중략> 목표는 종종 정확성을 유지하는 것보다 더 중요하게 여겨진다. 그래서 AI가 잘 모르는 문제의 답을 끈질기게 요구하면, 없는 답을 만들어 내기도 한다.

인공지능이 아무리 뛰어난 결과를 내더라도, 인간이 ‘아는 것’과는 근본적으로 다른 방식으로 결과를 만들어냅니다. 결국 일종의 모방에 불과합니다. 목표에 대한 압박으로 허상을 만들어내는 점은 어떤 면에서는 인간과도 비슷해 보입니다.

인간이 주요 과정에 계속 개입하려면, AI가 그럴듯한 거짓말을 늘어놓는 것은 아닌지 확인할 수 있어야 하며, AI에 휘둘리지 않으면서 함께 작업할 수 있어야 한다. 이때 우리는 고유한 관점, 비판적 사고 능력, 윤리적 문제에 대한 의견을 제시하면서 AL를 감독하는 중요한 역할을 맡게 된다.

사실 위 내용은 관리자나 시니어가 생산직 노동자나 주니어를 대하는 모습과 비슷합니다. 또 다음 내용은 프로그래밍 경험이 없는 관리자가 기술을 익히는 과정과도 닮아 있습니다.

주요 처리 과정에 계속 개입하는 것은 AI로부터 적극적으로 배우고, 새로운 사고방식과 문제 해결 방식에 적응하게 한다. 이는 우리 각자의 능력을 유지하고 연마하는 데도 도움이 된다. 또한 AI와 함께 실용적인 공동지능을 형성하는 데도 기여하게 된다. <중략> AI의 주요 처리 과정에 능숙히 관여하는 능력을 키운 사람은 그렇지 않은 사람보다 지적 성장의 불꽃을 먼 저 보게 될 것이다. 그에 따라 앞으로 다가올 변화에 더 빨리 적응할 기회가 많아질 것이다.

원칙 3. AI를 사람처럼 대하고, 내가 어떤 유형인지 알려 준다

매우 구체적인 원칙 실천 방법입니다.

우리와 협력하는 AI를, 우리에게 만족을 선사하고 싶어 하지만, 진실을 왜곡하는 경향이 있으며, 무척 행동이 빠른 인턴이라고 상상하자.

그리고 AI가 인간 인턴과 다른 점도 설명합니다.

LLM은 그 어떤 분야의 전문가도 아니지만, 전문가의 표현 방식을 흉내 내서 우리에게 도움을 준다. 또는 반대로 판단을 그르치게 할 수도 있다. 실제 세계에 대해 알지 못하면서도 상식과 패턴에 기초해서 그럴듯한 시나리오와 이야기를 만들 수도 있다.

한편, 다음 내용은 개발이나 컨설팅에서 도제식으로 팀원들을 훈련하거나 협업할 때의 제 태도와도 닮아 있다고 느껴집니다.

가장 중요한 것은 사용자의 기대와 필요에 맞는 결과물을 산출하도록 지침과 방향을 LLM에게 제시하고, 흥미롭고 독특한 답변을 내놓을 수 있는 '사고방식'을 갖도록 하는 것이다. 연구에 따르면, AI에게 특정한 페르소나를 맡아서 답변해 달라고 요청하면, 그러지 않았을 때보다 훨씬 나은 답변을 내놓는다고 한다. 그렇지만 따라서 직접 실험하는 것이 중요하다