AI의 환각을 일종의 수평적 사고로 보자
인공지능 길들이기
<듀얼 브레인> 5장(章)[1] <창작가로서의 AI> 중에서 <자동화된 창의성>을 읽고 밑줄 친 내용을 토대로 생각을 담습니다.
반복 업무 자동화가 아니라 창의적인 업무를 대신한다?
다음 글은 인공지능을 넘어서 '창의성'에 대한 생각을 다시 검토하게 만들어 줍니다.
연구원들은 AI의 물결에 가장 큰 영향을 받는 분야가 반복적인 일이 아니라 창의적인 일을 하는 직업이라고 주장했다. 이런 말을 들으면 보통 마음이 불편해진다. 아무리 그렇더라도 기계인 AI가 어떻게 새롭고 창의적인 것을 만들어 낼 수 있겠는가? 이런 생각이 드는 이유는 우리가 색다름과 독창성을 자주 혼동하기 때문이다. 새로운 아이디어는 하늘에서 뚝 떨어지는 것이 아니라 기존의 개념에 기초한다. 혁신을 연구하는 학자들은 아이디어를 창출하는 데 있어 재조합의 중요성을 오래전부터 지적해 왔다. 획기적인 발견은 거리가 멀고 관련이 없어 보이는 개념을 연결할 때 나오는 경우가 많다.
정확한 표현은 기억이 나지 않는데, 저자는 인공지능을 '연결 기계'라 묘사한 일이 있죠. 연구자들이 인공지능을 두고 창의적이라고 느끼는 이유는 바로 마지막 문장에 있습니다.
획기적인 발견은 거리가 멀고 관련이 없어 보이는 개념을 연결할 때 나오는 경우가 많다.
우리가 '설마'하며 망설이는 걸림돌이 인공지능에게는 없기 때문에 창의적이라고 느끼는 게 아닐까요? 하지만, 같은 이유로 환각(hallucination) 현상도 발생하게 되는데요.
환각은 수평적 사고(lateral thinking)의 일종이다?
마침 최근에 팟캐스트 형태로 들은 데미스 하사비스의 영상에서 환각(hallucination)의 긍정적 활용법에 대해 설명한 내용이 있습니다. 다음은 구글 노트북LM에게 요청한 하사비스 견해 요약입니다.
데미스 하사비스는 AI의 '환각(hallucination)'이 사실적인 정보를 다룰 때는 바람직하지 않지만, 창의적인 상황에서는 긍정적인 역할을 할 수 있다고 설명합니다. 그는 환각을 상상력이나 수평적 사고(lateral thinking)와 유사한 개념으로 간주하며, 이를 통해 모델이 대부분은 비록 무의미하더라도 기발한 아이디어를 생성하고, 그중 일부가 탐색 공간의 새롭고 가치 있는 영역을 발견하게 할 수 있다고 언급합니다. 이러한 접근 방식은 특히 AlphaEvolve를 더 창의적으로 만드는 데 활용되었습니다.
수평적 사고(lateral thinking)는 낯선 용어였지만, 뜻을 확인하니 제가 (은연중에 구사했거나) 추구해 온 사고법에 가까웠습니다. 또한, 위키피디아 페이지도 있는 정착된(?) 개념이었습니다. 크롬 번역 내용 일부를 옮겨 봅니다. 흥미롭게도 틀에서 벗어난 사고(Thinking outside the box)도 위키피디아 페이지가 있네요.
수평적 사고는 즉각적으로 명확하지 않은 추론을 통해 간접적이고 창의적인 접근 방식으로 문제를 해결하는 방식입니다. 틀에서 벗어난 사고와 동의어이며 , 전통적인 단계별 논리만으로는 얻을 수 없는 아이디어를 포함합니다.
퍼플렉시티에게도 물어보았습니다. 위키피디아 페이지와 비슷한 느낌을 주는데, 수직적 사고와 비교가 눈에 띕니다.
라이트 형제의 발명은 수평적 사고의 결과
다시 책 내용으로 돌아갔는데 놀랍게도 하사비스의 견해에 힘을 더하는 느낌을 받습니다. :)
라이트 형제는 자전거를 발명한 사람도, 새의 날개를 처음으로 관찰한 사람도, 비행기를 만들려고 최초로 시도했던 사람도 아니었다. 대신 그들은 이러한 개념들 사이의 연결성을 처음으로 알아낸 사람이었다. 여러 분야의 이질적인 아이디어를 연결하고, 거기에 약간의 무작위성을 더한다면, 새로운 것을 창조해 낼 수 있다.
마지막 문장 즉, 여러 분야의 이질적인 아이디어를 연결하고, 거기에 약간의 무작위성을 더하는 행위가 창의성이 정의로 보이기도 합니다.[2]
LLM은 연결 기계다. 인간에게는 관련 없어 보이는 것들 사이에서 더 깊은 의미를 나타내는 토큰들 사이의 관계를 생성하면서 학습한다. 여기에 결과물에 반영하는 무작위성이 더해지면, 혁신을 낳는 강력한 도구가 탄생한다.
연결 기계란 말이 여기 나오는군요!
실제로 창의성을 가늠하는 여러 일반적인 심리 테스트에서 AI는 이미 인간보다 더 높은 창의성을 기록하고 있다.
창의성을 요할 때 인공지능에게 먼저 질문을 던지고 결정은 내가 하는 방식이 쓸모 있는 행동 패턴이 될 듯합니다.
칫솔을 양치 이외의 용도로 사용하는 창의적인 아이디어를 생각해 보자. 떠올린 아이디어는 가능하면 서로 달라야 한다. 주어진 시간은 2분이다. 자, 시작! 아이디어를 몇 가지나 생각해 냈는가? 보통 사람은 일반적으로 5~10개 정도를 떠올린다. AI에게 똑같은 요청을 해 보니, 2분 만에 아이디어를 122개나 제시했다.
AI가 확률적 혹은 통계적으로 더 다양한 경우의 수를 찾을 것은 자명해 보입니다.
이것들은 독창적인 아이디어일까? 독창성이 있는지 여부는 대개 판단하기가 아주 힘들다. AI는 아이디어 데이터베이스를 직접 검색하는 게 아니라, 학습을 통해 연관성을 찾아낸다. 이중 일부 아이디어는 전부터 존재했을 가능성이 분명히 있다.
다만, 아디이어의 출처가 명확해야 한다면 인공지능 사용이 문제를 유발할 수도 있다는 점에 주의를 요해야 합니다.
이러한 측면은 창작 활동에 AI를 사용할 때 우려되는 부분이다. 정보의 출처를 알 수 없기 때문에 AI가 저작권이나 특허가 있는 작품의 요소를 사용하거나, 누군가의 창작 방식을 무단으로 도용할 수도 있다.
주석
[1] <낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함> 실천으로 글 장(章)의 구성원리를 한자사전에서 찾아봅니다.
[2] TMI이지만 요즘 제가 시도하는 행위도 '여러 분야의 이질적인 아이디어 연결과 무작위성을 더하는 것'이란 점이 놀라운 우연이라는 사실을 깨닫습니다.
<듀얼 브레인>을 읽고 쓰는 글
2. AI알못 입장에서 이해한 RAG와 RLHF 효용성
3. 외계 지성의 위한 인공 윤리 준수와 통제의 필요성
6. AI는 저장된 기억을 검색하지 않고 패턴에 의존한다
지난 인공지능 길들이기 연재
(4회 이후 링크만 표시합니다.)
4. 딥러닝은 소프트웨어 모델링을 자동화하는 과정의 산물
5. 마인드맵의 안내와 함께 다수 AI 답변을 함께 보관하기
8. AI 팟캐스트 생성이라는 구글 노트북LM의 킬러 기능
10. AI알못 입장에서 이해한 RAG와 RLHF 효용성
11. 외계 지성의 위한 인공 윤리 준수와 통제의 필요성
13. 자신의 역량을 증강시키는 도구를 만들어 온 인류
14. 데이터 인터페이스로서 LLM이 갖는 중요한 역할
