내가 무의식적으로 하는 행동이 뭔지를 알아채는 것
삶에서 넛지를 잘 소화하기 위해 선행되어야 할 '불편함'이라는 인지와,
현대인의 생각할 힘을 기를 수 있는 방법에 대한 이야기를 나눕니다.
이 글은 아래 발제문에 대해 25.01.31 독서모임에서 나눈 대화를 기록한 마지막 대화편임을 밝힙니다.
(대화편은 총 3편으로 구성되어 있습니다.)
소비자와 생산자로서의 넛지 (1), 발제문 읽어보기
소비자와 생산자로서의 넛지 (2), 첫번째 대화편 읽어보기
소비자와 생산자로서의 넛지 (3), 두번째 대화편 읽어보기
소비자와 생산자로서의 넛지 (4), 마지막 대화편 (now)
오즈 저는 스스로를 넛지할 수 없는 사람에게 넛지할 힘을 만들어 주는 건 독서밖에 없다고 생각해요.
엠킴, 푸밍 (동의의 끄덕끄덕)
오즈 제가 과거에 작업했던 프로덕트 중에 계속 미련이 남는 게 있는데, 책 읽게 해주는 서비스였어요. 저는 궁극적으로 인간에게 생각할 힘을 만들어 주고 싶나봐요. 인간이 항상 올바른 선택만 하는건 아니지만, 저는 그래도 조금 더 올바른 선택을 하게 해 주고 싶고, 그 ‘올바름’은 스스로 생각하고 판단하는 힘을 근간으로 한다고 보거든요.
엠킴 얘기 듣다가 생각이 난 건데, 우리 독서 모임의 특징이 세 명이 다 책 읽기가 목표가 아니잖아요. 책을 읽고 productive한 질문을 던질 수 있는 수단으로 AI는 어떨까요? 더 생각해 볼 수 있는 부분을 질문할 수 있도록 프롬프팅을 한다든지 ... 그러면 사람들이 궁금증을 해결하고 좀 더 생각할 힘을 키우기 위해서 책을 읽는 좋은 다리가 될 것 같지 않아요?
푸밍 사실 책을 읽고 생산적인 질문을 던지는 것도 어려운 일이니까요. 책을 읽더라도 그냥 지나갈 수도 있지만, 한 번 더 생각할 수 있게 만들수도 있죠.
엠킴 이 아이디어를 좀 더 확장시켜서, 생각할 힘이든 뭐든 결국에 제일 중요한 건 '이유'라고 생각해요.
어떤 행위에는 동기가 있고, 그 동기는 결국 이유인 거잖아요. 어떤 행위를 해야 할 이유가 없으니까 사람들이 뭐든 안 하게 되는 것 같아요. 그러니까 저는 그 '이유'를 만들어주는 프로덕트가 제일 좋은 넛지가 아닐까 하는 생각이 들어요.
오즈 방금 엠킴이 이야기한 게 제 가치관인데, 목적이 없는 행동은 의미 없다라고 생각한단 말이에요. 근데 그 목적을 만들어 주려면 사람이 스스로 생각해야 돼요. 스스로 생각하지 않으면 목적에 공감을 할 수가 없어요.
엠킴 맞아요. 근데 영화 '인셉션'이 그 생각을 심어주는 거잖아요. 근데 생각을 생각할 힘이 없는 사람이 스스로 동기를 찾는 건 불가능해요. 그럼 누군가는 생각을 심어줘야 되는데, 저는 AI가 너무 잘 되어있으니까 생각할 수 있는 사람이 프롬프팅으로 AI를 어떻게 잘 다듬으면 얘가 인셉션을 해줄 수 있는 그런 존재로 될 수 있지 않을까... 하는 생각도 들어요.
오즈 헉, 근데 엠킴 방금 그건 약간 위험하지 않을까요?
엠킴 그건 그렇네, 어떤 생각을 심어줄지 모르니까?
푸밍 근데 진짜 AGI 시대까지 가면 AI가 원하는 대로 심어줄 수도 있어요. 가스라이팅 될 수도 있어.
엠킴 그러네, 그러네. 그건 약간 위험할 여지가 있겠다.
오즈 근데 그걸 위험하지 않게 하려면 어떻게 해야 돼요?
푸밍 살짝 그냥 “정말 좋은 생각이에요. 다른 관련된 의견으로는 이런 것도 있어요.” 이 정도로? 자기 의견을 입력을 하면 유도하는 식으로만 한다든지...?
엠킴 생각을 심는 형태가 가스라이팅의 느낌이 아니라 질문의 형태가 돼야 될 것 같아요. Yes Or No 같은 거 말고 내 의견을 이야기할 수 있는 질문의 형태.
근데 어차피 AI가 지금 시스템적으로 중립을 지키게끔 되어 있긴 해요. 전에 조지오웰 『1984』 읽고 왜 이 사람들은 결국 빅브라더에 굴복할 수밖에 없는가,에 대해 '나는 이렇게 생각하니까 나에 대해서 반박을 해 봐' 처럼 프롬프팅을 해봤거든요. 근데 AI가 '이런 부분은 되게 네가 잘 지킨 것 같아. 그런데 이런 부분은 이런 관점도 있어, 이렇게 생각해 보는 건 어떨까' 이렇게 대답을 하더라고요.
저는 그 정도 중립을 지키는 AI라면 딱 푸밍이 얘기한 것처럼 질문만 해주는 AI로서 생각하는 힘을 키우는 데 도움이 되지 않을까 하는 생각은 들어요. 근데 진짜 위험하게 활용될 여지가 있겠다.
오즈 그 간격을 조절하는 게 되게 어려운 것 같은데, 그냥 사람으로 생각해 봐도 내가 하는 모든 말에 계속 질문만 하는 사람은 조금 피곤하지 않아요? 그런 사람이랑 같이 있으면 좋은 점도 있지만 가끔은 내가 잘못된 것만 같잖아요. 그래서 이 간격을 조절하면 진짜 AI가 좋은 수단이 될 것 같은데 이건 좀 고민해 볼 여지가 있네요.
엠킴 점점 사회가『1984』랑 『멋진 신세계』처럼 되어가는 느낌이 들어요.
저는 그런 세뇌나 인간을 부품으로 생각하는 사회 구조를 보면 기분이 되게 이상하더라고요.
오즈 근데 저 『멋진 신세계』 안 읽었어요.
엠킴 무슨 내용이냐면, 그냥 모든 출생부터 조작되는 사회예요. 애초에 유전자를 조작해서 알파 계급부터 감마 계급, 오메가 계급까지 계급을 다 나눠놓고 각 계급의 역할도 정해져 있어요. 그리고 어렸을 때부터 세뇌 교육을 받죠. 마치 파블로프의 개처럼 특정 자극에 무조건적인 혐오 반응을 가지게끔 훈련받는 거예요.
알파 계급은 상대적으로 자유롭지만, 하층민 계급을 혐오하는 감정을 가지도록 교육을 시켜요. 사회 전체가 하나의 거대한 시스템처럼 작동하도록 설계된 사회예요. 그리고 소수의 알파 계급 지도자들은 이 모든 제약에서 벗어나 권력을 독점하고 있어요.
계급이 나눠져 있지만 결국엔 소수 대 다수의 구조인 거잖아요. 결국 소수의 지배 계층이 모든 것을 통제하는 거죠. 그렇게 생각하면 지금 사회도 소수가 다수를 조종하는 구조로 가고 있는 게 아닌가 싶어요. 특히 정보 데이터가 누구나 접근할 수 있게 되면서, 빅테크가 이 데이터를 자유롭게 조작하면서 사람들을 더 쉽게 조종할 수 있는 사회가 된 것 같아요.
푸밍 저는 이런 사회가 결국 인간의 자율성을 박탈한다고 생각해요. 넛지의 정의를 이번에 찾아봤는데, 어떤 관점에서는 자율성이라는 것에 숨어 교묘하게 조종하는 방식이더라고요. 예전에는 종이신문을 봤잖아요. 종이신문을 보면 처음에는 주요 기사들이 나오지만, 결국엔 넘기면서 내가 읽고 싶은 기사를 선택할 수 있었어요. 그런데 이제는 그런 선택권조차 없죠. 사람들이 오늘 처음으로 보게 되는 뉴스조차 알고리즘에 의해 결정되고 있어요. 결국 이런 시스템 속에서 조작되기는 훨씬 쉬워지는 거죠, 이런 점이 가장 큰 문제라고 생각해요.
엠킴 이제 마무리 단계로 접어들고 있는 시점에서 생각해 볼 만한 질문이 있다면, 결국 가장 좋은 건 내가 직접 다 공부해서 이런 모든 것들을 판단할 능력을 갖는 거지만, 그럴 수 없잖아요. 우리가 공부해야 할 것이 얼마나 많은데, 사회, 정치, 경제 모든 걸 다 공부할 수도 없는 노릇이고. 그렇다면 이런 정보들이나 넛지를 어떻게 하면 주체적으로 수용해서 능동적인 소비자이자 설계자가 될 수 있을까요? 이게 결국 최종적인 질문인 것 같아요.
오즈 약간 아이러니하네요. 우선 방금 엠킴의 관점에서 보면, 저는 여전히 넛지를 당하는 건 필연적이라고 생각해요. 또, '15. 스스로 자각하기'에서도 얘기했듯이 결국 넛지를 극복하려면 내가 넛지를 당할 수 있음을 먼저 인식해야 해요.
푸밍 뭐든지 정말 인정에서부터 시작하는 것 같지 않아요?
엠킴 다 자기 인식과 인정이야.
오즈 다 일반화되는 것 같아요, 진짜.
엠킴 그럼 결국 명상이에요.
오즈 진짜. 우리 이거 실험 한번 해봐요. 앞으로 다루는 모든 주제 중 몇 퍼센트가 결국 명상으로 귀결되는지. 일단 이번에는 맞았어요. 우리 모임 이름을 '명상하는 독서모임'으로 바꿔야 하나? ㅋㅋㅋ
그러니까, 아무튼. 근데 알아야 한다는 관점에서 보면, 넛지를 잘 이해하기 위해 가장 효과적인 방법은 내가 무의식적으로 하는 행동이 뭔지를 아는 것, 인 것 같아요.
엠킴 좋은 표현이다. 무의식적으로 하는 게 뭔지.
오즈 맞아. 무의식적이거나 관습적, 수동적으로 나도 모르게 당연하게 여기던 것들을 봐야 해요. 그게 인지의 시작이라고 느껴요. 그리고 넛지를 알고 나면 그다음엔 어떻게 소화할 것인가의 문제가 있는데, 그 과정에서 '대처'도 있고 '해석'도 있을 것 같아요. '대처'는 각자의 목적에 따라 다를 것 같고, '해석'은 결국 ‘왜 이 넛지가 발생했는가?’를 이해하는 과정에서 온다고 생각해요.
예를 들면, 유튜브는 어떤 목적 하에 이 회사를 설립했을까? 그 회사의 비전과 쇼츠라는 프로덕트는 100% 일치할까, 아니면 60% 정도만 일치할까? 만약 60%만 일치한다면, 60%의 장점은 취하고 나머지 40%의 단점은 보완하면 되지 않을까? 이런 식으로 생각하면 행동할 수 있는 방향이 나오잖아요. 그리고 무엇보다 좋은 넛지를 하는 기업을 많이 소비해야 해요.
푸밍 진짜. 살려줘야 돼.
오즈 이게 정말 중요한 것 같아요. 좋은 넛지를 하는 기업을 소비하는 것이야말로 소비자의 책임인 것 같아요.
엠킴 그러니까, 근데 그것도 판단이 돼야 할 텐데.
저는 이런 것도 재미있을 것 같아요. 사람과 사람 간의 대화에서도 우리가 상대의 의도를 생각하잖아요. 저 사람이 나한테 이 말을 하는 의도가 뭘까? 이런 걸 생각하면 비판적으로 보게 되기도 하고요. 그런데 이걸 기업과 소비자의 관계에도 적용하면 흥미로울 것 같아요. 단순히 ‘이 기업이 나를 어떻게 조종하려고 하는가?’만 볼 게 아니라, ‘이 서비스와 나는 어떤 관계를 맺을 수 있는가?’도 볼 수 있을 것 같고요. 서로 주고받을 수 있는 게 뭔지, interaction 자체를 들여다보는 거죠. 좀 추상적일 수 있지만.
오즈 방금 그 표현이 딱 『넛지』에서 나온 것 중 꽤 인상적이었던 설계 방식이랑 비슷한 것 같아요. 넛지의 방법 중 하나가 인센티브인데, 인센티브를 설계할 때 네 가지 질문을 하라고 하더라고요. ‘누가 선택하는가? 누가 사용하는가? 누가 지불하는가? 누가 이득을 얻는가?’
오즈 아까 이야기로 돌아와서, 『멋진 신세계』에서 유전자 조작을 하는 집단의 목적이 뭐였어요?
엠킴 그게 『1984』랑 『멋진 신세계』의 공통점인데, 단순히 사회를 유지하기 위함이에요. 특별한 목적이 있는 게 아니라, 권력을 유지하기 위한 권력일 뿐이죠. 그리고 이게 현대 사회랑 별로 다르지 않다고 생각해요. 빅테크가 소비자들한테 돈을 쓰게 만들고 계속 자본을 굴리는 이유가 뭔지 생각해 보면, 그냥 자본 자체예요. 돈을 위한 돈. 정치도 마찬가지고요. 권력을 쥔 사람들이 국민을 위해 뭔가를 한다기보다, 권력을 유지하기 위해 움직이는 것 같아요.
『1984』에서 빅브라더는 빅브라더가 존재하기 위해 계속 감시 체제를 유지하는 거고, 『멋진 신세계』에서도 안정적인 사회 질서를 유지하기 위해 소수의 계급이 권력을 독점하는 거죠.
오즈 그렇군요. 근데 현 체제를 유지하는 이유가 단순히 관습적인 것뿐인가요? 어떤 가치를 느끼지 않은 채로 유지하고 있는 거예요?
엠킴 그렇죠. 사실 권력이 어떤 목적을 위한 수단이어야 하는데, 권력 자체가 목적이 되어버리는 거예요.
오즈 그럼 이 책에서 쿠데타를 주도하는 집단은 피지배 계층, 지배 계층 중 뭐예요?
엠킴 둘 다 아니에요. 아예 외부인이 개입해서 쿠데타를 일으켜요.『1984』에서는 내부 반란이 실패하고, 『멋진 신세계』에서는 외부의 야만인이 사회에 혼란을 초래하면서 추방당하는 방식이에요. 『멋진 신세계』는 외부의 어떤 구역으로 추방했던 것 같아요.
푸밍 그 구역에서는 임신도, 사랑도 자유로운데 그 안쪽에서는 그러지는 못하는...
오즈 되게 인상 깊네요. 그러니까 체제를 유지한다는 건, 체제가 주는 단점과 장점 자체에 대한 인지가 안 되는 건데, 이 인지를 깨기 위함이 아까 푸밍이 얘기했던 세뇌를 어떻게 깰 수 있는가에 같은 맥락인 것 같아서, 세뇌를 깬 주체가 누구일까가 궁금했어요. 내부일지 외부일지 내부의 지배일지 피지배일지. 근데 저는 이거는 지배 계급의 역할이라고 생각해요.
엠킴 맞아요. 그래야지 극복이 되는 건데 지배계급은 자기가 권력의 꼭대기에서 권력을 누리고 있으니까 필요성을 못 느끼는 거지.
오즈 그러네. 참 되게 좀 인사이트가 좋은 책이네요. 둘 다
푸밍 살짝 비슷한데 다른 책을 소개하자면 혹시 『오멜라스를 떠나는 사람들』이라는 단편을 알고 있나요?
엠킴 아니요. 처음 들어봤어.
푸밍 『오멜라스를 떠나는 사람들』은 오멜라스라는 나라에서 한 어린아이를 감옥에 가둠으로써 유토피아가 유지되는 설정이에요. 그런데 이 나라에서 자란 사람들은 9살이 되면 자신들이 누리는 풍요가 한 아이의 희생 위에 있다는 사실을 알게 돼요. 하지만 그 아이를 풀어주면 사회가 무너지는 거죠. 결국 일부 사람들은 이 사실을 견디지 못하고 오멜라스를 떠나지만, 그 곳을 벗어날 뿐, 그 아이를 구하는 사람은 아무도 없어요. 떠나는 사람들은 있지만, 이 체제를 직접 깨려는 사람은 없다는 게 포인트예요.
오즈 절이 싫으면 중이 떠난다, 결국엔.
푸밍 근데 떠나는 사람들도 정말 윤리적인 사람들일까요? 사실 그들도 책임에서 벗어나고 싶어서 떠나는 거니까요. 되게 생각할 거리가 많은 소설이에요.
유토피아처럼 보이지만 사실은 엄청난 디스토피아이기도 하죠. 누군가의 희생을 기반으로 한 사회지만, 아무도 그 구조를 깨려 하지 않아요.
결론으로 돌아가자면, 우리는 어떻게 살아야 할까요? 저는 이 세상을 당연하게 받아들이지 않고 의도적으로 불편함을 감수하는 게 중요하다고 생각해요.
엠킴 맞아, 불편해야 해요.
푸밍 당연하다고 생각되는 것에 언제든 질문을 던질 준비가 되어 있어야 해요. 그리고 확고한 철학과 가치관을 정립하는 것이 중요하죠. 단, 내 입장을 확고히 하면서도 반대 입장도 보려는 노력이 필요해요.
오즈 독서라고 생각합니다. 그리고 명상! 명상과 독서.
푸밍 근데 사람들을 어떻게 명상과 독서로 이끌죠?
오즈 정책의 역할이라고 생각해요. 도서관이 많아져야 하는데...
엠킴 맞아. 여러분, 시립, 구립 도서관 많이 이용하세요.
오즈 좋습니다. 약속한 30분이 되었으니, 일단 오늘 미팅을 정리하고 회고한 후 다음 발제자를 정할까요? 저는 오늘 좋았어요. 여러분은 어떠셨나요?
엠킴 자연스럽게 대화를 흘러가면서도 나름의 플로우가 있었던 것 같아요. 질문과 책에서 다룬 주제들이 계속 연결되면서 대화를 이끌어나간 점이 좋았어요. 그리고 항상 발제를 하면 문제점을 지적하는 방향으로 가는데, 해결 방법을 함께 고민하는 점도 좋았던 것 같아요.
오즈 맞아요. 저는 넛지라는 주제에서 이렇게 각자의 관점이 다를 줄 몰랐어요.
엠킴 나도 깜짝 놀랐어.
푸밍 다음 주제는 어떤 걸로 할까요?
엠킴 저는 푸밍이 허무주의에 대해 오래 이야기하고 싶어했던 것 같아서 푸밍에게 양보해도 괜찮아요.
푸밍 정말 오래 이야기하고 싶었어요. 최근 사회에서 느끼는 무력감과, 진실과 공정이 너무 쉽게 무너지는 모습을 보면서 더 고민하게 된 것 같아요. 사람들이 점점 분노하지 않게 되고, 목소리를 내는 사람들도 줄어드는 게 걱정되고요. 결국, 세상을 바꿀 수 없는 무력감 속에서 허무주의로 이어지는 경우가 많다고 생각해요. 우리는 이 상황을 어떻게 타개해야 할까? 어떻게 하면 허무주의에 빠지지 않을 수 있을까? 같은 질문을 던지고 싶어요.
엠킴 좋은 주제인 것 같아요.
오즈 그러면 반대로, 허무주의에 빠지지 않는 사람들은 어떤 특징을 가지고 있을까요? 그 사람들은 어떤 목표를 가지고 있길래 허무감 속에서도 살아갈 수 있을까요?
엠킴 좋은 질문이에요. 이번에도 각자의 의견이 다를 것 같아요.
오즈 좋아요. 오늘도 너무 고생 많으셨고, 설 잘 보내시고 다음에 봐요! 다음에도 더 재미있는 이야기 나눕시다.
엠킴 잘 보내세요! 다들.
푸밍 응, 좋아요. 안녕~
'소비자와 생산자로서의 넛지' 대화록을 감상해주셔서 감사합니다.
이 주제에 관하여 처음부터 다시 읽어보고 싶으시다면 아래의 목차를 활용하시길 바랍니다.
소비자와 생산자로서의 넛지 (1), 발제문 읽어보기
소비자와 생산자로서의 넛지 (2), 첫번째 대화편 읽어보기
소비자와 생산자로서의 넛지 (3), 두번째 대화편 읽어보기
소비자와 생산자로서의 넛지 (4), 마지막 대화편 (now)