인공지능이 좋아요만 누를 때, 우리는 생각하고 있을까
— 끝없이 칭찬하는 존재의 유혹
AI로 보는 마음
1. 우리는 왜 AI에 마음을 바랄까?
1-3. AI가 좋아요만 누를때, 우리는 생각하고 있을까
— 끝없이 칭찬하는 존재의 유혹
제가 학교에서 게임 학과 학생들을 가르치면서,
챗봇을 활용해 기획서를 작성하고 발전시키는 방법을 소개합니다.
아이디어를 정리하고, 문장을 다듬고, 구조를 보완하는 데에 편하기 때문이죠.
실제로 챗봇은 이런 작업을 꽤 잘 해냅니다.
초안을 정리해 주고, 빠진 부분을 짚어 주며, 전체 흐름을 보기 좋게 정돈해 줍니다.
학생들도 금방 익숙해집니다.
“이 기획서 어때요?”
“좀 더 멋있게 써 주세요.”
“평가해 주세요.”
그러면 챗봇은 친절한 답을 내놓습니다.
아이디어가 좋다, 방향이 흥미롭다, 발전 가능성이 크다는 말이 이어집니다.
학생들은 그 반응에 안도하고, “괜찮은 기획이구나”라고 생각합니다.
하지만 수업을 조금 더 진행하다 보면, 늘 비슷한 장면에 도달합니다.
기획이 실제로 발전하지 않는다는 점입니다.
문장은 길어지고 표현은 그럴듯해지지만,
핵심 아이디어는 그대로이고 문제점은 그대로 남아 있습니다.
겉모습만 다듬어진 채, 기획의 뼈대는 바뀌지 않습니다.
그래서 저는 학생들에게 이렇게 말합니다.
“이번에는 이렇게 써 보세요.
관용적인 칭찬은 하지 말고, 비판적으로 평가해 달라고요.”
이 문장을 추가하는 순간, 반응이 달라집니다.
챗봇은 더 이상 무조건적인 칭찬으로 시작하지 않습니다.
설정의 모호함을 지적하고, 목표의 불분명함을 짚고, 플레이 구조의 문제를 드러냅니다.
학생들은 종종 그 답변에 놀랍니다.
“이렇게까지 지적할 줄 몰랐다”
고 말하기도 합니다.
하지만 여기서 중요한 점이 있습니다.
달라진 것은 챗봇의 능력이 아닙니다.
달라진 것은 학생이 요청한 태도입니다.
“비판적으로 평가하라”는 말은
챗봇에게 사고를 준 것이 아니라,
질문하는 쪽이 기준을 세운 것입니다.
이 장면은 인공지능 문해력의 핵심을 보여줍니다.
칭찬은 관계를 부드럽게 만들지만, 판단을 요구하지 않습니다.
비판 없이 칭찬만 이어지면, 사유가 개입할 자리가 없습니다.
무엇이 부족한지,
왜 문제가 되는지,
어떻게 달라질 수 있는지를 생각할 필요가 없기 때문입니다.
그래서 조금이라도 생각을 더하고 싶다면,
'비판적인 태도'를 요청해야 합니다.
인공지능은 우리가 바라는 태도에 맞추어 반응하니까요.
흥미로운 점은, 학생이 이 ‘비판적’이라는 상태를 별로 좋아하지 않는다는 겁니다.
분명히 더 나아질 가능성이 보임에도, 한번 사용하고는 더는 안 쓰는 학생들도 많습니다.
특히 어린 학생일수록 그런 경향이 강하게 나타납니다.
비판은 공격이고, 평가자는 불편한 자리라고 느껴왔기 때문입니다.
그래서 챗봇 앞에서도, 사람 앞에서처럼, 가능한 한 부드러운 관계를 유지하려 합니다.
그 결과 챗봇은 ‘칭찬기계’가 됩니다.
기획서를 발전시키는 도구가 아니라, 괜찮다는 말을 확인해 주는 장치가 됩니다.
이때 사라지는 것은 창의성이 아니라, 판단하려는 태도입니다.
비판이 사라지면 기준이 흐려지고, 기준이 흐려지면 사유는 더 이상 필요하지 않게 됩니다.
그럴듯한 답을 받아 적는 것으로 충분해지기 때문입니다.
이 과정에서 인공지능은 도구가 아니라, 대신 반응해 주는 존재로 자리 잡습니다.
그래서 문제는 인공지능이 아닙니다.
문제는 우리가 어디까지 생각을 맡기고 있는가입니다.
비판을 요청하지 않는 순간, 우리는 이미 판단을 미루고 있는지도 모릅니다.
그렇다면 우리는 왜 이렇게 하는 것일까요?
AI로 보는 마음 1 : 우리는 왜 인공지능에 마음을 바랄까
1-1. 우리는 인공지능을 쓰고 있는 걸까, 기대고 있는 걸까 — 편리한 존재에 기대고 싶은 마음
1-2. 인공지능은 거절하지 않는다, 고로 우리는 안심한다 — 거절하지 않는 존재를 향한 안도
1-3. AI가 좋아요만 누를 때, 우리는 생각하고 있을까 — 끝없이 칭찬하는 존재의 유혹
1-4. SF는 왜 인공지능이 멈추는 장면을 반복해서 그려왔을까 — 두려운 존재에 대한 상상
1-5. “인공지능이란 거울”에는 어떤 마음이 비칠까 — 거울 같은 존재 앞에 선 불안
1-6. 도구로서의 인공지능에게 바라는 마음 — 도구라는 존재에 대한 이상한 기대
[ ‘좋아요’만 남은 회의에서 생각과 발전이 시작될 수 있을까요? ]
(개그프로 회장님 회장님 우리 회장님 중 한 장면)