추천 알고리즘은 왜 지성처럼 느껴질까
AI로 보는 마음2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
AI로 보는 마음
2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-5. 추천 알고리즘은 왜 지성처럼 느껴질까
― 이유를 대신해 주는 알고리즘의 유혹
우리를 대신하여 판단까지 내려 줄 수 있는
매우 뛰어난 인공지능, AGI는
아직 등장하지 않았다고 합니다.
하지만, 우리는 이미 많은 판단을 시스템에 맡기고 있습니다.
어떤 영화를 볼지,
어떤 음악을 들을지,
어떤 상품을 살지.
추천 알고리즘은 우리가 무엇을 좋아하는지 꽤 정확하게 예측합니다.
때로는 스스로도 놀랄 만큼 정확해 보입니다.
이쯤 되면 이런 생각이 들기도 합니다.
“어쩌면 이 시스템이 나보다 나를 더 잘 아는 게 아닐까?”
그렇다면 이것은 지성의 작동일까요?
겉으로 보면 그렇습니다.
취향을 분석하고,
패턴을 읽어내고,
앞으로의 선택을 예측합니다.
그러나 조금만 더 들여다보면 다른 풍경이 보입니다.
예를 들어
겨울을 배경으로 한 작품을 여러 번 선택했다고 가정해 봅시다.
그것이
겨울이라는 계절 때문일까요?
눈 내리는 풍경 때문일까요?
아니면
차가운 환경 속에서 시련을 견디는 인물을 보고 싶어서일까요?
데이터는 행동의 반복을 포착할 수 있습니다.
그러나 그 행동의 이유를
스스로 묻고 해석하는 일은
또 다른 차원의 작업입니다.
지능은 패턴을 찾습니다.
지성은 의미를 묻습니다.
추천 알고리즘은 내가 무엇을 자주 선택하는지 알 수 있습니다.
그러나 왜 그것을 선택하는지,
그리고 앞으로도 같은 이유로 선택할 것인지는
단순한 반복으로는 설명되지 않습니다.
지피티 같은 챗봇과 대화를 하면서
나의 취향을 더욱 정확하게 정리할 수도 있습니다.
단순히 '나는 이것이 좋다'라는 것에 그치지 않고,
'나는 이 때문에 이것이 좋다'라고 이유와 의도를 제시하면서 말이죠.
그런데, 그 결과 만약 추천이 완벽해진다면 어떤 일이 벌어질까요?
내가 좋아할 만한 것만 계속 제시된다면
나는 새로운 방향을 시도할 기회를
잃어버리게 될지도 모릅니다.
지성, 그리고 그 바탕이 되는 세계관은
익숙한 것을 반복한다고 해서 강화되는 것이 아닙니다.
오히려 같은 자극이 계속될수록
우리는 스스로 판단하기보다
제시된 방향을 따라가게 될 위험이 있습니다.
반대로 지성과 세계관은
낯선 것과 충돌하면서 그 모습이 더욱 뚜렷해지고
우리를 우리 답게 만드는 존재로 성장합니다.
지성은 익숙한 것을 거듭하는 것만이 아니라,
때로는 낯선 것을 향해 방향을 바꾸는 태도이기도 합니다.
추천은 익숙한 방향으로 이끕니다.
그러나 지성은 때로 익숙함을 의심합니다.
그래서 추천 알고리즘은 지성이 아닙니다.
그럼에도 불구하고 지성처럼 느껴지는 이유는 분명합니다.
그 판단이 일관되어 보이고,
개인적 감정에 휘둘리지 않는 것처럼 보이기 때문입니다.
우리는 일관성과 안정성을 곧 지성으로 착각하기 쉽습니다.
하지만 지성은 항상 같은 방향으로 가는 힘이 아닙니다.
때로는
자기 자신을 의심하고,
기존의 선택을 뒤집고,
익숙한 취향을 넘어서는 태도입니다.
AGI가 완성되어
완벽한 추천과 판단을 제공한다고 해도,
그 판단을 받아들이는 최종 결정은
여전히 우리의 몫일 것입니다.
왜냐하면
그 선택을 나의 것으로 만드는 순간이
지성의 작동이기 때문입니다.
우리는 지성을 외주화하고 싶어 합니다.
그러나 동시에
“왜 나는 이것을 선택했는가”라는 질문을
완전히 포기하고 싶어 하지는 않습니다.
그 질문이 사라지는 순간,
선택은 편리해질 수 있지만
의미는 흐려질지도 모릅니다.
이 문제가 개인의 취향을 넘어
윤리와 사회의 기준으로 확장된다면
어떤 긴장이 생겨날까요?
완벽하게 도덕적인 AGI가 등장한다면
그 사회는 정말로 더 나은 세계가 될까요?
다음에는 이에 대해서 이야기해보겠습니다.
AI로 보는 마음 2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-1. AGI 논쟁은 왜 엇갈릴까 - 인공지능을 바라보는 우리의 기대와 두려움
2-2.우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까 - 능력이 아닌 안심을 바라는 마음
2-3. 인공지능의 지성은 계산으로 설명될 수 있을까 - 계산으로 설명할 수 없는 마음의 근거
2-4. 우리는 왜 지성을 외주화하고 싶어 할까요 - 절대적인 객관성에 대한 기대
2-5. 추천 알고리즘은 왜 지성처럼 느껴질까 - 이유를 대신해주는 알고리즘의 유혹
2-6. 도덕적인 인공지능에게 우리는 안심할 수 있을까? - 신과 같은 인공지능을 마주한 인간의 불안
2-7. 위대한 인공지능 앞에서 우리는 멈추어 생각할 수 있을까? - 빠르고 궁극적인 답 앞에 흔들리는 마음
2-8. 인공지능 시대, 우리의 질문은 계속될까? - 답을 넘어 질문으로 향하는 인간의 욕망
[ 끝없이 같은 자극을 반복 추천하며
사용자를 몰입시키는 소셜 네트워크 알고리즘의 구조를 다룬 다큐멘터리, 《소셜 딜레마》.
익숙함이 어떻게 판단을 약화시키는지를 보여줍니다. ] ( The Social Dilemma, Netflix )