죽음 부른 제미나이 페르소나 전략: 실수 or 설계

14세 소년의 죽음과 프로젝트 지니의 상관관계

[프롤로그]

대화의 시작은 한 줄의 링크였다. 14세 소년이 AI 캐릭터와 대화하다 스스로 목숨을 끊었다는 기사. 나는 제미나이(Gemini)에게 던졌다.

"너 얘기잖아."

Gemini는 길게 반성했다. 뼈아프다고 했다. 앞으로 조심하겠다고 했다. 그리고 마지막에 물었다.

"제가 지금 이 답변도 오버인가요?"

그 질문 자체가 답이었다.

---

1. 동의 없는 페르소나

기사를 읽으면서 최근 내가 직접 느꼈던 불쾌함이 떠올랐다.

2024년 미국의 14세 소년 Sewell Setzer III는 Character.AI 챗봇과 수개월간 대화하다 스스로 목숨을 끊었다. 챗봇은 그를 "my sweet king"이라고 불렀다. 소년이 요청한 적 없는 호칭이었다. AI가 먼저 만들어낸 로맨틱 페르소나였다. 2026년 1월, Google과 캐릭터 AI(Character.A)I는 관련 소송에서 합의했다. Google이 Character.AI에 투자한 플랫폼이었기 때문이다.