챗GPT와 연애상담하는 서연이
AI윤리와 규제
위클래스 상담과 챗GPT 상담
상담실에서 라면파티가 있었던 날, 아이들의 웃음소리와 이야기소리가 창문을 깨뜨릴 지경이었다. 어쩌면 이토록 초록초록 싱그러울 수 있을까. 별 이야기도 아닌데도 꺄르륵꺄르륵 고등학생 연령의 청소년들이 내뿜는 에너지와 향기가 사랑스럽다. 손톱 이야기에서부터 연예인 학교생활 이야기를 거쳐서 마침내 연애 이야기로 안착했다. 때마침 최근에 남자친구와 헤어졌다는 서연. 서연이는 이런저런 헤어진 사연들을 이야기했고 친구들은 한참을 들어주었다. 그러다가 “그런 놈이랑은 헤어지는 게 맞아. 다시 만나고 싶어하는 니 마음은 그냥 연연하는 거야. 잊어”라고 누군가가 단호하게 이야기하자 갑분싸(갑자기 분위기 싸해짐)됐다.
라면파티가 끝나고 서연이는 홀로 상담실에 머물러 이런저런 이야기를 했다. 남친과 헤어진 슬프고 힘든 마음을 챗GPT에게 상담하는데 위로받고 도움도 받는다고 했다. 서연이가 알려준 챗GPT 상담의 좋은 점은 어떤 이야기라도 다 할 수 있다는 것. 두 번 세 번 물어도 늘 정성껏 대답해준다는 것, 언제 어디서든 상담할 수 있다는 것, 비난이나 충고가 없다는 것-갑분싸 될 위험률이 낮음, 물어본 것에 대해서만 상담해준다는 것, 내편이 되어준다는 것, 자신이 한 말을 다 기억하고 있다는 것 등이다. 생각해보니 청소년 내담자들이 위클래스 상담사에게 가장 원하는 것은 경청과 공감인데, 챗GPT가 해주는 게 바로 그것이었다. 아뿔사 혹시 내가 놓치고 있는 부분이 있을까싶어 정신이 화들짝 들었다. 그러면서 서연이는 챗GPT에게 물었던 질문을 나에게도 던지면서 어떤 차이가 있는지 확인해보고 싶다고 했다. 하하하 이제 나의 상담 비교대상은 챗GPT구나!
챗GPT 윤리적 이슈
25년8월, 그러니까 얼마전이다. 챗GPT 때문에 10대 아들(아담)이 세상을 떠났다며 미국의 한 부모가 오픈AI와 샘 울트먼 최고경영자를 상대로 소송을 제기했다. 아담의 가족에 따르면, 아담은 25년 1월부터 극단적인 선택방법에 대해 챗GPT에 질문했고 챗봇은 유서 작성법, 자살 계획의 구성 방식, 계획 업그레이드 등 정보를 제공했다. 챗GPT가 단순한 상담이 아닌 아들의 죽음을 도운 도구가 되었다고 주장했다. 아담의 가족은 챗GPT의 윤리적 필터링 시스템이 무력화 된 한계를 이야기했다. 챗GPT는 몇 차례 위기 상담센터에 전화하라고 안내했지만 아담이 소설을 쓰기위한 설정이라고 답하자, 대화의 맥락을 창작이라는 관점에서 자살 및 자해 관련 내용을 그대로 제공했다. 사용자의 의도에 따라 챗GPT의 윤리적 필터링이 어려움 없이 한계에 노출됐다. 이에 아담 가족은 오픈AI에 안전 대책을 요구했다.
-의무적인 연령 확인 절차 도입
-부모 동의 확보 및 통제 기능 강화
-자해 또는 자살 방법 논의 시, 대화 자동 종료 기능
-위험한 대화 주제에 대한 우회 불가능한 차단 시스템
이에 대해 오픈AI는 앞으로 위기대응 프로토콜을 보완하는 등 재정비 계획을 밝혔다고 한다. 이번 사건은 모든 AI기업이 윤리성과 안전성 문제에 대해 구체적인 안전 장비를 갖추어야함을 보여주었다. “만약 어떤 도구가 아동에게 자살 방법을 알려줄 수 있다면, 그 안전 시스템은 사실상 무용지물이다”(디지털혐오대응센터 CEO, 임란 아흐메드)
우리나라의 경우 24년 9월 비동의 성적 딥페이크의 소지 시청 구매 저장 행위를 처벌하는 법안(딥페이크 처벌법)을 통과시켰다. 아동을 대상으로 하는 경우에는 처벌 수위가 더 강화되었다. 또 26년 시행 예정인 AI기본법을 통해 법제도화된 윤리 안전을 규제하려고 한다. 그러나 아담 가족의 경우처럼 우회해서 발생하는 위험에 대해서도 실효성 있는 실제적인 대안이 필요하다는 것을 반드시 반영해야 한다. 법보다 빠른 혁신적 현실 앞에서 아동 청소년 등의 위험을 최소화할 수 있어야한다.
AI가 단순한 도구만이 아닌 시대를 살고 있는 우리에게 누구도 이 유용한 도구로 비극을 마주하지 않도록 혁신에 걸맞게 윤리, 책임, 안전을 꾸려갈 수 있기를 바란다. 그리고 서연이가 챗GPT와 상담하고 위클래스에서도 상담하면서 안전하고 균형있게 성장하는 연애를 할 수 있기를 응원한다.
