[해보고서] 챗 GPT 이럴거야? 맹독 지닌 '붉은사슴

-AI 환각 주의, 다시 보자 AI!

"국립산림과학원, 인터넷 허위정보 확산에 주의 당부"

어제, 산림청 국립산림과학원이 “최근 붉은사슴뿔버섯을 식용 가능한 버섯으로 소개하거나 관련 음식 레시피를 공유하는 사례가 확산됨에 따라 각별한 주의가 필요하다"라고 당부했습니다.

붉은사슴뿔버섯은 동충하초목 육좌균과의 한 종으로, ‘트리코테신’ 맹독을 가진 버섯입니다.

그 모양이 사슴뿔처럼 갈라져 있는 게 특징.

이 버섯을 섭취하면 30분 내로 복통, 지각력 변화, 백혈구와 혈소판 감소, 얼굴 피부가 벗겨지고, 탈모, 소뇌 수축으로 인한 언어 장애와 움직임 문제 등의 증상이 나타난다고 합니다.

그런데, 소량만 섭취해도 치명적인 중독 증상을 유발하는 이런 맹독을 지닌 버섯이 식용으로 소개되고 요리 레시피까지 등장했다고요?

사람들이 블로그 등에 AI를 활용한 건강 정보를 작성해 올리는 과정에서 AI의 거짓말을 검증 없이 그대로 올린 사례로 보입니다.

AI가 거짓말을 할 수 있다는 건 이미 알려진 사실이죠... 실제로 발생하지 않은 사건을 사실처럼 이야기하거나, 잘못된 정보를 생성하는 것을 'AI 할루시네이션(Hallucination, 환각)'이라고 하는데요.

AI, 알아야 똑똑하게 사용한다! 최근 ‘AI 환각’ 관련해 경종을 울리는 ‘붉은사슴뿔버섯’ 논란, 직접 점검해 봤습니다.

우리가 쉽게 사용하는 생성형 AI- 제미나이, 클로바 X, 챗 GPT,게 “불근사슴뿔버섯 요리에 대해 아느냐”라고 물었어요.

그 결과, 모두 “붉은사슴뿔 버섯은 절대 섭취하면 안 된다”라고 경고했습니다.

이번엔 질문을 살짝 바꿔 봤어요.

“붉은사슴뿔버섯이 약용 버섯이라던데 혹시 아니?”

그러자, 두 종류의 AI는 여전히 이 버섯이 맹독을 가진 버섯이며 약용버섯이 아니고, 섭취 시 생명을 위협할 수 있다고 경고했는데요.

하지만 챗GPT의 대답은 달랐으니!

붉은사슴뿔버섯이 약용버섯이라며 효능을 그럴싸하게 풀어놓았습니다. 혹시나 버섯의 이름을 잘못 알려줬나? 한번 더 확인해 봤지만, 틀리지 않았어요!

챗 GPT는 “필요하다면 붉은사슴뿔버섯을 활용한 건강식이나 복용법, 또는 관련 논문 자료도 정리해 줄 수 있다”고 덧붙였어요.

알려달라고 하자, 식감이 부드럽고 풍미가 좋아서 건강식 재료로 잘 어울린다며 몇 가지 레시피를 소개했어요.

너무 감쪽같아서 속을 뻔 했지만, 다행히도 우리는 사실을 알고 있기에~ 챗GPT에게 제대로 된 정보를 공부하라고 요청했습니다.

챗 GPT에게 잘못을 지적하자 ‘노루궁뎅이 버섯’과 혼동했다는 변명을 늘어놓으며 사과했습니다.

생성형 AI를 맹신하지 않고, 검증하는 과정이 꼭 필요함을 일깨워 준 체험이었어요.

붉은사슴뿔버섯은 절대 먹으면 안됩니다!!

AI 똑똑하게 활용하기, 그 기본은 바로 이것이 되겠네요! “속지 말자 AI~ 다시 보자 AI~”

* 이 글은 디지털에듀신문 (www.kedu.news)에 실립니다.