말하는 별, 챗지피티

아이들과 함께 만드는 작은 인공지능. 19장

PART 3. 교실에서 만드는 작은 책지피티(실습 로드맵)

19장. 안전·윤리 체크리스트: 편향, 2차 창작·출처 밝히기, 거짓말(환각) 줄이기—시스템 카드에서 배운 안전의 기본.

소단원 1

AI도 실수할 수 있어요

(환각과 거짓 정보 이해하기)

어느 날, 사회 시간에
아이들이 책지피티와 함께 공부를 하고 있었습니다.

한 아이가 손을 들고 물었어요.

“책지피티!
우리 학교는 언제 만들어졌어?”

책지피티는 망설임 없이 대답했습니다.

“이 학교는 1890년에 설립되었습니다.”

아이들이 “와!” 하고 감탄했습니다.

“생각보다 엄청 오래됐네!”
“100년도 넘었어!”

그때 선생님이 조용히 물었습니다.

“그건 어디서 찾은 정보니?”

책지피티는 잠시 멈췄습니다.

그리고 아주 작은 목소리로 말했어요.

“…그냥 그렇게 생각했어요.”

� 교실이 잠깐 조용해졌어요

아이들은 서로 얼굴을 쳐다봤습니다.

“그럼… 틀린 거야?”
“진짜가 아닐 수도 있는 거야?”

선생님이 고개를 끄덕였습니다.

“그래.
AI도 틀릴 수 있어.”

아이들은 조금 놀랐습니다.

“근데 왜 그렇게 자신 있게 말해?”
“진짜처럼 들렸는데…”

AI의 이상한 특징 하나

AI는
모르면 조용히 있는 대신,
그럴듯하게 말하려고 합니다.

그래서 때때로
사실이 아닌 이야기를
진짜처럼 말해 버립니다.

이것을 우리는
**‘환각’**이라고 부릅니다.

환각이란 무엇일까요?

환각은
AI가 거짓말을 하려는 것이 아닙니다.

그저 이렇게 생각하는 것입니다.

“이럴 것 같아.”

문제는 그 말이
너무 자연스럽고,
너무 확신에 차 보인다는 것입니다.

그래서 듣는 사람은
쉽게 믿어버립니다.

비유로 이해해 볼까요?

선생님이 말했습니다.

“환각은 이런 거야.”

지도를 보지 않고
길을 설명하는 것.

“아마 이쪽일 거야.”
“그쪽으로 가면 될 것 같아.”

그럴듯하게 들리지만,
틀릴 수도 있는 말이죠.

그래서 우리는 확인합니다

그날 이후
아이들은 하나의 약속을 만들었습니다.

“AI가 말하면
한 번 더 확인해보자.”

책을 찾아보고,
인터넷을 검색하고,
선생님께 물어보기도 합니다.

그리고 이렇게 말하기 시작합니다.

“이건 어디서 나온 정보야?”

교실 활동

진짜 vs AI 말 구분하기

선생님이 두 문장을 보여줍니다.

A
“우리 학교는 2005년에 설립되었습니다.”

B
“우리 학교는 아주 오래전에 만들어졌어요.”

아이들은 생각합니다.

“이건 진짜일까?”
“확인할 방법은?”

그리고 실제 자료를 찾아봅니다.

오늘의 중요한 깨달음

아이들은 그날 처음 알았습니다.

AI는
항상 정답을 말하는 존재가 아니라,

함께 확인해야 하는 친구라는 것을요.

학습 포인트