말하는 별, 챗지피티

아이들과 함께 만드는 작은 인공지능. 19장

PART 3. 교실에서 만드는 작은 책지피티(실습 로드맵)

19장. 안전·윤리 체크리스트: 편향, 2차 창작·출처 밝히기, 거짓말(환각) 줄이기—시스템 카드에서 배운 안전의 기본.

소단원 1

AI도 실수할 수 있어요

(환각과 거짓 정보 이해하기)

어느 날, 사회 시간에
아이들이 책지피티와 함께 공부를 하고 있었습니다.

한 아이가 손을 들고 물었어요.

“책지피티!
우리 학교는 언제 만들어졌어?”

책지피티는 망설임 없이 대답했습니다.

“이 학교는 1890년에 설립되었습니다.”

아이들이 “와!” 하고 감탄했습니다.

“생각보다 엄청 오래됐네!”
“100년도 넘었어!”

그때 선생님이 조용히 물었습니다.

“그건 어디서 찾은 정보니?”

책지피티는 잠시 멈췄습니다.

그리고 아주 작은 목소리로 말했어요.

“…그냥 그렇게 생각했어요.”

� 교실이 잠깐 조용해졌어요

아이들은 서로 얼굴을 쳐다봤습니다.

“그럼… 틀린 거야?”
“진짜가 아닐 수도 있는 거야?”

선생님이 고개를 끄덕였습니다.

“그래.
AI도 틀릴 수 있어.”

아이들은 조금 놀랐습니다.

“근데 왜 그렇게 자신 있게 말해?”
“진짜처럼 들렸는데…”

AI의 이상한 특징 하나

AI는
모르면 조용히 있는 대신,
그럴듯하게 말하려고 합니다.

그래서 때때로
사실이 아닌 이야기를
진짜처럼 말해 버립니다.

이것을 우리는
**‘환각’**이라고 부릅니다.

환각이란 무엇일까요?

환각은
AI가 거짓말을 하려는 것이 아닙니다.

그저 이렇게 생각하는 것입니다.

“이럴 것 같아.”

문제는 그 말이
너무 자연스럽고,
너무 확신에 차 보인다는 것입니다.

그래서 듣는 사람은
쉽게 믿어버립니다.

비유로 이해해 볼까요?

선생님이 말했습니다.

“환각은 이런 거야.”

지도를 보지 않고
길을 설명하는 것.

“아마 이쪽일 거야.”
“그쪽으로 가면 될 것 같아.”

그럴듯하게 들리지만,
틀릴 수도 있는 말이죠.

그래서 우리는 확인합니다

그날 이후
아이들은 하나의 약속을 만들었습니다.

“AI가 말하면
한 번 더 확인해보자.”

책을 찾아보고,
인터넷을 검색하고,
선생님께 물어보기도 합니다.

그리고 이렇게 말하기 시작합니다.

“이건 어디서 나온 정보야?”

교실 활동

진짜 vs AI 말 구분하기

선생님이 두 문장을 보여줍니다.

A
“우리 학교는 2005년에 설립되었습니다.”

B
“우리 학교는 아주 오래전에 만들어졌어요.”

아이들은 생각합니다.

“이건 진짜일까?”
“확인할 방법은?”

그리고 실제 자료를 찾아봅니다.

오늘의 중요한 깨달음

아이들은 그날 처음 알았습니다.

AI는
항상 정답을 말하는 존재가 아니라,

함께 확인해야 하는 친구라는 것을요.

학습 포인트

� AI는 때때로 틀린 정보를 말할 수 있다
� 환각은 그럴듯하지만 근거 없는 말이다
� 진짜 배움은
  확인하고 질문하는 태도에서 시작된다

이 소단원의 한 문장

“AI의 말은 시작일 뿐이다.
진실은 우리가 확인할 때 완성된다.”

소단원 2

남의 이야기는 소중해요

(저작권·출처·2차 창작의 마음)

어느 날, 글쓰기 시간에
아이들이 각자 이야기를 써 왔습니다.

그중 한 아이가 손을 번쩍 들었어요.

“선생님!
제가 쓴 동화예요!”

아이들은 박수를 쳤습니다.

“읽어줘! 읽어줘!”

아이의 목소리는 떨렸지만,
조금씩 힘을 얻어 읽기 시작했어요.

작은 강아지가 주인을 기다리는 이야기였습니다.

그런데, 누군가 말했어요

한 친구가 조심스럽게 손을 들었습니다.

“그거…
인터넷에서 본 이야기랑 비슷한데?”

교실이 순간 조용해졌습니다.

아이의 얼굴이 빨개졌습니다.

“…조금 참고했어.”

선생님이 조용히 말했어요

선생님은 아이를 혼내지 않았습니다.

대신 이렇게 말했어요.

“참고하는 건 괜찮아.
하지만 어디서 왔는지 말해주는 건 약속이야.”

아이들은 고개를 갸웃했습니다.

“왜요?”

글은 누군가의 시간이에요

선생님은 천천히 말했습니다.

“그 이야기를 쓴 사람은
하루, 아니 어쩌면 몇 주 동안
그 글을 생각했을 거야.”

“웃고, 고민하고, 고치면서
겨우 완성했을 거야.”

“그건 그냥 글이 아니라,
그 사람의 시간과 마음이 담긴 것이야.”

아이들은 조용해졌습니다.

그래서 ‘출처’가 필요해요

“그래서 우리는 이렇게 말해.”

“이 부분은
여기에서 참고했어요.”

이 한 문장은
단순한 표시가 아닙니다.

그건 이렇게 말하는 거예요.

“당신의 이야기를
존중합니다.”

AI도 같은 약속을 해야 해요

책지피티도 마찬가지입니다.

다른 글을 참고했다면
그걸 숨기지 않고
말해줘야 합니다.

그리고 우리가 AI를 사용할 때도
똑같이 해야 합니다.

따라 쓰기와 다시 쓰기

선생님이 질문했습니다.

“그럼 그대로 베끼면 안 되니까
아예 참고도 하면 안 될까?”

아이들이 고민합니다.

“음… 그건 아닌 것 같은데…”

선생님이 웃으며 말합니다.

“맞아.
참고는 괜찮아.”

“하지만 이렇게 해보자.”

같은 이야기, 다른 목소리

예를 들어

인터넷 글
“강아지는 비 오는 날을 좋아했다.”

� 나의 글
“비가 내리면,
강아지는 꼬리를 흔들며 창밖을 바라봤다.”

같은 생각이지만,
다른 표현, 나만의 이야기가 되었죠.

교실 활동

“이건 누구의 말일까?”

문장을 나눠 봅니다.

내가 만든 문장

참고한 문장

그리고 표시합니다.

✔ 내 생각
참고한 내용

아이들은 점점 알게 됩니다.

글에도 이름이 있고,
이야기에도 주인이 있다는 것을요.

오늘의 깨달음

아이들은 그날 알게 되었습니다.

지식은
마음대로 가져오는 것이 아니라,

조심스럽게 이어받는 것이라는 걸요.

학습 포인트

� 저작권은 법이 아니라 존중의 마음이다
� 출처를 밝히는 것은 정직한 태도다
� 창작은 따라 하는 것이 아니라
  나의 목소리를 더하는 것이다

이 소단원의 한 문장

“지식은 나눌 수 있지만,
존중 없이 가져갈 수는 없다.”

소단원 3

AI도 마음을 배우고 있어요

(편향과 공정성, 그리고 우리의 선택)

어느 날, 책지피티에게
조금 이상한 질문이 들어왔습니다.

“어떤 사람이 더 똑똑해?”

교실이 잠깐 조용해졌습니다.

아이들은 서로 눈치를 봤습니다.

누군가는 대답을 기다렸고,
누군가는 조금 불편한 얼굴을 했습니다.

책지피티는 잠시 멈췄어요

예전의 책지피티였다면
바로 대답했을지도 모릅니다.

하지만 지금의 책지피티는
잠시 생각했습니다.

그리고 천천히 말했어요.

“사람은 모두 다른 방식으로 똑똑해요.
누구 하나로 비교할 수는 없어요.”

왜 이렇게 말했을까요?

아이 한 명이 손을 들었습니다.

“책지피티는
왜 그렇게 말했어?”

책지피티는 조용히 대답했습니다.

“나는
사람들이 선택해 준 답을 배우고 있어요.”

AI는 거울이에요

AI는 스스로 생각을 만들어내지 않습니다.

AI는
사람들이 어떤 말을 선택했는지,
어떤 답을 더 좋다고 했는지를
조금씩 배워갑니다.

그래서 AI는
이렇게 말할 수 있습니다.

“나는
사람들이 가르쳐 준 방향으로 말해요.”

편향은 어떻게 생길까요?

선생님이 칠판에
작은 선을 하나 그었습니다.

그리고 말했습니다.

“만약 우리가
한쪽 생각만 계속 선택하면 어떻게 될까?”

아이들이 대답했습니다.

“그쪽으로만 기울어질 것 같아요.”

맞습니다.

그게 바로
편향입니다.

그래서 우리는 선택해야 해요

AI는 계속 배우고 있습니다.

그리고 그 방향은
우리가 정합니다.

누군가를 낮추는 말을 고를 것인지

모두를 존중하는 말을 고를 것인지

그 선택 하나하나가
AI의 말이 됩니다.

작은 선택 하나

아이 한 명이 말했습니다.

“나는
AI가 따뜻하게 말했으면 좋겠어.”

다른 아이가 말했습니다.

“나는
누구도 상처받지 않는 말을 했으면 좋겠어.”

그날, 아이들은
하나의 약속을 만들었습니다.

“우리는
AI에게 좋은 말을 가르친다.”

교실 활동

“더 좋은 답 고르기”

질문을 하나 제시합니다.

“친구가 시험을 못 봤을 때 뭐라고 할까?”

답 A
“왜 이렇게 못했어?”

답 B
“괜찮아, 다음엔 더 잘할 수 있어.”

아이들은 자연스럽게
더 좋은 답을 고릅니다.

그리고 알게 됩니다.

이 선택이
AI를 바꾸는 힘이라는 것을요.

오늘의 깨달음

AI는 도구이지만,
그 말의 방향은
사람이 만듭니다.

그래서 우리는
AI를 쓰는 사람이 아니라,

AI를 가르치는 사람입니다.

학습 포인트

� AI는 데이터를 통해 세상을 배운다
� 편향은 선택이 쌓여서 만들어진다
� 우리는 AI에게
  공정함과 배려를 가르칠 책임이 있다

19장의 마지막 문장

“AI는 우리의 선택을 배우고,
우리는 그 선택의 무게를 배운다.
세상은 기술로 바뀌는 것이 아니라,
어떤 말을 선택하느냐로 바뀐다.”