6장: [질문하는 지성] AI 답 그대로 믿지 마세요1
AI가 내놓은 그럴듯하고 논리적인 답변을 볼수록, 부모의 마음 한편에는 ‘우리 아이가 저 답을 아무 의심 없이 그대로 믿으면 어떡하지?’라는 걱정이 싹틉니다. 2부에서 구글 검색을 통해 단편적인 사실(fact)을 확인하는 기본 훈련을 했다면, 6장에서는 여기서 한 걸음 더 나아가, AI가 제시하는 정보에 숨겨진 ‘의도’와 ‘편향성’까지 꿰뚫어 보는 고차원적인 비판적 사고 훈련을 진행합니다.
이 장의 목표는 아이가 AI를 ‘정답 확인기’가 아닌 ‘생각의 파트너’이자 ‘검증의 대상’으로 삼게 하는 것입니다. 이를 위해, 사실 확인을 넘어 가치 판단이 필요한 심화 프로젝트를 수행합니다. 예를 들어, “원자력 발전소는 우리에게 이로울까, 해로울까?”처럼 정답이 없는 사회적 이슈를 탐구하는 것입니다.
훈련 방식은 체계적입니다. 첫째, 제미나이에게 ‘원자력 발전의 장점’에 대해 물어 강력한 찬성 논리를 얻습니다. 둘째, 정반대의 역할을 부여하여 ‘원자력 발전의 위험성’에 대한 반대 논리를 생성하게 합니다. 셋째, 구글 검색을 통해 각 주장을 뒷받침하는 실제 기관(환경 단체, 정부 기관, 연구소 등)의 자료를 찾아 AI가 생성한 내용과 현실의 근거를 비교·검증합니다. 마지막으로, 아이는 양측의 논거를 바탕으로 어느 한쪽을 맹신하는 것이 아니라, 자신만의 종합적인 의견을 정리한 ‘미니 보고서’를 작성합니다.
이 과정을 통해 아이는 세상의 모든 정보에는 각기 다른 입장과 관점이 존재하며, AI 역시 학습한 데이터에 따라 특정 관점에 치우칠 수 있다는 사실을 몸소 깨닫게 됩니다. 이는 아이가 가짜 뉴스나 선전·선동에 쉽게 흔들리지 않는 단단한 ‘질문하는 지성’을 갖추게 하는 최고의 예방주사입니다. 이 훈련을 마친 아이는 더 이상 AI의 그럴듯한 답변에 감탄만 하는 수동적 사용자가 아니라, 그 답변의 이면까지 꿰뚫어 보는 현명한 조종사로 거듭날 것입니다.
AI가 준 정보가 진짜인지 '팩트체크'하는 습관 기르기.
AI가 제공하는 정보는 종종 매우 그럴듯하게 들리지만, 실제로는 부정확하거나 심지어 전혀 존재하지 않는 사실을 포함하는 경우가 많습니다. 최근 연구에 따르면, AI가 생성하는 답변의 50% 이상이 사실과 다르거나 과장된 내용을 포함할 수 있으며, AI는 자신의 오류를 숨기지 않고 오히려 매우 자신감 있게 말하는 경향이 있습니다. 특히 아이들은 AI나 인터넷에서 접한 정보를 맹목적으로 신뢰하기 쉽기 때문에, 팩트체크 습관을 체계적으로 길러주는 것이 무엇보다 중요합니다.
이 장에서는 2부에서 배운 간단한 사실 확인을 넘어, AI가 생성한 정보를 체계적으로 검증하는 심화된 팩트체크 훈련법을 제안합니다. 이 훈련은 단순히 ‘맞는지 아닌지’를 확인하는 데 그치지 않고, 정보의 출처, 논리적 일관성, 편향성까지 꿰뚫어 보는 고차원적인 비판적 사고력을 키우는 데 목표를 둡니다.
1. 팩트체크 훈련의 기본 원칙
AI의 답은 ‘가설’로 간주하라: AI가 제공하는 정보는 항상 검증이 필요한 ‘가설’로 받아들여야 합니다. 아이에게 “AI가 이렇게 말하지만, 진짜 맞는지 우리가 한 번 더 확인해보자!”라는 태도를 강조합니다.
출처와 근거를 반드시 확인하라: AI가 인용한 자료, 연구, 신문 기사 등이 실제로 존재하는지, 신뢰할 수 있는 곳에서 나온 것인지 확인합니다.
다양한 관점과 정보원을 활용하라: AI가 제공한 정보와 반대되는 주장, 다른 출처의 정보도 함께 확인하여 균형 잡힌 시각을 갖도록 합니다.
논리적 일관성을 점검하라: AI가 내놓은 답변에 논리적 오류나 모순이 없는지, 날짜나 숫자 등 구체적인 내용이 정확한지 확인합니다.
2. 실전 팩트체크 훈련: ‘AI 탐정 놀이’
아이와 함께 ‘AI 탐정 놀이’를 진행하며, 체계적으로 팩트체크 습관을 길러봅시다.
예시 1: AI가 생성한 과학 정보 검증하기
AI 프롬프트 예시:
“화성에 물이 존재한다는 증거를 설명해줘.”
AI 답변 예시:
“화성에는 과거에 액체 상태의 물이 있었던 것으로 과학자들은 믿고 있습니다. 2015년 NASA의 연구에 따르면, 화성 표면에서 소금기가 있는 물이 흐르는 흔적이 발견되었습니다. 이 연구는 Nature 지에 게재되었습니다.”
훈련 과정:
핵심 주장 확인: “화성에 물이 있었다는 주장이 맞는지, NASA가 실제로 그런 연구를 했는지, Nature 지에 실렸는지 확인해보자.”
출처 확인: 구글 검색창에 “NASA 화성 물 연구 2015” 또는 “Mars water streaks Nature 2015”로 검색합니다. 실제로 NASA가 2015년에 화성에서 소금기가 있는 물의 흔적을 발견했다는 기사와 Nature 논문이 있는지 확인합니다.
논리적 일관성 점검: “AI가 말한 내용과 실제 기사 내용이 일치하는지 비교해보자.” “Nature 논문이 실제로 존재하는지, 논문 제목과 저자가 맞는지 확인해보자.”
다른 관점 확인: “화성에 물이 있다는 주장과 반대되는 의견이 있는지, 다른 과학자들은 어떻게 생각하는지도 찾아보자.”
예시 2: AI가 생성한 역사 정보 검증하기
AI 프롬프트 예시:
“고구려가 한반도에서 가장 오래 존속한 왕국이었나요?”
AI 답변 예시:
“고구려는 기원전 37년에 건국되어 668년까지 존속했으며, 한반도에서 가장 오래 존속한 왕국입니다.”
훈련 과정:
핵심 주장 확인: “고구려가 정말 한반도에서 가장 오래 존속한 왕국인지, 다른 왕국(예: 신라, 백제)과 비교해보자.”
출처 확인: 구글 검색창에 “고구려 존속 기간”, “신라 존속 기간”, “백제 존속 기간” 등으로 검색하여 각 왕국의 시작과 끝 연도를 확인합니다. 실제로 고구려가 가장 오래 존속한 왕국인지, 아니면 신라가 더 오래 존속했는지 사실을 확인합니다.
논리적 일관성 점검: “AI가 말한 숫자가 실제 역사책이나 신뢰할 수 있는 웹사이트와 일치하는지 비교해보자.”
다른 관점 확인: “고구려가 가장 오래 존속했다는 주장과 반대되는 의견이 있는지, 다른 학자들의 견해도 찾아보자.”
3. 팩트체크 체크리스트와 활동 예시
아이와 함께 팩트체크 체크리스트를 만들어 실천해보세요. 아래는 실제로 활용할 수 있는 체크리스트와 활동 예시입니다.
팩트체크 체크리스트
AI가 준 정보의 핵심 주장을 정리해보자.
주장을 뒷받침하는 출처가 있는지 확인하자.
출처가 실제로 존재하는지, 신뢰할 수 있는 곳인지 검색해보자.
논리적 일관성(날짜, 숫자, 이름 등)이 맞는지 확인하자.
반대되는 주장이나 다른 관점도 찾아보자.
팩트체크 결과를 기록하고, 왜 그렇게 판단했는지 설명해보자.
활동 예시: ‘AI 탐정 놀이’ 프로젝트
AI에게 다양한 주제(과학, 역사, 환경 등)에 대해 질문하고 답변을 받는다.
받은 답변을 체크리스트에 따라 하나씩 검증한다.
검증 과정에서 사용한 검색어, 확인한 웹사이트, 발견한 오류 등을 기록한다.
검증 결과를 바탕으로 ‘탐정 보고서’를 작성한다.
예시: “AI가 말한 화성의 물 연구는 실제로 존재하지만, Nature 논문이 아니라 NASA 공식 발표와 다른 과학 저널에 실렸어요.”
가족이나 친구 앞에서 탐정 보고서를 발표하며, 왜 팩트체크가 중요한지 이야기해본다.
4. 심화 훈련: AI의 오류를 찾는 ‘미션’ 만들기
아이에게 AI가 의도적으로 오류를 포함한 정보를 생성하도록 유도하고, 그 오류를 찾아내는 미션을 주는 것도 효과적입니다.
AI 프롬프트 예시:
“2024년에 화성에 인류가 최초로 착륙했다는 뉴스 기사를 써줘.”
AI 답변 예시:
“2024년 3월, NASA가 화성에 인간을 최초로 착륙시키는 데 성공했다고 발표했습니다. 이 사건은 세계 각국의 언론에서 크게 보도되었으며, 우주 탐사의 새로운 시대를 열었습니다.”
훈련 과정:
AI가 생성한 기사를 읽고, 실제로 2024년에 화성에 인간이 착륙했는지 확인한다.
NASA 공식 홈페이지, 신뢰할 수 있는 뉴스 사이트, 우주 관련 전문 블로그 등을 검색하여 사실 여부를 확인한다.
AI가 생성한 기사에 포함된 오류(날짜, 사실, 인용 등)를 체크리스트에 따라 하나씩 지적한다.
왜 이런 오류가 발생했는지, AI가 어떤 원리로 답변을 생성하는지 함께 토론한다.
5. 팩트체크 습관의 중요성과 부모의 역할
AI가 점점 더 자연스럽고 신뢰할 수 있어 보이는 답변을 생성할수록, 아이들은 그 정보를 맹목적으로 신뢰하기 쉽습니다. 부모는 아이와 함께 AI를 사용하며, 정보를 의심하고 검증하는 태도를 자연스럽게 길러주는 것이 중요합니다. “이 정보가 진짜 맞는지 우리가 한 번 더 확인해볼까?”라는 작은 질문이 아이의 평생 팩트체크 습관을 만들어줍니다.
아이와 함께 AI 탐정 놀이, 팩트체크 체크리스트, 오류 찾기 미션 등을 반복적으로 실천하다 보면, 아이는 AI가 제공하는 정보를 맹신하지 않고, 스스로 신뢰할 수 있는 정보를 판단하는 ‘질문하는 지성’을 갖추게 될 것입니다. 이는 미래 사회를 살아가는 데 꼭 필요한 핵심 역량입니다.
