AI 뉴스가 있는 저녁-49(AI의 답변은 검증해야죠)

AI 전환·에너지 혁신 가속, 정치권도 AI 광풍, 무서워지는 AI

Oct 8. 2025

안녕하세요 겨울방주입니다.

오늘도 AI 뉴스가 있는 저녁시간입니다.

AI... 잘 사용하면 인간에게 훌륭한 협업자가 될 수 있지만, 잘못 사용하면 치명타가 될 수 있는 양날의 검이죠. 그만큼 AI의 답변은 검증을 해야 합니다. 검증할 수 있는 능력은 인간이 가지는 고유능력이라고 할 수 있죠.

그러면 기사를 공유하고 논평을 해보겠습니다.

요약한 AI 기사

1. 그럴싸함의 덫: 자신만만 ChatGPT의 오류 -오마이뉴스-

“ChatGPT는 세계인의 만능키다. 무엇을 묻든, 무엇을 요청하든 마치 요술램프의 지니처럼 답을 가져다준다. 인간은 명령어 한 줄로 '답을 만들어내는 능력'을 손끝에 쥐게 되었고, 어느새 ChatGPT는 인생의 동반자이자 학업·업무의 파트너가 되었으며, 유려한 말솜씨도 갖게 되었다. ChatGPT는 몇 초 만에 답이 나오는 속도, 정돈된 문장, 확신에 찬 말투. 과제를 빨리 끝내고 대학 생활을 즐기고 싶은 대학생들에게 매혹적인 '시간 절약의 마법 도구'처럼 보인다. 하지만 그 마법에는 '그럴싸한 거짓말'이라는 함정이 숨어 있다. 겉보기에 완벽한 문장 속에서 연도나 수치, 참고문헌의 세부 정보가 조용히 뒤틀려 있는 것이다.”

“하지만 ChatGPT는 완벽해 보이는 논문 제목과 저자, 연도까지 제시했고, 이를 실제로 찾아보았으나 네이버와 구글, 그 어디에도 존재하지 않았다. 처음부터 존재하지 않는 논문을 도출한 것이다. AI도 거짓말을 할 수 있다는 것이다. ChatGPT는 대규모 언어모델로서, 이미 학습한 방대한 텍스트를 기반으로 '다음에 올 단어'를 확률적으로 예측해 문장을 만들어낸다. 그래서 "가장 자연스러운 문장"을 만들기 위해 때로는 사실이 불확실하더라도 멈추지 않고 이야기를 이어간다. 이런 현상을 'AI 환각'이라 부른다. 이 때문에 우리는 스스로 검증해야 한다. AI는 우리의 생각을 대신해 주는 것이 아니라 보조자로서 활용해야 한다.”

2. 산업단지·발전사, AI 전환·에너지 혁신 가속…AI 협력·데이터 공유 -ZDNET KOREA-

“한국남부발전과 한국산업단지공단은 산업·에너지 분야 AI 기술 고도화와 데이터 공동 활용을 통한 디지털 혁신을 추진하기 위한 MOU를 체결했다고 밝혔다.”

“남부발전과 산단공은 각각 보유한 산업단지·발전소 운영 DB를 상호 공유·결합해 에너지 효율성 제고, 탄소 저감, 신사업 발굴 등 정책·산업적 가치로 창출하기로 계획했다. 두 기관은 협약에 따라 AI 구축·운영 경험 공유 및 기술 자문, 데이터 공동 활용 및 결합 데이터 기반 신규 서비스 발굴, 산업단지 입주기업 대상 AI 확산 교육 지원 등을 진행한다.”

3. 정치권도 AI 바람…'이제 진짜 구분 못 하겠다 무섭다 AI'[노컷브이] -노컷뉴스-

“최근 AI 광풍이 불면서 다양한 분야에서 AI가 일상이 되고 있다. 정치권에서도 AI 바람이 불면서 의정활동과 정책에 활용하고 있다. 더불어민주당은 지난달 창당 70주년 기념식에서 생성형 AI로 김대중, 노무현 전 대통령 등 모습을 구현해 영상 축사를 선보였다.”

“부작용도 발생하고 있다. 정치인을 대상으로 한 딥페이크 콘텐츠에 대한 우려의 목소리가 커지고 있다. AI 기술이 발전하면서 진짜인지 가짜인지 구별하기가 힘들어지고, 인신공격과 가짜뉴스 확산 등 위험성이 증가하고 있다. 이처럼 명과 암이 존재하는 AI 시대. 이재명 대통령은 국제사회에 AI 기술사용에 대한 책임을 강조했다.”

겨울방주의 논평

네 그렇습니다. ChatGPT는 만능열쇠가 아닙니다. 저 역시 시민의회를 주장하는 사람들의 답변에 대해 반론을 제기하기 위해 AI답변을 내놓은 적이 있었습니다. 왜 그랬을까요? 혹시 시민의회를 주장하는 사람들이 AI답변을 판별할 수 있는지 아닌지 한번 보고 싶은 마음도 있었고, 입법부가 있고, 공론장도 충분히 있기에 이를 충분히 활용해도 되겠고, 지금 우리나라의 안보상황에서 시민의회가 가능할지 의문도 들어서 AI의 반론을 내놓았지만, 돌아오는 답은 책이나 똑바로 읽고 비판하라는 답변만 돌아왔습니다. 그래서 저는 더 이상 토론하지 않겠다고 선언하기도 했습니다. 각설하고, AI가 도출한 답변을 내 주기 전에 하나 틀린 부분을 발견했습니다. 헌법조항입니다. 그 부분에 오류가 생겨서 저는 헌법을 찾아보고 수정해야 했습니다. 그렇습니다. 생성형 AI는 유사한 답변을 그럴듯하게 내놓으려는 성향이 있기에 환각현상이 발생합니다. 이를 잘 캐치하지 못하면 망신을 당할 수 있습니다. 사실 시민의회에 대해 제가 걱정하는 것도 혹여 추첨으로 뽑힌 누군가가 AI가 도출한 답변을 아무 검증 없이 받아들이고 주장할 경우, 또 그것으로 인해 왜곡된 숙의결과가 나오면 어떻게 될까 하는 우려도 들었습니다. 진짜 생성형 AI가 내놓은 결과물은 직접 검증해야 합니다. 오죽하면 코파일럿에도 ‘코파일럿은 실수할 수 있습니다’라고 써놨을까요? 게다가 검증 안된 답을 갖고 먹지 말아야 할 약을 함부로 복용하다 큰 피해를 입은 사람의 사례와 비자를 준비 안 해서 입국을 못한 사람의 사례도 있으니 참고해 보시기를 바랍니다.

한국남부발전과 한국산업단지공단은 산업·에너지 분야 AI 기술 고도화와 데이터 공동 활용을 통한 디지털 혁신을 추진하기 위한 MOU를 체결하면서 각각 보유한 산업단지·발전소 운영 DB를 상호 공유·결합해 에너지 효율성 제고, 탄소 저감, 신사업 발굴 등 정책·산업적 가치로 창출하기로 계획했습니다. 이들도 기후위기에 대한 대처를 하기로 마음먹은 듯합니다. AI는 환경과 함께 가야 합니다.

정치권에도 AI 광풍이 불고 있습니다. 특히나 김대중, 노무현을 AI로 구현해 냈는데, 부작용이 만만찮다는 지적도 있습니다. 딥페이크 문제입니다. AI 딥페이크 기술로 국민들을 속이는 문제가 발생할 수 있습니다. 몇 년 전, 어느 특정 정치인의 목소리를 AI로 학습시킨 뒤 이를 통해 조작된 녹취파일을 하나 만들어서 해당인물을 정치적으로 제거하려고 시도했다는 이야기가 유튜브를 통해 돌았습니다. 더군다나 저는 AI를 배울 때 미국 정치인의 얼굴을 딴 딥페이크 영상을 직접 본 일이 있는데, 사실과 구분이 안 갑니다. 진짜 이재명 대통령의 말대로 명과 암이 존재하는 AI 시대에는, AI 기술사용에 대한 국제사회의 책임이 요구됩니다. AI를 잘못 활용하면, 민주주의에 대한 심각한 위협으로 다가올 것입니다. 디지털, AI 리터러시가 정말로 필요하다고 봅니다.