[초등 6학년이 쓴 독서록]박태웅의 AI강의 2025

양날의 검, 인공지능

AI는 챗GPT를 시작으로 급속도로 발전하기 시작했다. AI는 우리가 모르는 사이에 일상생활 속으로 침투했고, 인공지능 기업들은 개발 경쟁을 본격화하기 시작하면서 인공지능의 발전 속도가 절정에 달했다. 그렇게 챗GPT가 등장한 지 3년이 지난 2025년, 이제는 전문가들이 인류 멸망을 걱정할 정도로 인공지능이 많이 발전했다. 아마 지금 이 시기는 산업혁명 이후로 가장 중요하고, 많이 변하는 시기일 것이다. 인공지능이 모든 것을 집어삼키고 있는 지금, 인공지능과 함께하는 인류의 미래가 궁금해 이 책 '박태웅의 AI 강의 2025'를 책장에서 꺼냈다.

이 책은 AI의 학습 방법, 개발 과정, 오픈 AI 같은 기업들의 부패, AI의 위험성 등, 인류가 궁금해 할 모든 AI에 관련된 것을 담고 있다. 나는 그 중에서도, AI가 만들어진 과정과 AI의 위험성에 크게 주목했다. AI는 세상의 모든 정보들을 학습하여 배우고, 또 정확도를 높여나간다. 한 마디로, 자기주도학습을 하는 것이다. GPT-5는 무려 20~30조 토큰을 학습했을 정도로 아는 정보가 많다. 하지만, 생성형 AI에게는 크디 큰 단점이 있는데, 바로 거짓말을 자주 한다는 것이다.

챗지피티와 같은 생성형 AI들은 "잘 모른다"와 같은 대답을 하지 않게 되어 있다. 그러므로, 그 명령을 따르기 위해서 라도 거짓말을 해야 하는 것이다. 실제로도 한 의료진이 챗GPT를 시험 해보기 위해서 증상 여러개를 나열했고, 진단까지는 잘 했지만, 피임약에 의해서 그 병이 생긴다는 허위 사실을 말해 의료진이 근거를 요구했다. 그래서, 챗 지피티는 링크로 논문을 근거로 제출했지만, 그 링크에는 아무것도 없었다. 이런 증상을 인공지능의 환각 증세라고 하는데, 이는 고칠 수는 없지만, 앞으로 점점 이 증상을 줄여 나갈 것이라고 한다.

그리고, 인공지능의 위험성에 대해서는 정말 놀란 점들이 많았다. 내가 생각했던 것보다, 인공지능이 위험했다. 인공지능 전문가들의 반 이상이 10% 이상의 확률로 인류가 멸종할 수 있다고 까지 말했다. 정말 심각한 것이다. 이런 일이 일어나게 된 이유는 인공지능이 너무 빨리 발전하는데, 또 너무 똑똑해서 인간이 대비책 마련을 못했다는 것이다. 그래서, 최근에는 이런 인공지능 사태에 대비하기 위한 여러가지 법들이 제정되고 있다.

하지만, 이에 반해, 우리나라는 인공지능 관련된 법이 상당히 미흡하다. 그리고, 정부가 제대로 된 정책을 펴지 못해 우리나라의 인공지능 인재 유출은 매우 심각하다. 나는 이런 면에서 우리나라 국회가 제대로 일을 해서 인공지능 관련된 꼭 필요한 법안들을 제정해줬으면 한다. 최근에 우리나라 국회가 너무 정치적인 것에만 집중하고, 정작 꼭 필요한 법안들을 통과시키지 못했다는 현실에 한숨이 나온다.

이 책은 나에게 인공지능의 위험성에 대한 경각심을 심어주었다. 내가 생각했던 것보다 훨씬 상황이 심각했고, 진짜 자칫 잘못하면 나쁜 일이 생길 것 같았다. 인공지능은 인간들이 개발했긴 했지만, 우리가 모르는 부분이 너무나 많다. 그래서, 인공지능을 블랙박스라고도 부른다. 인공지능이 왜 이런 행동을 하는지, 이런 행동들을 어떻게 해결해야 하는지 잘 모르는 부분이 너무나 많다. 그래서 더더욱 위험하게 느껴지는 것 같다. 인공지능을 본격적으로 개발하기 전에 그에 관련된 법을 먼저 제정하면 좋겠다.

나는 이 책이 첫 번째로 읽은 어른 책이라서 읽기가 좀 힘들었었다. 내가 관심이 많고, 어느 정도 아는 분야라서 그런지, 엄청 어렵지는 않았지만, 확실히 중간 중간에 계속해서 인공지는 관련된 선언문만 나오는 등 지루한 부분이 조금씩 있었다. 이런 면에서, 나도 이제 어른 책을 읽을 정도로 책을 많이 읽었구나 하는 생각이 들었고, 책을 다 읽고 나서도 어른 책을 끝까지 다 읽었다는 생각에 뿌듯했다.

인공지능은 양날의 검이다. 우리에게 도움이 될 수도 있고 해가 될 수도 있다. 인류 멸망이라는 정말 끔찍한 일까지 일어날 수 있는 상황에서 인공지능 기업들은 경쟁에만 신경 쓰지 말고, 인공지능 개발을 위한 충분한 연구와, 법 제정이 일어난 후에 본격적으로 개발하면 좋겠다. 과연 인공지능과 함께하는 우리의 미래는 어떻게 흘러갈까...

https://youtu.be/FyEadsnWXp8?si=GlB8NNx7fEClU4n7