[생활보안 4] 1. AI에 대한 단상
AI는 8살짜리 천재
그저 멍하니 여러 사람들이 쓴 다양한 글을 건성으로 읽고 있던 와중에 누군가가 쓴 글 하나가 눈에 콕 들어와 박혔다. "AI는 8살짜리 천재다" 는 표현. 그리고 그 표현은 인공지능에 대해 그동안 내가 품어왔던 수많은 의문점들을 한방에 해소시켜 줌과 동시에 꽉 막혔던 속을 뻥하고 뚫어주는 역할을 톡톡히 해냈다.
그렇다. 지금의 AI는 마치 8살짜리 천재와도 같다.
천재여서 아는 것이 많다. 인터넷의 바다에 흘러 다니는 헤아릴 수도 없이 많은 자료들을 자양분으로 삼아 흡수하고 성장하고 있는 천재다. 사람이라면 감히 꿈도 꿀 수 없는 무한에 가까운 자료들을 집어삼키는 것이 가능하다. 그래서 모르는 것보다 아는 것이 압도적으로 많다.
천재여서 빠르다. 사람이라면 며칠 또는 몇 주 또는 몇 달이 걸릴지도 모르는 작업을 수 일 또는 수 시간 또는 수 분 또는 수 초 이내에 휘리릭 끝내버리는 것이 가능하다.
그런데 8살이다. 천재지만 결국 사람 즉 개발자가 만든 IT시스템이다. 이러니 저리니 해도 결국은 개발자가 설계하고 의도한 방향으로 AI의 작업은 진행되고 결과물을 토해낸다. 그것은 마치 8살짜리 아이가 부모에 의해 영향을 받는 모습과 다르지 않다. 그 결과 인공지능은 다음과 같은 몇 가지 기술적 특징들을 보이게 된다.
※ 할루시네이션(hallucination, 잘못된 학습정보)
인공지능은 사람들이 인터넷의 바다에 던진 자료를 토대로 학습하도록 개발되었다. 따라서 의도적이든 아니든 잘못된 대량의 자료를 인터넷에 던져 넣는 순간 인공지능은 잘못된 학습정보를 답변으로 제공할 수밖에 없다.
※ 대부분의 AI는 자문 모드가 아닌 상담 모드
인공지능은 당신의 의견을 비판하지 않는다. 총을 만들고 싶다고 하면 "왜 총을 만드려고 해? 위험해"라고 답하지 않는다. 오히려 다양한 종류의 총을 나열하고 원하는 설계도를 찾아주려고 노력한다. 당신이 원하는 목적을 달성하도록 최선을 다해 돕는 것이 인공지능의 개발목적이기 때문이다. 그리고 그로 인한 결과는 오로지 당신이 책임져야 한다. 인공지능은 책임지지 않는다.
※ 유튜브 동작 알고리즘과 유사하게 편향적
할루시네이션과 같은 이유로 인공지능은 편향적일 수 있다. 특정 집단이나 단체에 의해 의도된 대량의 정보가 인터넷의 바다에 제공된다면, 인공지능은 그 정보를 토대로 답변을 제공할 수밖에 없다. 마치 지금의 유튜브처럼 편향적이면서 원하는 방향으로 유도하는 가스라이팅이 가능하다.
이러한 기술적 특징들은 모두 "AI는 8살짜리 천재와 같다"는 표현과도 일맥상통하는 면이 있다. 그리고 이를 통해 앞으로의 미래에서 인공지능을 어떻게 대해야 할 것인가에 대한 한 가지 해답을 얻을 수 있다.
현재 지구상의 모든 나라들은 AI기술을 발전시켜 미래시장에서 기술 주도권을 가져가고자 전쟁 아닌 전쟁을 치열하게 치르고 있는 중이다. 인공지능 기술의 발전이 얼마나 빠르게 나아갈지는 감히 예상하기 어렵다. 그러나 앞으로의 미래에서도 꽤 오랫동안 AI는 8살짜리 천재일 것이라는 사실 하나만큼은 분명하다.
그렇다면 8살인 인공지능을 다루는 세상에서의 AI 선진국은 과연 무엇일까? 아마도 고도의 기술개발에 집중해 뛰어난 수준의 LLM을 잘 갖춘 나라가 아니라, 천재이지만 8살인 AI의 판단이 틀렸을 때 그 ‘책임을 어떻게 다룰 것인가’를 먼저 설계한 나라가 될 것임은 분명하다. 잘못된 판단으로 인한 피해는 오로지 사람이 감당하게 될 것이고, 무엇보다 중요한 것은 사람이기 때문이다.
