[생활보안 4] 2. AI에 대한 단상(2)
AI는 사실 미지의 영역
5차 산업혁명을 주도하는 여러 가지 신기술들. 그중에서도 가장 앞장서고 있는 기술이 바로 인공지능, 즉 AI다. 온갖 미디어에서 AI 기술의 도입을 외치고 있는 세상을 우리는 맞이하고 있다. 바야흐로 '만물 AI화'의 시대가 바로 눈앞까지 다가온 것이다.
사실 우리가 AI에게 기대하는 것은 단순하다. 보고 싶은 거 찾아보고, 갖고 싶은 자료 가질 수 있고, 꼭 얻고 싶은 정보를 얻을 수 있는 것이다. 그것도 쉽고 용이하게 말이다. 대부분의 경우는 그것만으로도 충분하다. 하지만 모두가 간과하고 있는 것이 하나 있다. AI가 이렇게 해주기 위해서는 많은 정보를 보유해야 한다는 사실이다. 그것도 일반인이 생각하는 '많이'라는 개념의 범주를 아주 아주 많이 벗어난 수준의 많은 정보를 보유해야 한다.
그래서 AI는 괴물이 되어야 하고, 천재가 되어야만 했던 것이다. 사람들이 원하는 소원을 들어주는 램프의 요정 지니와 같은 초월적 능력을 발휘하려면 말이다.
최근 들어 자주 듣는 질문이 하나 있다. "AI 보안은 어떻게 해야 합니까?"라는 질문이 그것이다. 사실 개인적으로도 아주 궁금한 사안이기도 하다. 너도나도 AI를 말하는 세상이라면 당연히 AI에 대한 보안도 논의되는 것이 당연하다. 5차 산업혁명의 최일선에 위치한 신기술이라면 당연히 그에 대한 보안도 궁금하지 않겠는가.
하지만 아직까지 AI 보안은 어떻게 하느냐는 질문을 던진 분들에게 "이것이다"라는 시원한 답변을 하지 못하고 있다. 아직 AI라는 기술에 대한 이해가 많이 부족해서이기도 하고, 솔직하게 AI 보안을 어떻게 하면 좋을지 뚜렷한 그림을 그리지 못하고 있기 때문이기도 하다. AI라는 신기술이 우리기 익히 알고 있는 기존 보안의 개념을 접목할 수 있는 기술인지에 대한 확신이 없기도 하다.
사실 사람은 AI를 만들었으면서도 AI가 정확하게 어떻게 동작하는지를 모른다. 이 문제는 실제 AI를 개발하는 과정에서도 과학자들에 의해 제기되었던 문제이기도 하다. AI는 인간의 뇌의 동작원리를 그대로 모방하여 개발되었다. 개발에 사용된 기본 개념은 인간 뇌의 뉴런 그리고 뉴런사이를 연결하는 시냅스를 모방한 것이기 때문이다.
뉴런은 신경계를 구성하는 주요 세포로 감각뉴런은 척수와 뇌에게 신경흥분을 전달하고, 운동뉴런은 뇌나 척수에서 내린 명령을 근육이나 선조직으로 전달한다. 뉴런과 뉴런의 사이는 시냅스라는 구조를 통해 연결되어 있으며, 시냅스를 통해 신호를 주고받아 다양한 정보를 받아들이고 저장하는 기능을 한다.
그런데 인간은 아직까지도 우리 뇌의 동작원리를 모른다. 사람들이 기억하고 추론하는 과정에서 뉴런과 시냅스가 이용된다는 것만 알지 왜 그런 결과를 유추하게 됐는지에 대해서는 전혀 알지 못한다. 즉, 스스로도 운영과정을 이해하지 못하는 것을 그대로 구조만 차용하여 AI 개발에 이용한 것이다. 그래서 LLM(Large Language Model) AI들이 학습한 데이터를 통해 답변을 제시하는 과정에 대해 왜 그런 답변이 도출되었는지에 대해 개발한 과학자들도 답변하지 못한다.
인류가 스스로 불을 끄지 못하는 원자력을 이용함으로써 지금 그로 인한 온갖 문제와 위험에 직면한 것처럼, 어쩌면 AI라는 신기술도 인류가 스스로도 이해하지 못하는 기술을 개발하고 이용함으로써 그로 인한 미래의 온갖 문제와 위험을 스스로 자초한 것인지도 모른다.
다시 본론으로 돌아와서 AI 보안은 어떻게 하면 되냐고? 누가 답해줄 수 있겠는가. AI에 대한 나의 낮은 이해도로서는 감히 답하기 어려운 질문이다. 향후 AI로 인해 어떤 보안의 문제가 생겨날게 될지 누구도 답하지 못하는데 말이다.
적어도 나의 상식으로는, 잘 알지 못하는 미지의 영역에 대해 보안을 설계한다는 것은 어불성설이다.
