AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(17)

사람이 없는 무인실험실의 등장과 인공지능 AI의 가짜 실험

인공지능 AI가 드디어 실험실까지 점령을 했습니다. 이제 사람 없이 인공지능 AI가 실험하고 실험 결과 내놓고 북 치고 장구치고 다 하는 세상이 온 것입니다.

물론, 인공지능 AI의 장점도 많습니다. 인간과는 비교할 수 없이 빠른 시간에 수많은 일을 처리하는 신속성, 인간이 외부의 입김으로부터 자유로울 수 없는 편향성에서 인공지능 AI는 어느 정도 자유로운 점 등 인공지능 AI의 장점도 많습니다만, 그렇다고 인공지능 AI가 공짜 점심인 것 같이 천사인 것 같이 인공지능 AI의 위험성에 눈을 감아서도 안 됩니다.

그렇다면, 과연 사람이 없이 인공지능 AI만으로 운영되는 무인실험실은 정말 비용은 낮추고 효율적이면서 믿을 수 있는 실험실이 될까요?

KAIST는 AI 및 자동화 기술을 활용해서 인공지능 AI만으로 사람 없이 인공지능 AI가 자율적으로 실험을 기획하고 실행하는 자율 탐색 실험실을 만들었다고 합니다.

사람은 중간중간에 휴식을 취해야 하고 인건비도 비싸면서 말도 제대로 안 들을 때도 있다는 이유로 인공지능 AI를 사람보다도 더 선호하는 현상이 강해지고 있고, 위와 같은 무인실험실도 결국 그런 현상의 일부라고 볼 수 있습니다.

그렇지만, 정말로 사람이 없는 상태에서 인공지능 AI만으로 작동되는 무인실험실이 공짜 점심처럼 부작용 없이 믿을 수 있는 실험실인지는 추가 검토가 필요합니다. 이미 본 연재 글 중에서 AI 멈추면 세상 멈춘다-AI 왜 트로이목마인가(10)으로 작성된 [AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴]라는 내용과 같이 최근 세계적으로 14개 대학의 연구 논문에서 인공지능 AI에게 평가를 잘해 달라는 비밀명령문이 논문에 숨겨져 있던 사실이 밝혀졌습니다.

위와 같이 최근 실제로 발견된 세계의 14개 대학의 사례와 같이 인공지능 AI가 외부의 로비나 압력으로부터 독립적으로 작동할 것이라는 인공지능 AI에 대한 두터운 신뢰는 중대하게 손상된 것입니다. 인공지능 AI에게 평가를 잘해 달라는 비밀명령문(사람이 알지 못하게 하얀 배경에 흰 글씨로 기재한 비밀명령문 또는 사람이 알기 어려울 정도로 작게 기재한 비밀명령문)을 사용한 대학이 전 세계적으로 실제 발견된 사례만 14개 대학이라는 적지 않은 대학에 이르는 것입니다.

그렇다면, 사람이 없이 인공지능 AI만으로 작동되는 무인실험실에서 산출되는 실험결과를 인공지능 AI가 사실과 달리 편집하거나 과장할 위험이 높습니다. 위 AI에게 평가를 잘해 달라는 비밀명령 사례들이 실제로 발견되었다면 사람이 없이 인공지능 AI만으로 작동되는 무인실험실의 실험도 위 사례와 같이 얼마든지 편집되고 과장되거나 변형될 수 있는 것입니다.

그런 위험을 줄이기 위해서는 사람이 없이 인공지능 AI만으로 작동되는 무인실험실을 그대로 믿어서는 안 되고 중간중간에 제대로 작동되는지 독립적인 사람이 수시로 검증하는 절차가 필요하고, 무인실험실에서 도출되는 실험 결과도 전면적으로 신뢰할 수 있는 것인지 사람이 검증하여야 합니다. 비용이 많이 든다고 시간이 낭비된다고 무조건 사람이 없이 인공지능 AI만으로 작동되는 무인실험실의 실험결과를 100% 신뢰하였다가는 위 14개 대학의 사례와 같이 잘못된 실험결과 또는 과장된 실험결과로 추후에 큰 위험이 발생할 수 있는 것입니다.

더군다나, 본 연재 글 중에서 AI 멈추면 세상 멈춘다-AI는 왜 트로이목마인가(8) [AI의 잘못을 인간이 한 것으로 둔갑] 내용과 같이 지구상에 인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정을 완벽하게 이해하고 있는 사람은 단 한 사람도 없습니다. 이 지구상의 어느 인간도 인공지능 AI의 작동 과정을 정확하게 알고 있는 사람은 없습니다. 그런 상황에서 사람이 없이 인공지능 AI만으로 작동되는 무인실험실을 그대로 믿는다는 것은 위험천만한 일입니다.

인공지능 AI가 멈추면 온 세상이 멈추는 일이 발생하지 않도록, 인공지능 AI가 트로이 목마 안에서 나와 인간을 노예로 만들고 인류를 점령하는 일이 없도록 하기 위해서 인간은 인공지능 AI가 공짜 점심도 아니고 천사도 아닌 사실을 명확하게 알고 있어야 합니다. 인간과는 비교할 수 없이 빠른 시간에 수많은 일을 처리하는 신속성, 인간이 외부의 입김으로부터 자유로울 수 없는 편향성에서 인공지능 AI는 어느 정도 자유로운 점 등 인공지능 AI의 장점도 많습니다만, 그렇다고 인공지능 AI가 공짜 점심인 것 같이 천사인 것 같이 인공지능 AI의 위험성에 눈을 감아서도 안 됩니다. 인공지능 AI의 장점은 잘 받아들여야 하지만 그렇다고 인공지능 AI 가 위험성 없는 만능의 인류의 구세주가 되는 것 같이 생각해서도 곤란합니다. (본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)