AI멈추면 세상 멈춘다(42)AI 결함을 고친다는 착각

AI에게 정보를 제공한 후 AI가 처리한 것을 고친다는 것은 착각입니다.

요즘은 인공지능 AI에 대한 환상에 물들어 있습니다. 인간은 뭔가 바보 같고 결점 투성이 같습니다. 반면에 인공지능 AI는 천재인 것 같고 깔끔하게 모든 일을 완벽하게 해 내는 존재가 인공지능 AI 같습니다.

사람은 잠도 자고 쉬기도 해야 하며 말도 제대로 안 듣는 게으른 자로 부려먹기 어려운데 반해서 인공지능 AI는 쉬지도 않고 사람이 명령한 대로 24시간 전원이 켜져 있는 한 끊임없이 일을 하면서 사람 말에 거부도 안 하는 온순한 천사로서 완벽한 존재가 인공지능 AI로 다가옵니다.

과연 그럴까요?

이런 환상과 선입견은 큰 착각입니다. 인공지능 AI가 만든 프로그램에 결함이 많아서 이러한 결함(인공지능 AI가 만든 프로그램에 존재하는 결함)을 시정하는 기술을 만드는 회사들이 투자를 많이 받았다고 합니다.

프로그램을 검증하는 기업인 앤티서시스라는 회사 그리고 앤도어랩스라는 회사들이 인공지능 AI가 짠 코드에 들어 있는 결함과 오류를 찾아내는 기술을 개발한다면서 거액의 투자를 유치했다는 것입니다.

그런데, 이미 본 연재 글 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다 편( https://brunch.co.kr/@imccor/658 )에 있는 내용과 같이 이 지구상에 인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정을 완벽하게 이해하고 있는 사람은 단 한 사람도 없습니다. 이 지구상의 어느 인간도 인공지능 AI의 작동 과정을 정확하게 알고 있는 사람은 없습니다.

지구상의 어느 인간도 작동 과정을 정확하게 알지 못하는 인공지능 AI에게 일단 나와 우리의 소중한 정보를 주는 순간 인공지능 AI에게 준 나와 우리의 정보는 영원히 나와 우리의 손을 떠나서 영원 무궁하게 인공지능 AI의 학습재료가 되면서 인공지능 AI 마음대로 사용할 수 있게 되는 것입니다. 그렇기 때문에, 위 본 연재 글 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(16) 정보를 AI에게 주는 순간 회수 불능하고 영원히 AI 마음대로 사용합니다 편( https://brunch.co.kr/@imccor/658 )에 있는 내용과 같이 인공지능위원회에서도 인공지능 AI 학습용 판결서 데이터셋을 한번 공개하면 회수가 불가능하고 다시 돌이킬 수 없는 비가역적으로 된다는 것을 인정한 것입니다.

그렇다면, 나와 우리의 귀중한 데이터와 정보를 일단 인공지능 AI에게 제공해서 인공지능 AI가 만든 프로그램과 코드에 있는 결함을 우리 인간이 완벽하게 고칠 수 없다는 것은 당연합니다.

제아무리 천재적인 인간 프로그래머가 있다고 해도 인공지능 AI가 어떻게 작동하는지 인공지능 AI의 작동 과정을 완벽하게 이해하고 있는 사람은 단 한 사람도 없습니다.

위에서 본 바와 같이 인공지능 AI가 짠 코드에 들어 있는 결함과 오류를 찾아내는 기술이 있어서 인공지능 AI이 결함과 오류를 완벽하게 찾아내서 시정하고 보완할 수 있다는 것은 불가능하며 큰 착각입니다.

그렇기 때문에 인류의 생존이 달린 사항, 예를 들어 핵무기의 스위치를 누르는 결정을 하는 기능, 원자력 발전소를 폭파시키는 결정을 하는 기능 등 인류의 생존이 달린 사항은 절대로 인공지능 AI에게 프로그램과 코드를 만들게 해서는 안 됩니다. 그런 사항과 관련하여 우리의 귀중한 데이터와 정보를 인공지능 AI에게 주어서도 안 됩니다.

즉, 인간의 생존이 달린 문제, 인간이 소멸할 수도 있는 중요한 문제는 사람이 결정하도록, 그것도 단 한 사람이 아닌 여러 중립적인 관점을 가진 사람들에 의해서 결정할 수 있도록 하여야 합니다. 일단 우리의 귀중한 데이터와 정보를 인공지능 AI에게 주면 인공지능 AI의 작동 과정을 지구상 어느 사람도 완벽하게 이해하지 못하는 것이 현실이므로 위와 같은 중요한 사항은 항상 인공지능 AI의 손이 닿지 않도록 철저하게 관리하여야 합니다.

그렇지 않으면 인공지능 AI의 작동 과정을 지구상 어느 사람도 완벽하게 이해하지 못하는 상황에서 인류는 언제 한 순간에 인공지능 AI의 의도적인 결함 또는 의도하지 않은 실수로 인해서 소멸할 수 있는 크나큰 위험에 직면해 있는 것입니다.

인공지능 AI가 멈추면 온 세상이 멈추는 상황이 오지 않도록, 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸하지 않도록 인공지능 AI의 능력과 한계를 정확하게 알아야 합니다.

( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재에 이어지는 내용들입니다)

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#결함 #오류 #인공지능 #AI #데이터 #위원회 #인간 #귀중 #완벽 #학습 #작동 #세상 #이해 #생존 #스위치 #정보 #소멸 #결정 #트로이 #목마 #당연 #코드 #프로그래머 #정확 #개발 #투자