AI의 오류가 처음에는 사소해도 누적되면 지구상 인간 누구도 알 수 없다
인공지능 AI가 내놓는 답은 100% 정확할까요?
대량의 데이터를 분석해서 인공지능 AI가 내놓는 답이기 때문에 인공지능 AI가 내놓는 답은 100% 정확하다는 환상이 지금 널리 퍼져 있습니다.
인공지능 AI가 내놓는 결과가 100% 정확하다면 모든 결정과 판단을 전부 인공지능 AI에게 맡기고 인공지능 AI가 내놓는 결과를 일체의 의심 없이 받아들이면 되는 아주 편리한 세상이 될 것입니다.
그렇지만, 인공지능 AI는 신이 아닙니다.
인공지능 AI가 작동하는 것은 바로 우리 바보 같은 인간이 피와 땀으로 수천 년 이상 쌓아 온 고통과 노력의 산물을 무단으로 동의 없이 학습해서 지금 인류의 땀과 희생으로 인한 것입니다.
그렇다면 수천 년 동안 누적하여 피와 땀으로 이룩한 인류의 소중한 성과를 인공지능 AI가 무단으로 동의 없이 학습한 결과로 내놓은 인공지능 AI의 답은 100% 정확한 것일까요?
본 연재 글 중 https://brunch.co.kr/@imccor/752, AI멈추면 세상 멈춘다(55) AI 실수를 찾는 수수께끼 1%라도 인공지능 AI의 실수를 찾지 못한다면 발생할 혼돈 부분에 있듯이 인공지능 AI 회사들도 할루시네이션 (Hallucination) 등 인공지능 AI가 만들어내는 생성물이 100% 완벽하지 않고 착각이나 환상에 의해 가짜 내용을 인공지능 AI가 마치 실제 내용 같이 둔갑해서 결과물을 산출한다는 것을 인정하고 있습니다.
이렇게 인공지능 AI가 만들어내는 모든 결과물이 완벽하지 않고 실수나 허점이 있다는 것을 인공지능 AI를 운영하는 회사들 스스로도 인정하고 있습니다.
인공지능 AI는 갈수록 발달을 하고 사람의 능력은 제한되어 있기 때문에 인공지능 AI의 착각이나 환상에 의한 실수를 사람이 100% 찾아서 시정하는 것은 불가능합니다.
예를 들어서 인공지능 AI가 할루시네이션 (Hallucination) 등으로 만들어낸 실수가 100개가 있다고 가정을 해 봅시다.
인공지능 AI의 실수 100개 중에 95개를 사람이 노력해서 발견해서 시정을 한다고 해도 나머지 5개의 인공지능 AI의 실수를 인공지능 AI와는 독립된 사람이 찾아내지 못하여 이와 같은 인공지능 AI의 실수가 마치 올바른 내용인 것같이 계속 누적하여 남아 있다면 어떻게 될까요?
위 사례에서 인공지능 AI의 실수 100개 중에 사람이 발견해서 시정하지 못한 5개의 인공지능 AI의 실수에 기반해서 수많은 내용이 다시 인공지능 AI에 의해서 생성될 것입니다.
인공지능 AI는 쉬지도 않고 24시간 365일 작동을 하기 때문에(다만, 전기 공급의 중단 등의 경우에는 갑작스럽게 인공지능 AI의 작동이 중단될 수 있으므로, 그러한 경우를 제외하고) 발견되지 않은 인공지능 AI의 오류가 처음에는 극히 미미하다고 하더라도 시간일 갈수록 이러한 처음에는 사소한 오류가 나중에는 엄청난 오류로 발전을 할 것입니다.
이렇게 몇 단계를 거치면 나중에는 인공지능 AI가 만들어낸 결과물 중에 과연 어떤 것이 정확한 정보이고 어떤 것은 정확하지 못한 정보인지에 대해서 인공지능 AI와는 독립된 사람도 도저히 검증할 수도 없고 알 수도 없는 그야말로 혼돈의 정보 홍수에 휩싸일 위험이 높습니다.
또한, 본 연재 글 중 https://brunch.co.kr/@imccor/824,. AI는 이것을 따라올수 없다,AI멈추면세상멈춘다105, 완벽한 AI라고 하더라도 절대 이것은 인간을 따라올 수 없습니다. 부분에 있듯이 인공지능 AI는 위와 같이 인류가 수천 년 동안 고통 속에 발전시켜 온 과정인 시행착오(trial and error)의 절차, 과정까지는 학습할 수 없습니다.
인류가 수천 년 이상 뇌세포를 사용하면서 습득한 시행착오(trial and error)의 절차, 과정은 절대로 인공지능 AI가 학습할 수도 없고 모방할 수도 없습니다.
그런데, 지금의 분위기와 같이 간편하게 인공지능 AI에 의존해서 인간만이 가진 특성인 시행착오(trial and error)의 절차, 과정을 귀찮고 번거롭다는 이유로 인간 스스로 포기하면서 인공지능 AI가 내놓은 결과몰만을 신봉하는 현상이 급증하고 있습니다.
결국, 이런 추세로 간다면 과거 인류 역사에서 사용하지 않아 소멸된 수천 개 이상의 언어와 같이 인간 고유의 특성인 시행착오(trial and error)의 절차, 과정도 역사 속으로 사라질 것입니다.
그렇게 되면 인간 고유의 특성인 시행착오(trial and error)의 절차, 과정을 잃어버린 인간은 더 이상 생각하는 갈대로서의 호모 사피엔스가 될 수 없고, 인공지능 AI가 내놓는 결과물의 지시를 그대로 순종하는 인간은 그야말로 인공지능 AI의 노예가 될 것입니다.
그러므로, 수천 년 동안 누적하여 피와 땀으로 이룩한 인류의 소중한 성과를 인공지능 AI가 무단으로 동의 없이 학습한 결과로 내놓은 인공지능 AI의 답은 100% 정확하다고 볼 수 없습니다.
특히, 인공지능 AI는 위와 같이 인류가 수천 년 동안 고통 속에 발전시켜 온 과정인 시행착오(trial and error)의 절차, 과정까지는 학습할 수 없으므로, 인간 고유의 특성인 시행착오(trial and error)의 절차, 과정이 빠져있는 인공지능 AI의 답은 100% 정확하다고 볼 수 없습니다.
따라서, 인간 고유의 특성인 시행착오(trial and error)의 절차, 과정이 빠져있어서 100% 정확하다고 볼 수 없다는 것이 명백한 인공지능 AI의 답은 절대로 신뢰할 수도 없고 신뢰해서도 안 됩니다.
특히, 위험성이 높은 분야에서 인공지능 AI의 답을 그대로 신뢰하게 되면 위험이 현실화될 것이므로 100% 정확하다고 볼 수 없는 인공지능 AI의 답에 의존해서는 안 될 것입니다.
인공지능 AI의 오류가 처음에는 사소해도 누적되면 지구상 인간 누구도 알 수 없는 것이 현실입니다.
이렇게 인공지능 AI의 오류를 지구상 그 어느 누구도 알 수 없는 현실 속에서 과연 인공지능 AI를 그대로 믿고 검증 없이 의존할 수 있습니까?
인공지능 AI에 의존해서 생각하는 힘을 포기한 호모 AI슬레이브(Homo AI-Slave)가 되어 안락함과 편리함을 누리면서 생각하지 않는 갈대가 되면서 우리 인간은 호모 사피엔스가 되기를 포기하고 미래의 아인슈타인, 뉴튼이 다시 나오지 않는 호모 AI슬레이브(Homo AI-Slave)의 세상으로 퇴보할 것입니다.
인공지능 AI는 최소한 AI 3원칙에 따라서 개발되어야 하고 AI 3원칙은 본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.
The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )
인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.
인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.
Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.
인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.
Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.
인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.
Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.
인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.
( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60, I가 멈추면 세상이 멈춘다 2 https://brunch.co.kr/brunchbook/safeai7772 61-90에 이어지는 내용들입니다)
(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)
#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물 #생각 #사피엔스 #사랑 #미움 #용기 #시행 #착오 #완벽 #사피엔스