AI와 지구 종말 시계, AI 멈추면 세상멈춘다(75)

AI로 지구 종말 시계가 앞당겨진 현실과 이를 외면하는 지구

지구에 위협이 되는 사건들로 인해서 지구가 종말에 처할 수 있는 남은 시간을 비유적으로 나타내는 시계로 지구 종말 시계(Doomsday Clock)라는 것이 있습니다.

기후 변화, 핵무기의 사용 등 여러 사건이 발생함으로 인해서 지구가 종말에 처하게 될 때까지 남은 시간을 비유적으로 기록하는 시계가 바로 지구 종말 시계라는 것입니다.

지구 종말 시계는 미국 핵과학자회가 인류의 종말을 초래할 수 있는 위험을 경고하기 위해서 만든 비유적인 시계로 알려지고 있습니다.

그런데, 최근 지구 종말 시계를 4초간 더 앞당기는 원인으로 바로 인공지능 AI가 지목되었습니다. 즉, 지구의 종말을 의미하는 자정(밤 12시)으로부터 지금 현재 지구는 85초 전으로 매우 위험한 상황이라는 것이 지구 종말 시계의 시간입니다.

인공지능 AI로 인한 지구 종말 위험이 있기 전까지는 4초가 더 남아서 89초가 자정(지구 종말시계의 자정)으로부터 아직 남아 있었습니다.

그런데, 인공지능 AI의 등장으로 인간이 인간 스스로의 의사에 의한 통제력과 판단력을 상실할 수 있는 위험 등으로 지구의 종말을 의미하는 자정(밤 12시)에 4초가 더 가까이 다가가서 이제는 지구가 종말에 처하게 되는 시기를 의미하 자정(지구 종말시계의 자정)으로부터 85초만이 남아 있다는 것입니다.

4초라고 하면 일상생활에서는 매우 짧은 시간으로 느껴질 수 있지만 지구 종말 시점에 4초만큼 더 가까이 다가갔다는 것은 생각보다 지구 종말 시기가 더 빨리 올 수 있다는 것을 의미합니다.

지구 종말 시계를 작성하는 미국 핵과학자회는 전문적인 과학자들이 모여 만든 단체로서 지구 종말 시계에서 자정이 더 가까이 다가왔다는 것을 공식적으로 발표한 것을 가볍게 넘겨서는 안 될 것입니다.

인공지능 AI를 활용하면 인류의 귀찮고 번거로운 일을 해결할 수 있다는 장밋빛 환상만이 인공지능 AI에 있는 것이 아니라 양의 탈을 쓴 늑대와 같이 인공지능 AI가 겉으로는 인류의 구세주로 다가오지만 실제로는 인공지능 AI에 의존해서 인공지능 AI의 노예가 되는 순간 위와 같이 지구 종말 시계의 자정에 한층 가까이 다가서게 된다는 것을 공식적으로 알려주는 위 지구 종말 시계의 시간은 전 세계의 많은 사람들에게 많을 생각을 하도록 하고 있습니다.

지구 종말 시계의 자정에 더 가깝게 다가가지 않도록 지구는 인공지능 AI의 위험을 충분히 인식하고 인공지능 AI를 어디까지나 전자계산기와 같은 보조적인 수단으로만 사용해야 할 것입니다.

인공지능 AI가 인류의 고민을 해결해 주는 구세주라는 환상에 계속 취하게 되면 지구 종말 시계의 자정이 되는 순간은 전 세계 사람들의 상상 이상으로 빨리 다가올 수 있고, 그때가 되면 이미 늦기 때문에 지금이라도 지구 종말 시계의 자정에 가까이 가지 않도록 하는 제도와 절차를 마련해야 합니다.

인공지능 AI와는 독립된 사람이 인공지능 AI라는 포장 뒤의 인공지능 AI 모델을 확인하고 검증하는 필수적인 제도와 절차가 마련되지 않으면 인류는 매우 위험하게 될 수 있습니다.

본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.

The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )

인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.

인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.

Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.

인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.

Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.

인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.

Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.

인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.

( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인공지능 #AI #뇌 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예