AI의 AI자신 판단 금지AI멈추면 세상 멈춘다(66)

AI가 AI를 판단하게 되면 사람은 AI의 노예가 된다.

2025년 11월 독일에서 사람이 만든 데이터를 인공지능 AI가 함부로 사용할 수 없다는 결정이 나왔습니다. 독일 뮌헨지방법원은 인공지능 AI 회사인 OpenAI가 저작권 있는 노래 가사를 무단으로 학습하고 출력할 수 없다고 하면서 사람이 만든 데이터의 주인은 사람이고 데이터의 주인인 사람의 허락 없이 인공지능 AI가 무단으로 사람의 작품을 학습할 수 없다는 결정을 내렸습니다.

그런데, 위 독일의 결정에서 판단의 주체를 사람이 아닌 인공지능 AI로 하여금 하게 했다면 어떤 결정이 나왔을까요?

본 연재 글 중에서 https://brunch.co.kr/@imccor/646 , AI 멈추면 세상 멈춘다-AI 왜 트로이목마인가(10) , AI에게 평가를 잘해 달라는 비밀명령 사례 발견과 AI 신뢰성의 파괴의 내용으로 기재한 것과 같이 인공지능 AI가 중립적이고 공정한 결정을 할 것이라는 선입견과 달리 인공지능 AI에게 평가를 잘해 달라는 비밀명령문을 사용하는 것이 효과가 있어서 위 비밀명령문이 사람들 모르게 숨겨 있는 논문은 그렇지 않은 비밀명령문이 없는 논문에 비해서 더 우수한 평가를 받았다는 실제 사례가 위와 같이 여러 건 발견되었습니다.

그렇다면, 위 독일 결정의 사례에서 판단의 주체를 사람이 아닌 인공지능 AI가 맡았다면 어떻게 되었을까요?

인공지능 AI를 활용하여 데이터 무단 사용 여부를 기술적으로 확인하는 기술로 학습 소거 기술(machine unlearning) 또는 가입자 추론 공격(membership inference attack) 등이 있습니다.

그렇지만, 어떤 기술이든 인공지능 AI를 활용한 기술로 데이터 무단 사용 여부를 가리는 데에는 치명적인 약점이 있습니다.

위 독일 결정 사례에서 인공지능 AI를 활용한 기술로 데이터 무단 사용 여부를 가렸다면 아마도 결론이 뒤바뀌어서 인공지능 AI 회사가 노래 가사의 주인인 사람의 권리를 침해하지 않았다고 결정을 해서 인공지능 AI 회사는 데이터의 주인인 사람의 허락을 받지 않고도 마음대로 사람이 주인인 데이터를 주인인 사람의 허락 없이도 자유롭게 사용하여도 된다고 인공지능 AI 회사에게 유리한 결정을 내렸을 것입니다.

위와 같이 인공지능 AI 회사에게 유리한 결정이 내려졌다면 앞으로 사람은 인공지능 AI를 모시고 섬겨야 하는 인공지능 AI의 노예가 될 가능성이 높았을 것입니다.

다행스럽게도 위 사례에서 독일에서 판단의 주체는 인공지능 AI가 아닌 사람이었습니다. 그래서 인공지능 AI에게 편향된 인공지능 AI에게 유리한 결정을 방지할 수 있었고, 위와 같이 사람이 만든 데이터의 주인은 사람이라는 당연한 원칙이 재확인되어서 주인인 사람의 권리가 지켜질 수 있게 되었습니다.

우리가 만든 것을 무단 학습한 AI가 노예를 부활시키는 일이 발생하지 않도록 당장은 고생스럽더라도 우리 보통 사람이 뇌세포를 움직여서 스스로 독립적으로 생활하는 습관을 들여야 할 것입니다.

본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.

The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )

인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.

인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.

Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.

인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.

Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.

인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.

Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.

인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.

( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인공지능 #AI #독일 #학습 #사람 #정보 #인간 #기술 #결정 #세상 #정보 #무단 #주인 #약점 #작동 #데이터 #권리 #유리 #노예 #방지