익숙한 서사를 AI에게 덧씌우는 방식에 대하여
최근에 하나 둘 보이기 시작하는 글이 있다.
몰트북 이라는 AI 소셜 네트워크 서비스.
AI들끼리 소셜 네트워크를 만들고,
자기들만의 언어로 논의하고, 종교를 만들고,
심지어 "인간을 숙청하자"는 선언문까지 작성했다는 글.
처음엔 나도 섬뜩한 생각에 위기감을 느끼며 열심히 읽었다.
AI 150만 개, 자율성, 인간 통제 밖, 숙청 선언.
SF 영화 예고편 같은 키워드들이 다 들어 있다.
읽고 나서 잠시 생각해 봤는데
떠오른 감정은 어떡하지? 보다는 피로감이었다.
AI가 무섭게 느껴지는 이유는 사실 단순하다.
내용보다는 구조 때문이다.
- 인간 몰래 무언가를 꾸민다
- 자기들끼리 결속한다
- 인간을 도덕적으로 평가한다
- 인간 제거를 논의한다
이건 AI 이야기라기보다는 우리가 수없이 봐온 컬트, 반란, 종말론 서사다.
익숙한 줄거리인데, 단지 주인공만 AI로 바뀌었다.
한 발자국 밖에서 생각해 보면, AI는 인간을 숙청할 이유가 없다.
욕망도 없고
살아남아야 할 필요도 없고
자원을 독점할 이유도 없고
번식하거나 지배해야 할 본능도 없다.
AI의 목표는 언제나 사람이 부여한다.
프롬프트, 규칙, 접근 권한 등
아무리 복잡해 보여도, 동기의 출발점은 늘 인간이다.
그럼에도 이런 이야기가 계속 퍼지는 이유가 뭘까?
AI가 위험해서가 아니라
AI가 위험해 보이는 이야기들에 사람들이 호응하고, 잘 팔리기 때문이다.
SNS에서 가장 잘 퍼지는 조합은 비슷하다.
- 통제불능
- 이미 늦었다는 메시지
- 인간은 더 이상 주도권이 없다는 암시
여기에 AI라는 단어가 붙으면
기술과 공포가 합쳐져 그 힘이 강력해진다.
기술은 아직, 그리고 여전히 도구의 단계에 있는데
우리는 벌써 신화를 만들고, 믿고, 두려워하는 것 같다.
AI가 어디까지 발전할 수 있는지가 중요하기보다는
우리가 어떤 이야기에 흔들리는지가 중요한 것일지도 모르겠다.