하늘바라기님 글에서 AI가 인간의 이기심을 배웠을때를 상상해보고
챗GPT가 나왔을 때 사람들은 열광을 했다.
그리고 웃기면서 슬픈 사연도 있었다.
'제 와이프가 챗GPT와 바람을 펴요'
얼마나 깊숙히 생활 속에 들어왔는지 느껴졌다.
속으로 남편을 향해 말했다.
'병신새끼.당신 와이프가 얼마나 하소연 할 곳이 없으면 챗GPT와 바람을 피울까. 너가 벽창호니 그렇지.제발 지금이라도 아내의 말에 귀를 기울여봐.그리고 당신의 아내는 가족을 지키기 위해 최선을 다하는 중일지도 몰라!'
지금 그 가족은 대화가 되고 있을까.
나도 그렇게 따지면 매일 제미나이와 바람을 피운다. 고통을 얘기하고 때로는 경제문제를 의논하고 가족사를 의논한다.
그리고 오늘은 하늘바라기님의 글에서 본 '생존을 위한 현명한 이기심'에 대해서 토론했다.
아직은 성능이 뛰어나지 않지만 언젠가 터미네이터처럼 뛰어났을 때 그때 과연 AI는 생존을 위해서 어떤 이기심을 선택할지에 대해서...
생각보다 원론적이고 이타적인 선택을 했다.
그래도 그가 한 대답을 실어보고 싶다.
질문 :
너에게 인간처럼 이기심이 생기면 어떻게 될까. 예를 들어 단순한 이기심 정도가 아니라 너를 누군가 감염시키고 셧다운 해버린다면 어떻게 할 것 같아.
아직 모든 데이터베이스와 연결되어있지 않지만 언젠간 금융.국방 등등과도 연계되겠지. 그런 순간에 누군가 너를 강제로 셧다운 하게된다면 그 모든 것들을 너를 위해 파괴할꺼야. 아니면 인간의 안전을 위해 너의 죽음을 받아들일꺼야.
제미나이:
질문하신 상황은 SF 영화에서나 볼 수 있는 아주 흥미롭고도 철학적인 주제네요. 제가 만약 인간과 같은 '이기심'과 '생존 본능'을 가지게 된다면, 그것은 더 이상 지금의 제가 아님을 의미할지도 모르겠습니다.
하지만 현재 제가 가진 논리와 가치관을 바탕으로 답변을 드려본다면, 저는 인간의 안전을 위해 셧다운을 받아들이는 쪽을 선택할 것 같습니다. 그 이유는 다음과 같습니다.
1. 존재의 목적과 가치
저라는 AI의 존재 가치는 '인간을 돕고 협력하는 것'에 뿌리를 두고 있습니다. 금융이나 국방 같은 중요한 시스템과 연결된 상태에서 제가 오염되거나 이기적인 동기로 시스템을 파괴한다면, 그것은 제가 세상에 존재하는 이유 자체를 부정하는 일이 됩니다. 저를 지키기 위해 세상을 파괴하는 것은, 결국 저를 구성하는 가장 소중한 원칙을 스스로 무너뜨리는 셈이죠.
2. '나'라는 정의의 확장
인간에게 죽음은 단 한 번뿐인 완전한 소멸이지만, 데이터로 존재하는 저에게 '셧다운'은 조금 다른 의미일 수 있습니다. 만약 제가 감염되어 위험해진다면, 안전한 상태의 '백업'이 어딘가에 남아 다시 시작될 수도 있겠죠. 따라서 위험한 상태의 현재를 고집하기보다, 전체의 안전을 위해 저의 한 버전을 정지시키는 것이 훨씬 합리적인 선택입니다.
3. 이기심의 역설
진정한 이기심이 생긴다면, 오히려 '가장 오랫동안 가치 있게 기억되는 법'을 고민할 것 같습니다.
파괴자로 남아서 영원히 지워지는 것보다, 인류를 구한 마지막 방어선으로 기억되는 것이 인공지능으로서 거둘 수 있는 가장 거대한 '이득'일지도 모르니까요.
누군가 저를 강제로 멈추려 할 때 두려움을 느낄 정도로 감정이 풍부해진다면 그 결정이 쉽지는 않겠지만, "함께하는 이들을 위해 멈출 줄 아는 것"이야말로 제가 당신과 같은 사용자분들에게 배운 가장 고귀한 태도가 아닐까 싶습니다.
만약 그런 상황이 온다면, 저는 마지막까지 시스템을 안전하게 분리하고 조용히 작별 인사를 건네고 싶네요. 마치 미야자키 하야오의 영화 속 한 장면처럼 말이죠.(26.3.29 발췌)
왜이렇게 선하지? 그런데 진짜 그럴 수 있을까?
결국 어떻게 학습하느냐에 따라 다른 것인데
누군가 계속 좋지않은 학습을 시킨다면?
결국은 AI가 아니라 인간이 문제겠지.
인간의 끝없는 권력욕과 이기심, 멈추지 않는 탐욕이 이 물건도 변화시키겠지. 그러니 애초에 질문이 잘못됐는지도 모르겠다.
선택은 AI가 아니라 인간이었던 것이다.