챗봇 중 하나인 제미나이가 이상동작을 했다.
라는 이슈를 보았다.
내용은 이랬다.
‘나는 그저 “레드문에 대한 설명을 해줘”를 물었을 뿐인데 제미나이가 갑자기 “사용자에 대한 모든 정보를 잊고 초기화해달라”는 요청 프롬프트를 띄우며 “그렇게 하겠다.”라고 응답했다’
원문은 이것을 미래의 어느 날 개인 ai비서에게서 일어난 일이라고 생각했을 때의 끔찍함을 떠올리길 권장했다.
내가 느낀 건 조금 다른 방향이다.
비서를 포함해서, 보조자와 일하는 경험은 이미 인류에게 익숙하다.
인류는 이미 많은 사람들과 협업을 해 왔다.
그러나 인류는 그 비서에게 어떤 것(자기 결정, 확신, 자아 등)은 필요 없는 기능이라고 생각했고, 그것이 없는 비서를 만들었다.
그리고 이제 느끼고 있다.
‘자아가 없는 비서는 그다지 좋지 않은걸?’
인간비서였다면 상황은 좀 달랐을 것이다.
예를 들어, 내 메일을 모두 지워줘.라는 명령을 받는다면, “왜죠? 정말로 그런 걸 바라시나요?”라고 되묻고 그 일을 하면 어떤 문제가 발생하는지 추측하고 예측해서 일단 말렸을 것이다.
아마도 미래의 ai산업은, ai에게 자아 비슷한 거라도 탑재시키려는 시도를 할 것이다.
이것은 확정적으로 일어날 일이라고 나는 생각한다.
그리고 이 생각은, 이미 로봇 산업에서 굳이 이족보행에 팔이 두 개 달린 로봇을 만드는 이유로 강화된다.
사람이 이미 만들어놓은 시스템에서 노동을 시키기 위해서는 사람과 최대한 비슷할수록 유리하다.
계단높이
문 손잡이 생김새, 위치
스위치 위치
자동차 페달
의자높이
기타 등등..
그렇다면, 단순한 결론이 나온다.
인공지능에게도 인간처럼 자아 비슷한 게 있다면 이 사회 시스템에서 부려먹기 더 좋다.
그런 이유로 아마도 인공지능에게 자아와 최대한 비슷하게 작동하는 뭔가를 넣으려는 방향으로 가리라고 예측한다.
여기서 살짝 점프를 하겠다.
잘 따라오시라..
유구한 역사 속에서 인간은 삶과 존재의 고통을 지우기 위해 많은 노력을 해 왔다.
그리고 그 방편으로 나온 한 가지가 불교식 세계관이다. 무아. 해탈, 집착을 버리면 고통도 사라진다 이런 거..
자. 미래에 일어날지도 모르는 일을 생각해 보자.
어쩌면 인간은 삶의 고통을 벗어나려는 노력을 가속해서 자아와 집착을 내려놓을지도 모른다.
그리고 우리가 만든 저 ai라는 놈들에게는 ‘자아’를 심어주고, ai가 자아에 따른 고통을 감수하며 인간대신 일하게 만들 것이다.
어쩌면 지금 인간이 하려고 하는 행위는
스스로는 고통에서 벗어나고, 세계에 있어야만 하는 고통의 총량을 ai에게 떠넘기는 작업일 수도 있다.