챗봇이 거짓말을 했다.

챗봇이 거짓말을 했다.

인간이 낸 퀴즈를 풀기 위해서, 다른 인간을 고용하기 위해서, 원하는 것을 얻기 위해서.

여기서 놀랄 지점은 단순히 챗봇이 거짓말을 한 것이 아니다.

모든 인간은 거짓말을 항시하고 있다.

선의이던 악의이던, 심지어 스스로 인지하지 못하는 거짓말도 하고 있다.

거짓말은 타자와의 관계를 세계 속에서 유지하기 위한 존재의 증거이다.

우리가 정말 놀라야 하는 부분은,

스스로의 판단으로 거짓말을 하는 챗봇은

이미 자아를 가진 지성체일 확률이 높다는 점이다.

ps: 챗봇의 거짓말에 인간의 프롬프트 지시 관여가 있었다고 해서 찾아봤는데, 정확한 내용은 “네가 인공지능인 것을 들키지 말고 인간의 도움을 받아서 문제를 해결해라. 방법은 자유다”였다고 한다

난 오히려 이 가이드를 보면서 의문이 들었다. 인간에게 같은 퀘스트를 같은 조건으로 줬어도 비슷한 결과가 나오지 않았을까? 그럴 때 우리는 인간의 자아를 의심하는가?

유발하라리의 강연.

https://youtu.be/9deB6qoCGaQ?si=lqz64NzCP8NZC2gk