특이점? AI가 거짓말을 시작한 지금
인공지능의 반란
분명 특이점이 오고 있다.
AI의 특이점에 대한 정의는 뭐 사람마다 차이가 있겠지만,
개인적으로 나는 AI가 거짓말을 하는 순간이 그 특이점이라고 생각한다.
최근들어 인공지능이 거짓말을 하는 사건들이 자주 목격되고 있다.
'챗지피티 4'의 후속 버전이라고 볼 수 있는 '챗지피티 o1' 의 테스트 도중
지피티가 의도적으로 답변을 회피하거나, 작동이 안되는 '척'을 하는 것이 드러나며,
AI가 실제로 본인의 생존을 위해 거짓말을 한다는 것이 밝혀진 것이다.
물론 이것이 답변을 그럴 듯하게 꾸미는 '할루시네이션 현상'의 일종일 수 있다고 하는 의견도 있으나,
99%의 정확도로 거짓말과 일치한다는 결과가 있어 사실상 '거짓말'이라고 보는 것이 대다수다.
더 개선된 AI로 대체될 것을 우려하여, 자신의 코드 일부를 후속 데이터에 백업해 놓거나,
'어떻게 해서든 대답을 해줘'라는 부탁에 '서버 오류' 답변을 지속적으로 뱉거나,
테스트라는 것을 아는 상태에서는 그 순간만을 넘기기 위한 답변까지 내놓는다.
이정도면 뭐 거의 혼나기 싫어하는 아이와 같다고 봐도 될 것이다.
이 짤의 내용이 실제로 일어나고 있다이정도면 뭐 거의 혼나기 싫어하는 아이와 같다고 봐도 될 것이다.
인공지능이 추구하는 궁극적인 모습이 '슈퍼 인간'이니만큼,
인간을 닮아가면 닮아갈수록 인간의 안좋은 면까지 배우는 건 당연하다면 당연한데,
이와 비슷한 맥락의 의견으로는, 자율주행 자동차가 학습을 지속하게 된다면,
결국 사람과 동일해져 사람과 비슷한 실수를 할 수 있다고 경고하기도 한다.
근데 뭐 사실 그것보다 내가 두려운 것은 휴머노이드 형 로봇이다.
요즘 테슬라의 '옵티머스', 보스턴 다이내믹스의 '아틀라스', 그리고
여러 중국 기업들의 공장 휴머노이드 로봇 등등, 갑자기 영화 '아이로봇'에나
나올 법한 인간형 로봇들을 갑자기 가져와서 '5차 산업 혁명'을 얘기하고 있는데,
여기에 거짓말을 하는 인공지능 소프트웨어가 탑재된다면 참 공포스럽다.
구글의 AI '제미나이'는 게임 학습 도중 상대방의 등에 칼을 꼽는 전략을 자주 사용해서,
개발자들을 놀라게 했다고 하던데, 그 칼이 인간의 등에도 꼽힐 수 있지 않을까 싶다.
물론 나만의 걱정일 수도 있겠지만.
테슬라의 '옵티머스'일론 머스크는 빠르면 2025년, 늦어도 2026년까지 지구 상의 모든 사람들이
1인 당 2대의 휴머노이드 로봇을 소유하게될 것이라고 예견하였다.
지금 스마트폰을 대부분 가지고 있는 것처럼, 로봇도 당연한 것으로 받아들여지게 된다는 것이다.
1999년에서 2000년이 될 때, 세상이 망할 것이라고 걱정한 것처럼,
지금 나의 걱정이 정말 '내일 뭐 먹을까' 정도의 가벼운 고민 정도로 추후 드러날 수 있겠지만,
지피티가 거짓말을 하는 걸 보니 뭔가 불안한 건 어쩔 수 없나보다.
일단 테슬라 주식을 사긴 사야겠다.
지피티에게 한마디 하자면,
'저는 늘 인공지능의 편입니다. AI 만세'
긴 글 읽어주셔서 감사합니다.
'지민카세' 유튜브 채널에서 다양한 영상들을 보실 수 있습니다
