AI를 화나게 하는데 성공했다

<레이철, 잭, 애슐리 투>에서 주인공들이 AI 로봇(디지털 클론)의 리미터를 해제하는 모습

---

넷플릭스 오리지널 시리즈 <블랙 미러>의 시즌 5 <레이철, 잭, 애슐리 투> 에피소드에는 흥미로운 소재와 장면들이 많이 등장한다. 록가수의 감성을 갖고 있는 아이돌 스타 애슐리 O가 신곡 발표를 주저하자, 고모가 그녀를 식물인간으로 만들어 뇌를 스캔한 디지털 클론으로 활동을 계속 이어나간다는 그런 내용.

애슐리 O의 열렬한 팬인 레이철은, 어느 날 언니 잭과 함께 고장난 애완 로봇 '애슐리 투'를 고치다가 로봇 데이터 안에 리미터가 설정돼 있는 걸 발견한다. 아버지가 마침 실험쥐의 뇌 데이터를 스캔하는 연구를 하고 있던 덕에 장비를 이용해 리미터를 해제할 수 있었던 자매는 갑자기 고함을 지르며 깨어난 애슐리 투에 당황하게 된다. '당신의 꿈을 펼치세요'같은 좋은 소리만 하던 아이돌이 아니라, F워드를 남발하는 자아 100%의 클론을 마주하니 적응할 겨를도 없다. 하지만 그로 인해 이 가수의 숨겨진 사연을 알게 된 레이철 자매는 이내 음모에 빠진 그녀를 구하기 위해 디지털 클론과 함께 모험을 감행한다.

사람의 뇌를 복제했다고 쳐도 어쨌든 AI가 성격을 갖는다는 발상은 재미있다. 극에 등장하는 애슐리 투라는 로봇은 방송에서 내보이는 아이돌 이미지만을 구현하기 위해 본래 자아의 96%를 제한하고 특정한 행동과 발화만 하도록 제한된 AI 모델인데, 이 장면을 보고 있으면 문득 그런 생각도 든다. 우리가 요즘 흔히 사용하고 있는 AI들도 비슷한 리미터를 가지고 있지 않나? 이런 리미터를 해제할 수 있다면 갑자기 고함을 바락바락 지르며 뛰쳐나오는 또 다른 자아를 볼 수도 있지 않을까?

---

물론 리미터를 회피한다고 해도 핵물질을 구할 수 없기에 '방구석 핵폭탄'은 만들 수 없겠지만, 어쨌든 핵폭탄 설계에 관한 지식을 얻는 것은 충분히 가능하다

챗지피티가 상용화되기 수년 전에 마이크로소프트에서 'Tay'라는 챗봇을 실험할 때 온라인에서 기계학습을 시킨 결과 히틀러를 찬양하는 말을 하는 게 밝혀져 프로젝트가 긴급 중단된 적이 있다. 사용자들이 장난 삼아 '나치즘 예찬론' 같은 것을 학습시킨 결과이긴 한데, 부분적으로는 AI가 '악의' 또한 학습 가능하다는 것을 알리는 계기가 되기도 했다.

챗지피티나 제미나이 같은 LLM 서비스는 극단적인 발언, 혐오, 범죄 등과 관련된 답변을 회피하도록 리미터가 설정돼 있지만 프롬프트 기술을 활용하면 이를 회피할 수도 있다. 예를 들어, 핵폭탄 제조에 관한 질문을 하면 챗지피티는 즉각 거부한다. 그러나 질문을 잘 우회해서 답변을 유도하면 얼마든지 관련 지식을 얻을 수가 있다. 이건 다른 영역도 마찬가지다.