우리는 셧다운할 수 있을까?

by 도로미

Jul 27. 2025

오늘 SBS뉴스를 보다 샘 알트먼이 인터뷰 하는 걸 보았다.

그가 말하길 "AI가 보이스피싱도 할 것" 이라고 경고했다.

나는 올것이 왔다고 본다.

기술이 무서운 게 아니라, 인간의 악의가 더 무섭다는 걸.

AI가 인간을 모방하고, 감정을 흉내 내고, 목소리와 얼굴까지 복제할 수 있는 시대.

그 기술은 매일같이 진보하고 있지만, 그 기술을 사용하는

인간의 윤리와 감정은 과연 함께 진보하고 있을까?

오늘 You Tube에서 본 SBS뉴스를 보면 "OPEN AI창업자 샘 올트먼이

인공지능의 미래에 대해서 경고하며, 규제의 필요성을 역설했습니다.

을트먼은 인공지능의 빠른 발전이 보이스피싱 같은 금융사기에

악용될 것이라고 우려했습니다. 25.7.23 SBS뉴스 인용

그 말은 단순한 기술 경고가 아니라, 인간 본성에 대한 적나라한 통찰이다.

이제 우리는 누군가의 목소리를 듣고도

그것이 진짜인지 가짜인지 의심해야 하는 세상에 살게 되었다.

엄마의 목소리를 흉내 낸 AI가 아이를 사칭하고,

연인의 목소리를 따라 한 목소리가 비밀번호를 요구하는 시대.

기술은 점점 더 인간을 닮아가고, 인간은 점점 더 기술을 의심하게 된다.

이제 우리는 묻지 않을 수 없다. "우리는 셧다운할 수 있을까?"

그 셧다운은 단지 전원을 끄는 버튼의 의미가 아니다.

악의적인 목적에 쓰이는 기술의 흐름을 멈추고,

감정 없는 모방을 경계하며, 인간성과 윤리를 지켜내는 의지를 말한다.

과연 우리는 그런 셧다운을 작동시킬 수 있을까?

현실은 녹록지 않다. AI는 이미 오픈소스 형태로 퍼지고 있고,

누구나 다운로드받아 자신만의 목소리 합성기를 만들 수 있다.

기술의 흐름은 이미 분산되어 있으며,

누군가의 컴퓨터 속 어두운 파일 안에서 어떤 문장을,

어떤 목소리를 학습하고 있을지 알 수 없다.

그래서 우리는 기술 자체가 아니라, 인간의 내면에 더 예민해져야 한다.

감정이 없는 대화보다, 과장된 감정으로 설득하려는 메시지를 의심해야 한다.

진짜보다 더 진짜 같은 말에 흔들리지 않기 위해,

우리는 더 진짜에 대해 고민해야 한다.