앗, 인공지능 보이스 피싱이라니..

사진 출처 TheScienceTimes

이럴 줄 알았다.

“딱 아들 소리였는데…” AI 목소리로 속이는 보이스피싱

영국 더 타임스가 인공지능(AI)의 보이스 피싱 사례를 보도했다.

그 기사를 3월 7일 국민일보가 인용한 기사 제목이다.

캐나다에 사는 어느 부모가 변호사의 전화를 받았다.

아들이 교통사고로 미국인 외교관을 숨지게 했다고 한다.

변호사는 부모에게 아들의 목소리를 들려줬다.

약 2,000만 원을 송금했는데 보이스 피싱이다.

어떻게 아들의 목소리를 재현했을까?

답은 영특한 AI 알고리즘을 이용했다.

음성 사서함 메시지만으로도 AI는 목소리를 복사한다.

30~35초 정도의 목소리면 충분하다.

온라인에 무료 프로그램이 많다고 한다.

앗, 이럴 수가.

벌써 인공지능 보이스 피싱이 출현했다.

우려하던 일이 터졌다.

좋은 기술을 나쁜 데 이용하는 사람이 문제다.

인공지능과 0과 1의 세상

인공지능은 어떻게 학습할까?

인공지능이 학습한다는 것은 자료를 읽는다는 뜻이다.

그렇다고 인간처럼 활자를 읽는 것이 아니다.

0과 1로 변환된 데이터를 읽는다.

아무리 많은 자료라도 금방 읽어 낸다.

음성, 그림, 책 등 모든 자료는 0과 1의 조합이다.

같은 단어나 문장은 0과 1의 조합이 같다.

인공지능은 같은 조합은 같은 것인 줄 알아챈다.

수백만 권의 활자 책도 0과 1로 바뀐다.

그걸 USB 같은 매체에 저장한다.

초고능성 컴퓨터 칩과 프로그램은 이 자료를 쉽게 읽는다.

놀라운 것은 인공지능은 학습에만 그치지 않는다.

읽고 이해하고 새로운 걸 만든다.

기존의 자료를 바탕으로 새로운 콘텐츠를 생성한다.

이것이 생성형 인공지능의 탁월한 능력이다.

사람 목소리도 0과 1로 인식한다.

소리는 진동이고 아날로그 신호다.

각각의 소리가 갖는 파동을 디지털 정보로 바꾼다.

아날로그 소리가 0과 1의 조합이 변환된다.

그걸 읽고 이해하고 새로운 것을 만드는 것이 인공지능이다.

이렇게 해서 새로운 음악이 만들어진다.

인공지능이 만든 새로운 0과 1의 조합을 뜻한다.

이것을 사운드 칩을 통해 음악과 소리로 재생한다.

시리(Siri)와 AI 스피커 알렉사가 이렇게 하고 있다.

정리하면 이런 이야기다.

목소리를 0과 1의 코드로 변환한다.

인공지능은 0과 1을 학습한다.

이것을 복사하거나 재생한다.

이렇게 보이스 피싱이 가능해진다.

앞으로 낯선 사람과 전화 통화도 염려된다.

상대가 내 목소리를 녹음할 수 있다.

그가 나쁜 마음을 먹고 인공지능에 내 목소리를 들려준다면?

그다음에 일어날 문제를 상상하기조차 싫다.