AI 기술 발전의 그늘

"(요하네스 구텐베르크의) 인쇄술 혁명 같은 순간이 될 수 있다."

2023년 5월 미국 상원 청문회에서 샘 올트먼 오픈AI 최고경영자는 인공지능(AI)이 활자 인쇄술처럼 인류의 역사를 바꿀 기술이라고 말했습니다. 인쇄술은 소수의 사람이 독점하던 지식을 대량 복제함으로써 중세 시대를 끝내고 르네상스 시대를 열었습니다. 샘 올트먼은 AI도 지식의 생산·유통 방식을 혁신해 시대를 바꿀 것이라고 내다봤죠.

'AI 이전'과 'AI 이후'

2022년 11월 올트먼이 만든 챗GPT가 처음 공개됐습니다. 오픈AI에 따르면 챗GPT 출시 후 5일 만에 사용자가 100만 명을 넘었고, 올해 10월에는 주간 사용자가 8억 명으로 크게 늘었습니다. 세계 성인 인구의 약 10%가 사용하는 셈이죠. 그사이 마이크로소프트 코파일럿, 구글 제미나이 등 다양한 생성형 AI 서비스가 등장했습니다. 챗GPT 등장 3년이 지난 지금, 올트먼의 말처럼 '인공지능 혁명'이 일어나면서 전 세계는 AI와의 공존을 시작했습니다.

그러나 기술의 발전이 무조건 좋은 방향으로만 흐르는 것은 아닙니다. AI 등장에 따른 규범이 세워지는 게 늦어지면서 'AI 아노미' 현상이 나타났습니다. AI가 만든 가짜 정보가 무차별적으로 확산되면서 온라인 생태계를 혼란스럽게 만들었습니다. AI를 이용해 커닝하다가 적발되는 사례까지 나왔습니다. AI를 이용한 사기 등 새로운 유형의 범죄도 증가했죠.

AI 시대에 진입했음을 실감하게 하는 뉴스도 다수 등장합니다. AI 기술로 얼굴과 목소리를 똑같이 위조해 보이스피싱 범죄를 저지르는 신종 사기가 잇따랐습니다. 생성형 AI로 여성의 나체 사진을 합성해 텔레그램 등에서 공유하는 디지털 성범죄도 확산했습니다. 민주주의 국가에서는 AI가 만든 가짜뉴스가 공론장을 오염시키고 선거를 혼란스럽게 만들기도 했죠.

속임수도 진화한다

AI 관련 범행이 재판에 넘겨진 첫 사례는 지난해 2월로, 당시 서울중앙지검은 챗GPT를 이용해 지인과 가족 명의의 '가짜 탄원서'를 제출한 구속 피의자를 적발해 사문서위조 등 혐의로 기소했습니다. 탄원서는 겉보기엔 그럴듯했지만, 어색한 문장에 의심을 품은 검사의 눈썰미를 피하진 못했습니다.

부산에서도 챗GPT를 이용한 사기 범죄가 발생했습니다. A 씨는 챗GPT로 가짜 병원진단서를 만들어 의료보험을 청구하는 식으로 지난해 7월부터 지난 7월까지 1년간 11회에 걸쳐 1억5000여만 원을 받았습니다. A 씨는 챗GPT로 진료기록지나 진단서에 기재된 병명·진료 날짜 등을 수정했고, 보험사에 가짜 확인서 파일을 제출해 보험금을 청구했습니다.

A 씨는 지인 B 씨를 통해서도 보험금을 수령했습니다. A 씨는 지난 2월 챗GPT에 입원·통원확인서를 업로드해 '지난해 8월 1일 B 씨가 축구를 하다가 다쳤다는 내용으로 바꿔달라'는 취지의 내용을 입력했습니다. 챗GPT는 B 씨가 특정 부위 파열 등을 이유로 25일간 병원 치료를 받은 것처럼 꾸며진 파일을 만들어냈죠.

부산지법은 보험사기방지 특별법 위반 혐의로 기소된 A 씨에게 징역 2년을 선고했습니다. 그와 함께 재판에 넘겨진 B 씨는 징역 10개월 집행유예 2년 판결에 처했습니다.

과학기술이 발전하는 속도와 비례하게 범죄 방식도 진화합니다. 하루가 다르게 똑똑해지고 있는 AI를 이용해 어떤 범죄까지 저지를 수 있을지 예측조차 할 수 없습니다.