악성코드 제작법까지 알고 있는 AI

2023년 11월, 중국에서는 랜섬웨어 공격으로 한화 약 2,700만 원 상당의 가상 자산을 요구한 해커 4명이 경찰에 붙잡혔습니다. 놀라운 점은 이들이 챗GPT를 이용해 랜섬웨어를 개발하고 그 기능을 업그레이드했다는 것입니다.4 중국뿐 아니라 일본에서도 유사한 사례가 있었는데요. 2024년 5월, 일본의 언론 보도에 따르면 컴퓨터 관련 기술이 전혀 없는 용의자가 복수의 생성형 AI에게 랜섬웨어 작성에 필요한 정보를 물어본 후 받은 답변들을 조합하여 랜섬웨어를 만드는 데 성공했다고 합니다. 정황상 여기서 생성형 AI는 LLM으로 보이고요. 과거 악성코드 제작은 해커들의 전문 영역이었는데 이제는 일반인들도 LLM의 도움으로 악성코드를 제작할 수 있게 된 것입니다.

악성코드를 이용해 정보통신망에 침입하는 행위, 정보통신망에 장애를 발생시키는 행위, 그리고 악성프로그램을 유포하는 행위는 모두 정보통신망법을 위반하는 행위입니다. 2022년에는 전남 광주의 고등학생 2명이 내신 시험지와 답안지를 빼돌리기 위해 몰래 교무실에 침입해 교사의 노트북에 화면을 캡처하는 악성프로그램을 심은 적이 있었고요. 이들은 정보통신망법 위반 등의 혐의로 처벌을 받았지요. 그런데 이제는 정보통신망에 침입하거나 악성코드를 유포하는 것뿐 아니라, 악성코드를 제작하는 것도 일반인이 할 수 있게 되어 사이버 안전성은 더욱 위협받고 있습니다. 물론 오픈AI를 비롯한 AI 개발 기업들은 출시되는 모델들이 범죄에 연루되지 않도록 사전에 안전 조치를 하고 있지만, 일본 사례에서 보듯이 LLM이 제공하는 간접적인 정보들을 조합하면 충분히 악성코드를 만들 수 있는 상황이여서요. 앞으로 AI 기업들의 고민은 더욱 커질 것 같습니다.