AI가 쓴 학술논문에 대하여

미국 스탠퍼드 대학 연구에 의하면 2020년 1월부터 2024년 2월까지 게재된 논문 95만965편을 분석한 결과 거대언어모델(LLM)을 사용한 논문의 수가 빠르게 늘어나고 있다. 특히 컴퓨터과학 분야에서 AI가 사용된 것으로 추정되는 논문의 비율은 2021년 1월 약 2.5%에서 17.5%로 급증한 것으로 나타났다. 

AI는 학술논문을 잘 써주기 때문에 연구자 입장에서는 유혹에서 벗어나기 쉽지 않다. 그러나 잘못된 정보를 그대로 논문에 쓸 수도 있는 만큼, 과학계의 신뢰성에 타격을 줄 수 있다. 이에 대해 과학저널의 대응도 본격화되었다.「네이처」와「사이언스」는 AI의 저자 자격을 인정하지 않는다.「네이처」는 연구 방법 등 항목에 AI 도구를 사용했다는 점을 명시해야 한다고 규정했다.「사이언스」는 기계는 연구를 위한 도구일 뿐이라며 비슷한 원칙을 정했다. 연구를 위하여 통계 분석이나 자료 수집에 AI를 활용하는 것은 허용하지만, 이를 명시하고 그 결과물을 사람이 직접 확인해야 한다는 것이다. 

생성형 AI가 학계의 문제가 되고 있다. 학술 논문에 AI가 만들어낸 텍스트와 이미지가 무분별하게 사용됐다가 적발되는 경우가 늘고 있다. 생성형 AI에 데이터를 넣어 손쉽게 논문을 작성하고, 그 결과물을 별다른 검증 없이 발표하는 사례가 잇따른다.

「사이언스」는 2023년 여름부터 AI 이미지 분석 도구인 프루픽(Proofig)을 시험 사용한 결과 문제가 있는 이미지를 논문 게재 이전에 탐지할 수 있음을 확인하였다. 2024년부터는 인공지능을 이용해 연구 논문의 이미지 조작 등을 걸러내기로 했다. AI 이미지 분석 도구인 프루픽(Proofig)을「사이언스」계열 6개 전 매체에서 활용한다. 이제 자동화된 점검 대상을 이미지로 넓히게 됐다. 프루픽은 논문 속 이미지를 분석해 이미지 복제나 이미지 회전, 이미지 접합, 배율 왜곡 등 비정상적인 점을 가려낸다. 그러면 논문 에디터가 프루픽 분석 결과를 살펴보고 문제가 되는지를 판단, 문제가 되는 것으로 보일 경우 논문 저자에게 해명을 요청한다. 저자가 납득할 만한 답변을 하고 문제점을 수정할 경우 논문을 다시 평가하지만, 답변이 만족스럽지 않거나 추가적인 우려가 제기될 경우 논문 게재 거부 등 절차를 밟게 된다. 이미 게재된 논문의 이미지 관련 우려가 제기될 경우 의심받는 이미지를 프루픽을 써서 자세히 살펴보고 수정 또는 게재 철회 등을 결정하게 된다. 이미지 변조를 대량으로 신속하게 잡아내서 인간의 실수 가능성이 줄어들고 논문 평가 절차가 개선될 것으로 기대된다.