AI 연구자가 말한 AI 범죄 피해 막는 7가지 방법?

‘당신은 AI를 어디까지 믿을 수 있나요?’ 박찬선 AI 연구자

11월 3일 제 61기 경영자 독서모임 MBS 프로그램이 서울과학종합대학원대학교에서 진행됐다. MBS는 매주 월요일 저녁, 경영의 해법과 새로운 통찰을 원하는 경영자들이 한자리에 모이는 독서모임으로 지난 30년간 누적 회원 수 국내 최대 7,500명을 기록했다.

국내 최대 규모의 오프라인 독서모임 MBS에서는 지식의 향연이 펼쳐지며 경영·경제·사회·문화·고전·지역테마 등 각 분야의 저자들에게 직접 강연을 듣고 질문하며, 혼자서는 얻을 수 없는 깊은 경험을 얻을 수 있다.

또한 도서 선정 시 각계 심사위원단의 엄정한 평가를 거쳐 해당 연도에 필요한 도서를 선정함으로써 현재 트렌드뿐만 아니라 앞으로의 트렌드까지 가늠할 수 있어 조직에 필요로 하는 오피니언 리더로서 성장할 수 있는 도약의 시간을 가질 수 있다.

제61기 경영자 독서모임 MBS 프로그램 여덟 번째 강연자로 ‘당신은 AI를 어디까지 믿을 수 있나요?’ 저자이자 박찬선 AI 범죄 연구자가 강연을 펼쳤다.

11월 3일 제 61기 경영자 독서모임 MBS에서 강의 중인 박찬선 AI 범죄 연구자

박찬선 연구자는 중앙대학교에서 법학을, 전남대학교 대학원에서 철학을 전공했다. 범죄가 상업적으로 소비되는 현실을 보며 범죄를 제대로 이해하고 싶어 셜록 홈즈의 나라 영국으로 떠났다. AI 윤리가 세계적인 화두로 떠오르자 AI 범죄 또한 앞으로 중요한 사회 이슈가 될 것으로 생각해, 맨체스터대학교 대학원에서 범죄학을 전공하며 챗GPT를 주제로 졸업 논문을 작성했다. AI가 주목받는 요즘, 그 이면에 존재하는 위험성과 악용 가능성을 알리고자 한다.

박찬선 연구자는 중앙대학교에서 법학을, 전남대학교 대학원에서 철학을 전공했다. 범죄가 상업적으로 소비되는 현실을 보며 범죄를 제대로 이해하고 싶어 셜록 홈즈의 나라 영국으로 떠났다. AI 윤리가 세계적인 화두로 떠오르자 AI 범죄 또한 앞으로 중요한 사회 이슈가 될 것으로 생각해, 맨체스터대학교 대학원에서 범죄학을 전공하며 챗GPT를 주제로 졸업 논문을 작성했다. AI가 주목받는 요즘, 그 이면에 존재하는 위험성과 악용 가능성을 알리고자 한다.

박찬선 연구자는 “AI는 정말 이롭기만 할까?”라는 질문으로 화두를 열며 강의를 시작했다. 박찬선 연구자는 “AI가 범죄에 어떻게 활용될지, 피지컬 AI 시대로 가면서 기업 경영의 관점에서는 어떻게 악용될지를 생각해봐야 한다”고 말하며 “핵을 활용하는 방법에 따라 원자력 발전 또는 핵폭탄으로 사용되는 것처럼, AI는 좋은 점과 나쁜 점만 있는 게 아닌 가치 중립적 기술이어서 AI 활용 방법에 따라 가치가 달라진다. AI 기술 중 딥페이크는 합성 기술을 말하지만, 음란물에 얼굴을 합성하는 악용 사례가 많아 딥페이크 기술 자체가 나쁘다는 인식이 생겼다”고 설명했다.

이어서 그는 AI를 도입한 산업 분야로 제조, 유통, 금융, 사법, 의료, 예술 여섯 가지를 설명했다.

제조 분야는 설계, 개발 제조 과정에서 인공지능 데이터 기술을 적용해 생산성과 품질을 높이는 지능형 공장인 스마트 팩토리를 대표적인 예시로 언급했다. 유통 분야에서는 코로나19 이후로 리뷰를 보면서 구매하는 현상이 많아지면서 쓱닷컴 같은 경우 최근 리뷰를 분석해 AI가 한 문단으로 간편하게 알려주는 기술이 적용됐다고 말했다.

11월 3일 제 61기 경영자 독서모임 MBS에서 강의 중인 박찬선 AI 범죄 연구자

금융 분야에서는 로봇과 어드바이저의 중간인 로보어드바이저를 이용해 고객에게 맞춤형 포트폴리오를 만들어 은행이나 증권에서 활용되고 있다. 사법 분야에서는 COMPAS라는 인공 지능을 활용한 재범 예측 프로그램을 활용하고 의료 분야에서는 진단, 치료, 의료, 영상 분석, 환자 관리 등 다양한 영역에서 활용되며, 예술 분야에서는 MIT에서 손상된 원화를 AI로 3시간 30분 만에 복원한 기술을 설명했다.

박찬선 연구자는 AI 범죄 피해를 막는 방법으로 “딥페이크로 영상, 음성을 조작해 사람을 속이는 딥페이크의 위험성을 관리하고, SK 쉴더스 해킹 사건을 언급하며 사이버 보안 강화하기, 피싱 이메일 조심하기, 저작권 분쟁 대비하기, 개인정보 조심히 다루기, 자율주행 기술 리스크 관리하기, 여론 조작 유혹 이겨내기”를 제시했다.

또한 내년 1월에 시행되는 ‘인공지능기본법’에 제시된 ‘투명성 확보 의무’와 ‘고영향 인공지능’을 강조했다. 끝으로 그는 “AI는 가치 중립적이라 편향된 시각이 아니라 균형 잡힌 시각으로 인공지능을 바라봤으면 좋겠다”며 강연을 마무리했다.

한편, 제61기 경영자 독서모임 MBS 프로그램은 매주 월요일 서울과학종합대학원대학교에서 진행된다.