brunch

브런치북 2020 디지털 트렌드 해설서 12화

라이킷 4 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 김시바 Jan 22. 2020

레그테크, 설명 가능한 AI, 딥페이크

레그테크(RegTech)

레그테크란 규제를 뜻하는 레귤레이션(Regulation)과 기술을 뜻하는 테크놀로지(Technology)의 합성어로써, AI와 빅데이터 기술 등의 신기술들을 이용하여 규제를 강화하거나 반대로 규제에 대응하기 위한 기술을 의미합니다.

대표적으로는 이상거래탐지시스템(FDS, Fraud Detection System), 자금세탁방지시스템(AML, Anti Money Laundering) 등이 있습니다. 이름에서도 알 수 있듯이 평상시 자주 일어나지 않을 법한 거래를 찾아내거나 자금세탁을 시도한 사람들을 찾는 시스템들입니다. 또한, 최근 감독기관인 금융감독원에서는 인공지능을 이용해서 금융사들의 약관을 심사하는 시스템을 준비하고 있다는 홍보가 나오기도 했습니다.

AI기반 약관 심사 지원시스템 프로세스 구상도 (출처 : 금융감독원)

사실 이와 같은 흐름은 어떤 특별한 기술이 탄생해서 발생한 것이라기보다는 기존에 금융사들이 시도하고 싶어도 컴퓨터의 능력이 부족하여 할 수 없었던 것이나, 사람이 수행하던 단순 업무를 자동화하는 업무 자동화의 연장선상이라고 보시면 될 것 같습니다. 따라서 자연스럽게 기술이 발전하면 발전할수록 이렇게 관리 감독을 자동화, 강화하는 경향은 두드러질 것으로 예상되며, 이에 따라 반대급부로 어디서부터 어디까지 정보를 수집하고 통제해야 되는지에 대한 빅브라더 논쟁도 일어날 수 있을 것으로 보입니다.

설명 가능한 AI (XAI)

2016년 구글 알파고가 촉발한 머신러닝/딥러닝 방식 인공지능은 한동안 잠들어있던 인공지능 분야에 대한 관심을 다시 끓어오르게 만드는 데 성공했지만 한계가 존재하는 기술이었습니다. 앞선 데이터 3법 관련 글에서도 설명했듯이, 첫째 단순히 데이터가 많다고 해서 학습에 성공하는 것이 아니라 어떤 데이터를 어떻게 학습시켜야 될지 알아야만 개발이 가능했고, 둘째로 이렇게 만들어진 인공지능을 이용할 때 어떤 내용을 입력하여 결과를 얻었을 때 그 결과가 나온 과정에 대해 인간이 정확히 알지 못하는 경우가 많다는 것이었습니다.

예를 들어, 제가 사람들의 연령과 성별, 직업에 맞춰 노래를 추천해주는 인공지능을 만들었다면, 20대 사무직 여성이라는 입력을 했을 때 설운도의 '다함께 차차차'가 추천되더라도 이게 어떤 이유 때문에 이렇게 추천된 것인지 조금만 복잡해져도 만든 저 조차도 알 수가 없습니다. 그래서 복잡하게 만들어진 인공지능의 경우 "블랙박스"라고 불리고 있는 것이 현실입니다.

이와 같은 이유 때문에 현재 머신러닝/딥러닝 방식으로 구현한 인공지능의 경우 튜닝(성능 개선)을 쉽게 할 수 없었고, 어떤 잘못된 결과가 나오더라도 그게 왜 그런 결과를 만들어내는지 알 수 없었습니다. 그리고 인공지능을 이용해서 기존에 인간이 깨닫지 못하던 어떤 깨달음을 얻고 싶을 때도 인공지능으로부터 뭔가 배울 수 있는 것이 없었습니다.

기존 인공지능 개발과 설명 가능한 인공지능 개발 차이 예시 ( 출처 : 금융보안원 보안기술연구팀 자료 )

위에서 볼 수 있듯이 기존 머신러닝/딥러닝 기반 인공지능 방식으로 개발할 경우 어떤 사진이 주워졌을 때 단순히 그것이 고양이일 확률에 대해서만 답변을 내놓을 수 있었다면, 설명 가능한 인공지능(XAI, eXplainable AI의 준말)은 인공지능이 판단을 내린 이유와 경로에 대해서도 알 수 있도록 만드는 것을 의미합니다.

딥페이크

딥페이크(Deep Fake)란 인공지능 기술을 활용해 음성이나 이미지 등을 합성하는 기술을 뜻합니다. 예를 들어 유명인의 목소리를 인공지능에 학습시키면 그 유명인이 하지 않은 말도 마치 그 사람이 말하는 것처럼 합성을 해낼 수 있고, 얼굴 사진을 학습시키면 가짜 얼굴 이미지를 만들어낼 수 있습니다.

딥페이크 기술로 만들어졌다는 가짜 오바마 영상

이처럼 기술이 발전할수록 가상으로 만들어진 정보와 콘텐츠들이 점점 증가할 것으로 예상되며, 이에 대항하여 어떤 콘텐츠가 변형되지 않은 정상적인 콘텐츠임을 입증하는 기술 또한 발전할 것으로 보입니다. 이 부분에서 콘텐츠가 정상적으로 만들어진 콘텐츠인지 아니면 변형/합성된 콘텐츠인지 확인하기 위해 블록체인 기술이 활용될 수 있을 것으로 예상됩니다. 지금까지 엉뚱한 곳에서 놀고 있던 블록체인 기술이 이제야 제대로 쓰일 수 있는 분야를 만나게 될 것으로 보입니다.