음성/화상 기술 뉴스 #9 : 2023-10-30

Product Manager가 시장을 이해하기 위해 발행하는 글

음성/화상 관련 뉴스

‘당신의 전화’ 외부서버에 남는다?…AI 통화요약 좋기만 할까

편리함은 양날의 검이다. 보안에 대한 우려가 커지고 있다. 필자가 볼 때 가장 우려되는 상황은 상대방은 녹음 중임을 인지하지 못하는 상황이 문제일 듯하다. 영국의 드라마 '블랙미러' 시즌 1에서 3번째 에피소드인 '당신의 모든 순간'(스포 주의)이 떠오른다. 드라마는 어떤 미래의 모습을 그렸는데 모든 일상이 다 Recording 되는 세상의 이야기이다. 생체 인식이 된 상태에서 녹화된 내용을 보여줄 수도 쉽게 볼 수도 있다. 여기에서 발생하는 문제에 대한 화두를 던진다. 

이번 에이닷의 녹음 기능을 통해서 내가 통화하는 상대방이 녹음할 수 도 있다는 것을 인지하는 순간 모든 대화는 조금 톤이 변경될 것 같다는 생각도 들었다. 

오병일 진보네트워크센터 대표는 “통화내용 분석을 위해 데이터가 제3자인 에스케이텔레콤으로 잠깐 보내지는데, 통화 상대방의 동의를 받지 않은 점, 통화 내용에 제3자의 개인정보가 섞여있을 수 있다는 점 등은 문제가 될 수 있다”고 짚었다.

게임 분야 공들이는 하이브…AI 음성 생성 기술 선보여

게임 캐릭터 목소리를 Blend 해서 실시간 대화를 할 수 있다는 부분이 눈길을 끈다. Input은 텍스트일까? 게이머의 마이크에서 나오는 목소리 일까가 궁금한 부분이다. 게임하면서 타이핑을 하면서 플레이하기보다는 음성 대화로 협동 플레이를 하는 게 일반적이니 나의 목소리를 기반으로 변환을 할 것으로 보인다. 단순하게 나의 음성을 변조하는 것이 아니라 게임 내 캐릭터의 목소리를 입혀준다는 것이 포인트다. 음성 커뮤니케이션이다 보니 지연시간 최소화도 들고 나왔다. 

슈퍼톤의 '프로젝트시프트'

다른 부분에서 생각이 드는 것은 전문 성우들의 역할을 축소하는 게 아닐까도 싶었다. 많은 게임에서 성우들의 대사 더빙은 존재해 왔다. 슈퍼톤의 '프로젝트 스크린플레이'를 이용하면 성우 고용 없이 게임 내 음성을 생성해 낼 수 있다는 뜻으로 해석된다. 초기 성우들의 음성뭉치가 필요할 것이고, 재창작에 대한 계약 권리를 확보된다면 성우 활용의 필요성이 급격하게 낮아질 수도 있을 듯하다. 

슈퍼톤의 '스크린플레이'

슈퍼톤과 같이 음성 생성 AI를 활용한 사례는 검색해 보면 쉽게 찾아볼 수 있고, 문제점도 존재한다. 동의 없이 만들었거나 재창작으로 성적 묘사가 들어간 성인 모드 제작에 활용이 되면 문제는 심각해진다. 

‘갓 오브 워 라그나로크’, ‘파이널판타지7 리메이크’에서 연기한 성우 안나 브리스빈(Anna Brisbi)도 “AI를 위해 내 목소리를 학습시키는 것을 허가하지 않는다. 내 목소리는 내 것이고, 모드 제작자에겐 그것을 베껴서 사용할 권한이 없다.”라고 강조했다. 

기술의 발전과 더불어 AI 개발, 활용에 대한 윤리도 동반하여 성장해야 한다.