brunch

매거진 Data Revolution

라이킷 17 댓글 2

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 김형복 May 15. 2022

✍ AI 시스템, 구슬이 서 말이라도 꿰어야 보배

결국, 고객이 있어야 사업이다

'우리 집에 금송아지 있다?'. CES, MWC, AI EXPO 등의 박람회를 참관하면 열정 넘치는 신생 기업들이 자사 제품을 홍보한다. 그야말로 AI 춘추전국시대가 도래했다. 의료, 농업, 교육, 공장 자동화 등 다양한 분야에 기업들이 AI를 도입하고 있다. 작년에는 못 봤던 기술 작년에는 못 봤던 기업들이 쏟아진다.

여기서 한 가지 궁금증이 자연스럽게 따라온다. 그렇다면 전에 봤던 그 많던 기업들은 다 어디로 갔을까? 우리는 창업 초기기업 생존율을 확인해 볼 필요가 있다. 조사에 따르면 신생 기업의 5년 차 생존율은 29.2%에 불과하다 [1]. 이마저도 폐업 신청을 하지 않았을 뿐 실제 사업을 영위하지 못하는 식물 상태의 기업들을 고려하면 그 수치는 더 적을 것으로 보인다. 6 연발 권총에 총알 5개를 채운 러시안룰렛 게임.

그렇다면 국내외 최고 수재들이 이끄는 혁신 기업들은 왜 시장에서 외면받을까?

그들의 혁신은 왜 고객들에게 매력적이지 못했던 것일까?

첫째, 혁신성 = 사업성?

우리가 쥐덫을 만든다고 생각해보자. AI로 박사 연구를 한 어떤 연구원은 AI 기술을 도입하여 쥐를 탐지/추적하는 혁신적인 시스템을 만들었다. 100만 원. 고객은 야속하게 답한다. 어쩌라고. 쥐덫은 쥐를 잘 잡는 것이 첫째, 저렴하면서 사용하기 편하면 된다. 필자는 아직 계란 프라이를 자동으로 뒤집어 주는 로봇 팔은 5천 원을 주고 구경은 할 수 있지만, 500만 원을 주고 구매할 생각은 없다. 고객이 정말 이 제품을 원하는지 먼저 확인하길 바란다.

유명한 실제 사례로는 배달의 민족은 사업 초기에 고객이 주문 요청을 하면 사람 담당자가 대신 배달 주문 전화를 해주었다고 한다. 명함관리 및 채용 설루션으로 유명한 리멤버는 사업 초기 사람 담당자가 일일이 명함 사진을 보고 이름과 정보를 직접 타이핑했다고 한다. AI 시스템 개발을 위해, 데이터 셋을 만들고, AI 모델을 개발하는 비용을 투입하기 전에 고객이 요구사항을 열 번, 백번 물어보기 바란다. 소규모 FGI(Focus Group Interview)도 좋은 방법이다.

둘째, 신뢰할 수 있는가?

과거의 SW 시스템과 달리 AI 시스템은 AI 모델 내부를 확인할 수 없는 Black Box라는 것이 큰 문제이다. 개발자가 모든 내용을 설계하여 출시된 제품이 있다면 어디가 문제 인지를 디버깅해볼 수 있고, 각 문제에 대한 책임 소재도 분명했다. 하지만 AI 시스템은 데이터와 모델이 추가되어 하나의 제품을 구성한다. 테슬라 차량은 보행자를 발견하였음에도 불구하고 효율성을 중시하여 보행자를 치고 달렸다. 대화형 챗봇인 `이루다`는 20대 여성을 모사한 설정으로 공개하였으나 성 소수자 혐오 발언, 개인정보 침해 및 일부 사용자와의 성적인 대화로 논란이 되었다. 우리는 AI 시스템에서 단순 기능 충족 이상의 윤리성, 투명성, 설명 가능성 등을 요구한다 [2]. 99% 정확하지만 100번에 1번은 실수하는 로봇 의사에게 당신의 가족을 맡길 수 있는가.

그럼 AI 시스템을 도입하지 말자는 뜻인가? 필자가 생각하는 한 가지 방안은 그것을 평가하는 것이다. 상용화 AI 시스템이라면 고객이 동의할 때까지 몇 번이고 검증, 테스트되어야 한다. 하버드 비즈니스 리뷰에서 처음 소개된 제품의 품질 비용 관리 자료에 의하면 이것을 일찍 깨달을수록 사업 실패의 확률은 줄어든다 [3,4].