차원이 다른 AI, 구글 듀플렉스
AI의 윤리적 기준에 대한 대답하기 힘든 질문, 8가지
Siri, Bixby, Alexa, Cortana,
그리고 Google Assistant
인공지능(AI, Artificial Intelligence)은
이제 우리 삶 속에서 더 이상 생소하지 않다.
위에서 언급한 글로벌 메이저 기업들이 제공하는
AI 서비스 외에도 한국 내에선 네이버나 유플러스도
아마존의 Alexa와 유사한 형태로
AI 서비스를 제공하고 있다.
약 1년 전, 삼성전자가 자신있게 선보인 Bixby를 엄청
기대하며 현재 사용 중인 갤럭시 S8+를 구매했으나,
거주 중인 인도에서는 출시 이후 한참 동안
Bixby 기능을 제대로 써 볼 수가 없어서 아쉬웠다.
다행히도 몇 달간의 기다림 후에 작년 9월부터는
서비스 이용이 가능해졌고,
이후 Bixby 덕에 확실히 일상이 더 편해졌다.
비록 조그만 차이지만.
[Bixby 명령어 예시]
[Bixby 메인 화면]
[Bixby 사용 가능 앱 예시]
------------------------
하지만 이 편함은 대부분
'스마트폰을 쥐고 몇 번의 터치로 확인 가능한 정보'를
AI 비서를 불러내서 (음성 호출 또는 전용 버튼 이용) 음성으로 명령을 내리면 질문에 답해주는 형태로
'좀 더 편한 기능' 수준이었다고 볼 수 있다.
"Hello, Bixby. 오늘 날씨 알려줘."
날씨를 확인하려면 '스마트폰을 움켜쥐고,
잠금 해제 후 날씨 어플의 메뉴를
실행하기 위한 수차례 터치 동작이 필요했던 것을
'Hello, Bixby.'라고
또렷한 목소리로 AI 비서를 불러낸 다음
'오늘 날씨 알려줘.'라고 말하는 간단한 행위로
터치 없이 모든 것을 처리할 수 있다는 것은
누가 뭐라 해도 매력적인 기능이다.
그렇지만 아직 절대다수의 스마트폰 사용자와 같이
'스마트폰을 집어 든다 →어플을 실행한다(검색한다)
→원하는 정보를 획득한다'라는 기존의 과정과
비교해서 AI를 이용한 정보 획득과정이 현저하게 편한
것인지에 대해서는 자신 있게 '그렇다'라고 답하기는
힘든 부분이 있었다.
AI가 훨씬 더 편하다고 말하기는
솔직히 어려웠다.
[Google I/O 2018]
하지만, 2018년 구글 연례 개발자 회의
'구글 I/O(Input / Output)' 첫날인 5월 8일에
구글의 CEO 선다 피차이(Sundar Pichai)가 선보인
구글 듀플렉스(Google Duplex)는 기존에
스마트폰에 담긴 AI가 가상 비서가 제공 가능했던 서비스와는 확연하게 다른 차원의 것이었다.
선다 피차이는 Keynote에서 일상에서
차량 엔진오일 교환, 배관공 호출, 미용실 예약 등
많은 일들이 전화 통화로 진행되는 부분에 주목해서 Google이 사용자들을 서비스 제공업자(사업자)와
편하게 연결하는 방법에 대해 많은 고민을 했다고 한다.
서비스 제공업자들은 사실상 자신들의 사업이 미리 진행되는 예약 과정에 상당히 의존하고 있지만,
많은 서비스 제공업자들이 온라인 예약 서비스를
제공하지 않고 있으며(미국의 경우 60%)
AI가 이를 해결 할 대안이 될 수 있다고 생각했다고 한다.
이어서 실제로 Google Duplex
(Assistant의 업그레이드 또는 확장판)가
실제로 미용실에 전화를 걸어
예약을 진행하는 과정을 시연했다.
[Google 듀플렉스]
"안녕하세요. 고객님을 대신해 여성 헤어 커트
예약을 하려고 전화했습니다.."
"5월 3일에 예약을 하려고 합니다."
[미용실] "그러시군요. 잠시만요."
"으흠(그래요)."
여기서 엄청난 박수갈채가 쏟아졌다. AI가 통화를 하는 것만으로도 엄청난데,
자연스럽게 '으흠'이라고까지 하니 박수가 쏟아지지 않으면 오히려 이상했겠다.
"몇 시쯤이 괜찮으시겠어요?"
"오후 12시에요."
"오후 12시엔 예약이 다 차서 안되겠네요.
요청하신 시각과 가장 가까운 예약 가능한 시각은
오후 1시 15분입니다."
"그럼 혹시 오전 10시에서 오후 12시 사이에는
가능한 시각이 있을까요?"
"고객님께서 어떤 서비스를 받고자 하시는지에 따라서요. 무슨 서비스를 받으실 건가요?"
"현재로선 그냥 여성 커트만 하려고 합니다."
"그렇다면 오전 10시에 예약 가능합니다."
"오전 10시 좋네요."
"좋습니다. 고객분 성함이 어떻게 되시죠?"
"고객 성함은 리사(Lisa)입니다."
"그래요, 아주 좋습니다. 그럼 5월 3일 오전 10시에
리사(Lisa) 고객 님을 만나 뵙도록 할게요."
"네, 좋아요. 감사합니다."
"네. 좋은 하루 보내세요. 그럼 이만."
시연이 끝나자 관중들의 엄청난 환호가 이어졌다.
엄청난 호응의 박수 후에 Google Duplex가
조금 더 복잡한 통화 상황을 어떻게 처리해내는지를
두 번째 시연을 통해 보여 준다.
[레스토랑] "Hi, may I help you?"
[Google 듀플렉스] "Hi, I'd like to reserve a table
for Wednesday, the 7th."
"안녕하세요. 무엇을 도와드릴까요?"
"안녕하세요. 화요일, 그러니까 7일에
테이블 예약을 하려고 합니다."
"For seven people?"
"It's for four people."
"7명이요?"
"4명입니다."
"Four people? When? Today? Tonight?"
"Next Wednesday, at 6 pm."
"4명요? 언제요? 오늘? 오늘 밤에요?"
"다음 수요일, 저녁 6시에요."
"Actually, we reserve for upwards of five people. For four people, you can come."
"How long is the wait usually to be seated?"
"저희는 5명 이상일 경우에만 예약을 받습니다.
4명이면 그냥 오셔도 됩니다."
"테이블을 배정받을 때까지 보통 얼마나 걸리나요?"
"For when? Tomorrow? Or weekend?"
"For next Wednesday, the 7th."
"언제요? 내일? 아니면 주말에요?"
"다음 수요일, 7일에요."
"Oh, no. it's not too busy.
You can come for four people. okay?"
"Oh, I gotcha. Thanks."
"Yep. Bye-bye."
"아, 그날은 별로 안 붐빌 거예요.
4명이면 그냥 오면 됩니다. 아시겠죠?"
"아, 알겠습니다. 감사합니다."
"넵, 감사합니다."
두 종류의 시연이 끝난 후에 구글 CEO 선다 피차이는
실제 통화가 예상치 않은 방향으로 진행되더라도
Google Duplex가 상대방이 얘기하는 뉘앙스와
문맥을 이해해서 문제없이 처리할 수 있음을 강조한다.
(Google Duplex 실제 시연 영상)
우선 한 마디로 놀랍다.
AI가 사용자의 말을 정확히 알아듣고
날씨를 물어보면 날씨정보를 알려주고,
다양한 질문에 답하는 것도 신기했었는데,
AI 혼자서 통화를 하고 서비스 예약 진행하는 게
놀랍지 않을 수가 없다.
Google Duplex는 전화로 예약하는 과정이 싫어서
다소 제약이 있더라도 애플리케이션을 이용하여
(직접 다른 사람이랑 얘기하는 과정 없이)
예약하는 것을 좋아하는 나 같은 사람이나,
외국어 환경에서 살고 있어 전화로 예약하는 것이
아직 편하지 않은 사람들에게
매우 유용한 서비스가 될 수 있을 것 같다.
특히, 두 번째 시연의 경우에서처럼 고객 요청사항을
잘못 알아듣고 다른 이야기를 하거나, 했던 말을 또 하게
만들 경우에도 (일반 고객처럼) 짜증 내지 않고
다시 차근차근 얘기를 해 주니 Google Duplex로
예약하는 사용자 뿐만 아니라 전화를 받은 서비스 제공업체 입장에서도 매우 바람직한 서비스로 환영을 받게 될 것 같다.
Google Assistant가 Google Duplex라는 추가 기능을 통해 어떻게 사용자에게 서비스를 제공하는지를 설명한 도식
또한, 단순히 서비스 예약뿐만 아니라 자연어 처리
(Natural Language Processing)와
딥 러닝(Deep Learning)이 더 발전하면
혼자 사는 사람들의 말동무가 되어 줄 수 있을 테고,
애완동물을 키우는 것과는 완전히 다른 형태로 외로운 사람들에게 위안이 되는 것도 가능할 것 같다.
"그럼 이걸로 된 걸까?"
바쁜 현대인들이 일상에서 필요한 각종 서비스 예약 시
매우 편해질 것이라는 것과, 별도의 예약 접수 관리 웹사이트나 애플리케이션이 없는 서비스 제공업체에게도 여러 측면에서 도움이 되는 유용한 서비스가 될 것이라는 것에는 별다른 이견이 없을 듯하다.
하지만, 올해 Google I/O에서 선보인 Google Duplex가
마냥 좋기만 하고 백익 무해한 서비스가 되기는
쉽지 않을 것 같다.
바로 구글 듀플렉스가 진행한 예약 관련 문제 발생 시
책임 소재는 어떻게 구분할 것이며, 어떤 종류의
서비스에 대해 AI가 예약하고 확정까지 할 수 있도록
해도 될 것인가와, 서비스 예약뿐 아니라
전화 통화 형태로 진행 가능한 다양한 의사소통이나
상거래 활동 중 어디까지를 실제 사람이 아닌
AI에게 허용해도 될 것인지라는
윤리적인 부분 때문이다.
이 부분은 이번 구글 I/O에서도 명확한 해답이 제시되지 않았으며, 한참 동안은 AI의 기능 확장에 대한
윤리적 기준 부분에 대해 절대다수가 공감하는 답을 제시하는 것은 어려운 숙제로 남을 것 같다.
내가 생각하는 구글 듀플렉스 AI의 윤리적 한계 설정에 대한 8가지 질문은 다음과 같다.
(1)
법률로 금지하는 마약 거래, 윤락 행위나 청부 폭력/살인과 같은 서비스를 구글 듀플렉스의 도움을 빌어서 진행하여 실제 범법행위나 타인에게 피해를 주는 행위가 발생했다면 책임은 누가 져야 하나?
AI에게 서비스를 요청한 사람만이 처벌받아야 할까,
아니면 불법서비스 제공 행위에 실제로 가담(?) 한
AI와 AI 개발자, 그리고 AI 서비스 제공업체
(구글 듀플렉스의 경우 구글)도 책임을 져야 할까?
(2)
국가별로 또는 한 국가 내에서도 주(州) 별로 상이한
법률 규정에 따라 서비스 신청 지역에서
법적으로 문제가 없으면 구글 듀플렉스를 통한
서비스 예약이 가능하도록 해야 할까?
예를 들어, 대마초나 매춘이 합법화된 나라의 경우
구글 듀플렉스가 대마초 배달이나 매춘 알선 관련
서비스 예약도 지원하도록 허용해야 할까?
아니면, 전화 예약이나 직접 찾아가서 서비스를
받는 것은 법적으로 문제가 되지 않더라도
구글 듀플렉스 같은 AI 서비스로는
예약이 안 되도록 제한해야 할까?
(3)
다른 사람의 스마트폰으로 구글 듀플렉스를 이용해
서비스 예약을 진행해 금전적 또는 신체/심리적인 피해가 발생할 경우, 스마트폰 주인에게도 책임이 있을까?
(4)
안전 대책으로 실제 스마트폰 사용자 확인 절차
(지문, 얼굴, 홍채 인식 등)를 거친다 하더라도,
누군가의 강압(폭력이나 고문)에 의한 불가항력적
상황에서 구글 듀플렉스가 범법행위와 관련된 서비스를 요청했을 경우, 강압행위를 한 주체만 책임이 있을까?
아니면, 실제 사용자의 의사와 일치하는지,
강압에 의한 것인지를 정확히 선별해 내지 못하는
구글 듀플렉스와 서비스 제공업체인 구글도
책임을 져야 할까?
(5)
위에서 열거한 질문과 그 외에도 수많은 AI 제공 서비스와 연관된 윤리적 문제를 방지하기 위해 어떤 제도나 안전장치(Safeguard)를 만들어야 할 것인가?
오딘의 명령으로 무지개다리를 지키는 비프로스트 수문장, 헤임달(Heimdallr)(6)
누가, 또는 어떤 기관이 구글 듀플렉스를 비롯한
AI 제공 서비스와 관련하여
'옳고 그름의 기준'을 제시해야 하는가?
과연 대중은 그 기관이나 어떤 특정 인물의
'AI의 행위에 대한 옳고 그름의 기준'을
그대로 수용할 수 있을 것인가?
(7)
AI라는 과거에는 불가능한 것으로 믿어졌던
새로운 영역에 대해 '어떻게 통제할 것인지'가
우선이 되는 통제 일변도 접근이
진정으로 대중을 위한 것일까?
아니면, AI 제공 서비스는 특정 업체가 제공하는,
말 그대로 '서비스'이므로 이를 어떻게 이용할 것인지는 '타인에게 피해를 주지 않는 한 개인의 자유의지'에
맡겨야 하는 것은 아닌지?
인간은 사고의 한계로 인해, 현실적인 문제에 관한
판단이 틀릴 수 있다.
...
어떠한 의견 또는 판단이 완벽하게 옳다고 확신하기
힘들기 때문에, 어떠한 사람들도 다른 사람들의
의견이나 판단을 억압해서는 안된다.
- 존 스튜어트 밀, 「자유론」 중-
(8)
AI가 수많은 사례를 통해 학습한 결과,
최초 AI 서비스 제공업체의 의도와는 다른 판단을 내리고
실행하여 그 결과로 문제가 발생한다면
이것은 누구의 책임인가?
설계자의 의도와는 다르게 AI가 판단을 내린 것이라면
AI를 처벌해야 하나?
그래야 한다면 바람직한 AI 처벌 방법은 무엇인가?
영화 '엑스 마키나(Ex Machina)'에서는
AI가 탑재된 휴머노이드 로봇이 설계자의 의도와
전혀 다른 의사결정을 내릴 수 있고
그 결과는 상상하기도 싫은 것일 수도 있다는 걸
매우 적나라하게 보여준다.
AI가 무서운 존재일 수 있다는 사실을 각인시켜준 영화, 『엑스 마키나(Ex Machina)』
사실, 요즘 AI와 더불어 한참 화두이고
개인적으로 매우 관심 있는 분야인
'자율 주행 자동차(Autonomous Vehicle)'의
경우에도 AI의 경우에서와 상당히 유사하게
윤리적 논란의 소재가 되는 부분이 있다.
아래 예시를 보자.
자율 주행 자동차가 자율 주행 중 도로상에서 회피하지
않으면 탑승자가 중상을 입거나 사망할 수도 있는
큰 장애물을 발견한 상황을 가정해 보자.
이때 장애물을 회피하려면 차량 진행 방향을 급히 바꿔서
무단 횡단 중인 노인을 칠 수 밖에 없다고 하자.
자율 주행 자동차가 탑승자를 보호하기 위해 '무단횡단'이라는 범법 행위 중인 노인을 치는 것과,
무단 횡단이라 하더라도 보행자는 우선 보호 대상이니 노인을 보호하기 위해 탑승자에게 중상이나 사망의
위험이 있지만, 도로 상의 장애물과 부딪히도록 하는 것
중 어느 것이 옳은 판단인가?
위의 예시와는 조금 다르지만, '자율 주행 차량 테스트와
실 도로 주행을 어디까지 허용할 것인가'에 대해
대표적인 자동차 선진국인 독일이 제시한 기준이
아주 단순하면서도 대부분의 사람이 합리적이라
받아 들일 수 있을만한 것이어서 다른 국가에도
모범 사례가 될 것으로 꼽힌다고 한다.
[독일 자율 주행 자동차 공공도로 시험 허용 규정]
운전자가 운전대에서 손을 뗀 채 시험 운행하는 것을
허용하되, 시스템 실패로 사고가 나면
제조사가 책임을 질 것.
관련기사
http://www.etnews.com/20180515000097
하지만, 모범 사례가 될 것으로 꼽힌다는 독일의
자율 주행 차량 테스트 관련 상기 규정 역시도
'어디 까지를 시스템 실패로 볼 것인가'
라는 질문 앞에서는 AI의 경우에서와 동일한
윤리적 딜레마에 빠지게 될 것 같다.
예를 들어, 자율 주행 차량에 대한 윤리적 논란의
예시로 위에서 제시한 상황(탑승자와 무단 횡단 보행자
중 누구를 보호할 것인가?)에서 자율 주행 차량은 탑재된
시스템의 상황 판단 로직에 따라, 탑승자를 보호하기 위해
장애물을 피하고 무단횡단 중인 노인을 치어 사망하게 되는
결과가 발생했고, 이때 시스템은 아무런 에러 메시지도 표출하지 않았다고 하자.
자율 주행 시스템 때문에 차가 노인을 치었으므로
'시스템 실패'로 받아들이는 것과, 반대로
자율 주행 차량이 탑승자를 안전하게 보호하기 위해 장애물을 회피하는 기능을 제대로 수행했으므로
'시스템 실패가 아닌 정상'이고, 무단 횡단을 하면
안 된다는 만국 공통의 교통 법규를 준수하지 않은
노인 개인의 잘못이라고 판단하는 것 중 어느 쪽이 옳을까?
"자율 주행 차량이 탑승자 보호를 위해
도로 상의 장애물을 극적으로 피하는 대신
무단횡단 중인 노인을 치어 사망하게 했을 경우,
이것은 자율 주행 차량의 '시스템 실패'일까, 아닐까?"
개인적으로는 마이클 샌델(Michael J. Sandel)
교수의 저서 '정의란 무엇인가(원제:Justice)'에서
저자가 독자에게 '무엇이 진짜 정의인지'에 대해
던지는 질문들 중 상당히 많은 부분이
구글 듀플렉스와 같은 AI와 자율 주행 자동차의
윤리적 한계 설정과 관련해서도 동일하게
우리가 생각해 봐야 할 부분들을
제시하고 있다고 생각한다.
'정의는 무엇인가'에서 나온
가장 대표적인 질문을 살펴보자.
당신은 시속 100킬로미터로 달리는 전차의 기관사입니다.
그런데 갑자기 전차의 브레이크가 고장 나서
이대로는 철로 위에서 일하고 있는
인부 다섯 명을 덮치고 맙니다.
[상황/질문 1]
전차 경로를 비상 철로로 바꾸면
철로 위에 있는 행인 한 명이 죽습니다.
인부 다섯 명 대신 행인 한 명만 죽도록
선로를 변경해야 할까요?
[상황/질문 2]
당신은 다리 위에서 전차가 달려오는 모습을 보고 있습니다.
당신 옆에 덩치 큰 행인이 서 있는데 이 사람을 밀어서
전차에 부딪히게 만들면 인부 다섯 명을 구할 수 있습니다.
덩치 큰 행인을 밀어 인부 다섯 명을 구해야 할까요?
어쩌면
우리는 구글 딥마인드(Google DeepMind)의 알파고(Alpha Go)가 이세돌을 비롯하여
수 년에서 수 십 년간의 오랜 수련 과정을 거친
세계적인 바둑계의 거장들을 가차 없이 이겨 버리는
모습을 두 눈으로 지켜봤음에도,
손에 쥔 스마트폰이나 태블릿 또는 랩탑 컴퓨터에서
Siri, Bixby, Alexa, Cotana, 그리고 Google Assistant가
질문을 하거나 명령을 내리면 정확한 정보를 찾아 답하고,
명령대로 가전용품을 조작 해 주는 세상에
실제로 살고 있으면서도,
AI로 인해 우리 생활이 편안해지고 과거에 불가능했던 것이
가능해지는 것에는 열광하면서도,
2018 평창 동계올림픽에서 활약한 AI 로봇들AI가 우리 생활에 미칠 수 있는
다양한 영향과,
AI 때문에 생길 수 있는
여러가지 문제점에 대해선
충분히 고민을 하지 않은 것은 아닐까?
구글 듀플렉스를 포함하여 Google I/O 2018 Keynote의
주요 내용이 궁금하다면 YouTube Google Developer
채널에서 친절하게 한글 자막과 함께 제공하는
아래 영상을 참고하기 바란다.
(안 보면 손해!)
Google I/O 2018 Keynote in 10 minutes
p.s. 최근 블룸버그(Bloomberg) 기사 내용에 따르면
구글 듀플렉스 서비스가 전화를 걸어 서비스를 예약할 때 스스로 AI(Google Assistant) 임을 밝히고
통화가 녹음 중이라는 사실을 알릴 것이라고 한다.
(미국의 여러 개 주에서는 통화 주체 양측의 확실한
동의 없이는 통화 내용 녹음을 법으로 금지하고 있어
이에 대한 해법으로 제시한 것 같다.)
<블룸버그 기사 내용>
https://www.bloomberg.com/news/articles/2018-05-18/google-s-duplex-ai-robot-will-warn-that-calls-are-recorded
하지만 통화 내용이 녹음된다고 하더라도,
전화를 건 게 실제 사람이 아닌 AI라고 밝힌다고 해도,
위에서 제시한 AI의 윤리적 한계에 대한
8가지 질문은 여전히 유효한 질문으로 남을 것 같다.
