brunch

매거진 내가 읽은 책

라이킷 16 댓글 4

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 박재현 모니카 Dec 19. 2019

Humanizing Technology

<안드로이드는 전기양의 꿈을 꾸는가>를 읽고

1. 들어가면서

SF 소설로 디자이너 역할 돌아보기

SF 소설의 고전 <안드로이드는 전기양의 꿈을 꾸는가>를 통해 기술이 사회로 진입하는 접점에서의 디자이너의 역할 및 윤리적 문제의식에 관련된 이야기를 하려 합니다. <안드로이드는 전기양의 꿈을 꾸는가> 는 필립 K. 딕이 1968년 발표하고, 1982년 <블레이드 러너>로 영화화 되었는데요. 재미있게도 2019년 11월을 상상 속 미래 시점으로 삼고 있습니다.

[그림1] Happy Blade Runner Day

<안드로이드는 전기양의 꿈을 꾸는가> 줄거리

※아래 내용에는 책/영화 스포일러가 포함되어 있습니다. ※

소설 배경은 핵전쟁 이후 황폐화된 지구입니다. 지구에 남아있는 사람들은 사회 경제적으로 소외된 사람들 뿐, 중산층과 엘리트는 살기 좋은 화성으로 이주합니다. 지구 생태계는 오염으로 동물이 멸종하여 살아있는 동물 가격은 천정부지로 치솟습니다. 대다수 사람들은 전기 동물을 키우며 대리 만족을 합니다. 기업은 이제 외양, 지능 측면에서 인간과 구분하기 어려운 로봇을 생산할 수 있게 되었습니다. 특수한 테스트를 거쳐야만 로봇인지 인간인지 알 수 있는 것입니다. 주인공은 체제로부터 탈출한 로봇을 사살하는 현상금 사냥꾼입니다. 그 과정에서 로봇에 사랑을 느끼기도 하고, 자신이 로봇인지 인간인지 확신하지 못하기도 합니다. 결국 현상금을 손에 쥐고, 주인공은 꿈에 그리던 실제 양을 구매하게 됩니다. 외출 후 들어온 주인공은 자신이 사랑에 빠졌던 로봇이 자기의 양을 죽였다는 사실을 알게되고 자살을 고민하다 포기하는 걸로 이야기가 끝납니다.

2. 기술과 사회의 접점에서, UX의 역할

UX 디자이너로서 우리는 첨단 기술, 비지니스, 사회의 접점에서 UX라는 렌즈를 가지고 미래를 상상하는 역할을 합니다. 우리가 만드는 제품 및 컨셉은 결국 미래의 사회에서 미래의 사용자가 사용할 것입니다. 프로젝트에 따라 시간 프레임이 더 가까운 미래냐, 먼 미래냐 하는 차이는 있지만요. 자식이 부모의 사고 방식과 세계관을 어느 정도 따라가게 되듯, 우리가 설계하는 제품이나 서비스 역시 우리 사고 방식이나 세계관 안에 존재합니다.

인간의 편향을 학습하는 인공지능

뉴욕대 논문에 따르면 인공 지능이 사람과 마찬가지로 인종 차별, 성 차별을 한다고 합니다. 인공지능 학습에 사용했던 기존 데이터가 불완전한 판단을 하는 인간으로부터 나왔기 때문입니다.

[그림2] 키오스크로 주문을 하고 있는 모습

레스토랑, 교통 시설 등에서 무인화를 추진하면서 키오스크, 온라인 예약 시스템을 도입하고 있는데요. 노년 층과 장애인을 고려하지 않은 디자인이 디지털 소외를 낳고 사회적 차별을 도리어 강화하고 있습니다. 경영적, 기술적 요구사항도 중요하지만 사용자인 '사람'을 옹호하는 게 저희라면, 저희는 사람의 범주를 어디까지로 한정해 사고하고 있는 것 일까요.

윤리적 문제를 예측해 리스크 예방

AI를 인류의 보편적 가치와 윤리에 맞게 만드는 방안을 연구하는 ‘윤리관 정합성’ 분야가 있다. 초지능이 우리가 원하고 의도하는 바를 정확하게 이행하도록 하는 연구가 필요하다.

-Nick Bostrom, Founding Director of Future of Humanity Institute (Oxford)-

따라서 첨단 기술과 결합한 미래가 어떤 문제를 부를 수 있을 지 고민할 수 있어야 하고, 내가 만드는 서비스/제품의 윤리적, 철학적 의의를 따져볼 힘을 길러야 합니다. 양산된 제품에서 윤리적 문제가 터지고서 수정하는 것은 기업 이미지 손실에 데미지가 큽니다. 리스크를 미리 관리하는 것은 장기적으로 비용 절감에 도움을 줍니다.

<안드로이드는 전기양의 꿈을 꾸는가>에서는 첨단 기술의 미래에 대해 철학적 화두를 던집니다. '기술의 인간화'라는 고민의 줄기에서 인간성, 경제, 정치 시스템 3가지로 문제의식을 나눠 보았습니다.

3. Humanizing Technology

3-1. 기계와는 다른, 인간다움은 무엇인가?

UN의 법률에 의거하여 모든 이민자는 각자가 원하는 특징을 지닌 하위 기종의 안드로이드를 제공받아 소유했다. 1990년에 이르자 이들의 종류는 상상을 초월할 만큼 많아졌는데, 이는 1960년 대 미국의 자동차 상황과 비슷했다.

-p.34, <안드로이드는 전기양의 꿈을 꾸는가>

<안드로이드는 전기양의 꿈을 꾸는가>에서는 인간과 구분할 수 없는 로봇이 등장합니다. 외양, 행동, 대화, 표정... 모두가 인간과 똑같습니다. 기억을 이식하면 스스로도 로봇인지 아닌지 확인할 길이 없습니다. 심지어 요즘 자동차 숫자만큼이나 많은 로봇이 보급됩니다.

이런 상황에서 여러분은 어떻게 인간과 기계를 구분하시겠습니까? 로봇이 대중화되면서 일자리가 사라진다면, 인간이 할수 있는, 살아남는 일자리는 무엇 일까요? 이런 질문의 핵심에 '인간이란 무엇인가'라는 근본적인 질문이 숨어있습니다. 주변 사람들에게 이런 질문을 해봤을 때 직관, 영혼 등 각기 다른 대답이 나왔습니다. 각자 생각하는 인간다움이 다른것이지요.

작가가 정의하는 인간다움을 크게 3가지의 테마로 나누어 보았습니다.

감정이입 능력

"감정이입이야말로 우리가 못하는 어떤 일을 인간이 할수 있다는 것을 보여주는 방법 아니야? 우리가 알 수 있는 것이라고는, 집단 경험에서 당신들이 느꼈다는 것에 대한 말 밖에는 없으니까."

-p.316, <안드로이드는 전기양의 꿈을 꾸는가>

[그림 3] 동공 움직임을 활용한 보이드 캄프 테스트

소설에서는 특수한 테스트를 통해 인간과 안드로이드를 구분합니다. 테스트의 핵심은 감정이입 능력입니다. 생명체를 잔인하게 학대하는 사례를 들려주고, 동공의 반응 시간에 따라 인간과 기계를 구분합니다. 안드로이드의 감정 이입 반응은 학습된 두뇌 반응이기 때문에 즉시 반응이 일어나는 인간과 달리, 자극과 반응에 시간 차이가 발생한다는 논리입니다.

지능은 문제해결 능력이고 의식은 고통, 쾌락, 사랑, 증오를 느끼는 능력이다. 인류가 개발하는 것은 지능뿐이다. 지능 발전은 놀랍게 개발되었지만 의식은 전혀 개발 되지 않았다.

-Yuval Noah Harari, Historian at the Hebrew University of Jerusalem, 2017년 방한 기자간담회 인터뷰 중

<사피엔스>, <호모 데우스>로 유명한 유발 하라리가 인터뷰 중에 한 이야기입니다. 유발 하라리가 이야기하는 '의식'이 소설에서 강조하는 '감정이입' 력과 비슷하다고 생각하는데요. AI는 사람의 감정을 감지하는 능력은 날이 갈수록 발전하고 있습니다. 표정이나 목소리 톤과 같은 외부 신호를 분석해서 판단하지요. 그렇지만 AI가 불안감을 느끼거나, 즐거움을 느끼지는 않지요. 그런 의식은 분석적 문제 해결력과 어찌보면 대척점에 있을지 모릅니다. 이렇게 알고리즘은 아직 아무런 의식을 가지고 있지 않으며 의식을 개발하려는 필요성도 느끼지 못하고 있습니다.

개별자로서의 존재

"우리는 기계죠. 병뚜껑처럼 찍어낸 존재예요. 내가 실제로, 개별자로 존재한다는 것은 환상에 불과했던 거죠."

-p.285, <안드로이드는 전기양의 꿈을 꾸는가>

로봇은 공산품으로 생산되는 반면, 인간은 개별자로서 각 인간은 이 세상에 유일합니다. 쌍둥이라고 하더라도 각자 특징과 개성을 가지고 있습니다. 남과 완벽히 똑같은 사람은 존재하지 않습니다. 같은 것을 겪어도 자기 고통을 다른사람보다 몇배 크게 느끼기도 하고, 각자 자기만의 기준을 가지고 세상을 경험합니다.

생명을 창조하는 능력

"안드로이드는 아이를 낳을 수 없죠. 그게 손해일까요? 아이를 갖는다는 것은 어떤 느낌일까요?"

-p. 292, <안드로이드는 전기양의 꿈을 꾸는가>

인간은 생명 창조를 꿈꾸고, 생명 공학 기술도 날로 발전하고 있습니다. 하지만 인간이 아닌 기계가 새로운 생명을 출산하는 날이 과연 올까요. 아직 출산은 기계와 인간(생명)을 구분하는 큰 차이로 보입니다.

3-2. 기술과 결합한 자본주의는 어떤 방향으로 향하는가?

중요한 것은 몇몇 소수의 자본주의 엘리트가 AI를 전적으로 통제하지 않게 해야 한다는 점이다. AI, 생명공학 기술을 자유시장에 맡기면 시장을 위해 작동하지, 사람에게 무엇이 최선인가를 생각하고 작동하지 않는다.

-Yuval Noah Harari, 2017년 방한 기자간담회 인터뷰 중-

소설에서는 안드로이드를 대량 생산하는 로즌 조합이라는 회사가 등장해 엄청난 부를 축적하는 모습을 보입니다. 또 핵전쟁으로 파괴된 지구에 돈있는 사람만이 살기 좋은 화성을 이주합니다. 지구에 남아있는 사람들은 퇴보하는 사람들로 간주되며 정부로부터 이민을 강요받습니다.

유발 하라리 교수는 기술이 발전하면서 빈부격차가 더 커질 것이라 주장하는데요. 저임금 단순 기술직일수록 기술에 대체되기 쉽습니다. 지금부터도 마트의 계산대, 식당의 주문받는 과정은 자동화되고 있습니다. 이런 노동에 종사하는 사람일수록 사회경제적 취약 계층에 속할 가능성이 높겠지요. 반대로 기술을 소유한 사람, 기업, 플랫폼 소유자는 기하급수적 수익을 창출하게 됩니다.

4차 산업혁명은 선진국과 개도국 간 격차를 벌리게 될 것이라고 예상했다. 선진국은 4차 산업혁명이 가져올 변화에 적응할 준비가 돼 는 반면, 라틴아메리카와 인도 등 신흥국은 인공지능과 로봇 기술이 보편화할수록 상대적으로 낮은 노동비용을 바탕으로 한 경쟁력을 잃게 된다고 예상했다.

-2016년 UBS (스위스 최대 은행) 보고서-

개인과 개인 간 빈부격차 뿐 아니라 국가 간 빈부격차도 커질 것이라고 이야기하는데요. 개도국 중에 저임금 기반의 단순 노동 업종이 국가의 주 산업인 경우가 많습니다. 그런 국가일수록 세계 시장에서 밀려날 것이고, 기술을 소유한 기업이 소속된 국가 또 이미 고부가가치 산업으로 전향한 선진국일수록 부를 축적하기 쉬운 구조가 됩니다.

3-3. 기술을 활용한 공권력의 사회적 통제는 정당화되는가?

AI는 독재정권의 출현을 훨씬 쉽게 할 수도, 인간을 인간 자신보다 더 잘 알아서 우리를 조절하고 통제하는 알고리즘으로 이용될 수도 있다.

-Yuval Noah Harari, 2017년 방한 기자간담회 중-

소설 속에서 기술과 데이터를 통해 더욱 고도화된 사회적 통제가 진행됩니다. 국가는 특정 수준 이하의 건강을 가진 사람들을 '특수인'이라 분류하고 출산이 불가한 계층이라 딱지를 붙입니다. 이들은 사회, 경제 생활에 제약이 생깁니다. 인간과 로봇을 차별하여 멀쩡하게 살고 있는 안드로이드를 사살하는 데에 현상금을 걸고, 인간과 인간을 차별하는 것을 당연하게 여기는 상황입니다.

[그림 4] 중국 안면인식 감시카메라

입력 장치의 발달, 데이터 처리 속도의 발달에 힘입어 우리도 점차 우리의 일상을 지켜보는 카메라, 센서, 스마트 스피커에 익숙해지고 있습니다. 실제로 중국 경찰은 카메라와 AI 얼굴인식 기술을 범죄자 색출에 활용하고 있다고 합니다. 일면 안전한 사회를 향해 가는 것 같지만 개인의 사생활을 국가가 어디까지 침범할 수 있는지에 대한 합의가 이루어지지 않은 상황입니다. 비단 독재 국가 뿐 아니라 자유민주주의 국가 역시도 AI 기술을 감시에 활용하고 있다고 합니다.

물론 사생활 침해에 대한 두려움으로 기술 발전을 멈춰서는 안됩니다. 복잡한 정치적 이해관계 속에서 개인의 데이터가 어디까지 어떤 목적으로 사용되는지에 대한 논의 없이 진행된다면, 민주주의라는 개인의 자유를 지탱하는 뿌리가 흔들릴 위험이 있습니다.

4. 50년 전 상상한 미래 그리고 현재

<안드로이드는 전기양의 꿈을 꾸는가>에서 작가는 미래의 지구인이 사용하고 있을 제품을 디자인 했는데요. 구체적인 사용 시나리오, 제품의 사용 목적, 장치와 사람이 상호작용하는 방법에 대한 묘사가 재미있었습니다. 작가가 상상한 장치를 읽어보면서 현재 같은 목적으로 구현되고 있는 제품들이 떠올랐습니다.

소설 속 2019년 기분 조절 오르간 (Penfield Mood Organ)

[그림 5] Penfield Mood Organ

"우울을 겪는 것은 위험해. 어떤 종류의 우울이라도 말이야."
- p.18, <안드로이드는 전기양의 꿈을 꾸는가?>

소설에 나오는 기분 조절 오르간은 다이얼을 조합해 전기 자극으로 기분을 조절하는 장치입니다. 미래의 사람들은 우울, 절망감을 느끼는 것을 위험하다고 생각하고 오르간을 이용해 우울감을 느끼지 않으려 합니다.

사용 방법은 이미지처럼 중앙의 숫자 다이얼을 통해 원하는 기분을 선택합니다. ‘세상을 향한 호의적인 태도'로 설정할 수도 있고, ‘절망감'으로 설정할 수도 있습니다. 좌측 Favorites 리스트에서 자주 사용하는 감정을 저장할 수도 있습니다. 기분을 예약하는 기능도 있습니다. 예를 들어 미팅이 있다면 '사무적인 태도'로 설정해 둘 수 있습니다. 아내와 다툼이 발생하자, 아내의 기분 장치를 조정하여 다툼을 해결하기도 합니다.

실제 2019년 Headspace를 포함한 명상 서비스

[그림 6] Headspace, 명상을 통해 스트레스와 기분을 조절하는 서비스

비슷한 니즈를 타게팅하는 현실 디지털 서비스 중 Headspace이나 국내 코끼리 같은 명상 서비스가 떠올랐습니다. 사람들은 스트레스와 불안감을 줄이고 정서적 행복을 증진하려는 목적으로 명상을 합니다. 기존에는 전문가에게 의존했다면 Headspace 등 서비스는 명상을 모바일로 옮겨와 각자의 공간에서 원하는 시간에 하도록 도와줍니다. Productivity, Happiness 등 자신에게 필요한 테마를 선택하면 10분 가량의 오디오를 들으면서 명상을 하게 됩니다. 시간이 없는 사람들에게는 3-5분짜리 미니 프로그램을 선택할 수 있도록 합니다. 원하는 시간에 리마인더를 주게 하는 기능도 있습니다.

[그림 7] 삼성헬스 마음챙김 서비스

이미 해외에서는 B2C든 B2B 영역이든 마음/감정 관리는 중요한 테마였는데 최근 한국에서도 점차 확대가 되고 있습니다. 삼성헬스 앱에서도 10월 10일부터 '마음챙김(Mindfulness)' 한국어 서비스를 시작했습니다. Calm 과 파트너십을 맺으면서 정신적인 부분까지 관리하도록 신경쓰는 것입니다. 스트레스 관리, 수면 관리와 연결되어 감정 관리, 정서적 건강은 앞으로도 중요한 니즈가 될 것입니다.

소설 속 2019년 호버카 (Spinner)

[그림 8] Spinner, 영화 Blade Runner 중

[그림 9] Spinner 내부, 영화 Blade Runner 중

소설과 영화에 플라잉 카가 자주 등장합니다. 얼핏 헬리콥터와 비슷한 것 같기도 하지만 일반인이 직접 운전을 하고 접근성도 더 좋아 보입니다. 내부 인터페이스는 항공기를 떠올리게 합니다.

실제 2019년 플라잉 카 개발 경쟁 진행중

[그림 10] 플라잉카 개발경쟁

현재는 각국의 스타트업들이 플라잉카 상용화를 위해 박차를 가하고 있는데요. 우버에서도 플라잉카를 개발하고 있고 롤스로이스, 애스턴마틴 역시 컨셉카를 공개하며 2020년 상용화를 목표로 하고 있다고 합니다.

5. 마치면서

처음 이 글을 작성하다 말고 저장해둔 것이 2018년 12월이었으니, 이 글을 쓰기 시작한지 1년이 지났습니다. 글을 마무리하지 못했던 이유는 '그래서 이런 문제 의식이 내 일이랑 무슨 상관인데?' 라는 생각이 계속 들었기 때문입니다. 1년간 또 다시 여러 프로젝트를 거치면서 또 B2B 프로젝트를 진행하면서 생각이 바뀌었습니다.

기업의 사회적 가치 추구가 강조되고 있는 추세입니다. 윤리적 책임의 잣대를 고려하지 않는 것이 경제적 정책적 리스크로 다가오는 것이죠. UX 업계에도 이런 바람이 불어오고 있습니다. 기술의 빠른 발전이라는 거스를수 없는 트렌드에 더해, 우리가 할수 있는 역할은 '인간 중심의 사고'를 바탕으로 기술을 인간화하는데 어떤 고민이 필요한가를 제시해주는 것이죠. 무조건 긍정적으로 미래를 바라보기보다 다가올 수 있는 경우의 수를 고려하고 섬세하게 대비하는 데서 '인간 중심의' 경쟁력이 나온다 생각합니다.

글 쓰는데 도움을 주신 많은 분들께 감사합니다.