인문 360제3회- 기술과 포용성
2부 – 기술이 더 높은 다양성과 포용성을 이뤄낼 수 있을까?
2부 – 기술이 더 높은 다양성과 포용성을 이뤄낼 수 있을까?
주제발표 : 실리콘밸리가 포용성과 다양성을 추구하는 방식
박원익 – 더밀크 코리아 부대표
실리콘밸리 기업의 포용성 확대 사례
[구글]
- 구글의 문제의식 : 카메라 기술이 편향적이다. 기술적 보정이 전혀 없었는데 흑인과 백인을 찍으면 흑인은 거의 나오지 않는다.
- 구글의 해결 방안 : ‘더 공정한 카메라’ 이미지 데이터 셋을 활용해서 데이터 소스를 인공지능에게 학습을 시켜 화이트 노출 조절해준다. 픽셀이란 스마트폰에 화이트 노출 조절하는 휴대폰 출시 예정.
- 구글의 입장 : 이 문제는 기술자들이 해결해야 할 문제이다. 도구의 작동 방식을 바꿔야 한다. 구글 내부에서 기술자들이 문제의식을 가지고 있다.
[애플]
- 애플의 문제 인식 : 신체적 어려움이 있는 약자를 위한 서비스 및 인식개선 개발
- 애플의 해결 방안 : Assistive Touch 개발(애플 워치 화면 터치하지 않고 사용) , Sign Time (실시간 통역 서비스), 인종 별 이모지 출시, 인종 특성에 맞는 애플 에어 팟 헤드폰 사이즈 개발
- 애플의 입장 : 포용성은 답이 있는 게 아니고 여정이고 이는 창의성을 자극한다. 창의성은 단순히 사회적 약자를 돕거나 공정성을 위해 하는 게 아니고 창의성을 높이는 과정이다.
(중간 내용 놓침 ㅜㅜ)
토론 : 사회의 포용성을 높이지 위한 기술의 구체적인 노력
최문정 – 카이스트 과학기술정책대학원 교수
기술이 더 높은 다양성과 포용성을 높일 수 있을까? ‘아니오.’
기술이 추구하는 게 효율성, 편리성이기에 다양성을 포용하기엔 힘들 수 있다.
기술에 대해서 생각해보는 기술 탄생 자체가 불평등을 낳은 구조.
장애의 사회적 모델이 개인적으로 생기는 게 아니라 사회 구조 때문에 생긴다. 무의식적으로 만든 건물이 휠체어 탄 사람을 배제하게 된다. 만일 건물이 장애에 대한 배려가 있었다면 장애는 장애가 없는 거다. 유니버설 디자인을 만들었을 때 장애라는 차별점이 없어지는 것이다.
만들려면 어떻게 해야 하는 가? 포용의 핵심은 다른 사람 입장에서 생각해보기.
오세욱- 한국 언론진흥재단 책임연구원
여성, 유색인종 비율이 굉장히 적다. 인종과 젠더에 관련된 AI 시스템을 활용한 분류, 탐지 등은 필요성이 있다. 기계학습에 사용되는 데이터에 대해서 편향성이 보이면 이를 제거하는 방식. 주부, 간호사에 대해서 여성으로 하지 못하도록 함
정보 편향성을 파악하고 제거 또는 반영하여 근본적인 차별을 제거함.
실리콘밸리에 다양한 도입을 해서 AI 정보 편향성 없애려고 하고 있다.
무엇을 편향인가, 왜 편향인가를 제시하고 있지 못하다. 결과만 받을 수밖에 없다.
왜 이렇게 수정했는지에 대한 건 공개하지 않고 있다.
어떤 것이 공정함이냐? 30여 개의 공정함에 대한 정의 중에서 일치하는 게 하나도 없었다.
인간은 역사적으로 봤을 때 공정한 적은 없었다. 기술의 근본적인 한계는 현재의 데이터를 보여주는 것이다.
어떻게든 인간은 나아지고 있다. 이런 걸 기술이 따라잡을 순 없다.
기술이 만든 결과에 대한 사회적 감시가 필요하다. 기술에 대해서 귀를 열면 좋겠다.
상호적 감시의 결과물이 필요하다.
박원익 - 답변
데이터를 AI가 언어의 뉘앙스에 대해서 인식 못한다. 과거 축적 데이터가 훨씬 많기에 제대로 인식을 못한다. 그런 거를 사후에 교정하거나 감시하는 시스템이 있으면 좋겠다.
‘기술 자체를 포용적이다’라고 믿지 말고 인간이 인문학적으로 개입해서 제도를 개선하면 좋겠다.
질의응답
Q. 기술은 계속 발전하고 결국 그 기술을 활용하고 관리하는 사람들에 대한 윤리 교육이 더 요구됩니다. 인간으로서 우리가 더 조심하고 관심을 가져야 하는 부분은 무엇일까요?
오세욱 A. 내가 도덕적인가를 판단할 때는 주변의 지적이 컸다. 나도 모르는 사이에 편견들, 문제들이 생길 수 있다. 기술을 만들어가는 분들이 조금 더 많이 귀를 열고 감시의 주체로서 언론이 새로운 권력의 한 대상으로 기술을 바라보면서 기술이 가질 수 있는 문제를 일반인의 눈높이에서 지적해주면 좋겠다. 선한 루프가 만들어지면 좋겠다.
Q. 기술에 대한 접근 장벽이 높은 노년층을 포용할 수 있는 방법은?
박원익 A. 애플 제품 중에 폴 디텍션 기능이 있다. 이는 노인을 위해 도입한 기능이고 이를 통해 문제를 해결한 경험이 있다. 하지만 이를 사용하기 위해선 애플 워치를 살 수 있는 경제력을 가지고 있어야 한다. 인터넷 익스플로러를 옛날 버전 사용해서 결제를 못한다 던가 문제가 있다. 이걸 해결하기 위해선 설명 및 교육을 해야 한다.
최문정 A. 노인 하면 하나의 이미지를 떠올리지만 노년기를 세 개로 나눈다. 85세 이상, 75~84세가 중기, 74세 미만으로 나눈다. 나이 드신 분들에겐 휴먼 서비스가 가야 한다. 전 자동화, 전 디지털화는 어렵다. 디지털 세계가 다음 세대가 되면 잘 될 것이다. 이건 과도기적 문제이지 서비스에 대해서 이중 구조로 가야 한다. 한국처럼 인건비가 낮은 국가에서 모든 걸 기술화하는 게 맞는가라는 의문이 든다.
Q. 최근 기술의 다양성과 포용성에 대해 고민하다 보면 기술적 차원의 리터러시가 중요하다. 리터러시를 강화하기 위한 정책적 차원은 어떻게 가능할지?
최문정 A. 과기부, 디지털 포용 법 나오고 있고 주민센터에서 교육받을 수 있는 제도가 있다. 기술이 일종의 언어처럼 되어가고 있다. 우리의 생애주기는 25세까지는 교육받고 일을 하다가 쉬는 구조로 가고 있다. 그런데 지금 교육은 평생교육에서 취미로 가고 있다.
과학 저널리즘이 중요해지면서 이걸 설명해주는 것, 대중이 다 같이 이해하는 것에 대해서 중요하다고 본다. 언론의 중요성을 말씀해주셨는데 저는 팝 컬처도 굉장히 중요하다. 여성 문제도 재밌는 여성 과학자 드라마가 나오면 좋겠다. 문제를 대중화할 수 있는 방안을 고민하면 좋겠다.
Q. 인공지능, 디지털 휴먼 인공지능 딥러닝 과정에서 기술적 문제에 대해 인문학은 어떤 중요성을 가지는가?
오세욱 A. 결국은 인문학으로 간다. 공정성과 같이 가보겠습니다. 수학적 계량적 공정성, 인간적 기준에서의 공정성이 있다. 이 둘은 양립이 불가하다. 계량적을 바꿀 수 있는 건 인문학이다.
인문학의 중요성은 더욱더 중요해질 것이다.
Q. 사람은 인문학적 감성은 따라가지 못하는 것 같아요. 사람들이 인문학적 관점을 가지게 하려면 뭘 해야 할까요?
최문정 A. 인문학적 관점이 잘 모르겠지만 피로 사회인 게 중요하다. 내가 누구인지, 다른 사람을 돌아보고 하려면 사람이 여유가 있어야 한다. 정보가 많지 않더라도 내 생각을 돌아보는 것을 하면 자신의 생각을 좀 더 만들어갈 수 있지 않을까, 생각의 힘을 기르는 것이 중요하다.
Q. 읽어 볼 책은?
박원익 A. 메타버스가 만드는 가상 경제 시대가 온다. (사이버 공간에서 윤리적으로 교류하는 게 가능할까, 어떻게 포용적이 될 수 있을까?)
최민정 A. 불편해도 괜찮아 (포용성 관련 책, 영화에 대한 이야기이다. 이 영화를 소수자나 사회적 약자의 입장에서 봄)
오세욱 A. 지능의 탄생 (인공 지능에서 지능이 무엇인지?, 기술의 지능은 인간 지능보다 못할 수밖에 없다. 공감과 생각 등 보편적인 인지능력 모두를 포괄함)
기술이 혁신이자 신화가 되는 사회를 살고 있다.
인간은 공동체의 가치를 지키기 위해 편리함을 거부할 수 있다.
기술이 사회적 포용성과 다양성을 증진하고 최소한 저해하지 않도록 우리 모두의 관심과 노력이 필요하다.
https://inmun360.culture.go.kr/content/367.do?mode=view&cid=2367988
