유네스코에 초청된 카카오의 AI 윤리
[카카오AI리포트] 최은필
카카오의 기술 철학 전 세계에 공유
카카오의 알고리즘 윤리 헌장이 지난 11월 15일(파리 현지 시간) 열린 유네스코(UNESCO) 포럼에서 전 세계인을 대상으로 공유됐다. 포럼의 명칭은 ‘지식사회의 발전과 올바른 거버넌스 구축을 위한 AI 활용(Harnessing Artificial Intelligence to Advance Knowledge Societies and Good Governance, 이하 ‘유네스코 AI 정책 포럼’)’이었다.*1 행사는 파리 9구에 소재한 모질라 재단(Mozilla Foundation) 건물에서 진행됐다.
알고리즘 혹은 인공지능(artificial intelligence, AI)에 대한 내부 윤리 규정을 만들고, 이를 발표한 것은 국내에서는 카카오가 처음이다. 해외 기업들에서도 관련 사례는 미미하다. 이러한 희소성과 사회적 의미가 크기에 유네스코로부터 초청을 받게 된 배경으로 판단된다.*2 카카오 알고리즘 윤리 헌장에 대한 발표는 카카오 대외정책팀의 김대원 이사가 맡았다.
최근 글로벌 기업과 정부 주도로 논의들이 이루어지면서 AI 윤리가 낯설지만은 않게 되었다. 카카오는 이러한 흐름과 비교할 때 선도적으로 관련된 고민을 내부적으로 진행했고 그에 대한 결과물인 AI 윤리 원칙을 올 1월 발표했다.*3 카카오 알고리즘 윤리 헌장은 국내 기업에서는 최초로 이뤄진 것이기에, 유관된 논의에서 주요 참고자료로서 활용되고 있다.
이번 유네스코 AI 정책 포럼에서 카카오가 참석한 세션명은 ‘발전하는 ICT 시대에서의 개방성과 포용성에 대한 이해(Understanding Openness and Inclusiveness in the Age of Advanced ICTs)’였다. 카카오는 세션명에 걸맞게 국내의 대표 기술 기업으로서 사회적 책무를 충실히 수행해왔다.
카카오는 국내 기업들 중에서는 유일하게 서비스에 탑재된 AI 알고리즘에 대해 꾸준한 설명을 이어오고 있다. 2017년 3월에는 국내 인터넷 기업으로는 처음으로 주요 서비스인 뉴스에 적용된 추천 알고리즘의 개발 과정과 주요 내용을 담은 학술 논문을 학술지에 게재했다.*4 특히 알고리즘을 포함한 미디어 서비스 관련 주요 내용은 미디어 전공 교수들로 구성된 ‘카카오 미디어자문위원회'를 매 분기별로 개최하여 설명하고 조언을 받는 과정을 지속하고 있다. 이와 더불어 학회 세미나에 적극적으로 참여해 미디어 전문가 대상의 설명을 지속했으며, 대중의 이해도에 맞춘 설명 자료를 카카오 정책산업 연구 브런치에 꾸준히 소개하고 있다. 설명 대상에는뉴스 서비스는 물론, 카카오 서비스에 반영되어 카카오 서비스의 연결 가치를 높이고 있는 AI 알고리즘이라면 모두 포괄된다. 올 9월에는 AI 콘퍼런스인 ‘if kakao 2018’를 통해 카카오의 AI 기술 및 개발 담당자들이 직접 카카오의 AI 구조와 체계를 설명하기도 했다.
유네스코 AI 정책 포럼에서의 카카오 발표문
저는 오늘 여러분들께 카카오의 알고리즘 윤리 헌장에 대해 공유드리고자 합니다. 아마도 여기 계신 분들은 카카오라는 기업에 대해 처음 들으실 수도 있습니다. 그래서 저희 회사의 알고리즘 윤리에 대해 공유하기 전에, 카카오라는 기업에 대해 간략하게 소개하려고 합니다.
카카오는 한국 모바일 산업의 대표 기업입니다. 2013년 이후, 카카오의 한국 내 모바일 메신저 시장점유율은 95%에 이릅니다. e-커머스는 물론, 인터넷 전문 은행, 모빌리티 서비스 등 모바일 기반의 다양한 서비스를 전개하고 있습니다.
카카오에게 AI는 서비스 경쟁력 제고를 위한 주요한 수단입니다. 모두를 연결하여, 더 나은 세상을 만들고자 하는 카카오에게 AI는 연결의 가치를 높여줄 핵심 동력입니다. 그러하기에 카카오가 AI를 대하는 태도는 사회적 관심을 받고 있습니다. 이에 카카오는 자사의 원칙과 철학에 기반한 알고리즘 개발 및 운영 윤리를 확립하기로 했습니다. 알고리즘 윤리 수립을 위한 작업에는 전 직원이 참여했습니다.
1. 카카오 알고리즘의 기본 원칙
카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복을 추구한다.
2. 차별에 대한 경계
알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다.
3. 학습 데이터 운영
알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집·분석·활용한다.
4. 알고리즘의 독립성
알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다.
5. 알고리즘에 대한 설명
이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다.
카카오는 올 1월에 알고리즘 윤리 헌장을 발표했습니다. 알고리즘 윤리를 제정, 발표한 것은 한국 기업 중 최초의 일이었습니다. 카카오 알고리즘 윤리 헌장은 5개의 조항으로 구성되었습니다. 알고리즘 윤리 헌장은 내부적으로 AI 개발과 운영 과정에서 기본적으로 지켜야 할 규칙으로서의 역할을 하고 있습니다. 카카오는 알고리즘 윤리 헌장을 카카오 서비스의 발전과 더불어 더욱 다듬어나갈 계획입니다.
'카카오 알고리즘 윤리 헌장'과 각 조항별 설명
1. 카카오 알고리즘의 기본 원칙
카카오는 알고리즘과 관련된 모든 노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복을 추구한다. : 이는 카카오가 알고리즘 윤리 헌장을 도입한 목적입니다. 카카오는 알고리즘 개발을 통해 카카오 서비스를 직간접적으로 이용하는 사람들이 편익을 누리고, 보다 행복해지는 데 기여하고자 합니다. 알고리즘 개발 및 관리와 관련된 일련의 과정에서 카카오의 노력은 우리 사회의 윤리 원칙에 부합하는 방향으로 이루어질 것입니다.
1. Basic principles of Kakao Algorithm
Kakao aims to enhance mankind’s benefit and wellbeing and keep all efforts for algorithm development within the ethical framework of society. : This is the main purpose of the establishment of the Kakao Algorithm Ethics charter. Kakao is committed to enhance the quality of life of our service users and to create a better society through the development of ethical algorithm. Kakao’s efforts in the algorithm development and management process will be in line with the ethical principles of our society.
2. 차별에 대한 경계
알고리즘 결과에서 의도적인 사회적 차별이 일어나지 않도록 경계한다. : 카카오는 다양한 가치가 공존하는 사회를 지향합니다. 카카오의 서비스로 구현된 알고리즘 결과가 특정 가치에 편향되거나 사회적인 차별을 강화하지 않도록 노력하겠습니다.
2. Avoidance of all biases
Kakao aims to ensure that algorithms shall not generate biased results. : Kakao encourages diverse society. We will endeavor to ensure that the algorithms, which are embedded in our services, are not biased toward specific values and that they do not result in social discrimination.
3. 학습 데이터 운영
알고리즘에 입력되는 학습 데이터를 사회 윤리에 근거하여 수집, 분석, 활용한다. : 카카오는 알고리즘의 개발 및 성능 고도화, 품질 유지를 위한 데이터 수집, 관리 및 활용 등 전 과정을 우리 사회의 윤리를 벗어나지 않는 범위에서 수행하겠습니다.
3. management of data for algorithm learning
Kakao aims to collect and manage data for algorithm learning in accordance with social ethical norms. : Kakao will carry out the entire process of algorithm development, performance enhancement, and the collection, management and utilisation of data to maintain the service quality, within the scope of ethics of our society.
4. 알고리즘의 독립성
알고리즘이 누군가에 의해 자의적으로 훼손되거나 영향받는 일이 없도록 엄정하게 관리한다. : 카카오는 알고리즘이 특정 의도의 영향을 받아 훼손되거나 왜곡될 가능성을 차단하고 있습니다. 앞으로도 카카오의 알고리즘은 독립적이고 엄정하게 관리될 것입니다.
4. Independence of algorithm
Kakao aims to ensure that algorithm shall not be manipulated internally or externally. : Kakao prevents the possibility of algorithm being destroyed or misused due to certain intentional influences. The algorithm of Kakao will constantly be managed independently and strictly.
5. 알고리즘에 대한 설명
이용자와의 신뢰 관계를 위해 기업 경쟁력을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다. : 카카오는 새로운 연결을 통해 더 편리하고 즐거워진 세상을 꿈꿉니다. 카카오 서비스는 사람과 사람, 사람과 기술을 한층 가깝게 연결함으로써 그 목표에 다가가고자 합니다. 카카오는 모든 연결에서 이용자와의 신뢰 관계를 소중하게 생각합니다. 이를 위해 더 나은 가치를 지속적으로 제공하는 기업으로서, 이용자와 성실하게 소통하겠습니다.
5. Explanation on algorithm
Kakao aims to provide explanations on algorithm to strengthen users’ trust to the extent that it does not compromise corporate competitiveness. : Kakao dreams of a more convenient and enjoyable society through new connections. Kakao’s services aim to achieve this goal by drawing stronger connections between each individual and also between human and technology. As a company which constantly provides better value to meet this goal, we will communicate with our users with respect.
글 | 최은필 reyna.c@kakaocorp.com
IT 업계의 에반젤리스트(evangelist)를 자처하며 빠르게 변화하는 시대에 그 누구보다 부지런히 움직이며, 좋은 것들을 나누며 살고 있습니다. 재즈 힙합(Jazz Hip-hop)을 즐겨 들으며, 언젠가 추리소설을 쓰겠다는 원대하지만 소박한 꿈을 가지고 있습니다. 전자공학을 전공했지만 실험보다는 글쓰기를 더 좋아하며, 오랜 시간 ‘전략, 기술, 기획’이라는 단어들과 함께하였습니다. 전 세계 수많은 사람들의 마음을 움직여보고 싶다는 커다란 꿈을 가지고, 하루하루 즐겁고 재미있게 살고 있습니다.
참고문헌
*1 설명 | 유네스코가 주최하고, 인터넷협회(Internet Society)와 모질라 재단(Mozilla Foundation)의 지원 하에 이루어졌다. 이 행사는 AI 기술의 개발 및 활용에 대한 기술적, 윤리적, 정치적, 사회적, 법률적 함의를 푸는 데 중점을 뒀다. 유네스코가 AI를 소재로 집중하고자 한 주제는 AI와 관련한 정보 및 지식에 대한 접근성, AI 기술의 격차 해소, 표현의 자유와 프라이버시, AI가 뉴스 및 미디어에 미치는 영향, 정보 윤리, AI 문제의 복잡성을 해결하기 위한 다중 이해관계자 접근법, AI가 평화 유지 및 지속 가능한 발전을 촉진할 수 있는 방안이었다. 이번 유네스코의 AI 정책 포럼은 이해관계자들 간 인공지능을 활용해 지식사회 및 지속 가능한 개발을 촉진시키는 데 필요한 정책, 실행, 측정 및 메커니즘에 대해 논의할 수 있는 공개 포럼이 되길 희망하여 기획됐다.
*2 설명 | 김대원 이사는 사회과학 분야의 AI 전문가 자격으로 초청됐는데, 카카오에서는 <카카오 AI리포트>, 인공지능 윤리 헌장 등 AI 대외 정책을 주도적으로 이끌어왔다. AI의 사회적 확산을 주제로 한 연구로 논문을 지속적으로 쓰고 있으며, 로봇 저널리즘을 주제로 국내에서는 최초로 박사학위 논문을 썼다.
*3 설명 | 카카오 알고리즘 윤리 헌장은 기업 홈페이지에도 공개하고 있다.
(국문) https://www.kakaocorp.com/kakao/ai/algorithm ,
(영문) https://www.kakaocorp.com/kakao/ai/algorithm?lang=en
*4 논문 | 박승택, 성인재, 서상원, 황지수, 노지성, 김대원. <기계학습 기반의 뉴스 추천 서비스 구조와 그 효과에 대한 고찰>, 《사이버커뮤니케이션학보》 34(1), 5-48. 2017., 논문에 대한 설명을 담은 카카오 정책산업 연구 브런치의 URL은 https://brunch.co.kr/@kakao-it/57
[카카오 AI리포트] Vol. 15 (2018년 12월 호)는 다음 내용으로 구성되어 있습니다.
[1] Special Topic
01. 최은필 | 유네스코에 초청된 카카오의 AI 윤리
02. 최은필 | 유네스코 AI 윤리의 토대가 될 ROAM
[2] In-Depth
03. 김우영 | 스마트 홈이 성공하기 위한 필요충분조건
04. 오승일 | 맛있는 인공지능 이야기, 스마트하게 먹기 위한 방법
05. 정구민 배승주 이재민 최명근 최현준 | 자율주행, 스마트 카를 위한 딥러닝의 진화와 확산의 허들
07. 양성일 | 게임산업을 위한 인공지능 기술의 활용 가능성
08. 김수정, 심지은 | 인공지능, 치안의 일선에 서다
[3] Kakao Inside
09. 이준목 | 인공지능 기반의 고객센터를 향한 첫걸음의 시작
10. 최은필 | 카카오, 유해 콘텐츠 차단을 위해 AI 방패를 펼치다
11. 최은필 | 문제 해결을 위한 머신러닝 오픈 플랫폼, 카카오 아레나
[4] Tech & Conference
12. 모종훈, 오형석 | 카카오 OCR 시스템 구성과 모델
13. 이수경, 홍상훈 | 아날로그 기상 데이터를 OCR로 디지털화할 수 있을까?
14. 서가은, 이다니엘, 이동훈 | EMNLP 2018 참관기
15. 김수정, 심지은 | 2019년 주요 AI 콘퍼런스
[카카오 AI리포트] Vol. 15 전체글 다운받기
[카카오 AI리포트] Vol. 15_1 다운받기
