모두가 함께 발전하고 소외 없는 세상을 위한 노력
카카오 알고리즘 윤리헌장 개정(改正)
카카오 알고리즘 윤리헌장은 지난 2018년 1월 31일 처음 공개된 바 있습니다. 카카오의 알고리즘 윤리헌장 발표는 AI 기술을 활용한 카카오의 서비스와 제품이 사회 전반으로 확산되는 상황에서, AI 윤리의식을 갖춘 기업이 되기 위해 전 구성원들이 노력할 것을 약속하고, 카카오만의 원칙과 철학을 기반으로 한 알고리즘 개발 및 운영에 대한 사회적 책임과 의지를 표명한 것이었습니다. 그리고, 지난 2019년 8월 30일, 카카오는 '기술의 포용성’ 조항을 추가한 '카카오 알고리즘 윤리헌장 개정본'을 발표하였습니다.
카카오 알고리즘 윤리헌장 개정본(2019년 8월 30일 개정)다시 한 번 설명 드리는 카카오 알고리즘 윤리헌장의 탄생 배경
최근 AI의 기술적 문제로 초래될 수 있는 의도적 차별성과 편향성, 각 기업에 지속적으로 제기되고 있는 알고리즘의 불투명성, 그리고 역기능에 대한 우려를 낳고 있는 통제 불가능성 등이 AI의 사회적 쟁점으로 떠오르고 있습니다. 한편, 더 나은 서비스를 제공하고자 하는 카카오의 노력에는 이러한 AI 기술이 핵심 요인으로 작용하고 있습니다. 카카오는 AI를 통해 만들고자 하는 세상이 누구나 편리하게 기술과 서비스의 혜택을 누릴 수 있는 곳이 되길 희망합니다. 이 과정에서 카카오는 알고리즘 개발과 서비스 적용에 있어 모든 구성원이 합의한 사회적 윤리의식을 적극 반영하고 있습니다. 그리고 알고리즘 윤리헌장의 6개 조항은 지금까지 카카오가 지켜온 원칙과 철학을 개념화한 것입니다.
카카오는 알고리즘 개발이 인류의 보편적 편익과 행복으로 향하는 것임을 첫 번째 조항 ‘카카오 알고리즘 기본원칙’으로 밝히고 있습니다. 두 번째 조항 ‘차별에 대한 경계’에서는 카카오의 서비스가 특정 가치로 의도적으로 편향되지 않을 것을 표명하며, ‘학습 데이터 운영’ 조항에서는 사회 윤리에 근거한 학습 데이터 수집·분석·활용을 강조하였습니다. 네 번째 ‘알고리즘의 독립성’ 조항에서는 알고리즘의 훼손 및 외부 영향력을 방지할 것을, 그리고 ‘알고리즘에 대한 설명’ 조항에서는 알고리즘을 설명하기 위해 성실하게 소통할 것을 약속했습니다.
이번 개정 방향의 핵심: "AI가 사회 전반을 포용하며, 함께 성장할 수 있도록 노력한다"
이번에 추가된 ‘기술의 포용성’ 조항은 전세계적으로 강조되고 있는 AI의 가치와 책임성에 대한 논의와 연결된 것으로, 알고리즘 기반의 기술과 서비스가 사회 전반을 포용할 수 있도록 노력하겠다는 카카오의 의지를 내포하고 있습니다. AI의 편향성이 한 사회에서 심화시킬 수 있는 사회적 격차와 불평등, 그리고 특히 취약 계층에 미칠 부정적인 영향에 대한 우려는 각국에서 중요한 문제로 제기되고 있습니다. 알고리즘 자체에 내재된 특성들이 의도치 않게 발생시킬 사회적 소외에 민감하게 반응하고, 소외 계층의 편익과 행복을 증진시킬 수 있는 방법을 모색하겠다는 것이 '기술의 포용성'에 내재된 카카오의 의지입니다.
알고리즘 기반의 기술과 서비스가 우리 사회 전반을 포용할 수 있도록 노력한다.
카카오는 우리 사회의 모든 구성원이 우리의 기술과 서비스를 통해 함께 성장하는 미래를 지향합니다. 알고리즘은 그 자체에 내재된 특성으로 인해 의도하지 않은 사회적 소외를 초래할 수 있습니다. 카카오는 이러한 역기능에 민감할 뿐만 아니라, 알고리즘을 활용하여 사회적 취약 계층의 편익과 행복을 증진할 수 있는 방안에도 주의를 기울이겠습니다.
윤리헌장 개정본은 지난 8월 말 개최된 if Kakao 2019 행사의 한 세션에서 공개되었습니다. 카카오는 AI 기술 및 서비스의 개발에만 집중하는 것이 아닌, 해당 기술 및 서비스가 사회에 나왔을때 미칠 수 있는 다양한 문제를 고민하고 기술 발전에 따른 윤리 문제에 대해서도 자체적으로 고민하고 있습니다.
작년 11월 UNESCO AI 정책 포럼에서 초청되어 발표했던 카카오 알고리즘 윤리헌장 기업사례 발표 자리에서, 기업이 AI 윤리를 고민하고 대응 방안을 모색한다는 점에서 카카오는 많은 주목을 받았습니다. AI 기술과 서비스, 제품을 만드는 기업 입장에서 AI 윤리를 언급하는 것이 마냥 쉬운 일은 아니었지만, 카카오는 국내외 논문과 학회 등에서 ‘카카오 기계학습 기반의 뉴스 추천 서비스 구조와 효과’ 등에 대한 연구 결과를 발표하고, AI리포트 및 브런치를 통해 새로 공개된 알고리즘에 대해 상세히 설명하는 등 알고리즘 윤리에 대한 입장과 원칙을 다양한 방식으로 보여 왔습니다.
이번에 윤리헌장 항목으로 추가한 ‘기술의 포용성’ 내용처럼, 카카오는 앞으로도 끊임없이 사회에 전개될 AI 기술과 서비스에 대한 기업의 책임과 의무에 대해 지속적으로 고민하고 발전시킬 것이며, 카카오 알고리즘의 기본원칙에 따라 윤리적인 AI 발전을 통해 인류의 편익과 행복을 추구하도록 노력할 것입니다.
※ 참고글
| 카카오 알고리즘 윤리 헌장의 해제(解題), https://brunch.co.kr/@kakao-it/186
| 유네스코에 초청된 카카오의 AI 윤리, https://brunch.co.kr/@kakao-it/310
