08. AI 결정에 대응한 인간의 자기결정권(I)

인공지능 환경에서 갈등의 구도 변화

정보화사회에서 지능정보화사회로의 패러다임의 전화에 따라 정보주체(개인)-기업-국가 간의 이해구도가 빅데이터와 알고리즘이라는 인공지능의 기술을 중심으로 개편되고 있다.

앞으로 기술환경에서는 특정한 주체가 정보나 기술을 통제하는 것이 아닌, 개인과 개인, 개인과 기업, 국가와 국가가 모두 각자의 입장에서 자유 對 자유, 주권 對 주권의 구도를 형성한다.

예를 들어 인공지능시대에서는 데이터를 지배하는 주체가 데이터를 활용하는 자유를 누리면서 반사적으로 상대방의 기본권을 침해할 수 있다. 즉 누군가의 인공지능을 활용할 자유가 의사결정 주체인 개인의 자기결정권 내지는 자유와 상충하는 구조이다. 이같이 각각의 기술 향유의 주체가 권리를 주장하는 경우 헌법은 바로 인간의 존엄과 자율성 보장을 우선해야 한다.

인공지능에 거는 기대에 따라 각국의 정부는 이에 대한 입법에 성급히 나서지 않는 가운데, 자국의 이해에 필요한 환경을 마련하고 있다. 이 분위기에서 우리나라도 인공지능에 대응한 국민의 기본권 보호를 강대국의 윤리규범에 의지할 것이 아니라 독자적으로 국가의 경제적 이익과 개인의 적극적 권리 보호 방안을 모색해야 한다. 그 하나의 방법으로 헌법에서는 자기결정권 안에서 ‘인공지능 의사결정에 대응한 자기결정’의 보호영역을 확인하고 보장하는 것을 제안한다.

위험을 통제하는 규제 방식은 다양하다. 우려스러운 점은 현재 인공지능에 대응한 규범론은 윤리규범의 수준에서 논의되면서 인간의 결정권 보호가 정보에 대한 통제권에 머물러 있다는 것이다. 인공지능의 기술적 특성과 인간의 결정이라는 권리가 체계화 될 만한 헌법적 토대를 제공하지 못하고 있으니 대책이 필요하다.

@ 알고리즘에 끌려다닐 것인가. 스스로 결정권을 가질 것인가.

---

인공지능 통제규범으로서 자기결정권의 발견

* 자기결정권의 보충적 성격에서의 탈피

아쉽게도 오늘날 자기결정권이 갖는 위상에도 불구하고 자기결정권에 관한 논의는 충분하지 않다. 사람들은 보다 많은 선택지(자유)를 원하면서도 결정하기를 성가시게 생각하거나 두려워하기까지 한다. 그리하여 기계에게 위임한 결정의 문제를 이 글은 헌법상 자기결정권으로부터 시작하려고 한다.

본디 자기결정권은 포괄적 권리로서 그 본질은 인간의 자유와 자기결정이다. 자기결정권은 모든 권리에 내재하기도 하지만, 기술적 패러다임의 전환이 일상에 큰 변화를 가져올 때 바로 그 고유성을 드러낸다. 이에 자기결정권은 시대에 따라 인간 존엄에 대한 강력한 요구로부터 ‘발견’되어가는 경향이 있다.

발견된 자기결정권은 다른 기본권의 보충적 성격으로 나타나지만, 과학기술, 의료, 정보화가 급격히 발전할 때 개인의 의사결정이 요구되는 사건에서 구체화 된다. 이는 개별적 사례에서 정도를 달리하는 일반적인 자유권에 기대어 그 보호의 필요성이 크게 인정되기 때문이라고 할 것이다.

자기결정권이 보충적 성격에 나아가 독자적인 기본권으로서 인정된 대표적인 예가 정보화시대의 개인정보자기결정권이다. 그런데 인공지능을 정보화시대 데이터기술의 연장선상으로 인식하면서 정보주체의 개인정보로 인한 모든 법적 문제점을 개인정보자기결정권에서 해결할 수 있을 것으로 개인정보자기결정권을 매개한 결정에 대해서 개인의 권리를 인정할 수 있다고 보는 것은 기술에 대한 착시에 가깝다.

인공지능은 기술적 처리과정에 사람이 개입이 없이도 ‘결정’되는 기능을 하고 ‘결정의 결과’가 결정으로 인한 효과를 받게 되는 개인에게 귀속되는 수준을 지향한다. 이러한 인공지능의 의사결정의 영향은 인격권을 포함한 개인의 기본권에 영향을 미치기 이전에 ‘주로’ 개인의 ‘자기결정’에 대한 영역을 먼저 침해하게 되는 것이다.

이러면 어떨까? 자기결정권이 갖는 포괄적 성격을 ‘자율성’으로 공통분모로 위치시키고, 자기결정의 속성을 ‘자기결정권’의 개념으로 구조화하여 인공지능에 대응한 독자적인 자기결정권의 내용을 구체화하는 것이다. 이 공식을 가지고 이야기를 이어나가고자 한다.

* 개인정보자기결정권과의 구분된‘자기결정권’보호영역의 획정 요구

근대사회에서 자기결정권이 독재에 대응한 국가의 존립과 운영이 민주주의로 존재하기 위한 가치였다면, 후기현대사회에서 자기결정권은 기술과 자본에 대응한 개인의 자유 수호를 위해 강조되고 있다.

이러한 자기결정권의 확립과 구체화의 요구는 정보화시대에 개인정보자기결정권을 탄생시켰다. 과거 개인정보 처리로 인한 개인의 권리침해 여부를 판단하는 사건에서 우리 헌법재판소는 개인정보자기결정권의 침해 여부를 판단했다. 개별 사안에서 개인정보자기결정권 침해에 관한 판단에 다른 기본권의 가치도 함께 포함되는 경향을이 적지 않은데, 그러다보니 개인정보 처리가 개인에게 미치는 영향력과 의미를 따져보지 않고, 개인정보 처리로 인한 모든 기본권의 문제를 개인정보자기결정권 안에서 해결하는 한계가 생기는 것으로 보인다. 특히 다음의 두 가지 측면에서 기존에 개인정보자기결정권은 인공지능 환경에서 개인의 고유한 자기결정의 영역을 보호하는 기본권으로서 한계가 있다.

첫째, 개인정보자기결정권의 보호영역을 확대하는 경우 기존의 개별 기본권들의 보호영역 간 관계에서 혼란이 생긴다. 개인의 개인정보에 관한 통제권과 기존의 개별 기본권의 보호영역이 중첩됨으로써, 다른 기본권이 약화될 수 있다. 이로써 개별 기본권에서 구체화될 수 있는 심사기준을 통한 검토가 어려워지고, 개인의 인격권, 사생활의 비밀과 자유의 영역이 두텁게 보호되지 않을 수 있다.

둘째, 개인정보자기결정권은 개인정보의 처리와 그로 인한 자기결정의 문제로 구분됨에도, ‘개인정보’를 매개로 개인정보자기결정권 안에서 다른 기본권의 보호영역에 해당하는 문제를 해결하고 있다. 이에 개인정보 처리에 대한 개인의 자기결정의 보호영역 내용을 확인하기 어렵다. 바로 이 점이 이 글에서 자기결정권을 재조명함으로써 발견하고자 하는 인공지능에 대응한 자기결정권의 ‘자기결정’의 한 측면이기도 하다.

인공지능의 의사결정에 대해 개인의 거절·개입하는 권리가 인정되려면, 헌법상 그 권리가 명시되어 있거나 혹은 기존에 개인정보자기결정권에 데이터와 알고리즘으로 인한 의사결정에 대한 개인의 ‘자기결정’의 청구권적 권리가 확고하여야 한다. 개인의 자기결정의 독자적인 권리의 내용은 제시된 바가 없다.

이제라도 헌법재판소는 기존의 개인정보자기결정권의 보호영역을 별다른 근거 없이 다른 기본권들과 경합된 상태에서 해석상 적용할 것이 아니라, 개인의 인공지능에 대한 자기결정의 보호영역을 새롭게 발견해주어야 할 것이다. 아울러 인공지능 의사결정에 대응한 자기결정권의 보호체계를 개인정보 보호의 관점에서 접근하는 것은 위험의 본질과도 맞지 않고, 규제 수단으로도 기술환경에 부적합하다. 이제 인공지능의 의사결정에 대응한 자기결정권의 보호영역은 자유와 인간 존엄이라는 넓은 개념에 근거해 구체화될 필요가 있다.

참고문헌

김철수,「헌법학신론」박영사(2010), 569-574.

전상현, “개인정보자기결정권의 헌법상 근거와 보호영역”,「저스티스」통권 제169호, 한국법학원(2018)

필자의 박사학위 논문과 그외 인공지능을 주제로한 몇몇 논문들