EU 인공지능법에서 규정한 AI 정의
김홍열의 디지털 콘서트
지난 21일 유럽연합 이사회는 AI 기술을 둘러싼 포괄적인 규칙을 정한 ‘유럽연합 인공지능법 (EU Artificial Intelligence Act)’을 최종 승인했다. 약칭 AI 법은 지난해 12월 EU 회원국들의 정치적 합의에 이어 지난 3월 유럽의회에서 승인되었고, 이날 EU 회원국의 디지털 부문 장관급 회의를 거쳐 이사회에서 최종 승인을 받아 제정됐다. 2021년 초안이 발의된 지 3년 만이다. 이 법은 다음 달부터 EU 27개 회원국에서 정식 발효되며, 발효 6개월 후부터 안면인식 등 금지대상 AI 규정이, 일 년 후부터는 범용 AI에 대한 규제가 시행된다. 전면 시행 시기는 발효 2년 뒤인 2026년 중반이다.
이 법의 제정은 유럽연합에서 이루어졌지만, AI 자체가 글로벌 이슈이고 AI 사용과 규제에 대해 대부분 국가에서 공통의 관심사를 보여 이 법은 향후 인공지능 전반에 대한 글로벌 표준이 될 가능성이 높다. 이미 여러 나라에서 AI 법과 유사한 지침, 행정명령, 규정 등을 발표해 활용하고 있지만, AI 법의 제정으로 개별 국가에서도 인공지능 사용과 규제에 관한 법률 제정으로 이어질 가능성이 높아지고 있다. 한국에서는 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI기본법)이 지난해 2월 국회 과학기술정보방송통신위원회 법안 2소위를 통과했으나 1년 넘게 상임위 전체회의에 계류 중이다.
EU 27개국, 세계 최초 AI 규제법 승인 [로이터 연합뉴스 자료사진]
EU AI 법에서 가장 관심을 끄는 것 중의 하나는 AI에 대한 정의다. 그동안 AI는 학자마다 또는 빅테크 기업마다 개별적으로 정의됐고 결과적으로, 사회적으로 합의된 정의가 부재한 상태였다. EU의 AI 및 법률 전문가들이 오랜 연구와 토론 끝에 도달한 AI의 첫 번째 정의는 다음과 같다. “AI 시스템은 다양한 수준의 자율성을 가지고 작동하도록 설계된 기계 기반 시스템”. 여기서 관심을 끄는 것은 ‘다양한 수준의 자율성 (varying levels of autonomy)’이라는 표현이다. AI는 어느 정도 변화가 가능한 또는 변화할 수 있는 자율성을 갖고 있는 기계 기반 시스템이다. 즉, 인간과 같은 완전한 자율적 존재가 아니라 어느 정도 수준에서 자율성이 있는 시스템이라는 것이다.
AI 정의에서 두 번째로 중요한 것은 AI 시스템의 목적을 규정한 부분이다. AI 시스템은 “명시적 또는 묵시적 목적을 위해 수신한 입력을 통해 물리적 또는 가상 환경에 영향을 미칠 수 있는 예측, 추천 또는 결정하는 방식으로 영향을 미치는 것”이라고 정의하고 있다. 개발자 또는 사용자가 미리 설정해 놓은 명시적 또는 묵시적 목적을(for explicit or implicit objectives) 달성하기 위해 수신한 데이터를 갖고 어느 정도 자율성을 발휘하여 이런저런 방식으로 도와주는 것이 AI 시스템이라는 것이다. 이런 정의를 통해 우리는 AI를 다음과 같이 쉽게 이해할 수 있는 실마리를 얻게 되었다.
첫째 AI는 스스로 목표를 설정하지 않으며, 인간이 설정한 목표를 달성하기 위해 작동하는 시스템이라는 것이다. 둘째, AI는 주어진 목표를 달성하기 위해 자율적으로 결정을 내리고 행동할 수는 있는 시스템이다. 셋째, AI는 변화하는 환경에 적응하여 새로운 데이터를 학습하여 성능을 향상할 수 있는 능력이 있는 시스템이다. 자율주행 시스템을 예로 들어 보자. 도착지까지 고객을 안전하게 데려다주는 것이 설정된 목표라고 할 수 있다. 운행 중 도로 상황이 계속 바뀌기 때문에 그때그때 자율적 판단을 해야 한다. 새로운 방해 조건들이 발생하면 학습을 통해 극복 방법을 찾아야 한다.
AI (인공지능) (PG) (이미지=연합뉴스)
결국 AI는 인간을 도와주기 위해 구성된 시스템이라는 것이다. 따라서 현재 유럽연합의 AI 법은 AI 시스템이 스스로 목표를 설정하는 것을 전제하지 않고 AI 제공자, 배포자, 수입업자, 유통업자, 운영자들이 AI를 잘못 사용하는 것에 대한 '규제'에 초점을 맞추고 있다. 생체 정보에 기초한 생체 인식이 대표적 사례다. 법에서는 인종, 정치적 견해, 노동조합 가입 여부, 성적 지향을 파악하기 위해 그동안 구축해 놓은 생체 정보에 기초해 특정인을 개별적으로 분류하는 시스템의 출시 또는 서비스를 금지하고 있다. 인간을 도와주기 위해 만들어진 AI가 사회의 안녕과 질서에 악영향을, 해를 끼쳐서는 안 된다는 것이다.
그동안 챗GPT 등장 이후 AI에 대한 과도한 공포심이 글로벌 공간을 배회하였다. 유발 하라리 같은 일부 지식인들은 AI가 인류를 장악하기 전 인간이 AI를 통제해야 한다고 주장했다. AI 발전 속도를 감안하면 인류의 미래가 두렵다는 것이다. 그러나 이런 두려움은 과학기술이 급진적으로 전개되는 초기에는 늘 있었다. AI 법은 이런 두려움이 어느 정도 필요하겠지만 결코 두려움에 구속될 필요가 없다는 것을 보여주는 분명하게 보여준다. AI 역시 인간의 발명품이고 사회적 규제가 적절하게 이루어진다면 인류가 직면한 여러 문제 해결에 선용될 수 있다는 점을 명시적으로 나타내고 있다. 중요한 것은 기술이 아니라 기술의 활용과 규제에 대한 사회적 약속이다. ++
