장 자크 루소는 자서전 『고백록』의 첫 문장에서 이렇게 선언했다. "나는 일찍이 시도된 적이 없고, 앞으로도 모방될 수 없는 일을 하고자 한다. 나의 동류에게 있는 그대로의 한 인간을 보여주고자 한다. 그 인간은 바로 나다."
루소에게 투명성은 미덕이었다. 자연 상태의 인간은 숨길 것이 없었고, 문명이 가면과 가식을 발명했다. 진정한 사회계약은 이 가면을 벗는 것, 즉 투명해지는 것에서 시작된다는 것이 루소의 확신이었다.
이 확신은 법으로 번역되었다. 투명성이 규제 도구로 제도화된 역사는 생각보다 길다.
가장 오래된 선례는 금융 시장이다. 1933년 미국 증권법은 대공황의 폐허 위에서 태어났다. 핵심은 단순했다. 주식을 발행하는 기업은 재무 상태를 공개하라. 투자자가 "무엇을 사는지" 알 수 있게 하라. 이 공시 의무는 투명성 규제의 원형이다. 기업과 투자자 사이의 정보 비대칭을 해소하여, 투자자가 정보에 기반한 의사결정을 할 수 있도록 보장하는 것이다. 이 논리는 거의 한 세기가 지난 지금도 그대로 유지되는 기둥이며, 한국 자본시장법의 공시 제도도 같은 뿌리에서 자랐다.
식품 표시 의무는 이 논리를 일상으로 확장했다. 원산지 표시, 영양 성분 표시, 유전자변형식품(GMO) 표시가 그 내용이다. "당신이 먹는 것의 정체를 알 권리"를 보장하는 규제다. 소비자는 라벨을 읽고 선택할 수 있어야 한다. 선택의 전제는 정보이고, 정보의 전제는 투명성이다.
개인정보보호법의 고지·동의 체계는 투명성을 데이터 세계로 가져왔다. 기업이 개인정보를 수집할 때 목적·항목·보유기간을 고지하고 동의를 받아야 한다. "당신의 데이터로 무엇을 하려는지 알 권리"를 법제화한 것이다. EU의 GDPR이 규정한 "설명을 요구할 권리(right to explanation)"는 이 흐름의 정점에 있다.
그 다음, 알고리즘 투명성이 왔다. EU 디지털 서비스법(DSA)은 플랫폼의 추천 알고리즘 작동 원리를 이용자에게 설명하도록 요구한다. "왜 이 콘텐츠가 나에게 보이는가"를 알 권리. 금융 공시의 "왜 이 주식을 사야 하는가", 식품 표시의 "이것은 무엇으로 만들어졌는가", 개인정보 고지의 "내 데이터로 무엇을 하는가"와 같은 계보 위에 서 있다.
인공지능기본법 제31조의 투명성 의무는 이 계보의 엣지이다. "AI가 만든 것입니다"라고 알려라. 금융 공시 → 식품 표시 → 개인정보 고지 → 알고리즘 설명 → AI 생성물 표시. 투명성이라는 규제 도구가 시장에서 식탁으로, 식탁에서 데이터로, 데이터에서 알고리즘으로, 알고리즘에서 AI 생성물로 확장되어온 거의 한 세기의 여정이다.
그러나, 이 여정에는 그림자가 따라붙는다.
루소로부터 거의 250년 뒤, 한국 출신의 재독 철학자 한병철은 정반대의 진단을 내린다. '투명사회'라는 책에서 그는 투명성이 현대 사회의 지배적 강박이 되었다고 말한다. 모든 것이 투명해져야 한다는 요구는, 더 이상 루소가 꿈꾼 진정성의 회복이 아니다. 오히려 감시이자, 통제에 가깝다. 한병철의 표현을 빌리면, 투명사회는 "긍정의 지옥"이다. 모든 것이 드러나되 아무것도 깊이 이해되지 않는 세계다.
한병철의 경고는 방금 추적한 투명성 규제의 계보에도 적용된다. 금융 공시가 과잉되면 기업은 서류 작업에 매몰되고, 식품 표시가 과잉되면 아무도 읽지 않는 라벨이 되며, 개인정보 고지가 과잉되면 "동의합니다" 버튼을 무의식적으로 누르는 귀찮은 의례가 된다. 투명성의 역설이다. 투명성을 너무 많이 요구하면, 투명성이 형식으로 전락한다. AI 투명성 의무도 이 역설에서 자유롭지 않다. 모든 AI 결과물에 워터마크를 새기고 고지 문구를 삽입하는 것이, 정말 이용자의 자율적 판단을 돕는 것인가? 아니면 "AI 생성"이라는 표시가 "쿠키 동의" 팝업처럼 아무도 읽지 않는 형식적 절차가 되는 것은 아닐까?
인공지능기본법 제31조(인공지능 투명성 확보 의무) 원문을 읽어 보자.
① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다. ② 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다. ③ 인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다. ④ 그 밖에 제1항에 따른 사전고지, 제2항에 따른 표시, 제3항에 따른 고지 또는 표시의 방법 및 그 예외 등에 관하여 필요한 사항은 대통령령으로 정한다.
이 조항은 앞서 설명한바와 같은 긴장 위에 서 있다.
루소의 이상과 한병철의 경고, 그리고 금융 공시에서 알고리즘 투명성까지 축적된 규제 경험 위에서, 세 가지 투명성 의무를 설계했다. AI 기반 서비스라는 사실을 미리 알려라(사전 고지). AI가 만든 결과물이라는 표시를 붙여라(표시). 진짜와 구분하기 어려운 가짜를 만들었다면 그 사실을 명확히 밝혀라(딥페이크 고지·표시).