개념적 뼈대에서 온톨로지적 한계 극복 및 책임성 확보 방안 모색
알고리즘(algorithm)의 어원은 9세기 페르시아의 수학자인 무함마드 이븐 무사 알콰리즈미(Muḥammad ibn Mūsā al-Khwārizmī, 780년경~850년경)의 이름에서 유래했다고 하는데, 그의 계산 방법을 뜻하는 라틴어 '알고리스무스'(algorismus)에서 비롯되었다. 이 용어는 시간이 지나며 10진법 산술 계산법을 넘어 문제를 해결하는 명확하고 체계적인 절차를 의미하는 현대적 의미로 발전했다고 한다.
AI의 실체는 알고 보면 알고리즘이라고 해도 과언이 아닌 것과 같이, 둘의 관계는 아주 밀접하다. AI는 데이터를 처리하고 학습하여 문제를 해결하는 알고리즘과 그 알고리즘이 학습하는 방대한 데이터를 포함하는 복합적인 시스템이다. 따라서 알고리즘은 AI의 지능적인 행동을 가능하게 하는 핵심 논리인 반면, 데이터는 AI 지능의 기반이자 원천이라는 점에서 두 요소 모두 필수적이다.
알고리즘은 기계의 판단인가 사람이 의도한 판단인가? 온라인 플랫폼은 알고리즘의 복잡성과 불투명성을 이용해 시스템이 내린 결정(예컨대, 콘텐츠 중독설계, 맞춤표적 광고 등)에 대한 직접적인 인간의 책임을 모호하게 만들거나 회피하려는 경향이 있다. 이는 플랫폼이 유해 콘텐츠 확산이나 차별적 행위와 같은 결과에 대해 자신은 단순한 '기술적 중개자'이며 알고리즘이 스스로 결정한 것이라 주장함으로써 책임을 분산시키는 방식이다.
띠라서, 알고리즘에 대한 규제논의는 고개를 들 수밖에 없다. Lena Ulbricht와 Karen Yeung가 쓴 「Algorithmic Regulation: A Maturing Concept for Researching Regulation by and of Algorithms)」(논문 원문 링크)에서는 알고리즘 규제의 개념적 틀과 그 분석적 심화 과정을 제시하고 있는데, 이를 바탕으로 산업경쟁규제 분야에 주는 시사점을 얻을 수 있다.
알고리즘은 데이터, 데이터 구조, 프로그램 및 프로세스와 얽힌 계산 절차에 대한 추상적이고 형식화된 설명이며(Dourish 2016), 이러한 알고리즘의 발전은 특히 머신 러닝 기술의 적용을 통해 가능한 작업별 AI의 지속적인 발전으로 이어진다. 즉, 알고리즘은 AI 시스템의 핵심을 구성하는 계산적 절차를 지칭하며, 이는 현대 산업 사회의 일상생활과 경제 전반에 깊숙이 침투해 있다. 마이크로소프트, 알파벳(구글), 아마존 등 기술 및 전자상거래 기업들이 세계 경제력의 최상단을 차지하게 된 것은 이러한 디지털화의 사회적 변화를 명확히 반영한다(Statista 2020). 알고리즘에 의한 통제와 조정은 이제 거대 온라인 플랫폼의 운영 방식 그 자체가 되었다.
이러한 배경 속에서 알고리즘 규제는 "행동에 영향을 미치거나 위험을 관리하기 위해 알고리즘 의사 결정(ADM)을 사용하려는 지속적이고 의도적인 시도"로 정의된다(Yeung 2017). 이 개념은 크게 알고리즘에 의한 규제와 알고리즘의 규제라는 이중적인 차원을 포괄하는데, 전자는 알고리즘을 통제 수단으로 활용하는 것을, 후자는 알고리즘 권력의 남용에 대한 제도적 제한과 책임성을 확보하는 것을 목표로 한다. 산업경쟁의 영역에서 알고리즘 규제는 기업들이 자사의 플랫폼이나 시장에서 경쟁자나 소비자의 행동을 통제하고 조정하기 위해 알고리즘을 설계하고 배포하는 행위, 특히 시장지배력을 남용하여 경쟁을 제한하는 행위를 의미할 수 있다.
알고리즘 규제의 핵심적인 요소는 표준 설정(standard setting), 정보 수집 및 모니터링(information gathering and monitoring), 개입 및 제재(intervention and sanctioning) 등으로 구성되는데, 이는 곧 스스로 조절하고 목표를 달성하기 위해 정보를 수집, 처리, 분석하여 시스템의 행동을 통제하는 일련의 과정인 사이버네틱 기능(cybernetic functions)으로 특징지어진다(Black 2014, Yeung 2017). 예컨대, Uber 앱을 통한 운전자 거버넌스 사례를 분석하며 알고리즘이 운전자의 자율성을 형식적으로만 인정하고 실질적으로는 정교한 기술적 수단으로 행동을 통제하고 조정하는 방식을 밝혀내는 것이다(Eyert, Irgmaier, Ulbricht 2022). 이는 온라인 플랫폼이 시장 참여자의 행동을 통제함으로써 경쟁을 제한하고 불공정한 관행을 영속화할 수 있음을 보여주며, 산업경쟁규제가 이러한 미묘한 통제 방식을 포착해야 함을 시사한다.
알고리즘 규제는 주로 알고리즘(처리)에 의한 조정과 통제에 초점을 맞춤으로써, 미디어 이론가 마노비치(Manovich 1999)가 컴퓨터 온톨로지{ontology; 특정 분야의 지식(개념, 속성, 관계)을 컴퓨터가 이해하고 추론할 수 있도록 형식적으로 체계화하여 표현하는 것을 의미함}의 두 반쪽이라고 지적한 데이터 구조와 알고리즘 중 전자를 경시하는 경향이 있다. 즉, 알고리즘 규제의 존재와 운영에 필수적인 데이터의 수집, 생성, 처리 및 통합에 관한 프로세스와 역학이 간과될 수 있는 점을 유의해야 한다.
이러한 한계를 극복하기 위해 벨라노바(Bellanova)와 드 괴데(de Goede)가 채택한 '인프라적 관점'은 데이터 구조와 아키텍처적 제약이 어떻게 법적 제약(예컨대, 데이터 보호)을 우회하고 권력을 제도화하는지 분석했다. 마찬가지로 존스(Johns)와 콤프턴(Compton)이 제시한 '데이터 관할권' 개념은 특정 목표와 규범적 의무를 가진 조직이 데이터를 수집하는 방식에 대해 법적 관할권 개념을 제시한다. 산업경쟁규제 관점에서 볼 때, 이는 거대 디지털 기업들이 데이터 인프라, 독점적 데이터 세트, 데이터 착취 관행을 통해 시장 진입 장벽을 높이고 경쟁 환경을 조작하는 행위에 대한 비판적 조사가 단순히 최종 알고리즘 결정뿐 아니라, 데이터 공급망 및 인프라 자체를 포괄해야 함을 의미한다.
또한, 알고리즘 권력의 부상에 대한 우려가 "소프트" 윤리적 접근 방식에서 벗어나 법적 권리와 정의에 대한 주장으로 전환되고 있다는 점이다. 이는 알고리즘 권력 남용을 견제하기 위해서는 자발적 이니셔티브나 모호한 윤리적 기준을 넘어, 법적으로 집행 가능한 한계와 제도적 감독 메커니즘이 필수적임을 시사한다. 유럽연합(EU)의 디지털 서비스법(Digital Services Act, DSA)은 이러한 제도적 감독의 구체적인 예시를 제공한다. DSA는 매우 큰 온라인 플랫폼(VLOP)에 대해 알고리즘 투명성, 위험 관리, 독립적인 감사 등의 의무를 부과함으로써, 플랫폼의 알고리즘적 운영이 경쟁 및 시장 진입에 미치는 영향을 간접적으로 규율할 수 있는 법적 기반을 마련한다. 특히 DSA가 요구하는 알고리즘적 결정의 투명성 및 설명 책임은 경쟁규제 기관이 플랫폼의 자사우대, 차별, 또는 은밀한 담합과 같은 반경쟁적 행위를 입증하는 데 필수적인 정보를 확보하는 데 기여할 수 있다.
더 나아가, 알고리즘 규제 개념이 상당한 비판적 추진력을 얻을 수 있는 유익한 방법은 알고리즘의 정치적 차원에 초점을 맞춘 기존 문헌과 결합하는 것이다. 알고리즘 응용 프로그램이 민주주의, 정의, 개인의 자유와 같은 근본적 가치를 체계적으로 위협할 수 있는 방식에 대한 연구(Dencik et al. 2018)와 쇼샤나 주보프(Shoshana Zuboff, 1951-)나 크리스찬 푸크스(Christian Fuchs, 1972-) 등의 비판 학자들이 주장하는 자본주의와의 결합에 대한 비판은 산업경쟁규제 프레임워크가 단순히 경제적 효율성을 넘어 민주적 가치와 공정한 사회 질서라는 더 넓은 관점에서 알고리즘 권력을 통제해야 함을 명확히 한다. 이러한 위험은 민주주의 사회와 권위주의 사회 모두에서 발생하지만, 그 형태는 다양하며, 중국 당국이 위구르족을 통제하기 위해 산업적 규모의 감시와 수용을 수용한 사례(Graham-Harrison 2020)는 알고리즘 권력이 초래하는 가장 극단적인 형태의 배제를 보여준다.
이러한 탐구가 우리나라 산업경쟁규제에 대한 시사점은 명확하다. 단순히 독점적 지위 남용이나 담합과 같은 전통적인 경쟁법 이슈에 머무르지 않고, 디지털 거대 기업들이 알고리즘의 속도, 규모, 정교함 및 불투명성을 이용하여 시장을 통제하고 경쟁을 배제하는 행위들을 포착해야 한다. 이는 알고리즘적 통제 방식을 포함하여, 플랫폼의 설계, 데이터 수집 및 이용 방식, 시장 참여자에 대한 차별적인 알고리즘적 개입에 대한 비판적 분석을 경쟁규제의 범위 내로 적극적으로 끌어들여야 함을 의미한다.
따라서 우리나라 규제 당국은 알고리즘 규제라는 렌즈를 통해 산업경쟁을 바라볼 때, 알고리즘 권력의 형태, 본질 및 영향에 더욱 집중해야 하며, 특히 배제, 착취, 학대로 이어질 수 있는 불투명한 알고리즘적 논리와 과정에 대한 제도적 감시를 강화해야 한다. 이는 데이터와 알고리즘이라는 컴퓨터 온톨로지의 양면을 통합적으로 이해하고, 기술적 아키텍처뿐 아니라 이를 둘러싼 사회기술적 인프라, 정치 문화, 법적 틀을 종합적으로 고려하는 학제 간 심층 탐구를 기반으로 규제 체계를 설계해야 한다는 결론에 이른다.