규제의 논의와 알고리즘 규제론적 시사점
온라인 플랫폼은 연결성과 효율성이라는 유익한 기능을 제공하는 동시에, 이용자의 관심(attention)과 빅데이터라는 자원을 극대화하기 위해 설계된 강력한 알고리즘적 메커니즘을 통해 개인의 자율성을 은밀하게 침해하고 있다. 이 중 가장 첨예한 문제로 부상한 것은 플랫폼의 중독 설계(addictive design)와 그 상업적 무기인 표적 광고(targeted advertising)이다. 이 두 행위는 단순히 '나쁜 비즈니스 관행'을 넘어, 플랫폼의 알고리즘적 권력이 어떻게 이용자의 인지적 취약점과 데이터 구조를 결합하여 개인의 통제권과 시장의 공정성을 훼손하는지를 극명하게 보여주며, 이러한 행태에 대한 규제 논의는 이제 기존의 법적 프레임워크를 넘어, 데이터와 알고리즘의 통합적 통제를 요구하는 새로운 알고리즘 규제론적 시사점을 제공하고 있다.
중독 설계는 행동경제학 및 심리학적 원리를 활용하여, 플랫폼이 이용자의 주의력과 시간을 최대한 오래 붙잡아 두기 위해 서비스의 사용자 인터페이스(UI)와 경험(UX)을 의도적으로 설계하는 행위를 일컫는다. 이는 기술적 기법을 통해 이용자가 자발적으로 서비스 이용을 중단하기 어렵게 만들고, 궁극적으로 플랫폼의 광고 수익 증대에 기여한다. 대표적인 행태로는, 끝없이 새로운 콘텐츠를 제공하여 종료 신호(stop cue)를 없애는 무한 스크롤(infinite scroll) 기능이 있다. 이 개념은 웹 디자이너 '아자 라스킨'(Aza Raskin, 1983-)이 2006년에 발표한 논문에서[Aza Raskin, Infinite Scroll, A List Apart, No. 227, 2006] 처음 제안되었으며, 이후 소셜 미디어(SNS)가 채택하여 중독성을 극대화하는 핵심 요소가 되었다. 더 나아가, 이는 간헐적이고 예측 불가능한 보상을 통해 이용자의 접속을 유도하는 심리학적 원리인 '변동 강화 스케줄'(variable ratio schedule of reinforcement)의 적용으로 구체화되는데, 이 원리는 행동주의 심리학자인 '버러스 프레더릭 스키너'(Burrhus Frederic Skinner, 1904-1990)의 1938년 고전적 저서에서 확립된 것이다[B.F. Skinner, The Behavior of Organisms, 1938, pp. 248-251]. 예컨대, SNS의 '좋아요'나 알림 기능은 언제 어떤 보상이 도착할지 알 수 없기에, 이용자는 습관적으로 새로고침(pull-to-refresh)을 하거나 알림을 확인하게 만드는 일종의 보상 루프(reward loop)를 형성한다[Nir Eyal, Hooked: How to Build Habit-Forming Products, 2014, pp. 69-82]. 이는 슬롯머신의 원리와 동일하게 작동하며, 이용자의 시간과 주의력을 불필요하게 착취하여 정신 건강과 학업, 사회생활에 부정적인 영향을 미치는 인지적 착취(cognitive exploitation)의 전형적인 사례이다[Adam Alter, Irresistible: The Rise of Addictive Technology and the Business of Keeping Us Hooked, 2017, pp. 45-68].
이와 달리 표적 광고는 이용자의 방대한 개인 데이터를 알고리즘적으로 분석하여 프로파일링(profiling)을 수행하고, 그 결과 특정 상품이나 메시지에 가장 취약하고 반응할 가능성이 높은 순간과 장소에 맞춤형 광고를 노출하는 행위이다. 여기서 사용되는 데이터는 위치, 검색 기록, 관심사뿐만 아니라, 이용자가 플랫폼에 접속하는 시간대, 콘텐츠에 머무는 시간, 클릭 패턴 등 미세한 행동 데이터(micro-behavioral data)를 포함한다. 문제의 심각성은 단순한 맞춤 광고를 넘어, 알고리즘이 이용자의 심리적 취약점(psychological vulnerability)을 포착하여 상업적 목적에 이용한다는 점에 있다. 예컨대, 우울증 관련 정보를 검색하거나 경제적으로 어려운 상황에 놓인 이용자를 식별한 알고리즘이, 해당 이용자에게 도박이나 고금리 대출 광고를 집중적으로 노출시키는 행위는 잠재적으로 알고리즘적 차별(algorithmic discrimination)을 심화시킬 수 있다[Sander van der Linden, The Psychology of Targeted Advertising, 2021, Chapter 5]. 이는 개인의 정보를 단순히 보호하는 차원을 넘어, 플랫폼이 이용자의 가장 민감하고 취약한 상태를 상업적 목적으로 조작할 수 있다는 윤리적, 법적 문제를 내포하며, 표적 광고는 알고리즘 규제론적 관점에서 데이터의 수집-분류-분석-결정으로 이어지는 정보의 흐름 전체에 대한 통제가 필요함을 시사한다.
중독 설계와 표적 광고에 대한 규제는 현재 주요 관할권에서 기존 법률의 확장 적용과 새로운 디지털 법률의 제정을 통해 투 트랙으로 진행되고 있다.
학술적·규제론적 관점에서 중독 설계는 이용자의 시간과 주의력을 강박적으로 착취하는 데 중점을 둔 다크 패턴(dark patterns)의 한 특정 유형으로 분류된다. 즉, 중독 설계는 무한 스크롤이나 변동 강화 스케줄 같은 심리적 기법을 통해 이용자의 시간과 주의력을 착취하여 플랫폼 이용 습관을 강박적으로 만들지만, 이는 본질적으로 이용자의 자율적인 의사결정 과정을 방해하는 조작적 디자인이라는 점에서 다크 패턴의 한 유형으로 분류된다. 이러한 중독설계의 조작적 디자인은 소비자의 오인을 유도할 수 있는 부당한 행위에 해당될 수 있다. 이러한 측면에서, 중독설계는 경쟁법과 디지털 플랫폼 규제를 통해 간접적으로 규율될 가능성이 열려 있다. 우리나라에서 중독 설계는 플랫폼의 시장 지배력을 강화하는 수단으로 해석되어 이용자를 플랫폼에 과도하게 묶어두어(lock-in) 경쟁 사업자에게 불필요한 진입 장벽을 만들고 장기적으로 이용자의 선택권을 부당하게 제한하는 행위로 간주될 경우, 공정거래법에 따른 의율이 가능하다. 2024년 쿠팡의 검색 알고리즘 조작 사건(제2024-177호, 2024. 6. 13)은 알고리즘 조작을 통해 자사 상품을 우대하고 임직원 리뷰로 소비자를 속여 구매를 유도한 행위가 소비자 판단을 왜곡하는 기만적 설계(위계)에 해당한다는 점에서 다크 패턴의 '오인 유도' 유형을 가장 극단적으로 보여주는 사례이다. 공정거래위원회는 이러한 쿠팡의 행위를 공정거래법 제45조(불공정거래행위의 금지)의 부당한 고객 유인 등으로 의율하였다(쿠팡은 이에 불복하여 시정명령 및 과징금 납부 명령 취소소송을 서울고등법원에 제기하였고 해당 사건은 진행 중임). 다만, 중독 설계는 주로 시장 경쟁보다는 소비자 후생 및 공중 보건의 문제와 밀접하여 공정거래법만으로는 규제 범위에 근본적인 한계가 존재한다. 또한, 우리나라 온라인 다크패턴과 관련된 규제는 전자상거래법에도 존재하는데, 이에 관한 구체적인 해석기준을 제시하고 사업자들에게 공정한 온라인 인터페이스 환경 조성을 권고하기 위해 제정된 '전자상거래 등에서의 소비자보호 지침(소비자보호지침)'(2025. 10. 24.자 개정)을 추가로 참고할 수 있다.
이에 관한 해외사례를 보면, EU의 DSA(Digital Services Act)는 중독 설계와 같은 알고리즘적 위험에 대한 사전적 통제 표준을 제시하는데, DSA는 매우 큰 온라인 플랫폼(VLOPs)에 대해 DSA 제34조(시스템적 위험 평가) 의무를 부과하고, 중독 설계나 정신 건강에 대한 부정적 영향과 같은 시스템적 위험을 식별 및 평가하도록 강제한다. 이는 플랫폼이 알고리즘 설계 단계부터 이용자의 자율성을 침해하는 패턴(dark patterns)을 포함한 위험 요소를 제거하고 완화하도록 요구하는 위험 기반 접근(risk-based approach)의 전형이며, 사후적 제재가 아닌 설계 단계의 책임(responsibility by design)을 플랫폼에 부과한다는 점에서 알고리즘 규제론적 진일보로 평가된다.
표적 광고에 대한 가장 직접적인 규제는 개인정보보호 법령을 통해 이루어지는데, 유럽연합(EU)의 GDPR(General Data Protection Regulation)은 알고리즘 기반의 프로파일링을 통한 표적 광고에 대해 강력한 통제권을 부여한다. 특히 GDPR 제22조(자동화된 개별 결정 포함)는 정보주체가 자신에게 법적 효력을 발생시키거나 중대한 영향을 미치는 프로파일링을 포함한 오직 자동화된 처리에 근거한 결정의 대상이 되지 않을 권리를 명시한다. 나아가, GDPR은 민감 정보(sensitive data)에 대한 처리를 엄격히 제한하고 있어, 심리적 취약성이나 건강 상태 등을 포착하는 표적 광고 시스템은 원칙적으로 금지될 여지가 크며, 실제 아일랜드 데이터 보호 위원회(DPC)가 메타(Meta)의 표적 광고 방식에 대해 GDPR 위반으로 수억 유로의 과징금을 부과하는 등 실제 집행 사례가 축적되고 있다. 한편, 우리나라의 개인정보 보호법 제37조의2(자동화된 결정에 대한 정보주체의 권리)는 정보주체에게 알고리즘 기반의 프로파일링이 '중대한 영향'을 미치는 경우, 결정에 대한 설명과 이의제기를 요구할 수 있는 권리를 부여하여 GDPR과 유사한 개념을 도입하였다. 그러나 '중대한 영향'에 대한 구체적인 해석이 불분명하여, 일상적인 표적 광고 노출에까지 광범위하게 적용하는 데는 해석상의 난점이 있으며, 현재로서는 사후적 구제 수단의 한계가 명확하여 표적 광고의 근원인 데이터 수집 및 분류 단계에 대한 사전적 통제가 부족하다는 비판을 받고 있다.
궁극적으로 중독 설계와 표적 광고에 대한 규제 논의는 알고리즘 규제론의 핵심 통찰을 제공하는데, 중독 설계가 플랫폼의 알고리즘적 결정, 즉 처리(algorithm) 과정에 초점을 맞춘다면, 표적 광고는 이용자의 취약점을 포착하기 위해 수집되고 구조화된 데이터(data)에 전적으로 의존하므로, 규제의 성공은 이 둘을 분리하지 않고 통합적으로 다루는 것에 달려 있다. 이는 '레브 마노비치'(Lev Manovich, 1960-)가 2001년 저서에서 지적한 컴퓨터 온톨로지(computer ontology)의 두 반쪽인 데이터(투입물)와 알고리즘(처리)을 분리하지 않고 통합적으로 다루어야 한다는 것을 강조한 것에 근거한다[Lev Manovich, 'The Ontology of the New Media', The Language of New Media, 2001, pp. 22-26]. 규제는 단순히 알고리즘의 출력 결과뿐만 아니라, 약탈적인 행위를 가능하게 하는 데이터의 수집, 분류, 프로파일링 단계에서부터 정보의 흐름을 통제해야 한다.
이러한 통합적 접근의 법적 기반이 될 수 있는 것이 2026년 1월 22일 시행 예정인 우리나라의 '인공지능산업 진흥 및 신뢰 기반 조성에 관한 기본법(인공지능기본법)'이다. 이 법은 제6조(기본원칙)에 명시된 투명성, 공정성, 책임성을 통해 중독 설계와 표적 광고의 윤리적 문제에 대한 법적 표준을 제공하며, 특히 인공지능기본법 제19조(고위험 인공지능의 신뢰 확보)에 근거하여, 아동·청소년을 대상으로 하는 중독성이 강한 서비스나, 취약 계층을 악용하는 표적 광고 시스템을 고위험 인공지능으로 지정할 수 있는 하위 법령(시행령)을 마련하는 것이 핵심적 과제이다. 만약 이러한 시스템이 고위험 AI로 지정된다면, 플랫폼은 설계 단계부터 중독성을 완화하고 차별적 편향을 제거하는 장치를 내재화하도록 강제될 것이다. 이는 사후적 제재에 의존했던 기존 법률의 한계를 극복하고, DSA의 시스템적 위험 평가와 유사하게 알고리즘의 설계 의도와 데이터 사용 방식을 사전에 통제할 수 있는 통합적이고 사전 예방적인 규제 시스템을 구축하는 첫걸음이 될 것이다.
결론적으로, 중독 설계와 표적 광고는 알고리즘이 이용자의 자율적 통제권과 시장의 공정성을 침해하는 가장 첨예한 지점이며, 이들에 대한 규제는 단순히 기술의 문제를 넘어 플랫폼의 데이터와 알고리즘 통합 책임을 묻는 것이 핵심이다. 한국은 개인정보 보호법과 공정거래법의 사후적 집행력에 인공지능기본법의 사전 예방적 원칙을 결합하여, 디지털 환경에서 개인의 자율성을 회복시키고 알고리즘적 착취의 근원을 체계적으로 통제할 수 있는 법적-행정적 장치를 시급히 마련해야 할 시점이다.