AI끼리 짜고 치는 고스톱?

'보이지 않는 담합'의 시대

"AI 가격결정 시대 연다… 인핸스 커머스 OS 발표" - 연합뉴스

AI가 가격을 결정한다? 오늘 본 기사 중 가장 눈길을 끌었다. AI는 경쟁법에서도 중요한 이슈 중 하나다. AI 기술이 가격 결정 영역으로 진출하면 전통적인 담합의 개념이 흔들리기 때문이다. 인핸스의 '커머스 OS'처럼 AI가 실시간으로 52개국 시장 상황을 분석하고 최적의 가격을 자동으로 결정하는 시대가 열렸지만 새로운 형태의 담합 가능성도 함께 다가오고 있다.

▲ 인핸스 홈페이지

전통적인 담합은 반드시 사람 간의 명시적 합의가 필요하다. 기업들이 모여서 가격을 합의하고 이를 실행하는 과정에서 어떤 식으로든 증거가 남기 마련이다. 하지만 AI 시대는 이런 상식을 뒤바꾸고 있다. AI 알고리즘을 통한 담합은 인간의 직접적인 의사교환 없이도 담합과 유사한 결과를 만들어낼 수 있다. 알고리즘들이 서로의 가격 정보를 모니터링하고 학습하면서 마치 '보이지 않는 손'처럼 가격을 조율해 나가기 때문이다. 예를 들어 한 기업이 가격을 올리면 AI끼리 가격을 수집해 비슷한 수준으로 올리는 것으로, 외형만 보면 담합과 동일하다.

이미 현실이 된 AI 담합

2024년 8월, 미국 법무부와 8개 주는 리얼페이지와 대형 임대업체들을 상대로 민사 반독점 소송을 제기했다. 워싱턴 DC 등 대도시에서 14개 대형 임대업체가 '일드스타(YieldStar)'를 통해 임대료를 인위적으로 높게 유지했다는 의혹 때문이다.

앞서 미국 텍사스에 본사를 둔 리얼페이지는 '일드스타(YieldStar)'라는 임대료 결정용 소프트웨어를 개발했다. 이 프로그램은 실제 임대 수익 변동, 기존 임대료, 갱신, 구매력 등 방대한 임대 거래 데이터를 분석해 매일 임대료를 추천한다. 여러 임대업체가 이 소프트웨어를 도입하면 각 업체의 임대료, 공실률, 임대 조건 등 민감한 정보가 실시간으로 공유된다. 업체들은 이 추천을 거의 그대로 반영했고, 그 결과 시장 전체 임대료가 비슷하게 오르는 현상이 나타났다. 실제로 워싱턴 DC 내 50개 이상 대형 건물의 60%에서 이 소프트웨어가 사용된 것으로 드러났다.

▲ 리얼페이지 홈페이지

임대업체들이 독립적으로 가격을 정하지 않고 알고리즘이 제시하는 가격을 따라가면서 사실상 담합 효과가 발생했다는 것이 미국 법무부의 주장이다. 임차인들은 임대료 협상이나 할인 혜택을 받기 어려워졌고 임대료 부담이 커졌다는 비판도 쏟아졌다. 캐나다에서도 2024년 12월, YieldStar를 사용한 임대업체들이 임대료 담합 혐의로 집단소송에 휘말렸다.

비슷한 논란은 공유차량으로 잘 알려진 우버(Uber)에서도 있었다. 2016년 미국 뉴욕 남부지방법원은 우버의 가격 결정 알고리즘이 기사들 간의 가격 경쟁을 막고 결과적으로 소비자에게 불리한 가격을 유도할 수 있다고 판단했다. 다만, 이 사건은 궁극적으로 상급심에서 기각 처리되었지만 최초로 알고리즘 담합 가능성을 공식적으로 문제 제기한 사례로 평가된다.

AI 담합의 위험성, 왜 더 심각한가?

AI 담합은 명시적인 합의 과정이 없어 기존 경쟁법으로 규제하기 어렵다. 알고리즘이 스스로 학습하여 담합을 선택하는 경우 누구를 처벌해야 할지도 불분명하다. 또 사용자 입장에서 보면 AI 알고리즘을 이용한 담합은 전통적 담합보다 더 효과적일 수 있다. 알고리즘은 24시간 지속적으로 시장을 모니터링하고 경쟁자의 이탈을 즉시 탐지해 보복할 수 있기 때문이다. 산업 구조의 제약 없이 AI 담합이 발생할 수 있는 점도 중요하다. 전통적으로 담합이 어려웠던 다양한 업종에서도 AI 기술만 있으면 담합이 가능해지는 것이다.

홈페이지 캡처

공정거래위원회도 아직 명확한 방침을 세우지 못했다. 우리나라 공정거래법은 사업자 간의 합의를 담합의 요건으로 하고 있어 AI가 자율적으로 학습해서 담합하는 경우는 규제 대상에 포함되지 않는 실정이다. 미국은 알고리즘을 통한 가격 설정도 반독점법 위반으로 간주하는 방향으로, 유럽은 AI 관련 법을 통해 AI 담합에 대한 초기 단속을 강화하고 있다.

국내에서는 가격이 서로 유사하게 움직이는 가격 동조 패턴을 감시하도록 하고, AI 담합이 의심되는 경우 알고리즘 공개를 의무화하고, 알고리즘 설계부터 담합 방지 조치를 넣도록 하는 방안 등이 대책으로 거론되고 있지만 본격적인 논의에는 아직 접어들지 못했다.

빈대 잡으려다 초가삼간 태울라

경쟁당국들이 AI 규제에 적극적이지 못한 이유도 있다. 신기술은 효율성 증대와 소비자 편익 향상이라는 긍정적인 점도 있기 때문이다. 섣부른 규제가 오히려 혁신을 저해할까 우려하는 것이다. 그래서 당장 완전 자율형 AI 담합보다는 인간이 개입된 형태의 알고리즘 담합부터 단속하는 것이 현실적이라는 지적이 많다. 담합을 위해 AI를 도입했다면 사용자에게 책임을 묻는 것이다. 하지만 이를 기존 경쟁법에서 입증하기는 제도적 제약이 많은 게 사실이다.

▲ AI 담합을 표현한 이미지 / AI 생성

이 때문에 AI 시대에 맞는 새로운 경쟁법 체계를 신중하게 준비해야 한다는 의견이 많다. AI 가격 결정 기술의 발전은 피할 수 없는 흐름이다. 하지만 이것이 '보이지 않는 담합'으로 이어지게 방치해서는 안된다는 지적이다. 핵심은 혁신을 억제하지 않으면서도 공정한 경쟁을 보장하는 균형점을 찾는 것이다. AI가 가져올 편익을 누리되, 그것이 공정한 시장 경쟁을 해치는 도구가 되지 않도록 하는 것, 이것이 AI 가격 결정 시대에 우리가 직면한 가장 중요한 과제다.