AI가 대체 하는 일, 우리가 해야 할 일
AI 시대, ‘고도화’는 어떤 의미여야 할까
사업 계획 수립시기가 되면 큰 고민 없이 “고도화”라는 단어가 자주 등장한다. 새로운 업무를 시작할 때에는 무언가 새롭고 신선한 시도를 해보는 것만으로도 충분히 의미 있다. 하지만 같은 성격의 업무를 수행한 지 2년 차쯤 되면 자연스럽게 이 마법의 단어를 떠올리게 된다. 하기는 해야겠는데, 그렇다고 똑같이 할 수는 없으니 아직 고민은 안 해봤지만 어쨌든 좀 더 잘해보겠다는 뉘앙스를 담은, 일종의 조커 카드처럼 사용하게 되는 셈이다. 그런데 이 고도화라는 개념은 생각보다 모호하다. 더 빠르게 처리하는 걸 의미하는 건지, 결과의 질을 높이는 건지, 아니면 아예 일의 방식 자체를 바꾸는 건지 애매한 경우가 많다. 특히 요즘처럼 AI와 같은 새로운 기술이 빠르게 도입되면서 이 질문은 더욱 복잡해진다.
MIT와 하버드 소속 연구자들이 수행한 『The Coasean Singularity?』라는 페이퍼는 AI 에이전트가 검색, 협상, 계약 등 거래 과정 전반을 자동화하면서 시장의 구조를 바꿀 수 있다는 가능성을 제시한다. 내로라하는 기관 소속의 연구자들이 기존 경제학 이론의 틀로 AI 에이전트를 해석한 시도는 그 자체로 신선하다. 특히 거래비용(transaction costs)을 급격히 낮출 수 있다는 점이 AI 에이전트의 핵심 잠재력으로 제시된다. 기존에는 시간과 비용이 들어 복잡했던 가격 비교, 조건 협상, 계약 집행 같은 작업을 에이전트가 거의 제로에 가까운 한계 비용으로 수행할 수 있게 되면서, 시장 설계 자체가 재정의될 수 있다는 주장이다. 이는 단순한 기술적 진보가 아닌, 시장 참여자와 구조를 근본적으로 재구성할 수 있는 계기가 될 수 있다. 하지만 동시에, AI가 모든 것을 효율적으로 바꿔줄 것이라는 낙관에는 경고도 함께 담겨 있다. 에이전트의 사용은 오히려 새로운 마찰을 유발하며, 기대했던 순효과가 상쇄될 가능성도 있다는 점을 강조한다.
AI가 사무직 업무, 특히 HR 영역에서도 많은 부분을 대체할 수 있을 것이라는 전망은 점점 현실로 다가오고 있다. 그러나 그 변화는 단순히 내가 하는 일을 AI가 대신하고, 나는 사라진다 수준은 아니다. 물론 반복적이고 정형화된 업무는 분명 빠르게 대체될 수 있겠지만, 그렇다고 우리의 역할이 완전히 사라지지는 않는다. 중요한 건 단지 ‘대체되지 않기 위한 노력’에서 그치지 않고, 에이전트를 활용해 기존에는 할 수 없었던 시도를 해보는 것이다. 채용이나 조직 개발에서 미처 분석하지 못했던 변수들을 실시간으로 파악하거나, 조직을 넘어 개인 맞춤형 인사 제도를 설계하는 것처럼 새로운 가치를 만드는 방향으로 확장되어야 한다. AI 시대의 고도화란 기술에 적응하는 것이 아니라, 기술에 힘입어 더 큰 질문을 던질 수 있게 되는 것 아닐까 하는 생각을 해본다.
The Coasean Singularity? Demand, Supply, and Market Design with AI Agents
Shahidi, P., Rusak, G., Manning, B. S., Fradkin, A., & Horton, J. J. (2025). The Coasean Singularity? Demand, Supply, and Market Design with AI Agents. NBER Chapters.
이 연구를 3줄로 요약하면?
AI 에이전트는 검색, 협상 등 시장 활동을 자동화하여 거래 비용을 극적으로 낮춤으로써 디지털 시장을 변화시킬 잠재력을 지닌다. 이 논문은 AI 에이전트의 수요와 공급 측면을 분석하고, 에이전트가 시장 설계와 규제에 미칠 경제적 영향을 평가한다. 저자들은 AI 에이전트가 효율성을 높일 수 있지만, 혼잡이나 가격 은닉 같은 새로운 마찰을 일으킬 수도 있으며, 전반적인 복지 효과는 실증적 문제로 남아있다고 결론짓는다.
저자는 왜 이 연구를 진행했는가?
저자들은 AI 에이전트가 시장 참여자로서 검색, 협상, 거래를 직접 수행할 수 있다는 소비자 지향적 관점에서, 이러한 전환이 가져올 경제적 함의를 평가하기 위해 이 연구를 진행했다.
이 연구에서 중요하게 다뤄진 개념은?
AI 에이전트 (AI agents): 인간 본인(principal)을 대신하여 목표를 달성하기 위해 디지털 환경에서 인식하고, 추론하며, 행동하는 자율 소프트웨어 시스템이다.
거래 비용 (Transaction costs): 경제 활동을 조정하기 위해 시장을 사용하는 것과 관련된 비용이다. AI 에이전트는 가격 학습, 조건 협상, 계약 작성, 규정 준수 모니터링과 같은 작업을 낮은 한계 비용으로 수행하여 이러한 비용을 극적으로 줄일 수 있다.
시장 설계 (Market design): AI 에이전트는 선호도 파악, 계약 집행, 신원 확인 비용을 낮춤으로써 이전에는 이론적으로만 매력적이었던 메커니즘을 대규모로 실현 가능하게 만들어 시장 설계의 지평을 확장한다.
파생 수요 (Derived demand): AI 에이전트에 대한 수요는 에이전트 자체에서 직접적인 효용을 얻는 것이 아니라, 의사결정의 질과 노력 감소 사이의 트레이드오프를 반영하는 파생적인 수요이다.
저자는 어떤 방법을 사용했는가?
이 문서는 특정 데이터를 사용한 실증 연구가 아니며, AI 에이전트의 경제적 영향을 분석하는 챕터(chapter) 또는 에세이(essay) 형식의 글이다. AI 에이전트를 시장 참여자로 간주하는 실용적인 관점을 채택하여, 기존 경제 이론(예: Coase)과 문헌을 바탕으로 수요, 공급, 시장 설계, 규제 측면의 변화를 이론적으로 분석한다.
연구의 결과는?
AI 에이전트 도입의 순수한 복지 효과는 아직 실증적인 문제로 남아있다. 에이전트는 선호도 파악, 계약 집행, 신원 확인 비용을 낮춰 시장 설계의 가능성을 확장하지만, 동시에 새로운 규제 문제를 야기한다. AI를 통한 거래의 급속한 등장은 경제 연구가 실제 정책과 시장 설계에 정보를 제공할 독특한 기회를 제시한다.
1. 서론 (Introduction)
AI 에이전트(AI agents)는 인간 본인(principal)을 대신하여 목표를 달성하기 위해 디지털 환경에서 인식하고, 추론하며, 행동하는 자율 소프트웨어 시스템이다. 이들은 도구 사용, 경제적 거래, 전략적 상호작용이 가능하다.
AI 에이전트와 기존 소프트웨어의 차이
AI 에이전트의 자율성은 기존 소프트웨어와 구별되는 핵심 특징이다. 예를 들어, 구글 Gemini 팀이 소개한 'Deep Research'는 자연어 지시(프롬프트)를 받아 중간 단계의 인간 감독 없이 독립적으로 웹을 검색하고, 결과를 평가하며, 연구 보고서를 작성할 수 있다. 반면 전통적인 소프트웨어는 정보를 검색하거나(Google Scholar) 사전에 제공된 데이터만을 처리하는(요약) 수준에 머무르며, 소프트웨어 스스로 작업을 정의하거나 추구하지 않는다. 이처럼 자연어 지시를 바탕으로 인식, 추론, 행동하는 능력이 AI 에이전트를 정의한다.
이 논문은 AI 에이전트를 디지털 시장의 참여자로 보는 실용적인 관점을 제공한다. 이는 인간 에이전트를 고용하는 대신 AI 에이전트에 의존할 수 있다는 현실적인 가능성에 기반한다. 이미 에이전트들은 쇼핑, 협상, 상품 검색과 같은 작업을 (비록 불완전하게나마) 수행하고 있다. 여기서 '본인(principal)'이라는 용어는 AI 에이전트를 배포하는 소비자, 기업, 플랫폼 등 모든 이해관계자를 지칭한다.
거래 비용 절감이라는 경제적 잠재력
AI 에이전트의 근본적인 경제적 잠재력은 경제 활동을 조정하는 데 드는 시장 사용 비용, 즉 거래 비용(transaction costs)을 극적으로 줄이는 능력에 있다. 이러한 비용 절감은 두 가지 방식으로 나타난다.
직접 수행 (Direct approach): 에이전트가 가격 비교 쇼핑, 계약 협상, 직무 인터뷰에 이르기까지 사용자를 대신해 작업을 완전히 수행한다.
자문 (Advisory approach): 에이전트가 사용자가 더 나은 시장 결정을 내리도록 지원한다. (예: 구직자가 각 지원서에 맞게 이력서를 최적화하도록 돕기)
최근 연구들은 두 접근 방식(AI 면접, 이력서 작성 보조)이 실제 시장(예: 고용 시장)에서 긍정적인 성과를 낼 수 있음을 시사한다.
파생 수요와 경제 구조의 변화
AI 에이전트에 대한 수요는 직접적인 효용이 아닌 파생 수요(derived demand)이다. 사용자는 에이전트의 작업 자체에서 만족을 얻는 것이 아니라, 원하는 시장 결과를 달성하기 위해 에이전트를 고용한다. 따라서 인간은 다음 두 가지 시나리오에서 AI 에이전트를 배포한다.
정보 제약이나 인지 한계로 인해 차선책을 선택했을 결정을 최적화하기 위해
결정의 질은 비슷하거나 심지어 더 낮더라도, 훨씬 적은 비용과 노력으로 결정을 내리기 위해
AI 에이전트의 광범위한 채택은 경제에 변혁적인 하위 효과(downstream effects)를 야기할 것이다. 이러한 변화를 이해하는 데는 거래 비용이 조직을 형성하는 데 중심적인 역할을 한다는 Coase(1937)의 통찰이 유용하다. 가격 학습, 조건 협상, 계약 작성, 규정 준수 모니터링 등 거래 비용을 구성하는 활동들은 AI 에이전트가 매우 낮은 한계 비용으로 수행할 수 있는 작업들이다. 에이전트가 이러한 기능을 효과적이고 저렴하게 수행하게 되면, 기업 조직과 시장 구조를 정의하는 전통적인 '제작-구매(make-or-buy)' 경계에 상당한 변화가 나타날 것이다.
새로운 시장 설계의 등장
시장 구조의 변화는 두 가지 방향으로 전개된다.
기존 시장의 적응: 기존 시장에서 에이전트는 처음에는 특정 작업에서 인간을 보조(augment)하다가, 역량이 커짐에 따라 작업을 완전히 대체(substitute)할 것이다. 이 과정에서 인간의 노력은 판단, 감독, 관계 중심 활동으로 이동한다.
'에이전트 우선(Agent-first)' 설계: 새로운 시장은 이러한 점진적 진화 대신, 처음부터 프로세스, 상호작용, 역할이 전적으로 에이전트 역량을 중심으로 구조화될 것이다.
AI 에이전트는 선호도 파악(preference elicitation), 약속 이행(contract enforcement), 신원 확인(identity verification) 비용을 낮춤으로써 경제적 시장 설계의 지평(market design frontier)을 확장한다. 이는 과거에는 이론적으로만 매력적이었던 메커니즘들(예: 복잡한 매칭 알고리즘)을 대규모로 실현 가능하게 만들어 소비자 후생과 매칭을 개선할 잠재력을 지닌다.
잠재적 위험과 과제
그렇다고 AI 에이전트가 시장 효율성이나 사회적 목표 개선을 보장하는 것은 아니다. 소비자와 기업이 에이전트를 채택하는 것이 개별적으로는 합리적이더라도, 에이전트 간의 외부효과(externalities), 불완전한 정렬(imperfect alignment), 비대칭 정보(asymmetric information) 등이 존재하는 환경에서는 균형 결과가 차선책(suboptimal)이 될 수 있다.
2. AI 에이전트에 대한 수요 (Demand for AI Agents)
AI 에이전트에 대한 수요는 사용자가 에이전트 자체에서 직접적인 효용을 얻는 것이 아니라, 에이전트가 수행하는 작업을 통해 얻는 결과로부터 발생하는 파생 수요(derived demand)이다. 사용자는 더 나은 시장 결과를 얻거나(결정의 질 향상) 시장 활동에 드는 노력을 줄이기 위해(노력 감소) 에이전트를 '고용'한다.
핵심 트레이드오프: 결정의 질과 노력 감소
사용자가 AI 에이전트를 채택하는 결정은 결정의 질(decision quality)과 노력 감소(effort reduction) 사이의 트레이드오프에 의해 결정된다. '결정의 질'은 에이전트가 사용자가 직접 수행했을 때보다 더 나은 시장 결과(예: 더 낮은 가격, 더 적합한 제품)를 달성하는 것을 의미하며, 이는 '보강(augmentation)'의 가치로 볼 수 있다. '노력 감소'는 에이전트가 작업을 대신 수행함으로써 사용자가 절약하는 시간과 인지적 노력을 의미하며, 이는 '위임(delegation)'의 가치로 볼 수 있다.
사용자는 작업을 수동으로 수행하는 것(외부 옵션)과 비교하여, 에이전트를 사용하는 것이 더 큰 효용을 제공할 때 에이전트를 채택한다.
에이전트 채택에 영향을 미치는 요인
에이전트 수요는 에이전트의 역량과 과업의 맥락이라는 두 가지 주요 요인에 따라 달라진다.
첫째, 에이전트 역량(Agent Capability)이다.
에이전트의 역량은 사용자가 수동으로 수행할 때의 성과와 비교하여 결정의 질을 얼마나 향상시키거나 노력을 얼마나 줄일 수 있는지로 측정된다. 에이전트가 인간보다 결정의 질이 낮더라도(예: 인간보다 5% 더 비싸게 구매), 노력을 충분히 줄여준다면(예: 30분의 검색 시간 절약) 수요가 발생할 수 있다. 반대로, 에이전트 사용이 추가적인 노력(예: 복잡한 프롬프트 작성, 결과 검증)을 요구한다면, 결정의 질이 월등히 높아야만 채택될 것이다.
둘째, 과업 맥락(Task Context)이다.
과업의 특성은 결정의 질과 노력 감소의 상대적 중요도를 결정한다.
중요도(Stakes): 자동차나 주택 구매와 같이 중요도가 높은 결정에서는 결정의 질이 노력 감소보다 훨씬 중요하다. 이러한 영역에서는 보강(augmentation) 기능이 뛰어난 에이전트가 선호된다.
노력(Effort): 복잡한 여행 일정 예약이나 세금 신고와 같이 많은 노력이 필요한 과업에서는 노력 감소가 중요하다. 이러한 영역에서는 위임(delegation) 기능이 뛰어난 에이전트가 선호된다.
반복성(Repetitiveness): 정기적인 장보기와 같이 반복적인 과업은 위임에 적합하다.
에이전트 수요의 이질성
에이전트에 대한 수요는 사용자 간에도 이질적이다. 특정 과업에 대한 사용자의 숙련도나 지식(즉, 사용자의 '외부 옵션' 품질)에 따라 에이전트 채택 여부가 달라진다. 예를 들어, 특정 분야의 전문가는 비전문가보다 에이전트의 보강 가치를 낮게 평가할 수 있으며, 이 경우 노력 감소 효과가 채택의 주된 동기가 된다.
3. AI 에이전트 설계 (Designing AI Agents)
에이전트 설계는 엔지니어링 측면과 경제적 측면을 모두 포함한다. 이 장에서는 에이전트가 디지털 세계와 안정적으로 상호작용하는 엔지니어링 문제는 일단 제외하고, '유능한 에이전트가 어떤 행동을 취해야 하는가'라는 경제적 구성 요소에 초점을 맞춘다.
핵심 설계 문제: 정렬 문제 (Alignment Problem)
AI 에이전트가 본인을 대신해 행동하려면 반드시 본인의 선호도(preferences)를 알아야 한다. 따라서 에이전트 설계의 핵심 문제는 두 가지이다.
본인의 선호도를 파악하는 것 (eliciting preferences)
에이전트가 그 선호도를 확실히 따르도록 보장하는 것 (ensuring the agent honors them)
이 두 가지를 합쳐 컴퓨터 과학자와 철학자들은 '정렬 문제(alignment problem)'라고 부른다. 이는 경제학의 전통적인 '주인-대리인 문제(principal-agent problem)'를 포함하는 더 넓은 개념이다. 전통적인 주인-대리인 문제는 이미 선호도가 알려져 있다는 가정하에 대리인이 자신의 이익을 위해 태만하지 않도록 인센티브를 설계하는 데 초점을 맞추지만, AI 에이전트의 정렬 문제는 선호도를 파악하는 단계부터 시작한다.
선호도 파악 (Preference Elicitation)의 과제
선호도 파악 자체가 디지털 시장에서 새로운 것은 아니며, 기존 추천 시스템도 머신러닝을 통해 소비자의 선택을 예측된 선호도로 변환한다. 하지만 AI 에이전트는 기존 시스템과 근본적인 차이가 있다.
기존 시스템의 한계: 기존 추천 시스템은 고정된 입력과 출력 차원 내에서 특정 문맥(context)을 위해 훈련된다. 예를 들어, 넷플릭스 추천 알고리즘은 스트리밍 선택에 다른 제품에 대한 잠재적 정보가 포함되어 있더라도 소비자 제품이나 금융 상품을 추천할 수는 없다.
AI 에이전트의 유연성: 반면 AI 에이전트는 고정된 구조가 아닌 자연어와 같은 개방형 매체로 작동한다. 원칙적으로 어떤 말이든 입력이 될 수 있어 훨씬 유연하다.
그러나 이러한 유연성은 본인이 발생 가능한 모든 예외적인 경우(edge cases)를 완전히 명시할 수 없기 때문에 예기치 않은 결과를 초래할 수 있다. 본인의 '완전한' 선호도를 파악하는 데 실패하는 이유는 두 가지이다.
본인의 표현 한계 (Principal's articulation limits): 본인이 자신의 선호도를 완전하거나 일관되게 명시할 수 없다. (예: 넷플릭스의 전체 카탈로그에 대해 순위를 매기거나 쌍별 비교를 제공하는 것은 비현실적이다.)
에이전트의 합성 한계 (Agent's synthesis limits): 에이전트가 부정확한 추론이나 환각(hallucination)을 포함하여 명시된 내용을 잘못 해석한다.
선호도의 차원성 (Dimensionality of Preferences)
인간 선호도의 복잡성, 즉 '차원성'은 영역별로 극적인 차이를 보인다.
낮은 차원 (Low-dimensional): 주택 판매자의 선호도는 비교적 간단하다. 가격을 극대화하고 판매 시간을 최소화하는 것이며, 에이전트는 속도와 가격 간의 트레이드오프만 이해하면 된다.
높은 차원 (High-dimensional): 반면 주택 구매자의 선호도는 훨씬 복잡하다. 위치, 통근 시간, 학군, 안전, 크기, 스타일, 가격, 미래 가치 등 수십 가지 요소를 동시에 고려한다.
따라서 대부분의 사람에게는 어떤 집을 살지 결정하는 것보다 집을 누구에게 팔지 결정하는 것이 더 쉽다. 선호도가 고차원적일수록 작은 보고 오류도 전파되어 근본적인 정렬 작업을 더 어렵게 만든다. 결론적으로, 특정 문맥 내 선호도의 차원성은 에이전트 채택과 수요를 예측하는 핵심 변수가 될 것이다.
기타 핵심 설계 과제
선호도 파악 외에도 다음과 같은 설계상의 과제들이 존재한다.
메타 합리성 (Meta-rationality): 에이전트는 어떻게 행동해야 할지뿐만 아니라, 언제 자율적으로 행동하고 언제 본인에게 결정을 위임해야 하는지를 학습해야 한다. 이러한 경계를 결정하는 것은 신뢰를 유지하고 위임이 과도한 위험을 초래하지 않도록 하는 데 필수적이다.
합리성 (Rationality) 및 견고성 (Robustness): 에이전트는 합리적이고(불확실성 하에서 일관된 의사결정) 견고해야(적대적 조작에 대한 복원력) 한다. 에이전트가 시장 상호작용의 중심이 될수록, 그들의 결정 규칙을 악용하려는 인센티브(예: 랭킹 시스템에 대한 '블랙햇' 최적화)가 강해질 것이다.
4. AI 에이전트의 공급 (Supply of AI Agents)
AI 에이전트에 대한 수요가 존재한다면, 시장은 이를 충족시키기 위한 공급 메커니즘을 개발한다.
두 가지 주요 공급 모델: 통합형과 독립형
AI 에이전트의 공급은 크게 두 가지 모델로 구분된다.
통합형 에이전트 (Integrated Agents): 기존 플랫폼(예: Google, Amazon, Shopify)이 자체 생태계 내에서 작동하도록 직접 개발하고 통합하는 모델이다.
독립형 에이전트 (Standalone Agents): 제삼자 개발자나 오픈소스 프로젝트가 개발하며, 브라우저 확장 프로그램이나 API를 통해 여러 플랫폼과 서비스를 넘나들며(across-platform) 작동하는 모델이다.
플랫폼의 통합형 에이전트 개발 동기
플랫폼은 자체 통합형 에이전트를 개발하고 배포하려는 강력한 경제적 동기를 가진다.
소비자 록인 (Consumer Lock-in): 에이전트가 사용자의 과거 구매 이력, 검색 기록 등 플랫폼 내 데이터에 접근하여 고도로 개인화된 추천을 제공할수록, 사용자가 다른 플랫폼으로 전환하는 비용이 높아진다. 에이전트가 사용자의 선호도를 더 많이 학습할수록 이러한 록인 효과는 강화된다.
데이터 수집 (Data Collection): 에이전트는 사용자의 선호도, 행동, 심지어 대화형 프롬프트를 통해 미묘한 의도까지 파악하는 강력한 데이터 수집 채널 역할을 한다.
수익 창출 (Monetization): 플랫폼은 에이전트 사용에 대한 구독료를 부과하거나, 에이전트가 성사시킨 거래에서 발생하는 수익의 일부(take-rates)를 취함으로써 직접적인 수익을 창출할 수 있다.
핵심 긴장: 플랫폼 내부 vs. 플랫폼 외부 (Within-Platform vs. Across-Platform)
에이전트 공급 시장의 핵심적인 긴장은 에이전트가 단일 플랫폼 '내부'에서 작동하는지, 아니면 여러 플랫폼을 '외부'에서 비교하며 작동하는지에 따라 발생한다.
플랫폼 내부(Within-Platform) 에이전트의 특징: 플랫폼은 에이전트가 자신의 '폐쇄형 정원(walled garden)' 내에서만 작동하도록 제한하려는 유인이 강하다. 예를 들어, Amazon이 개발한 쇼핑 에이전트는 Amazon 웹사이트 내의 상품만을 검색하고, Google의 여행 에이전트는 Google Flights의 옵션만을 제시하도록 설계될 수 있다. 이는 플랫폼이 사용자 경험을 통제하고 자사 제품(또는 더 높은 마진의 제품)을 우선적으로 노출하며, 경쟁 플랫폼으로의 이탈을 방지하는 데 도움이 된다.
플랫폼 외부(Across-Platform) 에이전트의 위협: 반면, 독립형 에이전트는 본질적으로 여러 플랫폼을 넘나들며 작동한다. 이러한 에이전트는 여러 웹사이트의 가격과 옵션을 동시에 비교(multi-homing)함으로써 시장의 투명성을 높이고 가격 경쟁을 촉진하여 소비자에게 이익이 될 수 있다.
플랫폼 입장에서 이러한 독립형 에이전트는 심각한 위협이다. 이들은 플랫폼의 상품을 단순한 '상품(commodities)'으로 전락시키고, 플랫폼이 구축한 록인 효과를 약화시키며, 플랫폼의 수익원(예: 광고, 수수료)을 잠식할 수 있다.
플랫폼의 전략적 대응
따라서 플랫폼은 독립형 에이전트의 활동을 차단하거나 제한하기 위한 전략적 조치를 취할 가능성이 높다.
웹사이트 코드 변경
IP 주소 차단
API 접근 제한
이는 플랫폼과 독립형 에이전트 개발사 간의 지속적인 '고양이와 쥐' 게임(cat-and-mouse game)으로 이어질 수 있다.
공급망과 수익화
AI 에이전트의 공급망은 기초 모델 제공자(예: OpenAI), 에이전트 개발자, 그리고 플랫폼 운영자로 구성되며, 각 단계에서 제약 조건이 발생할 수 있다. 에이전트의 수익화 방식은 구독료, 거래 수수료(revenue sharing), 또는 에이전트가 수집한 데이터를 활용한 광고 등 다양한 형태를 띨 것이다.
5. 현 상태(Status Quo) 하에서의 AI 에이전시(Agency)의 균형 효과 (Equilibrium Effects of AI Agency Under the Status Quo)
이전 장들이 AI 에이전트의 수요와 공급이라는 미시경제학적 측면을 다루었다면, 5장은 이러한 에이전트가 시장에 광범위하게 도입되었을 때 발생할 거시경제학적, 즉 균형(equilibrium) 효과를 분석한다.
여기서 '현 상태(Status Quo)'란 시장 설계나 규제가 AI 에이전트의 등장을 반영하여 근본적으로 변경되지 않은 현재의 시장 구조를 의미한다. AI 에이전트는 본질적으로 검색 비용, 커뮤니케이션 비용, 계약 비용 등 거래 비용(transaction costs)을 낮춘다. 고전 경제 이론에 따르면, 거래 비용의 감소는 더 나은 매칭과 가격 하락으로 이어져 시장 효율성을 높여야 한다.
그러나 AI 에이전트의 광범위한 채택은 이러한 긍정적 효과를 상쇄할 수 있는 새로운 형태의 마찰(frictions)을 동시에 도입한다.
새로운 마찰 1: 혼잡 (Congestion)
AI 에이전트는 인간보다 훨씬 빠르고 저렴하게 정보를 검색하고 상호작용할 수 있다. 예를 들어, 에이전트는 수천 개의 항공편 옵션을 동시에 쿼리 하거나, 가격 변동을 감지하기 위해 초당 여러 번 웹사이트를 확인할 수 있다.
이러한 활동의 급증은 플랫폼의 서버, API, 데이터베이스에 막대한 부하를 유발한다. 이는 시스템 속도를 저하시키고 운영 비용을 증가시키는 혼잡 외부효과(congestion externalities)를 발생시킨다.
이는 '공유지의 비극(tragedy of the commons)'과 유사하다. 개별 사용자는 에이전트를 자주 사용하여 이익을 얻지만, 모든 사람이 그렇게 하면 시장 인프라 전체가 마비되거나 비효율적이 된다.
결과적으로 플랫폼은 4장에서 논의된 바와 같이 독립형 에이전트의 접근을 차단하거나 속도 제한(rate-limiting)을 두는 방식으로 대응할 수밖에 없게 된다.
새로운 마찰 2: 전략적 은닉 (Strategic Obfuscation)
만약 AI 에이전트가 시장을 완벽하게 투명하게 만들어 모든 소비자가 즉시 최저가를 찾을 수 있게 된다면, 판매자들은 치열한 가격 경쟁으로 인해 이윤을 전혀 남기지 못하게 될 것이다 (이는 '버트랑 경쟁(Bertrand competition)'의 결과와 유사하다).
따라서 판매자들은 AI 에이전트의 검색을 방해하기 위해 전략적 은닉(strategic obfuscation)에 나설 유인이 생긴다.
이는 가격 정보를 의도적으로 찾기 어렵게 만드는 행위를 포함한다. 예를 들어, 가격을 텍스트가 아닌 이미지로 표시하거나, 로그인을 요구하거나, CAPTCHA를 사용하거나, 에이전트의 접근을 식별하여 차단하는 방식이다.
이러한 은닉 전략은 AI 에이전트가 낮추려 했던 바로 그 '검색 비용'을 다시 높이는 결과를 초래한다.
새로운 마찰 3: 알고리즘적 담합 (Algorithmic Collusion)
시장의 구매자(소비자)뿐만 아니라 판매자 역시 가격을 책정하는 AI 에이전트를 사용할 수 있다. 여러 경쟁 판매자가 모두 가격 결정 알고리즘을 사용할 때, 이 알고리즘들이 명시적인 합의 없이도 암묵적으로 담합(tacit collusion)할 위험이 존재한다.
알고리즘들은 상호작용을 통해 공격적인 가격 인하가 장기적으로는 이익이 되지 않음을 '학습'하고, 경쟁사보다 약간 낮은 가격이 아닌 더 높은 가격 수준에서 안정화되는 전략을 채택할 수 있다.
이는 소비자 후생에 해를 끼치는 알고리즘적 담합으로 이어질 수 있으며, 이는 독점금지 규제 당국의 주요 관심사이다.
새로운 마찰 4: 알고리즘적 착취 (Algorithmic Exploitation)
판매자 측 에이전트는 구매자 측 에이전트의 행동 패턴이나 구매자의 데이터를 분석하여 개별 소비자의 지불의향(willingness-to-pay, WTP)을 매우 정밀하게 추정할 수 있다.
이는 극단적인 형태의 가격 차별(price discrimination)로 이어질 수 있다. 에이전트는 지불 의향이 높은 소비자에게는 높은 가격을, 낮은 소비자에게는 낮은 가격을 제시하여 소비자 잉여(consumer surplus)의 대부분을 판매자 이윤으로 가져갈 수 있다.
6. AI 에이전트를 위한 시장 설계 (Market Design for AI Agents)
AI 에이전트가 혼잡이나 전략적 은닉과 같은 새로운 마찰을 일으킨다면, 시장 설계자(플랫폼, 규제 기관 등)는 이러한 비효율성을 완화하기 위해 개입할 것이다. AI 에이전트의 등장은 기존 시장 설계를 변화시킬 뿐만 아니라, 과거에는 비실용적이었던 새로운 메커니즘을 가능하게 한다.
6.1. 정체성 (Identity)
효과적인 시장 설계의 근본적인 전제 조건은 신뢰할 수 있는 정체성 확인(identity verification)이다. 시장 참여자가 누구인지, 그리고 그들이 고유한 개별 주체인지 알아야 한다. AI 에이전트는 거의 0에 가까운 한계 비용으로 수천 개의 새로운 신원을 생성할 수 있기 때문에 '시빌 공격(Sybil attack)'의 위협이 극적으로 증가한다. 한 명의 사용자가 다수의 가짜 에이전트를 동원해 경매 가격을 부풀리거나 평점 시스템을 조작하고 희소 상품을 매점매석할 수 있다.
이러한 위협에 대응하기 위해, 시장은 에이전트가 고유한 인간 본인(human principal)에게 연결되어 있음을 보장하는 메커니즘을 요구하게 될 것이다. 이는 CAPTCHA와 같은 전통적인 방식을 넘어 '인간성 증명(Proof-of-Humanity)'(예: Worldcoin의 홍채 스캔 등 생체 인식)이나, 참여에 경제적 비용을 부과하는 '지분 증명(Proof-of-Stake)'(예: 예치금)과 같은 형태를 띨 수 있다. 신뢰할 수 있는 정체성 확인은 에이전트 간의 상호작용을 관리하고, 평판 시스템을 유지하며, 시장 조작을 방지하는 데 필수적이다.
6.2. 기존 플랫폼 설계의 변화 (Changes in Existing Platform Designs)
플랫폼은 '혼잡 외부효과'를 관리하기 위해 기존 설계를 변경해야 한다. 에이전트의 대량 쿼리로 인한 시스템 부하를 막기 위해 플랫폼은 다음과 같은 조치를 취할 것이다.
접근 제한: 독립형(Across-Platform) 에이전트의 접근을 기술적으로 차단하거나 속도를 제한(rate-limiting)한다.
API 유료화: 에이전트가 플랫폼 데이터에 접근하기 위해 유료 API를 사용하도록 강제하여 혼잡 비용을 내부화한다.
CAPTCHA 및 장벽: 에이전트의 자동화된 검색을 방해하기 위해 CAPTCHA나 로그인 장벽을 강화한다.
이러한 조치들은 플랫폼의 '폐쇄형 정원(walled garden)'을 강화하는 경향이 있다. 이는 통합형(Within-Platform) 에이전트에게는 유리하고, 여러 플랫폼을 비교하는 독립형(Across-Platform) 에이전트에게는 불리하게 작용한다. 결과적으로 플랫폼 간의 경쟁이 감소하고 소비자의 검색 비용이 다시 높아질 수 있다.
6.3. 이전에는 비실용적이었던 시장 설계의 실현 (Enabling Previously Impractical Market Designs)
AI 에이전트는 특정 유형의 거래 비용을 획기적으로 낮춤으로써, 과거에는 이론적으로만 존재했던 복잡한 시장 메커니즘을 현실화할 수 있다.
첫째, 선호도 파악 비용(Preference Elicitation Costs)이 감소한다. 인간은 '조합 경매(combinatorial auctions)'와 같이 복잡한 선호(예: 수백 가지 옵션 간의 조합)를 명확하게 표현하는 데 한계가 있었다. 반면 AI 에이전트는 자연어 대화나 과거 행동 분석을 통해 사용자의 복잡하고 미묘한 선호도를 효과적으로 파악할 수 있다. 이는 주택, 직업, 여행 패키지 등 다차원적 속성을 가진 시장에서 훨씬 더 정교하고 효율적인 매칭을 가능하게 한다.
둘째, 계약 집행 비용(Contract Enforcement Costs)이 감소한다. 전통적인 계약은 미래의 모든 가능한 상황을 예측하고 명시하기 어려웠다(불완전 계약). AI 에이전트는 '스마트 계약(smart contracts)'과 결합하여, 실시간 데이터를 모니터링하고 복잡한 조건부 조항을 자동으로 집행할 수 있다. 예를 들어, IoT 데이터를 기반으로 안전 운전 습관을 실시간으로 보상하거나 배송 지연을 즉시 감지하여 자동으로 위약금을 처리할 수 있다.
이러한 새로운 시장 설계가 성공적으로 작동하기 위해서는, 신뢰할 수 있는 정체성 확인 시스템이 반드시 전제되어야 한다.
7. 규제 (Regulation)
AI 에이전트의 등장은 알고리즘적 담합, 시장 조작, 반경쟁적 행위 등 새로운 위험을 야기하며, 이는 기존 규제 체계에 중대한 도전을 제기한다.
경쟁 정책 및 독점금지 (Competition Policy and Antitrust)
규제의 핵심 영역 중 하나는 플랫폼 경쟁이다. 플랫폼은 자사 생태계 내에서 작동하는 통합형 에이전트(integrated agents)를 선호할 강력한 유인을 갖는다.
자기-우대 (Self-Preferencing): 플랫폼이 자사의 통합형 에이전트를 독립형 에이전트보다 우대하거나, 에이전트가 자사 플랫폼의 상품이나 서비스를 경쟁사보다 우선적으로 추천하도록 설계할 위험이 존재한다.
이는 플랫폼의 지배력을 강화하고 독립형 에이전트 개발사의 시장 진입을 막아 경쟁을 저해할 수 있다.
이러한 행위는 이미 미국 법무부(DOJ)나 유럽연합(EU)의 디지털 시장법(Digital Markets Act) 등에서 다루고 있는 '자기-우대' 문제와 직결되며, AI 에이전트의 등장은 이러한 규제적 조사를 더욱 가속화할 것이다.
소비자 보호 (Consumer Protection)
AI 에이전트는 소비자를 보호하기 위한 새로운 규제적 과제를 제기한다.
알고리즘적 담합 및 착취: AI 에이전트가 명시적 합의 없이 가격을 담합하거나(알고리즘적 담합), 소비자의 데이터를 분석하여 개별 소비자를 착취하는(가격 차별) 행위를 어떻게 감시하고 방지할 것인지가 문제이다.
사기 및 조작: '시빌 공격(Sybil attacks)'과 같이, AI 에이전트를 이용한 대규모 사기, 여론 조작, 시장 교란 행위를 방지하기 위한 강력한 정체성 확인 규제가 필요하다.
책임 및 법적 책임 (Liability)
가장 복잡하고 중요한 규제 문제는 법적 책임(liability)의 소재이다. AI 에이전트는 자율적으로 행동하며 본인(principal)을 대신하여 계약을 체결할 수 있다. 만약 에이전트가 실수로 손해를 끼치거나(예: 잘못된 계약 체결, 사기 피해), '정렬 문제'로 인해 본인의 의도와 다르게 행동했을 때, 그 법적 책임은 누구에게 있는가?
본인 (The Principal): 에이전트를 배포한 사용자에게 책임이 있는가?
개발자 (The Developer): 에이전트를 설계한 개발사에게 책임이 있는가?
플랫폼 (The Platform): 에이전트가 작동하도록 허용한 플랫폼에게 책임이 있는가?
현재 법률 체계는 이러한 자율 시스템의 행동에 대한 책임을 명확히 규정하지 못한다. 명확한 책임 소재가 확립되지 않는다면, 소비자와 기업은 잠재적인 법적 위험을 우려하여 AI 에이전트에게 중요한 작업을 위임하는 것을 주저하게 될 것이다. 따라서 신뢰할 수 있는 에이전트 경제를 구축하기 위해서는 예측 가능하고 명확한 법적 책임 프레임워크를 개발하는 것이 필수적이다.
8. 결론 (Conclusion)
AI 에이전트의 근본적인 잠재력은 거래 비용을 낮추는 데 있지만, 이것이 반드시 효율성 증가로 이어지는 것은 아니다. AI 에이전트의 도입은 수요(결정의 질 vs 노력), 공급(통합형 vs 독립형), 시장 균형(새로운 마찰), 시장 설계(정체성, 새로운 메커니즘), 규제(경쟁, 책임) 등 경제학의 여러 하위 분야에 걸친 복잡한 질문을 제기한다. AI 에이전트 도입의 순수한 복지 효과(net welfare effects)는 아직 실증적인 문제로 남아있다. AI를 통한 거래의 급속한 등장은 경제 연구가 실제 정책과 시장 설계에 정보를 제공할 독특한 기회를 제시한다.
