Culture as Algorithm
“알고리듬 시대, 문화예술정책 전환의 필요성” 중 일부
“알고리듬 시대, 문화예술정책 전환의 필요성”(경기문화재단 GGCF 정책라운드테이블, , 2021.11.3., 경기상상캠프) 중 일부
문화정책의 전환의 필요성 – 희안한 문화 현상들
...
그 현상들을 이해하는 키워드 – 알고리듬, Culture as Algorithm
이런 담론들을 종합하여, 저는 오늘날의 문화현상을 이해하는 키워드로 “알고리듬”을 꼽아봅니다. 알고리듬은 “주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아 놓은 것”(주 1)입니다. Robert Kowalski(1979)는 알고리듬은 “문제해결 전략: Problem-solving strategies”이며 로직(Logic component)과 명령(Control component)으로 이루어져 있다고 했습니다. 이제 디지털 알고리듬은 “문화적”으로 변화하고 “문화 자체”가 되어가고 있습니다. 문화와 커뮤케이션 연구자 Ted Striphas는 “Culture now has two audience : people and machines”라고 말하며, “you loop”라고 부르는 추천 알고리듬에 의한 문화의 개인화(personalization) 현상들을 “Algorithmic culture”라고 표현했습니다.(주 2)
그림출처 : Futurist’s View 화면 캡쳐
사실 컴퓨터 언어로 표현만 되지 않았을 뿐, “원하는 출력을 유도하여 내는 규칙의 집합”이기도 한 문화는 원래부터 알고리듬적 성격을 가졌던 것입니다. 이제 디지털 알고리듬이 성립되고 지속되기 위해 필요한 사회문화적 요소까지 고려하면, 디지털 알고리듬과 문화는 매우 유사합니다. 전산학에서 자연선택에 의한 진화를 모방하는 “유전알고리듬”(genetic computation algorithm)의 한 분야인 “문화 알고리즘(Cultural algorithm)”은 Robert G. Reynolds가 1994년에 처음 제시한 개념입니다. “문화적 알고리듬”은 사회나 알고리듬의 문화적 전개를 공동체의 신념공간과 개별자의 실행사례들 사이에서의 상호작용으로 심플하게 모델링합니다. 우리는 이런 전산학의 모델링에서 오히려 문화의 본질과 미래를 이해하는 데 유용한 자원을 차용할 수 있습니다.
그림출처 : “Cultural Swarms : Knowledge-driven Problem Solving in Social Systems” (Robert G. Reynolds, SMC'03 Conference Proceedings. 2003 IEEE International Conference on Systems, Man and Cybernetics)
저는 인공지능 문명시대의 문화를 이해하는 틀로서 “Culture as Algorithm”이라는 개념을 제시해봅니다. 오늘날 “알고리듬으로 존재하는 문화”(Culture as Algorithm)의 세 가지 측면 즉, “Culture on/by/for the Algorithm”이라는 분석 틀 안에서, 주목할 현상들과 문화의 특징적 변화, 그리고 이와 관련된 정책적 이슈와 제도적 대응 상황들을 정리해봤습니다. 문명의 전환에 따른 매우 포괄적인 변화이므로 수많은 이슈들이 관련되어 있지만 이글에서는 아주 간략하게만 요약해보겠습니다.
"Culture on the Algorithm"
우선 "Culture on the Algorithm" 현상은, 문화가 디지털화되고 온라인이라는 더 확장된 시공간을 통해 유통됨으로 인해서, 형식과 내용 측면에서 점점 더 가벼워지고, 소위 “끌리고 쏠리고 들끓는” 현상입니다. 잘 알다시피 문화는 디지털알고리듬 기술에 종속되어 변화할 뿐만 아니라, 앞서 본 NFT 사태처럼, 가상의 문화가 물리적 진본을 대체하기도 합니다. 그리고 문화 시공간 스케일의 변화로 물리적 공간, 생태적 시간의 한계가 무색해집니다. Culture on the Algorithm 현상으로 인해 벌어질 디지털 문화소외와 불평등, 저작권 분쟁, 플랫폼 기업의 독점 등의 문제점에 대해서는 세계의 주요 문화기관들이 이미 대책을 수립하고 있습니다.(주 3) 가벼워지는 문화와 필터 버블로 인한 여론의 양극화와 저신뢰 사회, 사회통합의 어려움도 이미 많이 언급되고 있는 사회적 문제입니다. 그런데 저는 문화정책차원에서 좀 더 본질적인 문제를 고려해봐야 한다고 생각합니다. 국가나 지역의 경계가 없는 가상세계를 자유롭게 오가는, “문화의 가벼움”을 즐기는 사람들이 오히려 부유하기만 하다가 존재의 상실감을 느끼는 상황에 대한 우려입니다. 저는 이런 현상을 “문화중력(cultural gravity)(주 4)의 상실”이라고 표현합니다. 이것을 “사회의 구심 가치 상실”이라는 정책적 언어로 표현하면 바로 개인의 자유를 중시하는 사람들로부터 반발을 살 것 같습니다. 하지만 인간은 부유하는 자유로움과 안착시켜주는 문화중력이 동시에 필요한 사회적 존재임을 부정할 수 없습니다. 기존의 문화를 통한 사회통합과는 또 다른 측면에서의 접근이 필요합니다. Culture on the Algorithm 현상에 대한 제도적 대응으로 대표적인 것은 소위 “구글 갑질 방지법”과 같이 디지털알고리듬으로 문화유통을 지배하는 플랫폼기업에 대한 견제장치를 마련하는 것입니다. 문화정책 차원에서도 온라인 문화활동에서 소외받는 사람이 없도록 디지털 접근성을 높이는 노력이 필요합니다.
“Culture by the Algorithm”
“Culture by the Algorithm”으로는 알고리듬에 의한 초 개인화 추천 서비스로 기계적 문화트렌드가 만들어지는 현상뿐만 아니라, 인공지능 비인간 주체들이 인간처럼 문화의 주체로 활동하는 현상에 주목할 필요가 있습니다. 앞에서 살펴보았듯이, 이제는 정체성 또는 인격까지 갖추어가는 AI 모델들의 활약은 정말 인간의 매력뿐만 아니라 인간의 생체적 시간 한계를 뛰어 넘고 있습니다(주 5). 기계가 만드는 문화를 인간이 만드는 문화와 구별하기 힘들어진 시대에, 사실 더 이상 진본의 아우라는 큰 의미가 없고, 진본성(Authenticity)이라는 것도 마케팅을 위한 요소로 선택적으로 소비됩니다. Culture by the Algorithm 현상에서는 블랙박스처럼 이해할 수 없게 작동하는 알고리듬을 활용하는 국가와 자본에 의한 여론 왜곡뿐만 아니라 문화 통제가 쉬워지는 점이 우려됩니다. 최근 유럽연합 등 알고리듬에 대한 통제 기준을 마련하고 있는 거버넌스 주체들이 “설명할 의무”를 AI 윤리기준으로 명시하고 있습니다. Culture by the Algorithm 현상 중에서 문화정책 차원에서 눈여겨봐야 할 문제로는 따로 있습니다. 저는 공동체나 인간과의 소통을 통해 습득하는 문화가 아니라 기계가 반응해주는 개인의 취향(My taste)을 “My Culture”로 착각하게 만드는 Culture by the Algorithm이 더 본질적인 문제라고 생각합니다. 그 결과 공동체를 재생산하는 “문화의 인과력”(recursive casual power of culture)이 약화되고, “문화의 초개인화” 현상이 가속될 것입니다. 우리는 없고 나만 있어도 외롭지 않는(Me without We) 시대에 공공성, 공동체를 지향하는 문화정책이 지지받기가 쉽지 않을 것입니다.
“Culture for the Algorithm”
마지막으로 “Culture for the Algorithm”은 문화가 AI가 보다 인간과 같이 닮아가도록 학습시키는 데이터와 동시에 윤리 지침으로 작동하는 현상입니다. Governing the Algorithm 등 인공지능 기술을 견제하는 디지털거버넌스에서는 후자의 이슈가 주로 다루어지지만, 저는 문화정책 차원에서 전자의 현상에 더 관심을 가져야한다고 주장합니다. 정부가 나서서 공공데이터 댐을 구축하고, 기술은 IOT를 지나서 IOB로 진화하고, 온라인 콘텐츠 생산을 위해 죽은 예술가를 부활시키고 있습니다. 인공지능을 인간처럼 학습시키기 위해 인간 데이터를 확보하려는 치열한 경쟁 레이스가 벌어지고 있는 것입니다. 인공지능이 내 놓는 콘텐츠를 보고 <좋아요>를 누르는 인간의 감정반응도 중요한 학습용 데이터가 됩니다. 이를 인지자본주의의 “정동 착취” 현상으로 보기도 합니다. 저는 이제 “문화도시에서 메타버스로”, 문화가 가상세계를 더 현실적이고 매력적으로 보이게 하는 요소로서, 좀 더 시니컬하게는 알고리듬 문명의 부드러운 작동을 위한 “문화적 윤활유”로 쓰이고 있는 현상이라고 표현합니다. 그런데 그 값을 디지털 알고리듬 플랫폼들이 지불하고 있는지 의문입니다. 물론 인공지능의 편향성과 윤리성 논란에 대해서도 문화정책이 개입할 부분이 많습니다. 가장 보편적인 윤리기준이란 결국 동시대 그 사회의 문화입니다. 인공지능의 편향성을 제어할 수 있도록 AI용 학습데이터 또는 알고리듬 설정의 기준을 법으로 정하는 것은 매우 민감하고, 거의 불가능한 문제입니다. 하지만 대중매체를 통해 문화 유통이 폭발했을 때 문화에 대한 국가차원의 검열이 있었습니다. 그 적절성에 대한 논의는 따로 해야 하지만, 인공지능이 만들어내는 문화에 대한 제어기준과 방법을 사회적 합의를 통해 만들어내야 할 시점입니다. 왜냐하면 인공지능 알고리듬은 단순한 전달 매체로서 보다 더 강력한 파급력과 문화생성력을 가지기 때문입니다. 이때 다국적기업이 개발하는 AI의 보편적 윤리지침과 개별 사회의 문화적 특성을 존중하는 문화다양성 이슈가 충돌할 가능성도 있습니다. 이를 해결하는 것을 과학기술자와 법률가들에게만 맡겨놓을 것이 아니라 문화정책 영역에서도 참여해야합니다. 참고로 인공지능을 감시하기 위한 “AI 감사(AI audit)”를 도입하려는 제도적 움직임이 있습니다.
....
<이어지는 글>
문치교화에서 문명자화로
<각주, 참고문헌>
주1. 사이언스올 카드뉴스, 한국과학창의재단, 2010
주2. Algorithmic culture (Ted Striphas, European Journal of Cultural Studies, 2015, Vol. 18)
주3. “Supporting Culture in the Digital Age” (Octavio Kulesz, 2020, IFACCA), “Digital Inclusion and Exclusion in the Arts and Cultural Sector” (Jane Mackey, Good Things Foundation, Arts Council England, 2021), “In Real Life-Mapping digital cultural engagement in the first decades of the 21st century” (Australia Council for the Arts, 2021) 등 참조
주4. 문화가 주는 구심력과 안정감을 표현함. “할머니는 중력 같다”는 “호랑이를 덫에 가두면”(태 켈러 저, 강나은 역, 돌베게, 2021, When you Trap a Tiger)의 표현도 참조할만 함.
주5. "제 MBTI 뭐냐구요?"…'영원한 22세' 가상모델 로지 단독 인터뷰“ (황순민, 매일경제, 2021.8.7.)
