맥도날드화와 AI

<맥도날드 그리고 맥도날드화>는 사회학자 조지 리처의 역작이자 현대 사회학의 고전이라 불리는 중요한 사회학 저서이다. 이 책의 주요 개념인 맥도날드화는 베버의 관료제화와 연관된다. 관료제란 부서들의 위계들로 구성된 대규모 조직이다. 이는 근대 서구 세계의 산물이자 효율성을 극대화하는 조직구조이다. 관료제의 작동 동원리는 형식합리성 이론에 의한 합리화 과정(rationalization)에 있다.

형식합리성이란 사람들이 주어진 목표에 도달하는 최적의 수단을 추구할 떄, 규칙, 규제, 더 넓게는 사회구조가 그러한 수단 선택을 결정함을 말한다. 형식 합리성이 갖는 중요한 측면 중 하나는 개인에게 목표에 이르는 수단을 선택할 여지를 거의 주지 않는다는 것이다. 베버는 관료제가 사람들을 가두고 그 안에서 사람들의 가본적인 인간성이 부정된다는 점에서 이를 '쇠 감옥'이라고 표현했다. 맥도날드화는 이 이론을 확대, 현장하고 특히 그 이론을 소비 환경에 적용하기 위한 개념이다.

20세기부터 시작한 맥도날드화는 현대에 와서 더욱 복잡한 양상을 띄게 된다. 맥도날드화의 동력은 물질적인 이익, 맥도날화 자체의 가치를 인정하는 미국 문화, 그리고 맥도날드화가 사회내에서 일어나는 주요한 변화들에 따른다는 것이다. 이러한 특성상 '포스트' 시대의 맥도날드는 새로운 국면을 맞이하게 된다.

사회의 중심이 상품 생산에서 서비스업으로 이동하고 새로운 테크놀로지의 출현과 지식 및 정보 처리 분야가 성장하며, 창의적인 지식노동자가 탈산업화를 주도하게 되면서 맥도날드화는 이에 적응해야 했다. 따라서 이전의 획일화되고 표준화된 시스템과 더불어 미약하지만 차별화된 특징을 갖추게 되었다. 현대사회에서는 탈산업적 조직과 산업적 조직이 모두 발전하므로 맥도날드화는 근대성과 탈근대성을 모두 지니게 된 것이다.

그러나 세계화가 진행되면서 이러한 차별화는 의미성의 한계를 맞이하게 된다. 조지 리처는 무의미한 것과 의미있는 것을 주체가 누구이며 차별화되는 실질적 내용이 풍부한지 빈약한지에 따라 구분한다. 무의미한 것은 일반적으로 중앙에서 고안하고 중앙에서 통제하며 차별화하는 실질적 내용이 상대적으로 빈약한 사회적 형식이고 의미있는 것은 일반적으로 자생적으로 고안되며 차별화된 실질적 내용이 상대적으로 풍부한 사회적 형식이다. 여기서 맥도날드화는 무의미한 것의 창출에 가깝다고 볼 수 있다. 그렇다고 해서 맥도날드화의 기세가 움츠러들었는가 하면 전혀 그렇지 않다. 그럼에도 맥도날드화는 여러가지 브랜드화를 거치며 더욱 확장되고 진화했다. 그리고 생성형 AI가 등장했다.

질문자의 의도를 파악해 인간처럼 답하는 생성형 AI(Generative AI)인 챗GPT는 OpenAI가 개발한 자연어 생성 모델이다. 자연어 생성 모델이란 대화와 관련된 많은 텍스트 데이터를 학습 해 마치 사람처럼 대화할 수 있도록 교육된 모델이다. 챗지피티는 자연스럽고도 수준 높은 대화형 응답과 콘텐츠 생성의 강력한 범용성을 제공함으로써 기술적 효용, 사용자 친화적인 연결성, 접근성(사용 편의성)에서 높은 평가를 받고 있고, 창의성 엔진 시대를 열었다고 기대된다.챗지피티가 무언가를 ‘생성’한다면, 우리는 ‘생성’의 의미를 사회적인 맥락에서 정의할 수도 있을 것이다. 예컨대 알파고와 이세돌의 대국이 ‘알파고 쇼크’라는 ‘사회적 사건’이 된 까닭은 이것이 단지 인간지능을 넘어서는 인공지능을 증명한 일이었던 것만이 아니라, 인간과 AI의 관계성을 재고하게 만들고 AI를 유의미한 ‘사회적 지능’의 한 종류로 사회 속에 편입시키기 시작했다는 점에서 찾을 수 있는 것이다.

최근의 AI 담론은 한편으로는 생성형 인공지능(이하, 생성형 AI)를 창의성을 극대화할 수 있는 도구로 보고 인 간의 적극적인 협력과 적응의 노력을 주문하거나, 다른 한편으로는 AI의 창의성 도전에 맞서 인간 창의성의 본질적이고 배타적인 소유권을 수성하려는 태도로 나뉜다.하지만 전자의 경우에 ‘협력’이나 ‘적응’이란 이를 가능케 하는 조건들과 그 효과들을 비판적으로 고려할 때에야 비로소 명확해질 수 있다. 후자의 태도는 고상한 휴머니즘이기는 해도 기계를 통한 도구적 행위(노동)와 인간의 창의적 행위(일)를 이분법적인 트레이드-오프 관계로 설정함으로써, 양자를 매개하는 AI 기술 체계에 대한 분석과 비판을 소홀히 하고 기술 레짐에 대한 제한된 비판에 만족할 가능성이 있다. 그리고 양자의 입장 모두 인간-기계의 관계 맺음 방식에 대한 고려가 부족하다. 그렇다면 이것은 어떤 상호작용의 형식이나 모델을 따르고 있으며, 나아가 어떤 사회적 관계와 관행, 사회기술적 현실을 ‘생성’하는가?

우선, 챗봇의 거대언어모델과 인간 모방은 단순한 기능적 ‘재현’이라기보다는, 재현적 커뮤니케이션을 데이터로 바꾸어 이를 일상적커뮤니케이션 환경의 일부로 만드는 일종의 커뮤니케이션 기술의 자동화, 환경적 거버넌스를 통한 ‘사회적인 것’의 조작적 ‘재-현’, 자동화 양상으로 이해할 수 있다.‘인간 자연어’와 ‘인공 자연어’의 상호작용이 ‘혼종(hybrid) 자연어’를 생성했다고 말할 수도 있겠다. 문제는 이렇게 생성된 혼종 자연어의 정체가 무엇인가다. 그것은 인간의 의사소통을 닮았을까, 아니면 기계의 논리를 닮았을까?

챗지피티는 마치 챗봇이 실제 지능이나 자의식 여부와는 무관하게 ‘페르소나’를 뒤집어씀으로써 의인화하는 것처럼, 그것의 ‘대화 인터페이스’라는 페르소나 또는 화면을 통해 인간-기계의 관계를 ‘재-현’, 확장하고 거대언어모델의 기술적 능력을 현실화하면서, AI 기술 시스템 설계와 인간 사용자 관계의 복잡한 ‘흐름’을 동시에 통제하고 조직화한다.

다양한 미디어와 미디어 기업은 이러한 AI의 페르소나적 기술에 사람들을 의존하게 만든다. 사회 학자 마누엘 카스텔은 가장 근본적인 권력 형태가 인간의 마음을 형성하는 능력에 있음을 주장한다. 또한 네트워크 사회에서 공유지로서 매스 커뮤니케이션이 중요하다는 점과, 권력이 커뮤니케이션 과정을 통해 창출되면서 관철된다는 것을 강조한다. ‘알고리즘적 식민화’를 연구한 왕하오에 따르면, 생활세계를 식민화하는 알고리즘은 지속적으로 생활세계에 침입하여 사랑과 신뢰 관계에 있는 타인과의 자유로운 상호작용과 탐구를 위축시키고 소통 인프라를 훼손시켜 대상화 문화, 조작의 사회,식민화된 자아를 야기할 수 있다. 일상생활의 자동화 경향이 잠재적으로 우리의 상호작용 관계를 처벌과 인센티브의 자동 집행으로 축소시켜 빅데이터 사회에서 약속된 대화 또는 의미 공유라는 사회적 과정이 필요하지 않게 될 수 있다는 것이다.

이러한 의미에서 생성형 AI의 발전과 성행은맥도날드 그리고 맥도날드화>는 사회학자 조지 리처의 역작이자 현대 사회학의 고전이라 불리는 중요한 사회학 저서이다. 이 책의 주요 개념인 맥도날드화는 베버의 관료제화와 연관된다. 관료제란 부서들의 위계들로 구성된 대규모 조직이다. 이는 근대 서구 세계의 산물이자 효율성을 극대화하는 조직구조이다. 관료제의 작동 동원리는 형식합리성 이론에 의한 합리화 과정(rationalization)에 있다.

형식합리성이란 사람들이 주어진 목표에 도달하는 최적의 수단을 추구할 떄, 규칙, 규제, 더 넓게는 사회구조가 그러한 수단 선택을 결정함을 말한다. 형식 합리성이 갖는 중요한 측면 중 하나는 개인에게 목표에 이르는 수단을 선택할 여지를 거의 주지 않는다는 것이다. 베버는 관료제가 사람들을 가두고 그 안에서 사람들의 가본적인 인간성이 부정된다는 점에서 이를 '쇠 감옥'이라고 표현했다. 맥도날드화는 이 이론을 확대, 현장하고 특히 그 이론을 소비 환경에 적용하기 위한 개념이다.

20세기부터 시작한 맥도날드화는 현대에 와서 더욱 복잡한 양상을 띄게 된다. 맥도날드화의 동력은 물질적인 이익, 맥도날화 자체의 가치를 인정하는 미국 문화, 그리고 맥도날드화가 사회내에서 일어나는 주요한 변화들에 따른다는 것이다. 이러한 특성상 '포스트' 시대의 맥도날드는 새로운 국면을 맞이하게 된다.

사회의 중심이 상품 생산에서 서비스업으로 이동하고 새로운 테크놀로지의 출현과 지식 및 정보 처리 분야가 성장하며, 창의적인 지식노동자가 탈산업화를 주도하게 되면서 맥도날드화는 이에 적응해야 했다. 따라서 이전의 획일화되고 표준화된 시스템과 더불어 미약하지만 차별화된 특징을 갖추게 되었다. 현대사회에서는 탈산업적 조직과 산업적 조직이 모두 발전하므로 맥도날드화는 근대성과 탈근대성을 모두 지니게 된 것이다.

그러나 세계화가 진행되면서 이러한 차별화는 의미성의 한계를 맞이하게 된다. 조지 리처는 무의미한 것과 의미있는 것을 주체가 누구이며 차별화되는 실질적 내용이 풍부한지 빈약한지에 따라 구분한다. 무의미한 것은 일반적으로 중앙에서 고안하고 중앙에서 통제하며 차별화하는 실질적 내용이 상대적으로 빈약한 사회적 형식이고 의미있는 것은 일반적으로 자생적으로 고안되며 차별화된 실질적 내용이 상대적으로 풍부한 사회적 형식이다. 여기서 맥도날드화는 무의미한 것의 창출에 가깝다고 볼 수 있다. 그렇다고 해서 맥도날드화의 기세가 움츠러들었는가 하면 전혀 그렇지 않다. 그럼에도 맥도날드화는 여러가지 브랜드화를 거치며 더욱 확장되고 진화했다. 그리고 생성형 AI가 등장했다.

질문자의 의도를 파악해 인간처럼 답하는 생성형 AI(Generative AI)인 챗GPT는 OpenAI가 개발한 자연어 생성 모델이다. 자연어 생성 모델이란 대화와 관련된 많은 텍스트 데이터를 학습 해 마치 사람처럼 대화할 수 있도록 교육된 모델이다. 챗지피티는 자연스럽고도 수준 높은 대화형 응답과 콘텐츠 생성의 강력한 범용성을 제공함으로써 기술적 효용, 사용자 친화적인 연결성, 접근성(사용 편의성)에서 높은 평가를 받고 있고, 창의성 엔진 시대를 열었다고 기대된다.챗지피티가 무언가를 ‘생성’한다면, 우리는 ‘생성’의 의미를 사회적인 맥락에서 정의할 수도 있을 것이다. 예컨대 알파고와 이세돌의 대국이 ‘알파고 쇼크’라는 ‘사회적 사건’이 된 까닭은 이것이 단지 인간지능을 넘어서는 인공지능을 증명한 일이었던 것만이 아니라, 인간과 AI의 관계성을 재고하게 만들고 AI를 유의미한 ‘사회적 지능’의 한 종류로 사회 속에 편입시키기 시작했다는 점에서 찾을 수 있는 것이다.

최근의 AI 담론은 한편으로는 생성형 인공지능(이하, 생성형 AI)를 창의성을 극대화할 수 있는 도구로 보고 인 간의 적극적인 협력과 적응의 노력을 주문하거나, 다른 한편으로는 AI의 창의성 도전에 맞서 인간 창의성의 본질적이고 배타적인 소유권을 수성하려는 태도로 나뉜다.

하지만 전자의 경우에 ‘협력’이나 ‘적응’이란 이를 가능케 하는 조건들과 그 효과들을 비판적으로 고려할 때에야 비로소 명확해질 수 있다. 후자의 태도는 고상한 휴머니즘이기는 해도 기계를 통한 도구적 행위(노동)와 인간의 창의적 행위(일)를 이분법적인 트레이드-오프 관계로 설정함으로써, 양자를 매개하는 AI 기술 체계에 대한 분석과 비판을 소홀히 하고 기술 레짐에 대한 제한된 비판에 만족할 가능성이 있다. 그리고 양자의 입장 모두 인간-기계의 관계 맺음 방식에 대한 고려가 부족하다. 그렇다면 이것은 어떤 상호작용의 형식이나 모델을 따르고 있으며, 나아가 어떤 사회적 관계와 관행, 사회기술적 현실을 ‘생성’하는가?

우선, 챗봇의 거대언어모델과 인간 모방은 단순한 기능적 ‘재현’이라기보다는, 재현적 커뮤니케이션을 데이터로 바꾸어 이를 일상적커뮤니케이션 환경의 일부로 만드는 일종의 커뮤니케이션 기술의 자동화, 환경적 거버넌스를 통한 ‘사회적인 것’의 조작적 ‘재-현’, 자동화 양상으로 이해할 수 있다.‘인간 자연어’와 ‘인공 자연어’의 상호작용이 ‘혼종(hybrid) 자연어’를 생성했다고 말할 수도 있겠다. 문제는 이렇게 생성된 혼종 자연어의 정체가 무엇인가다. 그것은 인간의 의사소통을 닮았을까, 아니면 기계의 논리를 닮았을까?

챗지피티는 마치 챗봇이 실제 지능이나 자의식 여부와는 무관하게 ‘페르소나’를 뒤집어씀으로써 의인화하는 것처럼, 그것의 ‘대화 인터페이스’라는 페르소나 또는 화면을 통해 인간-기계의 관계를 ‘재-현’, 확장하고 거대언어모델의 기술적 능력을 현실화하면서, AI 기술 시스템 설계와 인간 사용자 관계의 복잡한 ‘흐름’을 동시에 통제하고 조직화한다.

다양한 미디어와 미디어 기업은 이러한 AI의 페르소나적 기술에 사람들을 의존하게 만든다. 사회 학자 마누엘 카스텔은 가장 근본적인 권력 형태가 인간의 마음을 형성하는 능력에 있음을 주장한다. 또한 네트워크 사회에서 공유지로서 매스 커뮤니케이션이 중요하다는 점과, 권력이 커뮤니케이션 과정을 통해 창출되면서 관철된다는 것을 강조한다. ‘알고리즘적 식민화’를 연구한 왕하오에 따르면, 생활세계를 식민화하는 알고리즘은 지속적으로 생활세계에 침입하여 사랑과 신뢰 관계에 있는 타인과의 자유로운 상호작용과 탐구를 위축시키고 소통 인프라를 훼손시켜 대상화 문화, 조작의 사회,식민화된 자아를 야기할 수 있다. 일상생활의 자동화 경향이 잠재적으로 우리의 상호작용 관계를 처벌과 인센티브의 자동 집행으로 축소시켜 빅데이터 사회에서 약속된 대화 또는 의미 공유라는 사회적 과정이 필요하지 않게 될 수 있다는 것이다.

이러한 의미에서 생성형 AI의 발전과 성행은 극도로 발달한 맥도날드화와 다르지 않다. 맥도날드화의 빈약한 차별화의 단점을 보완하는 측면에서 초합리적인 인공지능의 논리를 학습시켜 인간과의 원활한 소통과정을 위해 그들의 언어를 '모방'하게 만든 것이다. 그러나 결국 인공지능과 인간이 의사소통하여 만든 결과물은 그 출처가 인공지능이 임의로 사용하는 인터넷상의 알고리즘이 반영된 것이며, 그 가운데 의사소통에서 엮은 논리 역시 인공지능이 최적의 합리화를 통해 결정한 것이다. 결국 이곳에 인간의 "선택"이 포함된 것은 사실상 인공지능을 사용하느냐 마느냐의 일차적인 데에서 그친다. 가장 효율적인 의사소통이 인간 사이의 정신적 교감을 대체하는 과정은 정서의 합리화까지 이어지며 의미있음의 무의미를 만들어내는 맥도날드화로까지 나아간다.

그렇다고 우리가 생성형 AI가 통제가 필요하다는 사실을 모르는 것은 아니다. 하지만 그러기 위해서는 생성형 AI 이전에 이러한 극도의 합리성을 확장시키는 정신의 맥도날드화 구조 자체를 통제할 수 있어야 할 것이다. 그러나 20세기 초 관료제로부터 현재 생성형 AI까지 이어져 온 비인간성의 쇠 감옥을 부술 수 있을까? 탈근대성과 근대성의 한계를 인류는 넘을 수 있을 것인가? 결국 문제는 문명적 딜레마다.

참고자료:

한정훈. "생성형 AI 시대의 개막." 미디어 이슈&트렌드 -.55 (2023): 6-17.

김현준. "생성형 AI는 무엇을 ‘생성’하는가? : 커뮤니케이션 생성 엔진." 문화과학 -.114 (2023): 102-127.