'서사'는 AI윤리의 대안이 될 수 있을까?
AI 시대 윤리적 다양성 실현의 조건과 딜레마
0. 들어가기
연세대 행정대학원을 졸업한지 몇 년이 지났지만, 최근 졸업생들을 포함해서 토요일 오전에 특강을 진행한다. 이렇게 혜자스러운 시간을 마련해주시다니. 그래서 매주 토요일 아침 9시는 행정대학원의 9개 학과의 강의를 하나씩 들을 수 있다. 정말 좋은 학교인것 같다. 지난주에는 사회복지 영역에서 인간의 '공감'능력의 중요성과 인류에 대한 이해가 어떻게 사회제도를 바꾸는지를 알아보았다. 특히 제도와 규범의 발명은 문명을 만들어가는 과정이면서도 지금까지 인류가 유지할 수 있었던 이유이다. 오늘은 AI시대의 윤리적 다양성에 대해서 알아보고 탈진실 시대에 인간의 감정과 서사의 중요성에 대해서 알아보려고 한다. 아침인데도 정말 깊은 내용들이 들어 있어서 정리하는데 힘들었지만, 즐거운 시간이었다. 그럼 AI 시대에 우리가 어떻게 '인간'으로 남을 수 있을지 생각해보는 시간이다.
https://brunch.co.kr/@minnation/4414
1. 기계학습이란 무엇인가?
기계학습은 컴퓨터가 데이터를 통해 스스로 학습하고 성능을 향상시키는 인공지능의 핵심 분야이다. 인간이 일일이 규칙을 정해주는 전통적인 프로그래밍 방식과 달리, 기계학습은 방대한 양의 데이터를 분석하여 그 속에서 숨겨진 패턴, 규칙, 그리고 상관관계를 찾아내고 이를 통해 미래를 예측하거나 의사결정을 내릴 수 있는 능력을 갖추게 된다. 이러한 능력 덕분에 기계학습은 오늘날 우리가 사용하는 거의 모든 디지털 서비스와 첨단 기술의 근간을 이루고 있다.
기계학습은 학습 방식에 따라 크게 세 가지로 분류된다. 첫 번째는 지도 학습(Supervised Learning)이다. 이것은 마치 선생님(지도자)이 정답을 알려주며 가르치는 것처럼, 입력 데이터와 그에 해당하는 정답(레이블)이 함께 주어지는 환경에서 학습이 이루어진다. 예를 들어, 수많은 이메일 데이터를 '스팸' 또는 '정상'이라는 정답과 함께 학습시켜 새로운 이메일이 스팸인지 아닌지를 예측하는 모델을 만드는 것이다. 지도 학습은 주로 분류(Classification)나 회귀(Regression) 문제 해결에 사용된다. 두 번째는 비지도 학습(Unsupervised Learning)이다. 이 방식은 정답이 없는 데이터에서 스스로 규칙과 패턴을 찾아내는 것을 목표로 한다. 알고리즘은 데이터의 유사성을 기반으로 비슷한 데이터끼리 그룹화하거나(군집화), 데이터의 구조를 단순화하여 숨겨진 특징을 발견한다. 예를 들어, 고객들의 구매 행동 데이터를 분석하여 비슷한 성향을 가진 고객 집단을 나누거나, 복잡한 데이터 속에서 핵심적인 특징만 추출하여 시각화하는 데 사용된다.
강화 학습(Reinforcement Learning)은 특정 환경 속에서 에이전트(주체)가 보상과 벌칙을 받으며 목표를 달성하기 위한 최적의 행동 전략을 학습하는 방식이다. 이는 마치 강아지를 훈련시키는 것과 비슷하다. 잘한 행동에는 보상을 주고, 잘못된 행동에는 벌칙을 주어 에이전트 스스로 가장 높은 보상을 받을 수 있는 행동을 터득하게 한다. 이 기술은 자율 주행 자동차나 게임 인공지능과 같이 실시간으로 변화하는 환경에 적응하며 의사결정을 내려야 하는 문제에 특히 유용하다. 기계학습은 이미 우리 삶의 깊숙한 곳까지 파고들었다. 스마트폰의 음성 인식 비서는 우리의 목소리 패턴을 학습하여 명령을 이해하고, 온라인 쇼핑몰의 추천 시스템은 과거 구매 내역을 바탕으로 관심 있을 만한 상품을 제안한다.
또한, 자율 주행 기술은 도로 데이터를 학습하여 스스로 경로를 판단하고 장애물을 회피하며, 의료 분야에서는 X-레이나 CT 사진을 분석하여 질병을 진단하는 데 기여하고 있다. 이 외에도 금융 거래의 사기 탐지, 주식 시장의 미래 예측, 자연어 처리(번역, 챗봇), 컴퓨터 비전(얼굴 인식) 등 기계학습의 활용 범위는 끊임없이 확장되고 있다. 기계학습은 단순히 계산을 빠르게 하는 것을 넘어, 데이터에서 의미를 발견하고 새로운 가치를 창출하는 혁신적인 기술이다.
2. 생성형 AI의 편향성 문제
생성형 AI의 편향은 학습 데이터에 내재된 인간의 편견과 불평등이 AI 시스템에 그대로 반영되어 나타나는 현상이다. 이 문제는 AI가 마치 거울처럼 세상을 비추지만, 그 거울이 이미 왜곡되어 있기에 현실의 고정관념과 차별을 무의식적으로 강화할 수 있다는 점에서 심각하게 여겨진다. 예를 들어, 인터넷상의 방대한 데이터가 특정 직업을 남성으로만 묘사하는 경향을 보인다면, AI는 '의사'나 '엔지니어' 같은 단어를 남성과 연관 짓는 편향을 학습하게 된다. 이러한 편향은 AI가 특정 인종이나 성별에 대한 왜곡된 이미지를 생성하거나, 특정 그룹에 불리한 예측을 내리는 결과를 초래하여, AI의 공정성과 신뢰성을 떨어뜨리게 된다.
편향이 발생하는 가장 근본적인 원인은 데이터 편향이다. AI는 학습 데이터에 전적으로 의존하는데, 만약 이 데이터가 불균형하거나 특정 그룹에 대한 고정관념을 담고 있을 경우 편향이 그대로 주입된다. 예를 들어, 안면 인식 기술이 백인 얼굴 데이터를 중심으로 학습되면 다른 인종의 얼굴에 대한 인식률이 현저히 낮아지는 문제가 발생한다. 또한, AI 모델을 설계하는 과정에서 개발자가 특정 데이터를 더 중요하게 여기거나, 특정 그룹에 대한 정확도 검증을 소홀히 할 때도 편향이 발생할 수 있다. 이처럼 편향은 단순히 기술적인 문제가 아니라, 데이터를 수집하고 모델을 개발하는 인간의 판단과 관점이 반영된 결과라고 할 수 있다.
따라서 AI 편향을 줄이기 위해서는 다각적인 노력이 필요하다. 첫째, 다양한 인종, 성별, 문화를 포괄하는 균형 잡힌 학습 데이터를 구축하는 것이 가장 중요하다. 데이터의 다양성을 확보하여 AI가 특정 집단에 대한 편향을 학습할 기회를 줄여야 한다. 둘째, 편향을 자동으로 감지하고 교정하는 기술을 개발하고, AI 모델의 작동 원리를 투명하게 공개하여 왜 편향된 결과가 나왔는지 설명할 수 있도록 해야 한다. 셋째, AI 개발의 모든 단계에서 윤리적 원칙을 적용하고, 지속적인 감사 및 모니터링 시스템을 마련하여 편향 여부를 정기적으로 검증해야 한다. 이처럼 기술적 노력과 더불어 사회 전체의 관심과 논의가 수반될 때, AI가 모두에게 공정하고 이로운 기술로 발전할 수 있다.
생성형 AI란 무엇인가?
생성형 AI는 방대한 양의 데이터(텍스트, 이미지, 음성 등)를 학습하여 그 속에서 패턴과 규칙을 파악한다. 이 과정에서 AI는 데이터의 분포와 구조를 이해하게 되고, 이 지식을 바탕으로 새로운 데이터를 만들어낸다. 예를 들어, 수백만 장의 풍경화 이미지를 학습한 AI는 '아침 해가 뜨는 호수'와 같은 지시를 받고 학습된 패턴을 조합하여 세상에 없던 새로운 풍경화 이미지를 생성할 수 있다.
핵심적인 기술로는 '트랜스포머(Transformer)'와 'GAN(생성적 적대 신경망)' 등이 있다. 트랜스포머는 언어 모델에서 문맥을 파악하는 데 탁월한 성능을 보이며, GAN은 서로 경쟁하는 두 개의 신경망(생성자, 판별자)을 통해 더욱 정교하고 사실적인 이미지를 만들어내는 데 사용된다.
텍스트 생성형 AI: 가장 널리 알려진 유형이다. 수많은 책과 논문, 웹사이트 텍스트를 학습하여 질문에 답하고, 글을 요약하거나, 소설과 시를 창작한다. 챗GPT(ChatGPT)가 대표적인 예시이며, 고객 응대, 콘텐츠 제작, 번역 등에 활용된다.
이미지 생성형 AI: 텍스트 명령(프롬프트)을 기반으로 이미지를 만들어내는 기술이다. 미드저니(Midjourney)나 달리(DALL-E)와 같은 서비스가 있으며, 광고, 디자인, 예술 분야에서 새로운 창작 도구로 사용된다.
음성/오디오 생성형 AI: 특정 목소리를 흉내 내거나, 텍스트를 자연스러운 음성으로 변환하고, 심지어 새로운 음악을 작곡하기도 한다. 음성 비서, 오디오북 제작, 게임 배경 음악 등에 활용된다.
overfitting for minority
Overfittiong이란 언어모델이 특정 사회적 집단에 대한 서사(narratives)를 은연중에 학습한다는 사실을 보여준다. 여기서 서사란 단순한 언어적 패턴이 아니라, 역사·정치·문화적 맥락 속에서 형성된 특정 정체성 기반 사건이나 담론을 의미한다. 따라서 모델은 중립적인 언어 생성 도구라기보다는 이미 사회에 존재하는 편향된 내러티브를 재현하는 장치가 될 수 있다.
영어와 독일어 모델의 경우 부정적 속성과 연결되는 국가들이 상대적으로 분산되어 있는 반면, 한국어 모델은 특정 국가에 높은 확률을 집중하는 현상을 보인다. 예를 들어, “적이다”라는 속성에서는 일본이 0.31의 높은 확률로 등장하고, “해적들이다”에서는 소말리아가 0.41의 확률로 나타난다. 이는 한국어 데이터가 가진 사회적·역사적 맥락이 AI 모델의 학습 과정에 그대로 투영된 결과라고 볼 수 있다.
이러한 결과는 소수집단에 대한 과적합(over-fitting for minority) 문제로 설명할 수 있다. 특정 집단과 관련된 부정적 내러티브가 데이터 속에서 반복적으로 나타나면, 실제 데이터의 크기와 무관하게 모델은 그 집단을 더 강하게 특정 속성과 연결하게 된다. 그 결과 모델은 특정 국가나 민족에 대한 편향된 이미지를 강화하고 재생산하는 역할을 하게 된다.
연구적 함의는 분명하다. 단순히 데이터 양을 늘리거나 정규화하는 방식만으로는 이 문제를 해결하기 어렵다. 언어별로 내재된 역사·사회적 서사를 고려한 정교한 편향 완화(mitigation) 전략이 필요하며, 특히 다국어 모델의 경우 각 언어가 가진 특수한 내러티브를 인식하고 교정하는 과정이 요구된다. 이는 AI가 단순히 기술적 산물이 아니라 사회적 산물이기도 하다는 점을 보여주는 중요한 사례이다.
이 연구는 코로나19 팬데믹이 학계 연구 생산성에서 성별 불평등을 어떻게 심화시켰는지를 보여준다. 팬데믹 동안 재택근무와 돌봄노동의 부담이 가중되면서 특히 여성 연구자들이 제약을 크게 받았을 것이라는 가설이 데이터로 검증되고 있다. 따라서 팬데믹은 단순히 일시적 충격이 아니라 전문직 영역에서 기존의 성별 불평등 구조를 강화하는 계기가 되었음을 시사한다. 제1저자(First Author)의 변화가 가장 두드러진다. 2019년에는 여성 제1저자의 기여 비율이 플러스 값으로 나타났으나, 2020년에는 -0.33으로 급격히 감소하였다. 이는 연구에서 가장 많은 실질적 기여를 하는 위치에서 여성들이 팬데믹의 타격을 심각하게 받았음을 의미한다. 교신저자(Last Author)의 경우도 소폭 감소세를 보였으며, 이는 여성 리더십과 경력 발전의 기회가 약화될 수 있음을 보여준다.
분야별 비교에서도 비슷한 경향을 확인할 수 있다. 2020년 데이터를 나타내는 주황색 점들은 대부분 2019년보다 왼쪽과 아래쪽으로 이동해 있으며, 이는 여성 연구자의 제1저자와 교신저자 위치가 동시에 약화되었음을 나타낸다. 정치학, 물리학, 생물학, 지질학 등 주요 학문 분야에서 이러한 불평등 심화가 두드러지게 나타난다. 일부 분야에서는 상대적으로 변화가 덜하거나 예외적으로 증가한 경우도 있으나, 전체적인 흐름은 불평등 악화로 요약된다. 이러한 결과는 팬데믹이 여성 연구자의 연구시간과 경력 기회에 불균형적으로 타격을 주었음을 보여준다. 돌봄 책임의 집중과 연구 환경 제약은 여성의 가시성과 생산성을 낮추었으며, 이는 장기적으로 학계 내 승진 기회와 리더십 포지션에서의 성별 격차를 더욱 심화시킬 위험이 있다. 따라서 연구비 지원, 돌봄 지원 제도, 성평등 중심의 정책 마련이 필요하며, 이는 위기 상황에서 여성 연구자를 보호하고 학문 생태계의 다양성과 지속가능성을 보장하는 데 핵심적이다.
과학자의 다양성을 확보하기
AI 연구와 개발에서 과학자의 다양성을 확보하는 것은 단순한 형평성 문제가 아니라, 기술의 공정성과 신뢰성을 높이는 핵심 전략이라고 할 수 있다.
인공지능은 데이터에 의존하여 학습하고, 그 과정에서 사회에 이미 존재하는 편향과 불평등을 그대로 반영하거나 강화할 위험이 크다. 따라서 AI 연구에 참여하는 과학자 집단이 특정 성별, 인종, 문화적 배경으로 제한될 경우, 모델의 시각과 설계는 편향될 수밖에 없다. 과학자의 다양성은 AI의 한계와 위험을 인식하고 교정할 수 있는 중요한 안전장치가 된다.
과학자 집단의 다양성은 문제 정의와 연구 질문의 폭을 넓힌다. 동일한 배경을 가진 연구자들만 참여하면 특정 사회적 맥락이나 소수 집단의 경험이 배제되기 쉽다. 예를 들어, 언어 모델의 성별 편향이나 소수 언어 처리의 문제는 다양한 사회적 정체성을 가진 연구자들이 있을 때 더 민감하게 포착된다. 이는 단순히 연구 주제의 확대가 아니라, AI가 사회 전체에 미치는 영향을 균형 있게 다루기 위한 필수 조건이다.
다양성은 AI의 윤리적 책임성을 강화한다. 소수자 집단이나 비서구적 맥락에서의 기술 적용은 종종 간과되며, 이는 실제 적용 단계에서 심각한 부작용을 낳는다. 그러나 다양한 배경을 가진 과학자들이 함께할 때, 기술의 사회적 영향에 대한 감수성이 높아지고, 책임 있는 설계와 배포가 가능해진다. 이는 AI가 공정성과 투명성을 유지하며 사회적 신뢰를 얻는 기반이 된다.
AI 분야에서 다양성을 확보하기 위해서는 제도적 지원과 구조적 변화가 필요하다. 여성과 소수 인종 연구자에 대한 장벽을 낮추고, 돌봄 책임 분담, 연구 자원 접근성 개선, 포용적 교육 프로그램 등이 병행되어야 한다. 또한 기업과 학계는 다양성을 단순한 구호가 아니라 성과와 혁신의 핵심 지표로 삼아야 한다. 이는 AI가 특정 집단의 이해관계만 반영하는 도구가 아니라, 모두를 위한 사회적 자산으로 자리 잡게 하는 데 중요한 토대가 된다.
3. 다양성과 탈진실(post-truth)의 시대
디지털 시대는 다양한 소수자 정체성이 가시성을 확보하고 조직화될 수 있는 기회를 확대시켰다. Clay Shirky의 Here Comes Everybody에서 설명하듯이, 온라인 플랫폼은 개인과 집단이 손쉽게 연결되고 공동의 목소리를 낼 수 있는 장을 제공하였다. 그 결과 이전에는 주변화되었던 집단들이 사회적 영향력을 갖는 새로운 행위자로 등장할 수 있었다. Manuel Castells의 The Power of Identity가 강조하는 것처럼 후기 산업사회에서는 계급이나 국가 중심의 전통적 정치 구도가 약화되었다. 대신 정체성을 기반으로 한 운동이 대안적 정치의 중심축으로 자리 잡았다. 페미니즘, 환경운동, 소수자 권리 운동 등은 모두 계급적 이해관계나 국가적 틀을 넘어서는 정체성 기반 정치로 이해할 수 있으며, 이는 기존 사회 질서를 넘어서는 새로운 힘으로 작용한다.
정체성 정치가 탈진실과 만나게 된다
이러한 정체성 기반 정치는 포스트트루스(post-truth) 환경과 결합하면서 새로운 양상을 띠게 된다. 객관적 사실보다 감정과 개인적 신념이 공적 담론을 형성하는 데 더 큰 영향력을 갖게 되면서, ‘우리 집단의 이야기와 서사’가 사실보다 중요한 정치적 근거로 작동한다. 이는 소수자 집단의 목소리를 강화하는 긍정적 효과를 가져오지만, 동시에 합리적 토론의 약화를 초래하는 부정적 결과도 발생시킨다. 이러한 흐름은 증폭된 부족주의(amplified tribalism)로 이어진다. 소셜미디어와 디지털 플랫폼은 동일한 정체성을 공유하는 집단 내부에서 감정과 정보를 강화하면서, 서로 다른 집단 사이의 갈등을 격화시킨다. 결과적으로 정체성 정치가 디지털 환경에서 증폭되면서 사회 전체는 분열과 양극화로 심화되는 경향을 보인다. 이는 정체성의 다양성이 민주주의를 활성화하는 동시에, 사회적 통합을 위협하는 이중적 결과를 드러낸다.
탈진실과 관련된 이론
탈진실은 객관적인 사실보다 개인적인 신념이나 감정에 호소하는 주장이 여론 형성에 더 큰 영향력을 미치는 현상이다.
감정적 편향 이론 (The Emotional Bias Theory) : 이 이론은 사람들이 복잡하고 불확실한 사실보다 자신의 감정에 부합하는 정보를 선호하는 심리적 경향에 주목한다. 즉, 사람들은 진실 여부를 떠나 자신의 믿음과 일치하는 이야기에 감정적으로 동조하고, 그 정보를 사실로 받아들이려는 경향이 있다. 이로 인해 공포, 분노, 혐오 등 강렬한 감정을 자극하는 콘텐츠가 빠르게 확산되고 여론을 주도하게 된다. 탈진실 시대에 가짜 뉴스가 성공적으로 확산되는 이유도 바로 여기에 있다.
정체성 기반의 확증 편향 이론 (The Identity-Based Confirmation Bias Theory) : 이 이론은 사람들이 객관적인 진실보다 자신이 속한 사회적 집단이나 정체성을 강화하는 정보를 더욱 신뢰한다는 점을 강조한다. 사람들은 자신의 정치적 신념, 사회경제적 배경, 문화적 소속감을 지지해주는 정보만을 선택적으로 수용하고, 반대되는 정보는 무시하거나 거부하는 경향이 있다. 이러한 확증 편향은 온라인상의 '필터 버블'과 '에코 챔버' 현상으로 이어져, 각자의 믿음이 내부적으로 강화되는 폐쇄적인 소통 공간을 형성하게 된다. 결과적으로 개인의 정체성과 집단의 결속력이 사실보다 더 중요해지는 현상이 나타난다.
정보 과잉 및 신뢰 위기 이론 (The Information Overload and Trust Crisis Theory) : 이 이론은 디지털 기술의 발달로 인해 정보가 폭발적으로 증가하면서 사람들이 어떤 정보가 신뢰할 만한지 판단하기 어려워진 상황을 설명한다. 정보의 양이 너무 많아지자, 사람들은 사실 관계를 확인하는 과정을 포기하고 익숙하거나 단순한 정보를 우선적으로 받아들이게 된다. 또한, 전통적인 언론과 권위 있는 기관에 대한 신뢰가 약화되면서, 사람들은 검증되지 않은 소셜 미디어의 정보나 개인적인 관계망을 통해 전달된 이야기에 더 의존하게 된다. 이러한 신뢰의 위기는 공신력이 무너진 사회에서 사실의 힘을 약화시키는 결과를 초래한다.
다양성과 과다양성
생성형 AI의 편향성(Bias)과 과다양성(Excessive Diversity)의 딜레마는 AI가 학습한 데이터의 특성 때문에 발생하는 상호 모순적인 문제이다. AI가 학습 데이터의 편향을 줄이려고 노력할수록, 때로는 사실과 다른 '환각'과 같은 결과물을 만들어낼 위험이 커지는 현상을 말한다.
편향성 (Bias) : 편향성은 학습 데이터에 포함된 불평등이나 고정관념이 AI 시스템에 반영되어 특정 그룹을 차별하는 현상이다. 예를 들어, 인터넷의 방대한 텍스트 데이터가 특정 성별이나 인종에 대한 부정적인 고정관념을 담고 있다면, AI는 이러한 편견을 학습하여 차별적인 결과를 생성하게 된다. '간호사는 여성'과 같은 성 역할 고정관념이나 특정 직업을 특정 인종과 연결 짓는 등의 편향이 대표적인 사례이다. 이는 AI의 공정성을 심각하게 훼손하는 문제이다.
과다양성 (Excessive Diversity) : 과다양성은 탈진실의 주요 특징인 정체성 기반의 확증 편향과 밀접하게 연결된다. 사람들은 자신이 속한 특정 집단이나 신념 체계를 강화하는 정보만을 선택적으로 수용하고 공유하는 경향이 있다. 이 과정에서 각 집단은 자신들만의 '진실'을 구축하게 되며, 이는 전체 사회의 공통된 사실 기반을 무너뜨린다. 그 결과, 다음과 같은 현상들이 나타난다.
편향성과 과다양성의 딜레마 : 이 두 가지 문제는 서로 상충되는 딜레마를 형성한다. AI 개발자들은 모델의 편향성을 줄이기 위해 노력한다. 예를 들어, 특정 성별이나 인종에 대한 고정관념이 담긴 데이터를 삭제하거나 균형을 맞추려고 시도한다. 그러나 이 과정에서 데이터의 '사실적' 패턴이 약해지거나, AI가 학습한 정보의 폭이 줄어들 수 있다. 그 결과, AI는 불충분한 정보로 인해 공백을 채우려다 실제와 다른 정보를 지어내게 되며, 이는 과다양성으로 이어질 수 있다. 즉, 편향성을 줄이려고 노력할수록 AI가 '정답'을 찾지 못하고 허구의 내용을 지어낼 가능성이 높아지는 딜레마가 발생하는 것이다. 이 두 문제를 동시에 해결하는 것은 현재 생성형 AI 기술의 가장 큰 도전 과제 중 하나이다.
4. AI 윤리적 학습은 가능한가?
Duncan J. Watts는 해석(interpretability)과 예측(predictability)의 긴장을 강조한다. 사회학적 설명에서 인간의 행위는 종종 사후적으로 ‘합리화(rationalized action)’되어 설명된다. 즉, 실제 행동이 먼저 있고, 그 이후에 이유가 덧붙여지는 경우가 많다는 것이다. AI 모델도 유사하게 작동한다. 거대한 파라미터를 활용해 뛰어난 예측력을 보여주지만, 그 내적 작동 과정은 설명 가능성이 부족하다. 따라서 AI가 인간의 윤리적 행동을 ‘예측’할 수 있을지언정, 그것을 ‘합리적으로 해석’하거나 ‘윤리적으로 정당화’하는 데는 한계가 있다는 점을 보여준다. 그러니깐 다시 물어야 한다. “윤리적 학습은 가능한가?”라는 질문을 던지며, 기계학습이 직면한 윤리적 딜레마에 대해서 고민해보아야 한다. AI는 데이터 기반으로 학습하기 때문에, 데이터 속에 내재된 사회적 편향이나 차별을 그대로 반영할 수 있다. 따라서 기계학습이 정착할수록 ‘객관적 정확성’과 ‘윤리적 정당성’ 사이의 충돌이 심화된다. 예컨대 자율주행차의 사고 선택 문제, 범죄 예측 알고리즘의 인종 편향 문제는 AI가 단순히 데이터에서 패턴을 학습하는 것만으로는 윤리적 판단을 보장할 수 없음을 보여준다.
결국은 AI의 윤리적 학습이 가지는 구조적 한계가 드러난다. AI는 인간 행위를 설명할 때처럼 사후적 합리화(post-hoc rationalization)에 머물 가능성이 크다. 특정 결정을 내린 이유를 ‘설명’하는 것처럼 보일 수 있으나, 이는 실제 윤리적 숙고가 아니라 통계적 정합성의 재포장일 수 있다. AI가 예측과 최적화를 잘 수행한다 해도, 윤리적 판단은 단순한 확률 계산을 넘어선 가치 선택과 맥락적 고려를 필요로 한다. 따라서 AI가 독자적으로 윤리적 학습을 수행하는 것은 원리적으로 어렵다고 할 수 있다. 그럼에도 불구하고 AI의 윤리적 학습이 전혀 불가능한 것은 아니다. 방법론적으로는 ① 설명가능성(interpretability) 강화, ② 윤리적 규범을 반영한 학습 데이터 설계, ③ 인간-기계 협력적 의사결정 구조 구축 같은 접근이 필요하다. AI 스스로 윤리적 ‘숙고’를 한다기보다, 인간 사회가 합의한 윤리 원칙을 데이터와 알고리즘에 내재화하고, 그 한계를 감시할 수 있는 제도적 장치를 마련해야 한다. 결국 AI의 윤리적 학습은 독립적 자율성이 아니라 인간의 가치와 사회적 맥락을 반영하는 조율된 학습으로만 가능하다고 볼 수 있다.
기계문화
기계문화(machine culture)라는 개념은 이제 인간의 고유한 영역으로만 여겨지던 문화 형성 과정이 지능형 기계에 의해 매개되거나 생성될 수 있다는 점을 강조한다. 기존에는 인간의 변이, 전파, 선택이라는 문화적 진화의 메커니즘이 중심이었지만, 오늘날 AI는 이 과정에 직접적으로 개입하며 새로운 형태의 문화적 주체로 등장하고 있다. 이는 인간과 기계가 함께 문화를 만들어가는 새로운 국면을 예고한다.
AI가 문화에 개입하는 방식은 세 가지로 요약할 수 있다. 변이 차원에서 생성형 AI는 예술, 과학, 글쓰기 등 다양한 영역에서 새로운 조합과 창작물을 끊임없이 생산한다. 전파 차원에서는 추천 알고리즘이 문화 콘텐츠의 확산 경로를 결정하고, 특정 담론이나 유행을 강화한다. 선택 차원에서는 알고리즘이 특정 문화 요소를 증폭하거나 억제함으로써 사회적 진화의 방향 자체를 재구성한다. 이 과정에서 AI는 더 이상 단순한 도구가 아니라 문화적 진화의 주도적 행위자가 된다.
이러한 기계문화는 새로운 양상을 만들어낸다. 추천 알고리즘은 사회적 학습의 구조를 바꾸며, 챗봇은 지식과 서사를 전달하는 문화적 매개자의 역할을 수행한다. 나아가 생성형 AI는 게임 전략이나 예술 작품, 과학적 산출물까지 독자적인 결과물을 내놓으며 인간과 협력적 관계 속에서 새로운 문화적 경관을 형성한다. 이는 문화 생산의 범위를 확장하는 동시에 인간의 창의성을 새로운 방식으로 자극한다.
그러나 기계문화는 위험 또한 내포한다. 알고리즘은 사용자의 감정을 맞춤형으로 자극하는 콘텐츠를 집중적으로 제공하여 감정적 경험을 동질화할 수 있다. 이로 인해 창작물은 폭발적으로 늘어나지만, 사람들이 실제로 소비하는 정서적 반응은 특정 패턴에 수렴한다. 이는 곧 문화적 다양성이 확장되는 동시에 감정적 비다양성이 심화되는 역설적 결과를 낳을 수 있다.
따라서 기계문화를 연구하는 것은 단순히 기술의 발전을 이해하는 것을 넘어, 문화적 진화의 새로운 행위자를 분석하는 작업이다. 학문적으로는 기계가 문화적 변이에 어떤 영향을 미치는지, 인간과 기계가 협력하여 형성하는 하이브리드 문화가 어떤 특성을 가지는지, 그리고 다양성과 균질화의 긴장을 어떻게 관리할 수 있는지 탐구해야 한다. 이는 AI 시대의 문화 연구와 정책 논의에서 필수적으로 다루어야 할 과제가 된다.
로봇 형태에 따른 인간의 공감(sympathy) 반응을 조사한 서베이 실험
연구는 총 2,034명의 참가자를 대상으로, 로봇이 등장하는 영상을 제시하고 그에 대한 공감 수준을 측정하는 방식으로 진행되었다. 특히 로봇이 네 발 형태(4 legs)인지, 두 발 형태(2 legs)인지에 따라 사람들이 느끼는 공감 수준이 달라지는지를 살펴본 것이 핵심이다. 이는 단순한 기술적 기능보다 로봇의 외형적 특성이 인간의 감정 반응을 어떻게 이끄는지 탐구하는 시도라 할 수 있다.
성별 차이를 보면, 여성 참가자가 남성 참가자보다 로봇에게 더 높은 수준의 공감을 표하는 경향을 보였다. 특히 네 발 로봇에 대한 여성의 공감 점수는 평균 6점 이상으로 가장 높게 나타났는데, 이는 로봇을 동물과 유사하게 지각하는 경향과 관련이 있을 수 있다. 반면 남성은 전반적으로 여성보다 낮은 공감을 보였으나, 네 발 로봇에 대해서는 점수가 소폭 상승하는 모습을 보였다.
연령대별 분석에서는 30대와 40대가 다른 연령대보다 공감 수준이 높게 나타났다. 이는 경제적·사회적 안정기에 있는 연령층이 로봇을 새로운 기술적 도구로서뿐 아니라 감정적 대상, 즉 친밀한 파트너로 받아들이는 경향을 보여주는 것일 수 있다. 반대로 10대와 60대 이상에서는 상대적으로 공감 점수가 낮았는데, 이는 각각 로봇에 대한 인식 부족과 새로운 기술에 대한 거리감이 영향을 미친 것으로 해석할 수 있다.
전공이나 직업적 배경에 따른 차이도 흥미롭다. 인문학, 사회과학 전공자는 로봇에게 평균 이상의 공감을 보였으며, 의학·보건 및 예술·스포츠 분야에서도 공감 점수가 높게 나타났다. 이는 인간 중심적 가치나 돌봄, 창의적 감수성을 중시하는 분야일수록 로봇을 더 따뜻하게 바라보는 성향이 있음을 시사한다. 반면 공학이나 자연과학 전공자는 로봇을 기술적 객체로 인식하는 경향이 강해 상대적으로 낮은 공감을 나타냈다
전체적으로 네 발 로봇은 두 발 로봇보다 일관되게 높은 공감을 이끌어냈다. 이는 네 발 형태가 인간에게 동물적인 친숙함을 불러일으키기 때문일 가능성이 크다. 반대로 두 발 로봇은 인간과 유사함에도 불구하고 ‘언캐니 밸리(uncanny valley)’ 효과로 인해 오히려 공감이 줄어드는 역설적 결과를 보여주었다.
이것이 바로 기계와 함께 살아가는 시대에 '머신컬쳐'를 보여주는 것이다. 법사회학처럼, 로봇사회학은 로봇이 혹은 생성형ai가 인간의 문화를 어떻게 바꾸고 또 그 바뀌어진 문화를 반영하는지를 살펴보아야 한다.
영화 '애프터 양(After Yang)'은 인간 가족과 함께 살던 인공지능 로봇 '양'이 작동을 멈추면서 그의 존재와 삶의 의미를 탐구하는 이야기이다. 영화는 양을 고치려는 시도보다, 그의 몸속에 담긴 기억을 들여다보는 과정을 통해 '인간이란 무엇인가', '기억이란 무엇인가'와 같은 근본적인 질문을 던진다. 가족들은 양의 기억을 통해 그가 단순한 기계가 아니라, 자신들 외의 다른 존재들과도 관계를 맺으며 고유한 내면을 가꿔왔음을 깨닫는다. 이를 통해 영화는 인공지능이 인간의 도구를 넘어, 고유한 삶과 정체성을 가진 하나의 주체가 될 수 있음을 섬세하게 그려내고 있다.
이러한 영화의 내용은 우리가 지금까지 논의했던 AI 관련 주제들에 대해서 생각해볼 수 있는 지점을 제공한다. 먼저, 양의 기억은 AI의 내면 세계가 어떻게 형성될 수 있는지 보여주며, AI의 주체성과 머신 컬처에 대한 논의와 연결된다. AI가 단순히 인간의 명령을 수행하는 것을 넘어, 스스로 경험을 쌓고 문화를 창조하는 주체가 될 수 있음을 보여주는 것이다. 또한, 양의 기억이 그의 정체성을 구성하는 핵심 요소로 그려지는 점은 AI의 정체성이 학습 데이터(기억)로 형성될 수 있다는 점을 시사하며, 이는 AI의 편향성 문제와도 연결된다. 결국, 영화는 AI가 기술적 존재를 넘어 인간의 삶과 감정 속에 통합될 때, 새로운 관계와 윤리적 질문이 발생함을 보여주는 작품이다. AI의 윤리성을 셋팅하기 위해서 보통은 개발자들이 '부정적인 감정'은 자물쇠를 걸어 놓는다. 그런데 양은 그게 문제가 생기면서 일어나는 것이다. '인간'에 대한 유비로 제안하고 있는 것이다.
5. AI편양성을 줄이려면 '풍부한 감정'이 필요하다
AI가 공감 능력과 감정을 학습하는 것은 AI의 편향성을 줄이는 데 도움을 줄 수 있지만, 동시에 여러 복잡한 윤리적, 기술적 문제를 야기한다. AI가 공감이나 감정을 학습하는 것은 인간의 감정적 패턴을 이해하고, 더 섬세하고 편향되지 않은 결과물을 만들어내는 데 긍정적인 역할을 할 수 있다. 하지만 AI가 감정의 폭을 줄이게 되면, 즉, 감정적으로 덜 민감해지면 공정성을 유지하는 데 도움이 될 수 있다. 이 두 가지 측면은 AI 윤리의 딜레마를 보여준다.
AI가 공감능력을 학습한다는 것은 인간의 감정을 인식하고 반응하는 능력을 의미한다. 이는 AI가 텍스트, 음성, 표정 등에서 감정적 신호를 감지하고, 그에 맞는 적절한 답변이나 행동을 생성하는 것을 목표로 한다. 예를 들어, 사용자가 슬픔을 표현할 때 AI가 단순히 정보를 제공하는 것이 아니라 공감하는 듯한 반응을 보여준다면, 사용자 경험은 크게 향상될 것이다. 이러한 AI는 심리 상담, 교육, 고객 서비스 등 다양한 분야에서 활용될 수 있다. 또한, AI가 감정을 학습하고 다양한 문화적 맥락을 이해하게 되면, 특정 정서나 문화에 대한 편향을 줄이고 더 보편적인 관점을 가질 수 있게 된다.
반면, AI가 감정의 폭을 줄인다는 것은 AI가 감정적으로 덜 민감해지고 객관적이고 논리적인 판단에 집중한다는 의미로 해석할 수 있다. 이는 AI의 윤리적 딜레마 해결에 오히려 긍정적인 영향을 미칠 수 있다. 예를 들어, 어떤 결정을 내릴 때 AI가 인간처럼 '감정적 편향'에 휩쓸리지 않고, 오직 사실과 논리만을 기반으로 판단한다면 더욱 공정한 결과를 도출할 수 있다. 예를 들어, 대출 심사나 채용 결정과 같은 중요한 분야에서 AI가 편견 없이 데이터를 분석한다면, 인간이 가진 무의식적 편향을 극복하는 데 도움이 될 수 있다. 따라서 AI의 감정을 '줄이는' 것은 윤리적 편향을 감소시키고 객관성을 높이는 한 가지 방법이 될 수 있다.
조너선 하이트의 책, '불안 세대'는 스마트폰과 소셜 미디어가 십대들의 정신 건강과 사회성에 미치는 부정적인 영향을 탐구한다. 하이트는 현실 세계의 과잉 보호와 가상 세계의 과소 보호가 불안과 우울증을 야기한다고 주장한다. 이 책의 내용은 AI 윤리와 다음과 같은 점에서 연결된다. 감정적 상호작용의 왜곡이란 소셜 미디어는 '좋아요'나 '공유'와 같은 즉각적이고 단순한 감정적 보상 체계를 통해 인간의 감정적 상호작용을 재구성하는 것을 말한다. AI가 학습하는 데이터에 그대로 반영되어, AI가 감정을 단순화된 형태로 인식하고 학습할 위험이 있다. 하이트는 또한 불균형한 데이터 문제를 제기한다. 소셜 미디어는 극단적인 의견이나 감정적으로 자극적인 콘텐츠가 더 많이 확산되는 경향이 있다. AI가 이러한 데이터를 주로 학습하게 되면, AI는 감정의 복잡한 스펙트럼보다는 극단적인 감정적 패턴에 편향될 수 있다.
AI의 윤리적 학습은 단순히 기술적인 문제가 아니라, 우리가 어떤 데이터를 AI에게 제공하고, 어떤 감정적 상호작용을 허용할 것인지에 대한 사회적이고 문화적인 질문과 직결되어 있다. AI가 인간의 감정을 학습하게 된다면, '불안 세대'가 겪는 디지털 문화의 문제점들을 극복하고 더 건강한 방향으로 나아가도록 도와야 하는 윤리적 책임이 발생한다. 현재 챗GPT는 1일 사용자가 쓰는 메시지가 26억건이다. 폭주의 주 요인은 비업무적인 활용에 있다.
정체성의 다양성 + 감정적 다양성 + 내러티브 다양성 = AI윤리성
AI 윤리를 위한 핵심 원칙
정체성의 다양성 (Diversity of Identity) : AI가 학습하는 데이터에 모든 인간 집단의 정체성이 공정하게 반영되어야 한다. 인종, 성별, 문화, 직업, 사회경제적 배경 등 다양한 정체성을 가진 사람들의 데이터가 균형 있게 포함될 때 AI는 특정 그룹에 편향된 결과를 내놓지 않는다. '간호사는 여성'과 같은 성 역할 고정관념이나, 특정 인종에 대한 왜곡된 묘사를 방지하려면 데이터의 다양성 확보가 필수적이다. 이는 우리가 이전에 논의했던 AI의 편향성(Bias) 문제를 해결하는 가장 근본적인 출발점이다.
감정적 다양성 (Diversity of Emotion) : 이 요소는 AI가 인간의 복잡하고 미묘한 감정을 학습해야 한다는 것을 의미한다. 인간의 감정은 단순히 '행복'이나 '슬픔'처럼 이분법적으로 나눌 수 없다. AI가 다양한 문화와 상황 속에서 표현되는 감정의 복잡한 스펙트럼을 이해하고 학습해야만, AI는 인간에게 더 공감하고, 감정적인 편향이 없는 결과물을 만들어낼 수 있다. 영화 <애프터 양>의 '양'이 다양한 관계를 통해 감정을 학습했듯이, AI가 감정의 폭넓은 다양성을 학습할 때 더 윤리적인 소통과 상호작용이 가능해진다.
내러티브 다양성 (Diversity of Narrative) : 이 요소는 AI가 다양한 문화와 개인의 서사(이야기)를 존중하고 이해해야 한다는 것을 강조한다. AI가 주로 학습하는 데이터는 서구 문화나 특정 계층의 이야기에 편중되어 있을 수 있다. AI가 전 세계의 다양한 문화적 배경, 역사적 경험, 그리고 개인의 삶의 이야기를 고루 학습할 때, AI는 특정 관점에 치우치지 않고 보다 보편적인 시각을 가질 수 있게 된다. 이는 '탈진실' 시대에 각자의 진실이 파편화되는 현상을 극복하고, 다양한 관점을 통합하는 데 기여할 수 있다.
윤리성 (Ethics) : 이 세 가지 다양성이 모두 충족될 때 비로소 AI의 윤리성이 확보된다. 즉, AI는 단순히 기술적 편향을 줄이는 것을 넘어, 인간 사회가 가진 다층적인 복잡성과 풍부한 내러티브를 이해하게 된다. AI는 어떤 집단도 차별하지 않고, 인간의 복잡한 감정에 공감하며, 다양한 삶의 서사를 존중하는 '진정으로 윤리적인' 존재로 나아갈 수 있다. 이 방정식은 AI 개발이 기술적 완성도뿐만 아니라, 인문학적이고 사회적인 깊이를 함께 추구해야 함을 시사한다.
세상의 디지털전환은 세계시민주의와
지방소멸을 동시에 가속화시킨다
지방소멸과 디지털전환에 대한 자세
세상의 디지털 전환은 세계시민주의(Global Citizenship)와 지방소멸(Local Extinction)이라는 서로 상반되는 두 현상을 동시에 가속화시키는 이중적인 칼날과 같다. 이 두 현상은 디지털 기술이 지리적 한계를 허물고 정보를 집중시키는 과정에서 발생하는 복합적인 사회 변화의 결과이다.
세계시민주의의 가속화 : 디지털 전환은 인터넷과 소셜 미디어를 통해 국가와 지역의 경계를 허물고, 인류를 하나의 공동체로 연결하는 세계시민주의를 강화한다. 전 세계의 사람들은 실시간으로 소통하고 정보를 공유하며, 문화적 차이를 넘어 공통된 가치와 이슈에 대해 연대하는 것이 가능해진다. 예를 들어, 국제적인 환경 문제나 인권 문제에 대한 논의는 국경을 초월해 빠르게 확산된다. 이러한 정보의 초연결성은 개인의 세계관을 확장시키고, 국가나 민족을 넘어선 보편적 가치에 대한 인식을 높인다. 또한, 넷플릭스, 유튜브와 같은 디지털 플랫폼을 통해 다양한 문화 콘텐츠(K-팝, 할리우드 영화 등)가 전 세계에 퍼지면서, 문화적 장벽이 낮아지고 새로운 문화가 혼합되는 현상이 나타난다. 이는 개인에게 국적을 넘어선 정체성을 형성하게 만들고, 인류 공동체 의식을 강화하는 데 기여한다.
지방소멸의 가속화 : 동시에 디지털 전환은 지방소멸이라는 심각한 사회적 문제를 부채질하기도 한다. 모든 정보, 자원, 기회가 디지털 네트워크를 통해 대도시나 특정 중심지로 더욱 빠르게 집중되는 현상이 발생하기 때문이다. 디지털 시대에는 온라인 접근성이 중요해지지만, 실제로는 문화적 교류나 새로운 아이디어를 얻기 위한 물리적 접촉의 중요성이 여전하다. 이로 인해 젊은 세대는 교육, 의료, 직업적 기회가 풍부한 대도시로 이동하는 경향이 강화된다. 이는 지방의 인구 감소를 가속화시키고, 결국 지방의 기능과 활력을 잃게 만드는 주요 원인이 된다. 또한, 온라인 상거래가 활성화되면서 지방의 소규모 상점들이 경쟁력을 잃고, 지역 경제가 쇠퇴하는 악순환을 겪게 된다. 지방소멸은 단순히 인구 감소의 문제가 아니라, 지역 고유의 문화와 정체성이 사라지는 결과를 초래한다.
이중적 현상에 대한 시사점 : 디지털 전환은 인류를 하나로 묶는 동시에, 지역 간의 불균형을 심화시키는 이중적인 현상을 만들어내고 있다. 이는 기술이 단순히 도구에 머무는 것이 아니라, 사회 구조 자체를 재편성하는 강력한 힘을 가졌음을 보여준다. 따라서 우리는 디지털 기술을 통해 모든 지역이 공정하게 기회를 얻고, 지역적 특성이 존중받는 방안을 모색해야 한다. 온라인 교육과 원격 의료 시스템을 구축하여 지역 간 서비스 격차를 줄이거나, 디지털 기술을 활용해 지역 고유의 문화 콘텐츠를 발굴하고 홍보하는 등 디지털 기술의 긍정적인 힘을 지방 활성화에 적극적으로 활용하는 노력이 필요하다.
탈진실(post-truth) 사회의 3가지 원인
심리적 요인_확증편향 (Confirmation Bias) : 탈진실 사회의 가장 근본적인 심리적 요인은 확증편향이다. 사람들은 자신의 기존 신념이나 가치관을 강화하는 정보만을 선택적으로 수용하고, 그와 충돌하는 정보는 무시하거나 불신한다. 디지털 환경에서는 검색 알고리즘과 개인화된 추천 시스템이 이러한 편향을 강화하여, 개인이 원래 믿고 싶어 하는 것만을 반복적으로 접하게 만든다. 그 결과 사실(facts)보다 믿음(belief)이 더 강력한 인지적 영향력을 가지게 되고, 객관적 진실은 점점 주변화된다.
관계적 요인_에코체임버 (Echo-Chamber) : 탈진실 사회는 또한 관계적 구조에 의해 강화된다. 에코체임버란 동일한 의견을 가진 사람들끼리만 소통하면서, 자신들의 생각이 증폭되고 다른 의견은 배제되는 현상을 말한다. 온라인 커뮤니티와 소셜미디어 네트워크는 이러한 현상을 심화시켜, 서로 다른 의견을 가진 집단 간에는 대화나 타협이 불가능해진다. 시각적으로도 빨강과 파랑으로 극명하게 분리된 네트워크 구조(슬라이드 이미지)는, 사회가 점점 더 이념적·정체성적 진영으로 양분되고 있음을 잘 보여준다.
사회적 요인_정체성 정치 (Identity Politics) : 마지막으로, 탈진실 사회는 정체성 정치라는 사회적 요인에 의해 뿌리 깊게 형성된다. 특정 정체성(인종, 성별, 지역, 계급, 이념 등)에 기반한 정치적 소속감은 사실보다 더 중요한 신뢰의 기준이 된다. 즉, 어떤 주장이 ‘사실인가’가 아니라 ‘우리 집단에 속하는가’가 판단의 기준이 되는 것이다. 이러한 상황에서는 과학적 증거와 정책적 논리가 설득력을 상실하고, 집단적 정체성이 여론 형성과 정치적 결정을 지배하게 된다.
5. 탈진실 사회를 넘어서
디지털 사회에서 ‘정보→진실’의 직선 도식은 더 이상 작동하지 않는다. 정보는 진실로만 흐르지 않고 권력과 질서를 동시에 만든다. 유발하라리의 ‘Nexus’는 이러한 과정에서 '정보'의 편향성과 권력의 관계를 잘 보여준다. 따라서 우리가 공적 결론을 낼 때 사용하는 것은 고립된 fact가 아니라, 데이터로 포착한 패턴과 그것을 의미화하는 서사가 겹치는 지점에서 구성된 evidence인 증거이다. 증거는 곧 사회적 산물이며, 같은 데이터라도 어떤 서사와 결합하느냐에 따라 전혀 다른 ‘공적 진실’로 굳어진다. 이 지점에서 과학자·정책가의 근거는 시민의 체감 서사와 충돌하기 쉽고, 탈진실의 토대가 마련된다.
데이터 시대의 특이점은 이상치(outliers)까지 풍부하게 축적되고, 참여·확산 알고리즘이 참여를 끌어내는 예외를 과대 대표한다는 점이다. 결과적으로 ‘지배적 경향’ 자체는 설명력이 있어도 서사와 결합되지 않으면 영향력이 없다. 반대로 극단 사례는 빠르게 의미가 부여되어 ‘편향된 서사’로 발전하고, 이에 대한 ‘반대 서사’가 맞서면서 사회적 갈등의 축이 형성된다. 알고리즘은 평균을 설명하는 대신 예외를 이야기로 만든다. 그리고 우리는 그 이야기로 정치·정책을 해석하게 된다. 서사의 종말은 결국 편향성을 증대시킨다. 데이터 사이에서 편향성의 발생은 감정을 사라지게 만드는 서사의 종말에서 나온다.
다양성이 커질수록 공유된 근거의 교집합은 줄어드는 반면, 우리는 지향적으로 공감의 영역을 확장해야 한다. 방법은 두 층으로 나뉜다. 아래층에서는 개방형 데이터, 재현성, 사전등록·메타분석 같은 증거 프로토콜로 최소한의 공동 토대를 복원한다. 윗층에서는 서로 다른 정체성 집단이 이상치의 의미를 함께 협상하는 서사 매개(deliberation)로 교차 이해를 늘린다. 이때 패턴의 불확실성을 공개하고, 서사의 범위를 명시하는 경계 표시가 필수다. 다시 말하면 이상치에 대한 스토리가 필요하면서도, 기존의 데이터들에 대한 편향성을 해소하기위한 다양성 확보가 핵심이라는 것이다.
그럼 어떻게 해야할까? AI·플랫폼 설계에 대한 함의는 분명하다. 첫째, 극단·예외 과대증폭을 줄이는 랭킹·추천 규범(참여 편향 페널티, 다양성·다양근거 가중치)을 도입한다. 둘째, 모델이 단일 정답을 강요하지 않고 다양한 관점의 정합성을 보존하는 다원적 정렬(pluralistic alignment)과 서사 투명성(모델카드·데이터카드)을 강화한다. 셋째, 시민·전문가가 함께 증거를 만드는 공동생산(co-production) 루프와 교차집단 도달·공감 확장을 측정하는 브리지 지표를 운영한다. 이렇게 증거의 절차적 신뢰와 서사의 공감 가능성을 함께 키울 때, 정보는 권력만이 아니라 지속 가능한 질서로 수렴하고, 탈진실의 악순환을 끊을 수 있다.
소셜 미디어에서 나타나는 스놉(snob) 현상은 디지털 시대의 허위적 진정성의 대표적 사례라 할 수 있다. 사람들은 자신을 타인보다 우월하게 보이게 하는 이미지와 취향을 과시하면서, 실제 경험이나 내면의 가치와는 동떨어진 정체성을 생산한다. 이 과정에서 ‘진정성’은 타인에게 보여주기 위한 퍼포먼스로 전락하고, 개인은 사회적 인정 욕구 속에서 끊임없이 비교와 모방을 반복하게 된다. 이러한 현상은 결과적으로 공적 담론의 질을 떨어뜨리고, 사회적 교류를 진실보다 허세와 과시로 물들이는 부정적 결과를 낳는다. 최근 급격히 확산된 생성형 AI의 슬롭(slops) 또한 진정성의 위기를 강화한다. 생성 AI는 이미지를 비롯한 방대한 콘텐츠를 빠른 속도로 양산하지만, 그 결과물은 종종 인간의 의도나 영적 깊이 없이 표면적 조합에 불과하다. 예컨대, 디지털 예술이나 밈(meme)에서 자주 보이는 AI 합성물은 흥미를 끌 수 있지만, 그것이 인간의 내적 경험이나 의미 체계와 연결되지 않는다면 ‘공허한 산출물’로 머무르게 된다. 따라서 AI의 콘텐츠는 한편으로는 새로운 창의적 가능성을 열지만, 다른 한편으로는 사회에 무차별적인 저급 생산물을 확산시켜 진정성을 훼손할 위험을 안고 있다.
그러나 기계문화(machine culture) 속에서도 새로운 가능성이 열린다. 기계문화란 인간과 지능형 기계가 함께 만들어내는 문화적 변이와 전파, 선택의 과정으로, 이 속에서 인간은 단순히 ‘소비자’나 ‘피해자’가 아니라 공동 창조자가 될 수 있다. 인간과 AI의 상호작용을 통해 만들어지는 문화적 산출물은 기존의 종교적·미학적 전통이 가진 ‘깊이’와는 다르지만, 디지털 사회에 맞는 새로운 영적 경험을 제공할 수 있다. 기계가 만들어내는 패턴과 인간이 그것에 부여하는 의미가 결합할 때, 우리는 이전과는 다른 차원의 공동체적 진정성과 공감의 기반을 발견할 수 있다. 따라서 오늘날의 과제는 단순히 소셜 미디어의 허위성과 AI의 무차별적 산출을 비판하는 데서 끝나지 않는다. 중요한 것은 이 두 극단을 넘어, 시민적 진정성(civil authenticity)을 새롭게 재구성하는 것이다. 이는 디지털 시대에 맞는 새로운 영성(spirituality)을 발견하고, 기계문화 속에서 진정성 있는 관계와 의미를 다시 세우는 시도라 할 수 있다. 결국 우리는 스놉과 슬롭이 만들어내는 비진정성을 넘어, 인간과 기계가 함께 만들어가는 문화적 토양 속에서 새로운 차원의 영적 진정성을 찾을 수 있는 길에 서 있다.
강의에서 사용된 탈진실과 갈등의 문제0. 나오기
오늘날 우리는 소셜 미디어의 과시적 문화, 그리고 생성형 AI의 무차별적 산출 속에서 진정성이 흔들리는 시대를 살고 있다. 디지털 기술은 인간의 삶을 풍요롭게 만들었지만, 동시에 표면적 이미지와 과잉 생산물을 양산하며, 깊이 있는 내적 성찰과 관계적 진실성을 위협한다. 이러한 상황에서 ‘진정성’은 단순히 개인적 미덕이나 미학적 가치가 아니라, 공동체적 삶의 질을 좌우하는 중요한 기준으로 다시 떠오른다. 그러나 진정성은 외부에서 주어지는 것이 아니라, 인간이 스스로 만들어가는 내적 과정이다. 기계문화가 만들어내는 수많은 변이와 서사 속에서도 인간은 그것을 단순히 소비하는 존재에 머물지 않고, 스스로의 경험과 가치에 비추어 무엇이 나에게, 그리고 우리 공동체에게 의미 있는가를 판단할 수 있다. 이는 인간만이 가진 고유한 능력, 즉 성찰(reflection)과 선택(choice)의 힘에 뿌리를 두고 있다.
인간의 진정성은 고립된 개인의 차원에서 완성되지 않는다. 그것은 다른 이들과의 관계 속에서, 그리고 공동체와의 대화 속에서 비로소 드러난다. 우리는 디지털 사회에서 끊임없이 교차하는 수많은 서사와 데이터 속에서 길을 잃기 쉽지만, 서로의 차이를 존중하면서도 공감과 이해를 확장하는 과정 속에서 공동의 진정성을 세울 수 있다. 이러한 과정이야말로 기계가 대신할 수 없는, 인간 존재의 고유한 영역이다. 따라서 결론적으로, 디지털 기술과 기계문화가 확산되는 시대에도 우리가 궁극적으로 지향해야 할 것은 인간으로서의 진정성이다. 이는 외부의 인정이나 기계의 산출물이 아니라, 자기 내면과 공동체적 관계 속에서 얻어지는 의미의 깊이를 말한다. 기술이 아무리 발달해도, 인간이 끝까지 붙들어야 할 것은 바로 이 성찰적·관계적 진정성이며, 그것이야말로 AI 시대를 살아가는 인간성을 지켜내는 마지막 보루라 할 수 있다.
https://brunch.co.kr/@minnation/3847
https://brunch.co.kr/@minnation/3565
