글쓰는 인공지능을 둘러싼 쟁점
저자됨, 정체성, 글쓰기의 윤리
한국언론진흥재단이 발행하는 <신문과 방송> 2월호에 ChatGPT와 글쓰기의 윤리에 대한 짧은 글을 실었습니다. 3월 말 경에 지면에 담을 수 없었던, 좀 더 깊은 이야기를 나눌 준비를 하고 있습니다.
"마커스 교수가 지적하듯 챗GPT는 정교하고 방대한 ‘단어 시퀀스 예측 및 생산 모델’로서 기능할 뿐, 세계의 수많은 개체들과 그들 간의 관계, 이에 대한 개념 체계를 이해하지는 못한다. 챗GPT는 언어 데이터를 기반으로 작동하기에 언어 패턴을 가져오고, 단어를 교체하고, 단어들의 연쇄를 변주하고, 문법 구조를 변형하고, 문장을 연결하고, 스타일을 흉내 낼 뿐, 자신이 생산한 언어와 세계가 맺는 관계는 고려하지 않는다. 오로지 언어 데이터를 통해 훈련받은 모델은 언어 밖을 ‘상상’하거나, 비언어적 개념체계를 ‘이해’할 수 없는 것이다. 비유적으로 말하자면 챗GPT와 같은 언어모델은 무슨 뜻인지도 모르면서 말을 지어내고, 삶은 도무지 알지 못한다.
이는 말글을 사용함에 있어 진실과 거짓, 즉 윤리적 기준을 고민하는 인간과의 결정적인 차이를 만든다. 인간은 신체적·정서적·문화적 경험을 갖고 있기에 자신의 말이 세계와 어떻게 조응하는지, 나아가 어떤 사회적 파장을 미칠지 관심을 둘 수밖에 없지만, 챗GPT는 사용자의 언어와 기존의 방대한 데이터에서 학습한 바를 정렬해 텍스트를 생산하는 데서 자신의 임무를 마친다. 즉, 인간은 말을 함으로써 사회문화적·정치적·윤리적 행위를 수행하지만, 챗GPT는 순수히 텍스트에 대응하는 텍스트를 생산할 뿐이다. 결국 챗GPT는 “인간 내면에서 일어나는 이해에 대한 감도 없고, 도덕이나 진실성이 무엇인지도 알지 못 한다(Klein & Marcus, 2023).” ‘대화형 인공지능’에 진정한 대화는 없다. 윤리와 책임이 탈각된 순수한 수리통계적 텍스트의 세계, 그곳에 챗GPT가 산다."
"고리타분하게 들릴지 모르지만 인공지능이 ‘자유’와 ‘수월성’을 획득할 때 언론과 교육을 포함한 사회의 제반 영역에서 핵심적으로 논의돼야 할 것은 윤리적 주체로서의 삶이다. 자신과 타자, 기계와 세계의 관계를 성찰적으로 조망하며, 편리함에 가려진 위험을 비판적으로 드러내고 직시하는 역량을 키우는 일 말이다. 화려함과 속도의 경연장에서 ‘윤리’와 같이 지루하기 짝이 없는 주제가 힘을 얻을 수 있을까? 회의적이다.
하지만 그렇기에 더더욱 끈질기게 질문해야 한다. 글쓰기란 무엇이고 또 무엇이어야 하는가? 저자됨은 어떠한 인지적·정서적·사회문화적 과정을 수반해야 하는가? 결과로서의 텍스트가 아니라 과정으로서의 글, 완성된 상품이 아니라 언제까지나 미완성일 수밖에 없는 글, 온전히 교환 가치로 평가되는 텍스트가 아니라 분투과 협상 및 좌절의 과정으로서의 글, 바벨탑이 되어 내려다보는 텍스트가 아니라 다리가 되어 타인의 삶에 접속하고 연대하는 글은 어떤 모습이어야 하는가? 이어지는 질문의 과정에서 챗GPT와 같은 도구를 배제할 이유는 없다. 글쓰기 방법론을 넘어 쓰는 주체의 존재론적 탐구가 필요한 지금, 우리에게 주어진 과제는 인간과 기계가 힘을 합쳐 인간뿐 아니라 생명과 사물, 자연에 복무할 수 있는 글을 써낼 수 있도록 하는 리터러시의 발명이다."
전문은 아래 링크 <신문과 방송> 2월호에서 보실 수 있습니다. 제 글과 더불어 강승식 선생님, 구본권 연구소장님의 글도 살펴보시면 좋을 것 같습니다.
[Cover Story] 챗GPT의 시대 미디어의 역할은
챗GPT는 무엇인가? 인공지능 언어모델의 발전 역사 | 강승식
글쓰는 인공지능을 둘러싼 쟁점: 저자됨, 정체성, 글쓰기의 윤리 | 김성우
대답하는 능력과 질문하는 능력, 미디어는 무엇을 해야 하나 | 구본권
https://www.kpf.or.kr/front/news/newsPaperListPage.do
