이광석 서울과학기술대 IT 정책전문대학원 교수
생각하고 정보를 찾고 요약하고 정리하고 글 쓰는 인지 활동을 자동화된 인공지능에 위탁하는 시대
-대규모언어모델(LLM), 인간의 언어와 사유 모방하고 기계학습(머신러닝)하는 자동화된 창작과 글쓰기
생성형AI(Generative AI), 인지 노동의 혁명을 이끌고 있다
창작 문화에 자리잡은 자동화된 글쓰기 차이점 찾기, 구분 어려워져
글쓰기 민주화 과정이란 평가 있지만
최종 산물 완성도 면에서 문장 결함
인공지능이 근거 없는 데이터를 마치 그럴듯하게 실재하는 것처럼 포장하는 환각 증세
기계학습을 할 양질의 데이터 빈곤
생성하는 문장 대체로 평균화, 일반화 + 사회적 편향, 고정관념을 합성된 문장에 섞어 더 과장, 규격화해 드러내는 알고리즘 경향 → 자동 생성된 문장 내용에서 편견에 더 쏠린 전산통계학적 질서 드러내
AI알고리즘이라는 글쓰기 유통 권력의 탄생 → 생성형 AI는 인간의 글쓰기 행위 그 자체에 심대한 영향을 미치는 상숫값 → 자동화된 글쓰기에 연결된 인간의 인지 과정에까지 영향을 미치기 시작
글쓰기 훈련, 글의 완성도를 높이는 행위이기도 하지만 글 쓰는 이의 생각을 깊게 하고 사유의 폭과 주름을 풍요롭게 만드는 학습 과정에 해당(독서, 정리, 색인, 번역과 같은 반복적 활동은 글쓰는 물론이고 인간 사유와 성찰적 능력을 키우는 훈련) → 편리와 영감을 주지만, 인지 과정의 서비스 구매를 통한 '사고의 외주화'라는 새로운 돌발 변수 생성
→ 사유의 모든 과정을 인공지능에 위탁하기보다는, 인공지능이 쉽게 반복적으로 패턴화해 연산 처리할 수 있는 영역만을 외주화해 맡긴다
문제는, 이제까지 사유의 근육을 단련했던 번역, 요약, 정리, 선별, 발췌 등을 자동화하면서 인간 사유 과정에서 부분 생략 가능한 것으로 삼는 것
글쓰기를 위한 단순하고 반복적으로 보이는 지루한 인지 과정이, 인공지능에 의해 빠르게 자동화된 글쓰기로 생략되고 대체되는 실정 → 인간 사유의 질적 도약을 이끄는 이들 반복 인지 행위가 외주화될수록, 사실상 인간의 비판적 능력이나 내적 체험, 특정 사고의 깊이가 약화되는 현상이 발생할 수 있다(사고의 진화적 흐름에 이어짐과 끊김이 군데군데 일어나는 단속현상이 일어나거나 인공지능 의존도가 커질수록 대상 세계에 대한 직접적 관찰과 탐색을 외면하는 일까지)
인공지능의 범용화는 사유의 외주화를 더욱 재촉, 일상화된 인공지능의 활용
글쓰기의 의미가 무엇인지를 근본에서부터 되새기는 비판적 자세가 필요
-단지 합성된 결과물을 얻는 구매 과정이 아닌 쓰는 행위를 통한 사유의 과정이자 자기 성찰 행위
-자기 목소리를 내는 구체적 방식이자 사회적 책임과 참여를 동반하는 성찰적 행위
-비판적 사유에 기반한 글쓰기, 살아있는 대상 세계에서 궁구하는 체험과 맥락에서 비롯
** 자동화된 글쓰기, 작가.번역가.기자.평론가 등 텍스트 생산노동자 지위 점차 불안정화// 인공지능이 문장 생성의 주체가 되고 인간이 이를 보조하는 편집자 역할로 노동의 성격 변화