간만에 읽은 오백 페이지 단행본 후기

김성우 선생님의 <인공지능은 나의 읽기-쓰기를 어떻게 바꿀까>를 읽고

캣츠랩에서 함께 공부하는 (이렇게 불러도 된다면) 동료이기도 한 김성우 선생님의 신간 <인공지능은 나의 읽기-쓰기를 어떻게 바꿀까>를 읽었다. 지하철과 버스에서, 이른 아침에 조금씩, 조각 시간을 그러모아 읽다 보니 완독하는데 3주 정도 걸린 것 같다. 워낙 글을 잘 읽히게 쓰시기에 읽는 행위 자체는 부담이 없었지만, 책에서 던지는 화두나 행간의 의미 등은 여러 번 다시 읽고 곱씹어야 하지 않을까 하는 인상을 강하게 남겼다.      

책은 6개의 장으로 되어있고, 무려 오백 페이지다. 1장에서 인공지능의 등장이 던지는 질문을 탐색하고, 2장에서는 인공지능, 특히 거대언어모델의 기술적 특징에 관해 특별한 공학적 지식 없이도 이해할 수 있게 설명한다. 3장에서는 본격적으로 인공지능을 통해 리터러시 생태계가 어떻게 바뀔 것인지를 ‘매개’, ‘전도’, ‘속도’, ‘저자성과 윤리’라는 네 가지 키워드를 통해 제시한다. 비판적 리터러시 연구자의 포스가 느껴지는 장이다. 4장에서는 프롬프트 엔지니어링 열풍에 관한 비판적 검토와 함께 질문만 잘 하면 된다는 인식이 가진 얄팍함을 뜯어본다. 5장에서는 인간과 기술, 인간과 인공지능이 어떻게 공진화하는 존재로 얽혀있는지를 보여주고, 6장에서는 정말이지 빠짐없다 싶을 만큼의 다양한 각도에서 읽기와 쓰기의 미래에 대한 전망, 그런 미래 혹은 이미 도래한 미래로서의 현재에서 우리에게 필요한 관점이나 성찰의 출발점 등을 제시한다.   

  

세상 느린 거북이걸음으로 쓰고 있는 박사 논문과 이번 학기 추계예술대학교 <인공지능과 창작실습> 수업에 주는 시사점이 상당해서 나에게 남겨진 키워드나 화두를 살짝 정리해봤다.     

이미지 출처: 교보문고

# 생성의 의미

저자는 책의 핵심 메시지로 생성(becoming) 없는 생성(generation)에 관한 경계를 강조했다. 시인 김언은 인공지능을 사용한 글쓰기에서 쓰기(write)는 쓰기(use)가 되고 저자(writer)는 사용자(user)가 된다고 말한 적 있다. 김성우 선생님의 논지와 김언 시인의 논지를 연결하면 자신을 변화시키지 않는 ‘사용자’에 머물러서는 안 되고, 자기 존재에 변화를 만드는 데까지 나아가야 한다는 뜻일 것이다. 나는 이 대목에서 마뚜라나와 바렐라의 자기생성(autopoiesis)이 계속 떠올랐다. 인간은 의지와 욕망 통해 자기를 생성하는 존재이지만 (항상 그런 것은 아니다), 인공지능은 자기 존재를 생성하지 않는다는 점이 차이라고 생각한 것이다. 과학철학자 이상욱은 이에 대해 인공지능은 ‘자각 없는 수행’이라는 특징이 있다고 설명한다. 시인 김언의 설명은 조금 더 감각적으로 와닿는데, 같은 글을 생산하더라도 인간은 ‘주인 있음’의 글을 지향하고 인공지능은 ‘주인 없음’의 글을 지향한다는 것이다. 인간은, 특히 문학가는 자기만의 문체, 자기만의 글, 자기 스타일이라는 것을 추구하는 존재인데, 인공지능은 그러한 고유한 것들을 모아서 통계적 확률이 높은 결과물 속에 희석하기에 주인 없음의 지향이 있다는 것이다.

캣츠랩에서 함께 공부하는 박승일 소장님은 이미 기계도 자기생성을 하는 사례가 있다고 지나가듯 설명해주셨는데, (본격 대화는 안 해봤지만) 그것은 행위 수준에서의 자기생성이 아닐까 싶다. 일종의 행동주의적 관점인데, 사이버네틱스도 시스템과 환경과의 접점에서 발생하는 정보를 피드백으로 받아들여 시스템의 적응성을 만들어낸다고 하니 어찌 보면 자기생성이라고 할 수 있다. 하지만 내가 관심이 있는 것은 시인 김언 식으로 표현하는 주인 있음과 없음, 일종의 ‘자기감’에 관한 것이다. 자각, 혹은 의식의 문제가 나에게는 더 흥미롭다. 

인공지능의 자각 없는 수행이 만드는 결과 중 나에게 인상적인 것은 관계 지속의 힘겨움과 윤리적 책임 주체 이슈이다. 권보연 선생님은 논문에서 ‘나와 무관한 것 같은 생성’, 즉 무심하게 생성하는 인공지능의 생성이 인공지능과 함께 창작하는 행위를 ‘지속’하기 힘들게 하는 이유 중 하나라고 한 적이 있다. 아무리 인간이 투사를 잘 하는 존재라고 하지만 관계 지속의 의지와 노력이 온전히 인간에게만 있다는 것은 분명 힘겨운 일이다. 인공지능의 자각 없음이 만드는 또 하나의 이슈는 윤리적 주체가 될 수 없음이다. 잘 알려진 바와 같이 생성형 인공지능의 휴먼 피드백 강화학습 과정에서 제3세계의 많은 이들이 고통스러운 사진, 영상, 글 등을 보면서 윤리적 필터링을 ‘몸빵’해야 했다. 왜 그랬을까? 제3세계 엠터크(Mechanical Turk) 노동자의 인건비가 싸서? 그보다는 경제학적 관점이 아닌 원리적 수준에서 보면 인공지능 스스로는 쾌락과 고통을 감각할 수 없기 때문이지 않을까? 윤리적 필터링이란 도덕감에 부담이 되는 상황, 혹은 고통스러운 상황에 대한 회피라고 할 수 있을 텐데, 자기감이 없는 존재에게 고통이 성립할 수 있냐라고 물으면, 글쎄? 그런 이유로 인공지능은 (현재로서는) 윤리적 주체가 될 수 없고, 인간-인공지능 협업에서도 윤리적 책임 주체는 인간이 되는 것이다. 비록 인공지능이 윤리에 관한 다양한 학습자료를 통해 일종의 시민 교양에 적합한 윤리를 제시할 수 있다고 하더라도 그 윤리에 대한 책임의 감각을 가질 수 없다는 점에서는 자각 없는 수행의 문제가 해결되지는 않는다.      

# 인간은 무엇을 책임질 수 있는가?

교육학 연구자로서, “그럼 인간 학습자는 인간-인공지능 협업에서 무엇을 책임질 수 있냐?”는 질문이 생긴다. 선언적으로 인간이 윤리적 책임의 주체가 된다, 혹은 되어야 한다고 말했지만 조금만 더 생각해보면 상황은 그리 간단하지 않다. 예를 들어 글을 쓰는 상황을 간략하게 도식화해서 [질문, 의도 -> 자료 조사 -> 이해, 조직화]의 순환 프로세스라고 할 때, 과거의 검색엔진은 자료 조사 영역을 보조해주었던 반면, 현재의 생성형 인공지능은 질문과 의도 이후의 과정 전체를 대리해주는 것이 가능하다. (적절한 자료만 제시하면 질문과 의도도 만들어준다.) 그럼 이 지점에서 인간이 스스로 이해하거나 조직하지 않은 것에 대한 책임을 진다는 것은 무엇이냐는 질문을 던져볼 수 있다. 의도에 대해서만 책임을 지나? 그것이 가능한가? 물론 기능적으로는 가능하다. 회사를 생각해보면 지시를 하고 직접 수행하지 않은 일에 대해서 상급자가 책임을 질 수 있다. 그런데 그건 회사의 책임과 권한의 배분과 작동 구조가 그렇게 만들어졌다는 것을 모두 알고 있으니 가능한 것이고, 교육 또는 학습의 영역, 혹은 일상 창작의 영역에서 인공지능에 많은 것이 위임된 상태에서 인간에게 남겨지는 몫인 책임의 의미는 무엇이 될까라고 생각해보면 그 의미가 깔끔하게 떨어지지 않는다. 

물론 인간 학습자는 인공지능 생성 결과물에 대해 성찰하고 개입해야 한다. 세공하듯 뜯어보고 다듬고 하는 과정에서 분명히 이해의 영역과 조직화의 영역, 즉 인간의 기여분이 출현하게 된다. 그런데 이러기 위해서는 인간-인공지능 상호작용이 지속되어야 한다. 원샷 프롬프팅으로, 신속하게 결과물이 생성되는 것을 목적으로 한다면 거기에는 인간의 책임 영역도 만들어지기 어렵다. 즉, “니(인공지능)가 만들고 책임은 내(인간)가 진다”는 말이 성립하기 위한 나름의 ‘정성스러운 조건’이 필요하다는 것이다.     

 

# 프롬프팅의 효율성과 관계 지속성의 충돌

프롬프팅은 언어를 매개로 인간과 인공지능을 연결하는 행위이다. 즉, 인간과 인공지능이 관계를 형성하기 위한 출발점이 관계 지속의 매개물이다. 그런데 프롬프팅 열풍에 내재한 메시지에는 은연중에, 혹은 대놓고 생산성, 효율성에 관한 강조가 있다. 이걸 다르게 표현하면 빠른 속도로 (인간-인공지능의) 관계를 종결해드립니다와 같은 의미가 된다. 안 그래도 관계 지속의 의지가 인간에게만 귀속된 상황에서 나와 무관한 것 같은 인공지능을 어떻게든 나와 얽히게 하는 애씀이 공기를 붙잡는 것 같은 묘한 고독감을 주는 상황인데, 세간의 열풍은 그 관계 빠르게 끝내드립니다를 지금 시대 역량의 핵심으로 선전하고 있으니, 대부분의 학습자 입장에서 성찰과 개입 없는 생산, 나와 무관한 것 같은 생산, 책임의 영역을 창출하지 못하는 생산, 김성우 선생님 표현으로 생성(becoming) 없는 생성(generation)이 문제라고 인식하기조차 힘든 상황이 펼쳐지고 있는 것은 아닌지 염려된다. 다만 내가 이 글에서 쓰고 있는 의식, 자각, 고통, 자기감 등의 개념이 인간의 경험과 감각을 기준에 두고 있는 개념이라는 점에서 내 논지에 한계가 있다.     

# 생산성이 아닌 과정에 주목한다는 것의 의미

김성우 선생님은 생산성, 효율성이 아닌 과정에 주목해야 한다고 말한다. 사실 담론 수준에서 보면 교육학 논문이나 저작 중 과정이 아닌 결과가 중요하다고 대놓고 말하는 것은 없을 것이다. (그렇겠지?) 정확히는 과정 그 자체도 지속적이고 밀도 있는 과정이 되는 것이 중요할 텐데, 내가 궁금해진 부분은 그 과정의 의미가 무엇인가 하는 점이었다. 결과물은 보통 완성도, 효과 등을 통해 의미나 가치를 확인한다. 그럼 아직 그런 것이 산출되기 전인 과정은 어떤 의미가 있을까? 심지어 결과물이 없는 과정이라면? 그러한 과정에서도 과정에 참여하는 존재는 변화를 경험한다. 일종의 생성(becoming)인데, 외화되는 생성물이 아니라 내재적 생성이라고 불러야 할 것이다. 마치 수양의 결괏값이 아닌 수양 그 자체가 중요한 것과 비슷한 것인데, 이렇게 생각하니 과정에 주목한다는 것은 결국 어떤 인간이 되기를 지향하느냐는 가치의 문제구나 싶은 생각이 들었다. 교환하거나 제시할 수 있는 결과물이 아닌 과정을 통해 자기생성을 한다면 과정의 ‘효과’ 혹은 산출은 인간 그 자체일 테니까.     

# 자원의 제약이 있다면

책을 다 읽고 나서 생겼던 질문 중 하나는 “자원의 제약이 있다면 인간은 인공지능을 어떤 용도로 사용할까? 혹은 인공지능과 어떤 방식으로 관계를 맺을까?”였다. 유료 사용자가 아니면 이미 토큰의 제한이 있다. 그런데 기후위기, 에너지 위기, 희토류 등의 자원 고갈 문제 등과 결부되어 인공지능이 무한정한 자원이 되는 것 같은 환상이 걷어진다면? 아껴 아껴 요긴한 순간에만 인공지능을 제한적으로 써야 한다면? 빠듯하게 주어진 용돈 같은 것이라면? 인간은 인공지능에 무엇을 요구하고 기대하게 될까 하는 점이 궁금해졌다. 2학기 강의가 끝나면 학생들을 인터뷰하면서 직접 물어보고 싶은 질문이기도 하다.     

# 북토크 후기

어제(9월 6일)는 김성우 선생님의 책으로 캣츠랩에서 북토크가 있었고 멤버로써, 그리고 팬심으로 나도 함께 했다. 책의 내용을 중심으로 진행된 북토크의 묘미는 사회를 본 박승일 소장님의 질문과 재치였다고 생각한다. 특히 절대진지 김성우 선생님의 긴 답변을 가차 없이 끊으면서, 아무리 밀도 있는 논제라도 짧게 답하세요!를 압박하는 그 몰아가기의 기술이란. 

저자와 사회자의 대담 형식 토크가 끝나고 청중 질문이 있었는데, 그중 두 질문이 기억에 남는다. “인공지능이 중요하다고 하지만 주로 책상에 앉아서 살아가는 사람이 아닌 사람에게는?”, “연구자가 하는 일이란 결국 더 최신의 더 적확한 자료 찾기 노동이 되어가는 것이 아닌가 싶다.” 앞의 질문은 유기쁨 선생님이 하신 질문이고 뒤의 질문은 누가 하셨는지 기억이 안 난다. 주로 책상에 앉아서 컴퓨터와 화면으로, 인터넷으로 일하는 것이 아닌 사람에게 인공지능의 의미는 무엇일까? 물론 나는 당연히 중요한 의미가 될 거로 생각한다. 인공지능은 ‘언어’를 중심으로 하는 거대언어모델 단계를 넘어 이미 기반 기술처럼 작동하면서 대부분의 디지털 기기의 배경 원리로, 장막 뒤로 들어가서 더 비가시적인 방식으로, 그리고 더 확장된 범위에 영향을 미치고 있다. 그럼에도 불구하고 주로 지식인, 예술가, 도시 거주자 중심으로 생각하는 것이 익숙해진 나에게 순간 흠칫하게 한 질문이긴 했다.

두 번째 질문은 나도 평소에 비슷한 느낌을 받았기 때문에 공감하면서도 비판적으로 곱씹어보게 되는 질문이었다. 일종의 지식 헤게모니에 관한 불안이 아닌가 싶었기 때문이다. 특정 분야의 자료의 총량이 많지 않을 때는 그 분야의 멤버라는 것 자체로, 주고받는 대화와 다들 공유하는 몇 개의 저널이나 자료를 통해서도 (특히 그런 자료의 접근성이 낮다면) 지식과 경험의 헤게모니를 가질 수 있었다. 그런데 명목상으로도, 그리고 어느 정도는 실질적으로도 분야를 막론하고 정보 접근성이 향상되면서 소위 연구자나 전문가의 지식 헤게모니가 도전을 받고 있다. 예전에는 일반인(?)과 특정 영역을 중재하는 것 자체가 지식인이나 연구자의 역할이었는데, 인공지능이 그 역할을 일정 부분, 그리고 효율적으로 대리하면서 연구자는 자신의 역할을 새롭게 찾거나 혹은 확실하게 고유성 있고 의미 있는 질문, 연구의 출발점을 잘 기획하는 것에 몰두해야 하는 상황이 되어가고 있는 게 아닌가 싶다. (사실 이건 함께 북토크를 들은 친구의 생각인데, 나도 동의하는 바이다.) 인공지능 등장 이전에 이미 데이터 영역에서 빅데이터라고 할만한 자료 축적이 이뤄졌고, 검색엔진과 웹을 통한 접근성이 개선되면서 버거운 수준의 자료 산맥을 헤매는 수고로움이 있었던 것이 사실이다. (자료가 있다는데 무시할 수는 없으니.) 그런데 인공지능은 바로 그 빅데이터의 ‘빅(Big)’을 중재하는 새로운 기술로 등장한 것이고 본다면 지금 당장은 몰라도 앞으로의 연구자의 역할도 최신의 자료 찾기 노동에 머물까 싶긴 하다. 물론 생성형 인공지능으로 인해 양산되는 저품질 데이터가 만드는 생태계 전체 교란의 문제도 함께 고려할 필요가 있지만.     

세상에는 좋은 책들이 계속 나오는데, 세상은 고사하고 나는 가까운 곳에 있는 분들의 좋은 책도 다 읽기가 참 버겁다. 그래도 대학원 세미나 등의 강제와 무관하게 오래간만에 완독을 하고 후기도 써보니 좀 뿌듯하긴 하다. 북토크 뒤풀이에서는 김성우 선생님께서 저자 서명을 해서 책 한 권을 선물해주셨는데, 이미 곳곳에 메모가 가득한 이미 사둔 책을 누구 주기도 그렇고, 내 이름이 적힌 저자 선물을 누구 주기도 그러니, 부득이 두 권을 가지고 있어야겠다. 클라우슨 몰렌하우어의 <가르치기 힘든 시대의 교육> 이후 책이 같은 책을 두 권 두기는 정말로 오래간만이다.