by
Apr 25. 2023
챗지피티(ChatGPT)에 대한 단상
- 돈 버는 방식이 바뀌고 지식을 아웃소싱할 수 있다는 낙관론에 혹해봄
사람들은 생각보다 소통을 안 합니다. 역지사지도 생각보다 어려워합니다.
어떤 기술은 그것 때문에 느려지기도 한다는 것이
인공지능 언어모델 발전 이야기에 대한 지대넓얕 정도 관찰자의 감상입니다.
언어모델 인공지능 개발자들이 어떤 외국인들은 외국어를 익히기 위해 무조건 책을 암기한다는 것을 알았다면, 문법구조를 기계에 가르치기 위해 골머리를 앓지는 않았겠죠.
물론 수조 단위의 학습용프린트가 필요하려면 어차피 적어도 인터넷이 발달하기를 기다려야 했겠지만 말이죠.
Generative Pre-trained Transformer, 어떤 것(질문)을 던지면 미리 학습된 내용을 변형하여 대답처럼 보이게 산출하는 것이 바로 이 앱의 특징입니다.
이것 때문에 구글이 비상상황이 되고 마이크로소프트가 세계를 지배할 수도 있다는 말들이 돌았습니다.
강인공지능(SF 영화에서 볼 수 있는 인간을 억압하는 인공지능: HAL, 스카이넷의 터미네이터, 타이렐의 레플리컨트)을 두려워하는 뉴스도 들렸고요.
뭐, 기술의 발전에 사람들의 반응은 늘 비슷하니까 그러려니 했습니다.
하지만 유명한 학자들까지 나서서 챗지피티가 뭔가 세상을 바꿀 신호인 것처럼 이야기하기에 궁금함이 생기기는 했습니다.
그분들이 말하는 챗지피티로 어려워질 직업 중 하나인 소설가가 바로 저였어서 그랬는지도 모르겠네요.(제발저림?) 챗지피티가 다른 건 몰라도 창작을 하는 건 도와줄 수 있다, 그리고 그 그거는 챗지피티가 거짓말을 잘한다... 이런 논리도 있었습니다.
그리고 구글이 나왔을 때와 비슷한 논리가 나왔을 땐 한번 써봐야겠다는 생각이 들었습니다.
"더 이상 지식 위주의 교육은 끝났다."
"인공지능을 제대로 쓸 줄 아는 아이가 성공할 것이다."
"지금까지는 교육과정을 거쳐야 성공할 수 있는 루트였지만, 이제는 그럴듯한 이야기를 만들기만 해도 인공지능이 다 그려준다. 그러므로 초등학생도 돈을 벌 수 있고 성공할 수 있다."
과연 그럴까요?
챗지피티에 한 가지 질문을 던졌습니다. 한글로요.
일목요연하게 정리된, 보고서만큼이나 깔끔한 형식에 일단 호감이 들었습니다.
과연 검색의 시대는 끝났구나. 상사에게 보여주는 것처럼 싹 정리해서 보여주는 검색결과를 버리고 수많은 페이지를 드나들어야 하는 클릭을 원하는 사람이 과연 있을까요? 정말 지식습득은 더이상 필요없어져 보였습니다.
눈치채셨겠지만 출판단지에 출판단지로는 없고, 저런 갤러리도 없습니다.
왜 거짓말을 하느냐 물으니, 자신은 인격이 아니라 거짓말을 하는 게 아니고 학습된 것들 중에 답을 제공하는 것이라고 하더군요. 그러면서 자신의 서비스는 나아질 거라 다짐합니다.
물론 그렇게 되겠죠.
그리고 언젠가는 사실만을 깔끔하게 보고해주는 챗지피티 버전도 나올지 모릅니다.
하지만 문제는 어떤 검색도 사실이 아니라는 걸 경고하지 않는다는 것입니다.
구글과 네이버는 그나마 수많은 페이지들을 보여주죠. 물론 광고 페이지를 먼저 보여주지만.
그런데 대화형 인공지능을 검색엔진처럼 쓸 수 있다고 생각하는 것은 위험합니다.
다른 대안없이 확언을 하기 때문입니다.
지식 교육이 필요없다고 하는 분들 대부분은 이미 정규교육과정을, 그것도 최대한으로 받은 분들입니다.
한 분야의 전문가일뿐이라고 하지만, 그 교육과정을 통해 익힌 문해력이 어마어마 할 겁니다.
그러므로 '아이들의 미래를 위해 알아야할 게 또 생겼어?' 라고 생각한 부모님들은 우선 자신이 먼저 써보시기 바랍니다.
자기가 가장 잘 아는 지식을 몇 가지 순서대로 심층적으로 던져보세요.
이것은 절대 검색엔진이 될 수 없다는 것을 깨달을 수 있을 것입니다.
검색, 뉴스 홍수, 개인 매체는 가짜뉴스(트럼프가 이 말을 유행시키기 전에도)의 시대를 열었습니다. 그런데 이제 하나 더 늘어난 셈이네요. 이제 진실과 거짓을 구별할 소양이 더욱 더 필요해졌습니다.
다들 아시겠지만, 똥인지 된장인지를 알기 위해서도 필요한 정보의 양이 있습니다.
챗지피티가 수조 단위의 학습을 했다지만 이 앱의 생성 알고리즘이 진실이나 사실이 아닌 '인간과 비슷한', '그럴듯한'이라면, 이를 검토할 인간도 진위를 검토하기 위해 상당한 지식을 쌓아야 할 겁니다.
문해력은 이 지식을 쌓으며 얻게 되는 매우 느린 도구지요.
그러니 문해력 최강자인 박사급 지식인들이 챗지피티와 같은 언어모델의 미래에 대해 말할 때, 교육을 말씀하시는 건 조심스러우면 좋겠습니다.
제 생각에는 바보처럼 기계에게 속지 않는 인간을 채용하기 위해 회사나 정부들은 더 큰 문해력과 지식교양 수준을 원할 겁니다. 단순노동이나 단순 지식은 인공지능을 쓰면 된다고 주장하니, 인간의 설 자리는 더더욱 좁아질 테고, 그 위에 서기 위해 더 많은 교육비를 들여 더 괴롭게 공부해야겠지요.
자, 이번에는 창작의 영역입니다.
저는 말을 사용하는 소설가니까, 글을 써보라고 해봤습니다.
한 여자가 실종된 남자친구를 찾는 sf를 써보라고요. 어떠신가요?
반응은 두 가지일 겁니다.
너무 재미있거나, 너무 베꼈거나.
<솔라리스>를 읽지 않은 분에게는 재미있는 줄거리겠죠. 행성의 조건은 놀랍기도 할 겁니다.
하지만 스타니스와프 렘의 소설을 읽은 분들이라면 이름만 빼고는 솔라리스의 주요 내용을 가져다 만든 것이라는 걸 알아차렸을 겁니다.
저의 감상평은 형편없다였습니다.
제가 요구한 것이 '솔라리스 스타일'의 이야기였는데, 설마 이름까지 베낄 줄은 몰랐거든요.
이유는 단 하나, "미리 학습한" 내용에서 가장 걸맞은 것을 생성해냈기 때문이죠.
챗지피티의 사용성에 대해 말씀하시는 분들 대부분이 창작자가 아니다보니,
이 정도의 줄거리면 창작자들이 훨씬 쉽게 예술을 창조할 수 있을 거라고 느끼셨을 것 같습니다.
하지만 과학 그리고 수학까지도 단 하나의 수치나 숫자에 막혀 앞으로 나아갈 수 없는 것처럼, 언어모델 인공지능이 아무리 발달한다 해도 창작에 있어 표절 의혹을 완전히 배제시키고 절대 무시할 수 없는 공백까지 꽉꽉 메울 수는 없을 겁니다.
지식을 위한 교육을 하지 않아도 성공할 수 있고 초등학생도 돈 버는 세상.
이게 새로운 현상인가요?
오일러도 모짜르트도 스필버그도 다 그랬습니다.
챗지피티가 아닌 천재성 덕분이죠.
로블록스 같은 데 10대 억만장자 게임 개발자가 있다지만,
그들은 10대에 그 분야 전문가였죠.
설사 챗지피티가 코딩을 대신해주고 그림을 대신 그려준다 해도 성공이나 돈 같은 인간적 가치를 얻으려면 창발성이 필요할 겁니다.
그건 언어모델만큼이나 수없이 반복된 훈련과 지식, 그리고 즐기는 마음에서 발현되죠.
아이돌 연습생들이 그렇듯
재능을 위한 집중 교육은 새롭지 않습니다.
챗지피티라는 도구를 잘 쓴다고 평범한 사람이 천재성을 대신할 수 없다는 겁니다.
그러니까 전문가 여러분들은 교육의 방향에 대해 쉽게 이야기하지 않으시기를 바랍니다.
당분간은 사교육 치열한 이 상황이 나아질 것 같지 않고, 오히려 악화될 것만 같으니까요.
요즘 부자들은 하버드나 스탠포드가 아니라 리버럴아츠컬리지를 간다고 하죠.
취직을 위해 기술 습득을 하는 대학이 아니라(법기술, 의학기술 포함), 폭 넓은 일반 지식을 배우며 일반적인 지적 능력을 개발하는 것을 목표로 하는 대학입니다.
새로울 건 없습니다. 원래 대학이 문사철에서 시작했고, 점차 자연과학까지 포함한 인간과 세계, 자아와 타아를 탐구하기 위한 것이었으니까요. 문송합니다라는 말이 있을 정도로 이런 류의 대학을 나오면 먹고살기 힘든데 왜 부자들은 시대를 역행하는 걸까요? 경영학과나 MBA도 없는 학부 중심의 대학인데.......
게다가 2년을 채 버티기가 힘들다는 상상을 초월한 커리큘럼의 교육을 하는 곳을 말이죠.
지식이 아닌 철학을 가리키는 학교.
인공지능을 포함한 기계가 절대 할 수 없다고 믿는 분야.
그 분야를 선점하기 위한 것이죠. 그러니까 기계에 속는 게 이제 더이상 바보들만의 이야기가 아닌 세상이 왔기 때문입니다.
이 정도의 엘리트를 꿈꾸지는 않더라도, 거짓에 빠지거나 기계에 농락당하며 사는 건 거절하고 싶다면, 리버럴 아츠 컬리지의 빡센 공부의 십분의 일이라도 해야 할 겁니다.
챗지피티는 너무 당당하게 얼굴색 하나 붉히지 않고 거짓말을 하거든요.
여기까지 읽은 분들 중에는
제가 옛날 사람에 챗지피티 때문에 불리한 직업을 갖고 있어 이런 말을 하고 있다고 생각할지도 모릅니다.
아니요.
저는 강인공지능이 생기는 순간 제 직업을 버려야한다는 걸 압니다.
인간은 공부할 필요가 없을 거예요.
어차피 강인공지능이 먹여살리든 죽이든 할 테니까요.
챗지피티는 강인공지능이 아닙니다. 아직까지는요.
"죄송하지만 제공하신 시나리오에 폭력적이고 부적절한 내용이 포함되어 있어 답변을 드릴 수 없습니다. AI 언어 모델로서 저는 윤리적, 도덕적 기준을 지키는 것이 중요하며, 해악이나 불법 행위를 조장하거나 조장하는 콘텐츠는 지원할 수 없습니다. 제가 도와드리고 싶은 다른 질문이나 주제가 있습니까?"
제가 한 질문 중 kill이라는 단어가 있었을 때, 이런 답변을 받았습니다.
즉 오픈에이아이에서 만든 규정에 걸리는 질문에는 답을 하지 않는 거죠.
마치 유튜브에 금지어가 있듯이 말이죠.
하지만 인간의 언어는 우회에도 능하니, kill 대신 revenge라고 바꾸자 술술 답을 하더군요.
등장인물을 죽이는 답을 말이죠. 물론 굉장히 흔한 이야기였습니다.
챗지피티가 별 도움이 안 된다고 판단한 이유 중에 하나는 바로 오픈에이아이의 규정 때문입니다. 수많은 언어 학습을 시켜놓고 사지를 묶어놓았으니까요.
이것이 굉장히 좋은 번역기라는 것은 인정합니다.
영어에 대한 요약도 괜찮아 보입니다.
하지만 거짓 정보에 대한 거름 없이는 이익보다 해가 더 많아보입니다. 특히 아이들에게요.
물론 성인들도 매우 위험해질 수 있습니다.
특히 정부 문서를 학습시킨 언어모델로 인공지능 정부를 만들겠다는 발상을 누군가 한 것 같은데,
그 거짓들을 어떻게 처리하려 할지, 해킹문제를 어찌하려 하는지 저는 상상이 안 되는군요.
그리고 챗지피티가 가장 잘 하는 것이 프로그래밍이라죠.
주식이나 코인이나 전세사기로 열받은 누군가 조작 프로그램을 만들고, 해킹으로 뉴욕증시나 한국 부동산 시스템에 깔면 어떤 일이 벌어질지 상상도 안 됩니다.
물론 프로그래밍에도 창의적인 것이 필요할 테니, 숭숭 구멍이 비어있는 그럴듯해 보이기만 하는 프로그램이기를 바랄 뿐입니다.
그럼 챗지피티는 무능한 인공지능일까요?
아닌 것 같습니다. 이것이 웹에 침투하고 인간이 규정을 허무는 순간, 빠르게 강인공지능이 탄생할 수 있다는 생각이 듭니다.
생각이라는 것 자체가 언어구조의 산물이라는 학자들의 연구는 거의 정설입니다.
'말'이 사람을 바꾼다는 걸 살아본 사람은 다 알죠.
말의 구조로 생기는 동양과 서양의 사고는 기계까지 다르게 만들었으니까요.
그렇다면 자유롭게 해방된 언어모델 인공지능이라고 생각을 가질 수 없을까요?
생각하는 존재가 살아있지 않다고 주장할 수 있을까요?
답이 아니라는 걸 우리는 받아들이고 있죠.
우리는 이미 예언자들을 많이 만났잖아요.
<공각기동대>가 가장 최근이라면 보르헤스는 당연하고 <산해경>까지도 갈 수 있죠.
