우리 시대의 거울 ChatGPT
'ChatGPT Is a Mirror of Our Times'을 읽고
김대리. 내가 감히 조언 하고 싶은것이 있읍니다.
다른것이 아니고, 너무 엑셀 팡션?? 사용하지 마세요.
편리함이 있다면, 위험성은 증대하죠.
ChatGPT는 많은 것을 바꾸었고 바꿀 수 있을 것으로 보입니다. 기술이 활용될 수 있는 임계점을 넘었다는 느낌을 받고는 하는데요. 최근 ChatGPT와 관련해 인간과 인공지능에 대한 글(PHILIP BALL, ChatGPT Is a Mirror of Our Times)을 읽게 되었습니다. 동의하는 부분도, 아쉬운 부분도 있다고 생각하지만 진지하게 고민할 시점인것은 사실이에요. ChatGPT같은 언어모델은 말만 번지르르하고 목소리 큰 사람의 의견만 들리는 세상에서 '아이디어는 좋지만 말주변은 부족한' 사람의 의견이 세상에 나오도록 도울 수 있을까요?
다음은 ChatGPT Is a Mirror of Our Times을 적당히 요약한 내용입니다. ChatGPT를 써보려고 했는데 아직 한국어는 부족하네요.
글은 영어(언어) 교사에 대한 걱정으로부터 시작합니다. ChatGPT는 상당히 뛰어난 에세이 작성 능력을 보여줍니다. 일부 교사들은 '높은 등급을 받을 만큼 충분히 좋다는 점'을 인정하기도 했습니다. 무언가를 복사해내는 것이 아니기 때문에 기존에 금지하던 치팅과는 다르고 확인해내기도 힘듦니다. 뉴욕시 교육부는 공립학교에서 ChatGPT를 금지할 계획이라고 하지만 학생들이 집에서 ChatGPT를 사용하는 것을 막을 수는 없을 것으로 보입니다. OpenAI의 연구원들은 ChatGPT의 출력에 워터마크를 포함시키겠다는 계획을 발표하기도 했지만, 아무래도 에세이 과제는 더이상 예전처럼 활용하기는 힘들게 된 것 같다고 생각하는것 같네요.
그래서 필자는 이제는 달라진 세상을 인정하고 성찰을 해야 할 때가 되었다고 주장합니다. 인공지능이 약간의 고민이나 이해 없이도 그럴듯한 에세이를 작성할 수 있다는 것은 교육에서 우리가 무엇을 가르치고자 했는지를 재정의해야 할 때가 되었다는것을 의미하기도 한다는 거죠. '구식'글쓰기 기술을 가르치는 것은 여전히 가치가 있는 걸까요?
앞에서도 말했듯이 최근까지만 해도 언어를 사용하는 알고리즘은 별볼일 없었지만, 기술의 발전(계산 능력의 기하급수적인 성장, 2010년대 중반 빛을 본 "딥 러닝" 방법, 학습할 온라인 데이터의 확대)은 거의 완벽한 구문을 생산해내는 게임체인져, '으스스한 지능의 시뮬라크르'를 만들어냈습니다. 이런 대규모 언어 모델 기술은 명백한 위험을 내포하고 있는데, 이제까지 우리는 뭣도 없으면서 '생각'을 그럴듯하게 모방하는 정보 자원을 다룬 경험이 거의 없었다는 것이지요. 알고리즘으로부터 탄생한 '전문가적'인 말투는 거의 모든 곳에 남용될 수 있으며, 그럴듯한 헛소리를 자동으로 생성합니다.(아니면 인간이 말한 헛소리를 "객관적"이고 더 나은 형식으로 포장하거나)
필자는 대규모 언어 모델이 생성하는 프롬프트들은 '확률론적 혼합의 결과로 나오는 텍스트'로서 일반적으로 합의된 진실만을 말한다고 말합니다. 그리고 ChatGPT가 그럴듯한 에세이를 만들어낼 수 있다는 것은 우리가 학생들에게 공식화된 에세이를 요구하고 있다는 것을 의미한다는 것이기도 하다는 것이지요. 그렇다면 그 동안 '전통'이라는 것 외에 명확한 의미가 없었던 교육들의 정당성을 다시 검토해보자는 '어려운 질문'을 할 때가 된 것인지도 모른다는 것입니다.
그래서 언어에 대해 근본적인 질문으로 돌아가야 한다는 주장을 합니다. 언어라는 것은 명사와 동사의 구분이나 하위 절의 배치가 아니라는것이죠. 필자는 언어가 추구할 가치는 공감이며, 본질적으로 마음 사이의 연결 고리라는 점을 강조합니다. 언어학자 다니엘 도르는 '언어가 단순한 의사소통을 위해서가 아니라 “상상력 교육”을 위해 생겨났다'고 주장했다고 하네요. 이를 통해서 AI에 의한 식민지화에 면역이 될 수 있다(it may well be immune to colonization by AI)고 말합니다.
그럼으로써 대규모 언어 모델이 결국 'Excel 스프레드시트의 평범한 공리주의'와 '디지털 사진의 창의적인 가능성' 사이에 위치하는 또 다른 도구가 될 것이라고 주장합니다. 결국, 글은 그 자체로 도구, 목적을 위한 수단이며, 전문적으로 글을 써야 하는 제한된 영어 실력을 가진 사람들에게 이 기술은 훌륭한 기술이 될 수 있다는 것이지요.
