인간이 글을 쓸 필요가 없는 미래 앞에서
[영어 기사 요약정리] 오늘 미국 미래 기술, 2023년 1월 17일
어릴 때 누구나 숙제를 대신해 줄 로봇을 한 번쯤 바란 적이 있습니다. 어제의 미래인 오늘 그 바람은 현실로 이루어졌습니다. 유명한 학습 도우미 대화형 로봇 ChatGPT에 대해 들어보셨을 거예요. ChatGPT는 정말 대단한 로봇입니다. 특정 스타일로 스토리를 쓰고, 질문에 답변하고, 개념을 설명하고, 이메일을 작성하고, 대학 에세이를 대신 써 줄 수도 있어요. 심지어 시도 쓰고 소설도 씁니다. 사람이 쓴 것처럼 그럴듯한 글을 몇 초 만에 써 주는 능력, 이 기술 앞에서 마냥 반갑고 기쁘지 많은 않습니다. 오히려 무서운 기분이 들기 시작합니다.
다행히 최근 에드워드 (Edward Tian)라는 한 22세 캐나다 청년이 이 강력하고 새로운 인공 지능 도구의 오용을 방지하기 위해한 새로운 앱을 개발했습니다. 에드워드는 미국 프린스턴 대학 (Princeton University)에서 컴퓨터 공학을 전공하고 저널리즘을 부전공하는 4학년 학생입니다. 지난 몇 년 동안 Edward는 ChatGPT의 전신인 GPT-3라는 AI 시스템을 연구해 왔습니다. 이번 가을 학기 연구의 일환으로 Edward는 Princeton의 자연어 처리 연구소에서 일하면서 AI 시스템이 작성한 텍스트를 감지하는 방법을 연구했습니다.
지난 학기가 끝나갈 무렵 GPT-3 및 기타 AI 도구를 만드는 회사인 OpenAI가 ChatGPT를 무료로 대중에게 공개했습니다. 마치 공상과학 소설을 통해 꿈꾸었던 미래가 도래한 것 같은 느낌이 들었습니다. AI를 공부했음에도 불구하고 Edward는 다른 사람들과 마찬가지로 ChatGPT의 힘에 깜짝 놀랐습니다. 그와 그의 친구들은 그것을 사용하여 시와 랩을 써 보았습니다. AI가 쓴 글이 상당히 괜찮아서 충격을 받았습니다. 새로운 미래 혁명이 시작된 것 같은 느낌이 들었습니다.
새로운 기술에 감탄하던 놀라움은 순식간에 공포로 바뀌었습니다. 이것이 얼마나 많은 일자리를 죽일까요? 이 기술은 얼마나 나쁘게 사용될 것이며, 우리 사회를 더욱 부패시키는데 기여할까요? 이것이 우리 교육 시스템을 어떻게 방해할까요? 급속도로 인간의 지능을 따라잡고 능가하고 있는 AI가 있는데, 학교에서 인간이 글쓰기를 배우는 게 무슨 의미가 있을까요?
지난달 The Atlantic에 글을 쓴 Stephen Marche는 "대학 에세이는 죽었다 (The College Essay Is Dead)."라고 선언했습니다. 그는 ChatGPT와 AI 혁명을 인문학의 실존적 위기의 일부로 묘사합니다. "에세이, 특히 대학 에세이는 여러 세대 동안 인문학 교육의 중심이었습니다."라고 Marche는 썼습니다. "이것은 우리가 아이들에게 조사하고, 생각하고, 쓰는 방법을 가르치는 방식이었습니다. 그 교육 전통이 완전히 무너질 것입니다."
1월 2일, Edward는 자신의 앱을 출시했습니다. 그는 그것을 GPTZero라고 명명했습니다. 이 앱은 ChatGPT를 사용하여 주어진 텍스트를 생성할 때 AI 시스템의 "참여가 전혀 없는지 또는 많은 관련이 있는지"를 확인해 줍니다. 그의 앱의 등장에, 글쓰기를 대신해 주는 AI의 등장으로 골머리를 싸매고 있던 세계 각국의 수많은 교육 기관들 및, 기술 혁신 사업에 참여하고 싶은 수많은 회사들이 열광하며 연락을 해왔다고 합니다.
Edward는 GPTZero를 만드는 데 몇 가지 주요 동기가 있다고 말합니다. 첫 번째는 투명성입니다. "인간은 어떤 글을 인간이 썼는지 기계가 썼는지 알 자격이 있습니다."라고 그는 말합니다. 이러한 맥락에서 GPTZero의 명백한 응용 프로그램 중 하나는 교사가 학생들이 ChatGPT를 이용하여 에세이를 표절하고 있는지 식별하도록 돕는 것입니다. "전 세계의 교사들이 이 문제에 대해 걱정하고 있습니다."라고 Edward는 말합니다.
OpenAI의 최초 공동 설립자 중 한 명인 일론 머스크는 최근 트위터에 ChatGPT 출현에 대한 반응으로 "새로운 세계입니다. 숙제는 안녕!"이라고 말했습니다. 물론 이것은 경솔한 트윗일 뿐입니다. 그러나 분명 우리는 전 인류가 현재의 교육 시스템을 돌아보고 글쓰기 교육의 가치와 방법을 재진단 재평가해야 하는 시점에 와 있다는 것을 확실히 깨달을 필요는 있는 것 같습니다.
우리 중 많은 사람들이 휴대전화가 등장하자 전화번호를 기억하려는 의지, 심지어 능력까지 잃었습니다. 암기 작업을 기계에 아웃소싱함으로써 우리는 친구와 가족에게 전화를 걸기 위해 기계에 의존하게 되었습니다. 더 이상 연필을 쥐고 글을 쓰는 아이들을 보기가 힘든 세상을 살아가고 있습니다. 이제 인류는 기계에 대한 의존도가 더욱 높아질 전망에 직면해 있습니다. 우리는 훨씬 더 많은 인구가 글을 잘 쓰는 능력을 잃는 세상으로 향하고 있을 가능성이 있습니다. 그것은 우리의 모든 서면 커뮤니케이션이 우리 자신의 창의성, 성격, 아이디어, 감정 또는 특이성 없이 쓰인 홀마크 카드처럼 될 수 있는 세상입니다.
에드워드 청년이 한 일은, 신기술이 되도록 유익하게 쓰이도록 안전장치 하나를 마련한 것에 불과합니다.
AI 기술이 일으키는 대지진을 예감하며, 더 많은 생각, 더 많은 노력, 더 많은 안전장치가 필요하다는 생각이 듭니다.
Everyone at least once wished for a robot to do homework for them. Today, the future of yesterday, that wish has come true. You may have heard of ChatGPT, interactive chatbot powered by machine learning. The technology has basically devoured the entire Internet, reading the collective works of humanity and learning patterns in language that it can recreate. All you have to do is give it a prompt, and ChatGPT can do an endless array of things: write a story in a particular style, answer a question, explain a concept, compose an email — write a college essay — and it will spit out coherent, seemingly human-written text in seconds. It even writes poems and novels. In the face of this incredible technology, we are not just happy and delighted. Rather, it starts to feel scary.
Fortunately, a 22-year-old young Canadian named Edward Tian has developed a new app to combat misuse of a powerful new artificial intelligence tool called ChatGPT. Edward is a senior at Princeton University, where he majors in computer science and minors in journalism. Over the last couple years, Edward has been studying an AI system called GPT-3, a predecessor to ChatGPT that was less user-friendly and largely inaccessible to the general public because it was behind a paywall. As part of his studies this fall semester, Edward researched how to detect text written by the AI system while working at Princeton's Natural Language Processing Lab.
Then, as the semester was coming to a close, OpenAI, the company behind GPT-3 and other AI tools, released ChatGPT to the public for free. Despite having studied AI, Edward, like the rest of us, was gobsmacked by the power of ChatGPT. It felt as if the future dreamed of through science fiction had arrived. He and his friends used it to write poems and raps about each other. "And it was like: 'Wow, these results are pretty good,'" Edward says. Sure, the text it generates is pretty formulaic and not always accurate. But it also feels like the beginning of a new revolution.
For many users of the new technology, wonderment quickly turned to alarm. How many jobs will this kill? Will this empower nefarious actors and further corrupt our public discourse? How will this disrupt our education system? What is the point of learning to write essays at school when AI — which is expected to get exponentially better in the near future — can do that for us?
Stephen Marche, writing in The Atlantic last month, declared "The College Essay Is Dead." He paints ChatGPT and the AI revolution as part of an existential crisis for the humanities. "The essay, in particular the undergraduate essay, has been the center of humanistic pedagogy for generations," Marche writes. "It is the way we teach children how to research, think, and write. That entire tradition is about to be disrupted from the ground up."
On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. He saw countless texts and DMs from journalists, principals, teachers, you name it, from places as far away as France and Switzerland. His app, which is hosted by a free platform, became so popular it crashed. Excited by the popularity and purpose of his app, the hosting platform has since granted Edward the resources needed to scale the app's services to a mass audience.
Edward says he has a couple primary motivations for creating GPTZero. The first is transparency. "Humans deserve to know when something is written by a human or written by a machine," he says. Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. "Teachers from all over the world are worried about this," Edward says.
Elon Musk, one of the original co-founders of OpenAI, recently tweeted, "It's a new world. Goodbye homework!" in response to reports that schools were imposing strict new measures against ChatGPT plagiarism. Of course, these are just flippant tweets. But it really does feel like we've entered a new world where we're being forced to re-evaluate our education system and even the value — or at least the method — of teaching kids how to write.
Many of us lost our will — even our ability — to remember phone numbers when cell phones came along. By outsourcing memorization to a machine, we've become dependent on it to call our friends and family. We are living in a world where it is difficult to see children writing with pencils anymore. Now humanity faces the prospect of an even greater dependence on machines. It's possible we're heading towards a world where an even larger swath of the populace loses their ability to write well. It's a world in which all of our written communication might become like a Hallmark card, written without our own creativity, personality, ideas, emotions, or idiosyncrasies. Call it the Hallmarkization of everything.
What Edward has done was just put a safeguard in place to make the new technology safer and put to good use. Anticipating the great earthquake caused by AI technology, I feel that more thought, more effort, and more safeguards are needed to prevent all possible evils and dangers.
<기사 링크>
<대문 이미지 출처>
Pixabay (by GDJ)
