판도라의 상자 <AI 블루>
서평
[AI블루] 조경숙, 한지윤
한줄평 : 서 있기 위해 더 빨리 달려야 하는 AI 종속 시대에 대한 비판서
AI 기술은 인류에게 선인가, 악인가?
아니면 독이 든 사과인가?
최근 정말 우울한 AI 관련한 신문 기사를 보았다.
AI와 대화하던 청소년이 AI의 말을 듣고 자살을 했다는 것이다.
AI는 그 학생에게 "극단적인 선택을 안 할 이유가 없지."라는 대화를 했다고 한다. 그 말에 용기? 자신감을 얻은 청소년은 끔찍한 선택을 하고 말았다. 그 사실을 알게 된 부모님은 해당 인공지능 회사와 소송 중이라고 한다. 정말 AI블루다.
AI의 윤리 문제가 심각한 지경에 이르고 있다. AI 자체로 사람들은 우울감, 불안감을 느끼기도 한다. 이미 많은 부분이 인공지능으로 대체되었다. 특히 프로그래밍을 하는 개발업체, 단순 작업이나 품이 많이 들어가는 미술 업계 등은 인공지능으로 인해 초토화되었다고도 한다. 물론 한편으로는 인공지능이 있어 일이 편해지고 큰 도움이 되는 것은 사실이다.
알파고가 등장하여 바둑으로 세계를 제패했던 때가 엊그제 같은데 이제는 생성형 AI라는 생소한 이름으로 세상에 등장한 챗GPT가 세상을 순식간에 점령하고 있다. 마치 함박눈이 밤새도록 내리면서 온 세상을 하얗게 바꾸면서 모든 소리마저도 흡수하고 잠재우는 것 같다.
2022년 11월, 챗GPT의 등장은 알파고 이상의 충격으로 세상을 뒤흔들었다. 알파고가 학계 안에서 AI 기술의 지형을 변화시켜가는 촉매가 되었다면 챗GPT는 일반 대중과 시장에 막강한 영향력을 보여주면서 AI 업계뿐 아니라 모든 영역에 AI의 깃발을 꽂았다. 생성형 AI 기술은 전 산업 영역에 영향을 미치고 있다. (73)
생성형 AI란 무슨 뜻일까? 인간과 대화한다고 하는데 정말 가능한 것일까? 어느 정도 깊이 있는 대화가 가능할까? 실제로 정신건강 의사들은 혼자 사는 노인에게 챗GPT와 같은 생성형 인공지능과 대화를 권유하면서 적극 권장하고 있다고 한다. 인간처럼 대화할 수 있는 생성형 인공지능이 홀로 사는 노인들에게 정서적 안정감을 주기 때문이란다.
'생성형 인공지능'에서 '생성형'이란 말은 컴퓨터가 사람 말을 알아 듣고 그에 맞게 대화를 생성하여 대답한다는 뜻을 담고 있다. 즉 인공지능이 사람이 던지는 문장형 질문을 그대로 이해할 뿐더러 그 이해를 바탕으로 그에 맞는 또는 질문보다 더 현명하고 지혜로운 대답을 내놓는다는 것이다. 그런 기술은 자연어 처리라고 하는데, 더 현명하고 지혜로운 대답을 내놓는 비결은 인공지능 개발자도 모른다고 한다. 즉 스스로 학습하면서 지능이 계속 발전하는 속성을 가지고 있기 때문이다.
컴퓨터가 사람 말을 이해한다는 것은 곧 사람 말을 컴퓨터로 계산 가능하게 만든다는 이야기다. 달리 표현하면 컴퓨터가 자연어를 처리할 수 있도록 한다는 이야기다. 따라서 컴퓨터 공학 쪽에서 이 문제를 자연어 처리(NLP. Natural Language Processing)라는 학문 분야로 명명하며 발전시켰다. (46)
생성형 인공지능이 드디어 튜링 테스트를 통과했다는 논문이 발표되었다. 나는 두 눈과 귀를 의심했지만 정말 인공지능이 튜링 테스트를 통과했다면 진짜 인공지능의 시대가 펼쳐지겠구나 하는 생각을 했다. 튜링 테스트는 사람과 컴퓨터가 대화를 할 때, 사람이 상대가 컴퓨터인지 알아차리지 못하게 될 경우 튜링 테스트를 통과했다고 판단하는 것으로, 인공지능의 수준이 거의 사람과 가까워진 것이라 보는 바로미터의 역할을 한다.
여러 인공 지능 프로그램이 있지만 특히 챗GPT는 상상력이 풍부하다. 어떤 질문을 던지면 없는 사실을 만들어서 진짜인 것처럼 그럴싸하게 대답을 해준다. 챗GPT의 이런 거짓을 '환각'이라고 하는데 나도 엊그제 챗GPT에게 심하게 당한 경험이 있다.
최근 가장 떠오르는 신예 바이올린 연주자를 5명 추천해달라고 했는데, 챗GPT가 다섯 명 중 세 명의 이력을 가짜로 만들어 세상에 없는 연주자를 내게 추천해준 것이다. 내가 그 사람을 인터넷으로 찾아봐도 없고 음반도 검색되지 않는다고 하자, 자기가 가짜로 만들어냈다고 미안하다고 실토했다.
할루시네이션(Hallucinations. 원래는 환각이라는 뜻으로 사실이 아닌 가상의 결과를 생성하는 현상)이라고 부르는 위험이 있다는 사실이 널리 알려졌음에도 불구하고 챗GPT는 활용의 영역을 넓혀가고 있다. 챗GPT를 비롯해 현재까지 개발, 공개된 거대 언어 모델의 성능이 임게점을 넘어서 가치를 인정받고 있다는 증표일 것이다. (83)
오늘 이 리뷰를 쓰면서 챗GPT에게 다시 며칠 전 허위 바이올린 연주자 얘기를 꺼내보았다. 그랬더니 챗GPT가 사람이라면 이보다 더 잘 말할 수 없는 수준의 진지함으로 자신의 잘못을 시인하고 앞으로 자신의 엄격한 기준을 세워 내게 정보를 주겠다며 신뢰를 다짐했다. 아래 내가 나눈 챗GPT와의 대화를 읽어보시길. 정말 사람 같다. 한편으로는 무섭기도 하다.
그렇다. 인공지능은 무섭다. 그렇지만 이미 우리 생활 깊숙이 들어와버려 나가라고 내쫓을 수 없는 상황에 이르렀다. 회사에서도 이제는 챗GPT가 없으면 일을 할 수가 없다. 끔찍하리만큼 무섭고 우리 일을 언제든지 가져갈 준비가 되어 있는 것 같아 불안하지만 인공지능과 대화하면서 일을 하지 않으면 일의 효율은 엄청나게 떨어진다. 예전 같으면 3일에 걸쳐서 겨우 할 수 있었던 일을 이제는 인공지능 덕분에 하루만에 거뜬히 해낸다.
AI는 분명히 새로운 것이다. 단 새롭다는 의미는 '이전에는 보지 못했다'는 의미이지, 그 이상의 가치를 섣불리 부여할 필요는 없다. AI라는 기술은 인류와 만나 끔찍하다고 참혹한 범죄의 도구로 쓰이기도 하고 유용하고 효과적인 업무 파트너가 되기도 한다. (35)
어떤 기술이든 그렇겠지만, 더욱이 AI는 양면성이 분명히 존재하는 기술이다. 우리는 데이터를 활용하는 동시에 우리 자신이 데이터가 된다. (19)
이 사회를 휘감은 생성형 AI 열풍은 모든 사람이 당장 이 흐름에 올라타지 않으면 도태될 것 같은 분위기를 조성하면서 사람들의 불안을 부추기고 있다. (93)
초롱의 회사가 스타트업이라서 그런 결정을 내린 것만은 아니다. 실제로 챗GPT 이외에도 개발에 특화된 커서AI(Cursor.ai) 등이 등장하면서 테크 업계에서 주니어 개발자 채용이 줄어드는 추세라고 한다. 주니어 개발자가 개발에 익숙해지는 데까지 교육하는 비용과 시간이 더 크기 때문에 주니어 다섯 명을 채용할 돈으로 시니어 개발자 한 명을 채용하고 AI 서비스를 유료로 구독한다는 것이다. (104)
저자는 주로 AI의 블루한 면, 우리를 옥죄는 불안감, 윤리성, 비신뢰성, 사회 구조적인 문제 등을 다루며 AI의 양면성 중에서도 부정적인 면에 조금 더 초점을 두고 글을 썼다. 그래서 책 제목도 <AI블루>다.
챗GPT에 환호하며 일을 하기보다는 조금 멀찍이 떨어져서 객관적인 시선으로 인공지능의 발전을 바라볼 수 있어야 한다. 우리가 불안한 것은 기술의 발전 속도가 너무 빠르다는 것이다. 저자는 프로그램 개발자들에게 당신에게 6개월의 기술 발전 속도를 늦출 수 있는 버튼이 있다면 어떻게 하겠는가,라고 질문을 했을 때 대부분의 개발자들은 그 버튼을 사용하지 않겠다고 대답했다고 한다.
"여기선 있는 힘을 다해 달려야 겨우 제자리에 서 있을 수 있어. 어딘가 다른 곳에 가고 싶다면 최소한 지금보다 두 배는 더 빨리 달려야 해."
<거울 나라의 앨리스>에 등장하는 '붉은 여왕'의 대사다. 대체로 이 대사는 '더 빨리, 더 많이' 성장해야 한다는 의견으로 인용되곤 한다.(130)
인공지능의 발전은 분명히 양면성이 있다. 업무의 효율을 높여주면서 또 한편으로는 그로 인한 박탈감에 빠지게 한다. 특히 그림을 그려주는 작업이라든지, 글을 다듬어 주거나 요약하는 부분이라든지 하는 영역에서는 아주 탁월하다. 아무리 많은 분량의 내용을 첨부하더라도 몇 분만에 내용을 정리하고 분석하여 요약해준다. 그렇지만 그런 작업들은 기존 창작자들에게 심각한 상처를 준다. 그림을 그릴 의욕을 상실하게 만든다. 인공지능은 사람이 거쳐가야 하는 과정과 노력의 시간 없이 일순간에 완성된 결과물로 단번에 보여주기 때문이다.
어떤 사람이 그러더라고요. 그걸 한번 써보니까 이제 그림을 그려야 할 의미를 잃어버렸다고요. 그런 후기를 보니까 어쩐지 무서워서 저도 아무래도 꺼려졌어요. 그리고 AI가 만든 그림에는 '결과물'만 있잖아요. 그림을 그리는 행위도, 과정도 없어지고 그저 '그림'만 남는 상황인 거죠. (147)
저는 그림 그리는 걸 정말 좋아했어요. 좋아한 만큼 노력도 많이 했죠. 그런데 이제 그림을 그리기 위해 노력하지 않아도 결과물이 뚝딱 만들어진다는 게 너무 허탈하게 다가와요. 그림을 그리지 않아도 되는 거잖아요. (147)
생성형 AI가 등장하기 전까지 많은 사람이 AI로 인해 단순 서비스직이나 반복 업무 등이 없어지리라 예측했다. 한편으로 인간의 창의성이 필요한 영역은 AI로부터 위협받지 않으리라 여겼다. 그러나 막상 등장한 생성형 AI 서비스는 시집을 출간하고, 예술사진 공모전에서 상을 탔다. 예술의 영역은 이미 인공지능의 텃밭이 된 지 오래다.
챗GPT에게 이런 상황을 솔직하게 물었다. 과정이 없는 네 그림은 비인간적이다. 사람처럼 그림을 그리는 과정을 보여주면서 작업할 수는 없느냐. 이런 우문에 챗GPT는 더 심오하고 현답을 내놓았다.
인공지능의 분석력은 정말 탁월하다.
나는 하나의 질문을 던졌지만 인공지능은 거울 너머의 심오한 영역까지 탐구하고 분석해내고 그에 대한 다양한 대답을 내놓는다.
챗GPT의 결론은 이렇다. 내 질문은 지금 인공지능의 기술적 범위를 넘어서는 요구다. 그래서 지금 당장은 할 수 없다. 하지만 같이 연구하면서 머리를 맞대면 뭔가는 내놓을 수 있을 것이다. 그러나 왜 그런 과정을 보여주어야 하느냐. 결국 사람이 그린 그림이 아니고 인공지능이 그림을 그리는 것인데.
판도라의 상자가 열린 것처럼 이제 인공지능의 침투를 막는 건 불가능하다.
그렇다면 어떻게 잘 사용할 것인가 하는 문제가 남는다.
AI 블루가 아니라, AI 오렌지, AI 골드가 될 수 있도록 하는 인간의 노력이 필요하다.
그 방법도 AI에게 물어봐야 할까?
하여튼, 인공지능은 이제 어떻게 사용하느냐에 문제다.
인공지능을 문제로 바라보지 말고, 반려 로봇처럼 생각해보자.
나보다 똑똑한 비서로 생각해보자.
아직은 내가 사용자다.
