『AI에 관한 오해와 진실』
:인공지능이 할 수 있는 것과 없는 것, 그 차이를 구별하는 법(가제)
『AI에 관한 오해와 진실』
: 인공지능이 할 수 있는 것과 없는 것, 그 차이를 구별하는 법 (가제)
AI Snake Oil: What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference
- 저자: 아빈드 나라야난 Arvind Narayanan, 사야시 카푸어 Sayash Kapoor
- 발간: 2024년 9월 24일
※스네이크 오일(Snake Oil): 19세기 미국에서 ‘뱀 기름’을 약으로 판다고 주장하는 사기꾼들로부터 유래된 표현이다. ‘AI 스네이크 오일’은 기업들이 과장된 주장으로 AI 제품을 팔거나, 실제로 효과가 없는 AI 기술을 지나치게 부풀리는 경우를 비유적으로 나타낸 말이다. 원제를 그대로 써도 되나 국내 독자에게 생소할 수 있어 『AI에 관한 오해와 진실』로 의역했음을 밝힌다.
<아마존 책소개>
《타임(TIME)》이 선정한 AI 분야에서 가장 영향력 있는 100인 중 두 사람이 AI에 대해 우리가 알아야 할 것과 AI를 둘러싼 거짓 주장과 제품에 현혹되지 않는 방법을 소개한다.
AI가 혼란스럽게 느껴지고, 자신의 미래와 다가올 세상에 AI가 어떤 영향을 미칠지 걱정되는가? 여러분만 그런 게 아니다. AI는 어디에나 존재하고, AI만큼이나 과대광고와 허위 정보, 오해가 판치는 경우도 드물다. 컴퓨터 과학자인 두 저자는 『AI에 관한 오해와 진실』에서 이러한 혼란을 말끔히 없애주면서, AI가 어떻게 작동하고 왜 자주 작동하지 않는지, 어디에 유용하고 혹은 해로울 수 있는지, 그리고 기업들이 AI를 과대 포장해 현재도 앞으로도 작동하지 않을 가짜 AI 제품을 판매할 때 언제 이를 의심해야 하는지 핵심을 꿰뚫어 보도록 안내한다.
이 책은 ChatGPT와 같은 일부 AI 기술의 잠재력을 인정하면서도, AI의 역량에 관해 만연해 있는 허위 주장을 폭로하고, 교육과 의료, 채용, 은행, 보험, 형사 사법 등 다양한 분야에서 AI가 구축되고 판매되며 사용되는 방식을 통해 이미 드러나고 있는 심각한 해악을 다룬다. 또한 AI 유형 간의 중요한 차이점과 조직이나 기관이 왜 가짜 AI 상품에 속아넘어가는지, 왜 AI가 소셜 미디어 문제를 해결할 수 없는지, AI가 우리에게 왜 실존적 위험이 아닌지, 우리가 왜 AI가 스스로 무엇을 할 수 있는지보다 사람들이 AI를 가지고 무엇을 할 것인지를 훨씬 더 걱정해야 하는지 설명한다. 마지막으로 대체로 책임지지 않는 대형 기술기업들이 AI를 계속 장악할 때 세상이 얼마나 위험해질 수 있는지 경고한다.
이 책은 AI가 지닌 한계와 실질적인 위험을 밝혀냄으로써, 직장이나 가정에서 AI를 활용할 때 그 사용 여부와 방법에 대해 더욱 현명하게 결정할 수 있도록 도와줄 것이다.
<샘플 번역>
1장. 도입
사람들이 교통수단을 다양하게 가리키는 어휘를 모른 채 ‘차량’이라는 집합 명사만 아는 새로운 세상을 상상해 보자. 사람들은 이 한 단어로 자동차나 버스, 자전거, 우주선은 물론, 장소 A에서 B로 가는 온갖 이동 수단을 칭할 것이다. 이 세계에서 대화는 무척이나 혼란스럽다. 한쪽에서는 자전거를, 또 한쪽에서는 트럭을 말하고 있는 줄도 모르고 차량이 환경친화적인지 아닌지를 놓고 격렬하게 토론을 벌인다. 로켓 공학에서 혁신적인 발전이 이루어졌지만, 미디어는 차량이 얼마나 더 빨라졌는지에 집중한다. 그 바람에 사람들은 자동차 딜러에게 전화해 더 빠른 모델이 언제 출시될지 묻는다. 한편, 사기꾼들은 소비자들이 차량 기술에 대해 무엇을 믿어야 하는지 모른다는 사실을 악용하고, 그 결과 차량 부문에서 사기가 기승을 부린다.
이제 ‘차량’이라는 단어를 ‘인공지능’으로 바꾸면 우리가 살고 있는 세상을 꽤 잘 설명할 수 있다.
인공지능(AI)은 관련성이 별로 없는 일련의 기술들을 폭넓게 칭하는 용어이다. 예를 들어 ChatGPT는 은행에서 대출 신청자를 평가할 때 사용하는 소프트웨어와는 공통점이 거의 없다. 둘 다 AI라고 불리지만, 작동 방식이나 사용 목적, 사용자, 실패 방식 등 모든 면에서 전혀 다르다.
Dall-E, 스테이블 디퓨젼, 미드저니와 같은 이미지 생성기뿐만 아니라 챗봇 역시 생성형 AI라는 범주에 속한다. 생성형 AI는 몇 초 안에 다양한 유형의 콘텐츠를 생성할 수 있다. 챗봇은 인간의 질문에 종종 현실적인 답변을 생성하고, 이미지 생성기는 가령 ‘분홍색 스웨터를 입은 부엌의 소’와 같이 거의 모든 설명에 부합하는 이미지를 사실적으로 만들어 낸다. 어떤 앱은 음성이나 음악까지 생성할 수 있다.
생성형 AI 기술은 급속도로 발전해 왔으며, 진정으로 놀랍게 진보했다. 하지만 제품으로서는 아직 미숙하고 신뢰할 수 없으며 오용되기가 쉽다. 동시에, 대중화되면서 과대광고와 공포심, 허위 정보가 함께 득세하기 시작했다.
생성형 AI와는 대조적으로 예측형 AI는 현재의 의사 결정을 돕기 위해 미래를 예측한다. 이 AI는 치안 분야에서 ‘내일 이 지역에서 몇 건의 범죄가 발생할 것인가?’를 예측할 수 있다. 재고 관리에서는 ‘이 기계 부품이 다음 달에 고장날 가능성이 얼마나 되는가?’를, 채용에서는 ‘이 신청자가 이 직무에 채용된다면 일을 얼마나 잘 수행할 것인가?’를 예측할 수 있다.
예측형 AI는 현재 기업과 정부에서 모두 사용하고 있지만, 그렇다고 반드시 잘 작동하는 건 아니다. 미래를 예측하는 일은 어렵고, AI도 이 사실을 바꾸지는 못한다. 물론 AI는 데이터를 분석해 광범위한 통계 패턴(예를 들어, 직업이 있는 사람이 대출금을 상환할 가능성이 높다)을 파악하는 데 사용할 수 있으며, 이는 유용할 수 있다. 문제는 예측형 AI가 종종 그 이상의 능력을 갖춘 것처럼 판매되고, 사람들이 인생의 중요한 선택이나 직업을 결정할 때 사용된다는 사실이다. ‘과대 포장된 AI(AI Snake Oil)’ 대부분이 이 분야에 집중되어 있다.
‘과대 포장된 AI’는 광고한 대로 작동하지 않거나 작동할 수 없는 AI이다. 사실 Al는 방대한 기술과 애플리케이션을 지칭하는 까닭에 사람들은 대부분 아직 어떤 유형이 광고대로 실제로 작동할 수 있고, 어떤 유형이 그저 과대 포장된 것인지 명확하게 구분할 수가 없다. 이는 중대한 사회적 문제다. AI가 제공하는 이점을 최대한 활용하면서, 동시에 그로 인한 잠재적 피해, 특히 이미 많은 경우에 발생하고 있는 피해로부터 자신을 보호하려면 진짜와 가짜를 구별할 줄 알아야 한다.
이 책은 과대 포장된 AI 기술과 과대광고를 식별해 내기 위한 가이드이다. 이 책에서는 생성형 AI와 예측형 AI, 그리고 기타 유형의 AI를 구별하기 위해 알아야 할 필수 어휘를 제공한다. 또한, 새로운 AI 기술이 실제로 가능성이 있는지 평가할 수 있는 상식적인 방법을 제시한다. 이를 통해 여러분은 AI에 관한 뉴스를 접할 때 훨씬 더 회의적인 시각을 갖고, 자주 간과되는 세부 사항을 주의 깊게 살펴보게 될 것이다. AI를 깊이 이해하면 과학적 호기심을 채울 수 있을 뿐 아니라 실생활과 직업에서 AI를 어떻게 활용할지, 언제 사용하지 말아야 할지 실질적으로 알 수 있다. 인간 행동을 예측하기란 본질적으로 어려운 일이므로 우리는 예측형 AI가 오늘날뿐 아니라 앞으로도 제대로 작동하지 않을 가능성이 높다고 결론내릴 것이다. 마지막으로, 이 책이 이러한 도구가 초래하는 해로운 영향에 대해 여러분 스스로 책임을 자각하고 변화를 모색하는 계기가 되기를 바란다.
<검토 의견>
AI는 아직 만능이 아니다. 저자들은 컴퓨터 과학자로서 우리가 AI를 도입하고 사용할 때 무엇을 생각해야 하는지 조언한다. 이미 사회 각 분야에서 사용되고 있는 다양한 AI를 어떻게 구분하고 활용해야 하는지 균형 잡힌 시각을 촉구한다. 뱀 기름을 만병통치약으로 속여 팔았던 역사적 사례처럼 오늘날 기업들의 과장 광고대로 AI 기술을 맹신하지 않도록 경각심을 일깨워지금 시기에 읽어볼 만한 책이다.
