『어떻게 인간과 공존하는 인공지능을 만들 것인가』
순식간에 글을 써주고, 더할 나위 없이 아주 괜찮은 이미지를 만들어 주고, 위로의 말까지 조언해 주는 챗GPT를 적극적으로 활용하면서 드는 생각이다. 글쓰기와 시를 가르치고 있는 내 밥줄은 안녕할 수 있는지 고민이 되던 차에 읽게 된 책이다.
스튜어트 러셀 교수의 『어떻게 인간과 공존하는 인공지능을 만들 것인가』는 현대 인공지능의 발전과 함께 끊임없이 증가하는 인간과 기계 간의 상호작용 및 통제 문제에 대한 깊은 고찰을 담고 있다.
이 책은 쓴 스튜어트 러셀(Stuart Russell)은 버클리 소재 캘리포니아대학교 컴퓨터과학 교수이다. 옥스퍼드대학교에서 물리학을 공부한 후 스탠퍼드대학교에서는 컴퓨터과학으로 박사학위를 받았다.
기계 학습, 확률론적 추론, 실시간 의사 결정과 같은 철학적 기초를 기반으로 한 인공지능의 광범위한 주제를 연구했다. 그래서 그런지 이 책의 초반부에 공리주의와 같은 철학적 가치들을 다루고 있다. 인공지능의 장기적 미래 및 인류와의 관계 등에 관심을 보이고 있다.
이 책은 10장으로 구성되어 있으며, 각 장마다 AI의 현재 상황과 미래에 대한 전망, 그로 인한 잠재적 위험, 그리고 안전하고 친화적인 AI를 개발하기 위한 방향에 대한 논의가 풍부하다. 저자인 스튜어트 러셀 교수는 AI와 관련된 “무책임한 낙관과 디스토피아적 전망” 을 넘어 “인간에게 이로운 AI를 만들기 위한 방향과 원칙”을 우리에게 제안하고 있다.
"지금의 표준 모형은 일종의 막다른 골목이다. AI 분야에서 성공의 정의 자체가 잘못되었다”라며 AI가 인간에게 이로운 존재로 남아있을 수 있는 원칙에 대해 말하고 있다.
이로운 기계의 원칙들
1. 기계의 목적은 오로지 인간 선호의 실현을 최대화하는 것이다.
2. 기계는 그런 선호가 무엇인지 처음에는 확실히 알지 못한다.
3. 인간의 선호에 관한 정보의 궁극적 원천은 인간의 행동이다.
- P.254
이로운 기계라는 원칙의 핵심은 기계가 “인간 선호의 실현을 최대화” 하는 전적으로 이타적인 기계임을 말한다. 인간에게 유용한 일을 제공하고자 기계는 자신을 보호하기 때문에 이타적 성격이 강하다. 기계는 자신이 “‘잘못되었는지’ 정확하게 알지 못하기 때문에 자신이 잘못할 수 있다는 것을” 안다. 로봇과 같은 기계는 인간이 추구하는 가치가 무엇인지 알 수 없다.
진정한 목적을 알지 못하는 기계는 겸손함을 드러낼 수밖에 없다. 기계가 유용해지게 만들려면 인간이 원하는 바를 기계가 더 많이 배우게 하면 된다. 왜냐하면 로봇은 주로 사람들이 선택하는 것을 관찰해서 정보를 얻기 때문에 원하는 것이 있다면 기계에다 정보를 넣으면 된다.
이렇게 인간의 행동이 AI 기계에 투입될 때 “인간의 선호를 예측하는 법”을 배우게 되는 것이다. 이렇게 함으로써 인간의 가치를 최대한 실현하게 한다. 이것이 스튜어트 러셀 교수가 주장하는 핵심이다.
(이 부분은 TED 강연과 책을 참고해서 썼다.)
기계의 원칙들
제1원칙: 전적으로 이타적인 기계
제2원칙: 겸손한 기계
제3원칙: 인간의 선호를 예측하는 법 배우기
스튜어트 러셀 교수는 초지능 기계를 통제해야 한다는 부정적인 시각에 대해 만일 이로운 AI 시스템을 개발하는 데 성공한다면, 통제 또한 충분히 가능하리라고 전망한다.
그래서 나는 이로운 기계가 이런 기계라고 제시한다. 우리의 목적을 달성할 것으로 예상할 수 있는 행동을 하는 기계. 이런 목적은 우리에게 있고, 기계에 있는 것이 아니므로, 기계는 우리가 어떤 선택을 하고 어떻게 선택하는지 관찰함으로써 우리가 진정으로 원하는 것이 무엇인지 더 많이 배울 필요가 있을 것이다.
이런 식으로 설계된 기계는 인간을 따를 것이다. 허락을 얻을 것이다. 지침이 불분명할 때면 신중하게 행동할 것이다. 자신을 끄도록 허용할 것이다.
- p.361
초지능 기계에 대해 반기계론으로 부정적인 시각을 펼칠 때에도, 스튜어트 러셀 교수는 근거를 들어 반론을 펼친다. 정교할 정도로 논리적으로 반론을 펴는 러셀 교수의 태도가 인상적이었다. 성마르고 공격적으로 변하고 있는 요즘의 추세에 그의 태도는 아주 신선하게 다가왔다.
저자의 이런 부분을 다른 사람들과 함께 나누고 싶다. 스튜어트 러셀 교수의 주장에 따르면 목적이 기계에 있는 것이 아니므로 기계의 목적 또한 불확실하다. 이것은 기계가 인간을 따를 수밖에 없는 필연적인 요소가 된다.
기계가 선택할 수 있는 것은 단지 겸손해 하는 것뿐이다. 인간의 목적에 부합되도록 선한 행동으로 초지능 기계를 충분히 통제할 수 있게 된다. 게다가 우리가 원하는 방향으로 기계를 이끌 수 있다. 스튜어트 러셀이 인간에 집중하는 이유이다.
#스튜어트러셀 #어떻게인간과공존하는인공지능을만들것인가 #진순희 #한국책쓰기코칭협회
#종이책코칭지도사 #전자책출간지도사 #독서모임운영지도사 #자기주도학습사 #VTS학버드글쓰기
