생각공장의 강의록 - 인공지능 1

인공지능은 인류에게 멸종을 가져다 줄까? 아님 영생을 선물할까?

Al Extinction vs. immortality Ⅰ 인공지능은 인간을 멸종시킬 것인가? 아니면 영생을 선물할 것인가?

The Lecture Series in the Humanities delivered by Y. J. Eom at IDEA FACTORY on July 15, 2016

Tim Urban's talk at Google

The extinction of vs. immortality of human beings? 인간의 멸종 또는 불멸?

The AI Revolution: The Road to Super-intelligence

인공지능 혁명: 강한 인공지능으로 이르는 길

We are on the edge of change comparable to the rise of human life on Earth.

Vernor Vinge

우리 인간은 지구상에 인간이 등장했던 것과 비교할 만한 엄청난 변화의 순간에 서있다.

베노어 빈지

The Far Future—Coming Soon 먼 미래 - 임박한 미래?

Imagine taking a time machine back to 1750—a time when the world was in a permanent power outage, long-distance communication meant either yelling loudly or firing a cannon in the air, and all transportation ran on hay. When you get there, you retrieve a dude, bring him to 2015, and then walk him around and watch him react to everything.

한 번 상상해보자. 당신이 아직 전기가 없는, 원거리 통신이라봐야 크게 고함치거나 공중에 대포를 쏘는 그리고 모든 교통수단이 여전히 건초를 먹는 말 중심의 1750년으로 가는 타이머신을 탔다고 상상해 보자. 여러분이 거기에 도착해서 한 친구를 구해서 2015년으로 데려오고 나서 현대 세계의 여기저기를 둘러보게 하고 모든 것들에 반응하는 그를 지켜봐 보자.

It’s impossible for us to understand what it would be like for him to see shiny capsules racing by on a highway, talk to people who had been on the other side of the ocean earlier in the day, watch sports that were being played 1,000 miles away, hear a musical performance that happened 50 years ago, and play with my magical wizard rectangle that he could use to capture a real-life image or record a living moment, generate a map with a paranormal moving blue dot that shows him where he is, look at someone’s face and chat with them even though they’re on the other side of the country, and worlds of other inconceivable sorcery. This is all before you show him the internet or explain things like the International Space Station, the Large Hadron Collider, nuclear weapons, or general relativity.

그가 고속도로를 달리는 빛나는 캡슐과 같은 자동차를 보는 것이 과연 어떤 느낌인지를 이해하는 일은 우리로선 불가능하다. 바다 반대편에 있는 사람에게 말을 걸고, 천마일 떨어져 있는 곳에서 열리는 스포츠 경기를 보는 것, 50 년 전에 상연되었던 뮤지컬 공연을 듣는 것, 현재의 순간과 살아 있는 순간을 포착하는 마법의 네모 상자를 가지고 노는 현대 인간을 보는 것, 자신이 어디에 있는지를 초현실적인 움직이는 푸른 점으로 보여주는 지도를 만들어 내는 것, 나라 반대편에 있는 사람과 얼굴을 보면서 잡담하는 사람을 보는 것은 그 과거의 남자에게 설명 불가능하면서 상상도 하지 못할 마법과 같을 것이다. 이 모든 것들은 여러분이 그에게 인터넷이나 우주 정거장, 거대한 입자 가속기, 핵무기, 또는 상대성 이론을 들려주기 전에 것들이다.

This experience for him wouldn’t be surprising or shocking or even mind-blowing—those words aren’t big enough. He might actually die.

이 과거의 남자에게 이 경험은 놀랍거나 충격적인 것이 아니며 심지어는 정말 환상적인? 이런 형용사들로는 충분치 않다. 이 과거의 남자는 위와 같은 충격 때문에 실제로 죽을지도 모른다.

But here’s the interesting thing—if he then went back to 1750 and got jealous that we got to see his reaction and decided he wanted to try the same thing, he’d take the time machine and go back the same distance, get someone from around the year 1500, bring him to 1750, and show him everything. And the 1500 guy would be shocked by a lot of things—but he wouldn’t die. It would be far less of an insane experience for him, because while 1500 and 1750 were very different, they were much less different than 1750 to 2015. The 1500 guy would learn some mind-bending shit about space and physics, he’d be impressed with how committed Europe turned out to be with that new imperialism fad, and he’d have to do some major revisions of his world map conception. But watching everyday life go by in 1750—transportation, communication, etc.—definitely wouldn’t make him die.

하지만 여기에 재미있는 것이 있다. 만약 이 과거의 남자가 1750년으로 다시 돌아가서 현대의 남자들에게 질투가 나서 자신들이 우리 현대인들이 했던 똑같은 일을 한다면, 그는 아마도 타이머신을 타고 같은 시간의 거리를 여행해서 대략 1500년경의 사람을 데리고 와서 1750년대의 모든 것을 보여줄 것이다. 그리고 나면, 1500년에서 온 그 남자는 많은 것들에 의해 놀랄 것이다. 전혀 다른 경험이기 때문이다. 왜냐하면 1500년과 1750년은 매우 다르기 때문이다. 하지만 이 1500년대에서 온 사람이 죽지는 않을 것이다. 왜냐하면 1500년과 1750년 사이의 기간에 많은 변화가 일어났지만 1750년에서 2015년에 일어난 변화보단 훨씬 덜 하기 때문일 것이다. 1500년대에서 온 이 남자는 우주와 물리학에 관한 환상적인 발견들을 배우게 될 것이다. 또한 유럽이 얼마나 새로운 제국주의 열풍에 빠져 있는지를 보고 강한 인상을 받게 될 것이다. 그리고 이 남자는 세계지도의 생각에 대한 새로운 주요한 수정을 가해야 될 수도 있다. 하지만 1750년대의 교통, 통신 그 밖의 것들을 보는 행동 자체가 이 과거의 남자를 죽게 만들 정도는 아니다.

No, in order for the 1750 guy to have as much fun as we had with him, he’d have to go much farther back—maybe all the way back to about 12,000 BC, before the First Agricultural Revolution gave rise to the first cities and to the concept of civilization. If someone from a purely hunter-gatherer world—from a time when humans were, more or less, just another animal species—saw the vast human empires of 1750 with their towering churches, their ocean-crossing ships, their concept of being “inside,” and their enormous mountain of collective, accumulated human knowledge and discovery—he’d likely die.

당연히 죽지 않는다. 1750년대의 남자가 우리 현대인이 그를 데려와서 가졌던 만큼의 즐거움을 가지려면 그는 훨씬 더 과거를 여행해야 만 할 것이다. 아마도 기원전 만 이천년 정도로 거슬러 올라가야 할 듯하다. 이 때는 최초의 농업혁명을 인류가 경험하기 전이며, 동시에 최초의 도시 형성이 일어나지도 않았고 문명의 개념도 등장하지 않은 때였다. 만약 완전한 수렵, 채집생활 세계에서 온 사람이 예를 들면 인간이 그저 또 다른 동물의 종이었던 시점이었던 시대에서 온 사람이 1750년대에 존재했던 거대한 인간의 여러 제국들을 보고, 거기에 거대한 교회와 대양을 가르는 배, 그리고 집단적으로 축적된 지식과 발견의 거대한 수준을 보게 된다면 그가 죽을 가능성은 상당히 있다.

And then what if, after dying, he got jealous and wanted to do the same thing. If he went back 12,000 years to 24,000 BC and got a guy and brought him to 12,000 BC, he’d show the guy everything and the guy would be like, “Okay what’s your point who cares.” For the 12,000 BC guy to have the same fun, he’d have to go back over 100,000 years and get someone he could show fire and language to for the first time.

그리고나서 만 이천 년대의 사람이 죽은 후에 다시 살아나서 1750년의 그 남자를 시기해서 똑 같은 일을 하고 싶다면 어떻게 될까? 그가 만약 두 배인 기원전 2만 4천년으로 가서 그 시대 남자를 자신의 시대인 기원전 1만 2천 년대로 데려와서 그 과거의 모든 남자에게 모든 것을 보여 주면, 그 과거 남자의 반응은 ‘오케이 머 어쩌라구?’일 것이다. 1만 2천년 대의 사람이 자신이 당했던 그 느낌을 더 먼 과거의 남자가 겪게 만들려면 그는 아마도 기원전 십 만년전으로 가서 누군가를 데려온 다음에 그에게 불이나 최초의 언어를 보여줘야 할 것이다.

In order for someone to be transported into the future and die from the level of shock they’d experience, they have to go enough years ahead that a “die level of progress,” or a Die Progress Unit (DPU) has been achieved. So a DPU took over 100,000 years in hunter-gatherer times, but at the post-Agricultural Revolution rate, it only took about 12,000 years. The post-Industrial Revolution world has moved so quickly that a 1750 person only needs to go forward a couple hundred years for a DPU to have happened.

누군가가 미래로 와서 자신이 경험한 충격의 정도 때문에 죽게 만들려면, 그 누군가는 충분히 먼 과거 즉, 진보된 변화 때문에 죽게 만들 수 있을 정도로 충분히 먼 과거로 가서 누군가를 데려와야 한다. 죽게 만들 수 있는 변화의 정도를 줄여서 DPU (a Die Process Unit)이라고 한다. 그래서 수렵채집 생활 시대의 DPU는 십 만년이 넘게 걸릴 것이다. 하지만 농업혁명 이후의 DPU는 약 1만 2천년 정도만 걸릴 것이다. 후기 산업화 시대는 너무나 빨리 발전해서 1750년대의 사람이 놀라 죽게 만들기 위해서 겨우 2-3백 년 정도밖에 걸리지 않을 것이다.

This pattern—human progress moving quicker and quicker as time goes on—is what futurist Ray Kurzweil calls human history’s Law of Accelerating Returns. This happens because more advanced societies have the ability to progress at a faster rate than less advanced societies—because they’re more advanced. 19th century humanity knew more and had better technology than 15th century humanity, so it’s no surprise that humanity made far more advances in the 19th century than in the 15th century—15th century humanity was no match for 19th century humanity.

이러한 패턴의 인간의 진보는 시간이 감에 따라 계속해서 점점 더 빨라지고 있는데 이것을 미래학자 레이 커즈와일은 변화의 가속화 법칙이라고 부른다. 이러한 법칙은 조금 더 진보된 사회가 그렇지 않은 사회보다 더 빠른 속도로 진보할 능력을 가지기 때문이다. 왜냐하면 단지 그 사회들이 여러 면에서 더 진보된 부분들이 많아서 시너지 효과를 가지기 때문이다. 19세기의 인류는 더 많이 알고 훨씬 더 많은 진보를 15세기 시대의 인류보다 더 이루어 냈다. 15세기의 인간은 19세기의 인간에게 상대가 되지 못한다.

This is for the same reason we just discussed—the Law of Accelerating Returns. The average rate of advancement between 1985 and 2015 was higher than the rate between 1955 and 1985—because the former was a more advanced world—so much more change happened in the most recent 30 years than in the prior 30.

이것은 우리가 막 얘기한 같은 이유 때문이다. 변화 가속의 법칙 말이다. 1985년과 2015년 사이의 진보의 평균 속도는 1955년과 1985년 사이의 변화의 속도보다 빠르다. 왜냐하면 1985년에서 2015년 사이의 세계가 더 진보된 사회이기 때문이다. 따라서 최근 30년 전부터 현재까지의 기간이 그 이전 30년 기간 동안에 일어난 변화보다 훨씬 더 많은 변화가 일어났다.

So—advances are getting bigger and bigger and happening more and more quickly. This suggests some pretty intense things about our future, right?

그래서 진보는 점점 더 커지고 점점 더 빨리 일어난다. 이러한 사실은 우리 미래에 관한 상당히 강렬한 것들이 일어날 것임을 암시해 준다.

Kurzweil suggests that the progress of the entire 20th century would have been achieved in only 20 years at the rate of advancement in the year 2000—in other words, by 2000, the rate of progress was five times faster than the average rate of progress during the 20th century. He believes another 20th century’s worth of progress happened between 2000 and 2014 and that another 20th century’s worth of progress will happen by 2021, in only seven years. A couple decades later, he believes a 20th century’s worth of progress will happen multiple times in the same year, and even later, in less than one month. All in all, because of the Law of Accelerating Returns, Kurzweil believes that the 21st century will achieve 1,000 times the progress of the 20th century.

커즈와일은 20세기 전체의 진보가 2000년 기준의 변화의 속도를 고려하면 단지 20년 안에 일어날 수 있다고 주장한다. 2000년 경의 기술 진보의 속도는 20세기 평균 진보의 속도보다 다섯 배나 빠르다는 말이다. 커즈와일은 다른 20세기의 진보의 정도가 2000년에서 2014년 사이에 일어났다고 생각한다. 그리고 이 만큼의 기술의 진보는 단 7년 만인 2021년에 일어날 것이라고 생각한다. 2-30년 후에는 20세기 전체에 일어났던 진보의 정도가 단 1년 안에 여러 번 일어날 수 있다고 커즈와일은 믿고 있고 심지어 그 이후에는 한 달도 안 되는 기간 안에 20세기 전체가 만들어 냈던 진보의 정도를 이루어 낼 수 있다고 그는 믿는다. 대체로 변화 가속화의 법칙 때문에, 커즈와일은 21세기는 20세기가 이루어 낸 진보의 천 배의 진보를 이루어 낼 것이라고 믿는다.

If Kurzweil and others who agree with him are correct, then we may be as blown away by 2030 as our 1750 guy was by 2015—i.e. the next DPU might only take a couple decades—and the world in 2050 might be so vastly different than today’s world that we would barely recognize it.

만약 커즈와일과 커즈와일의 견해에 동의하는 사람들이 옳다면, 우리는 2030 년경이면 1750년의 그 남자가 2015년을 경험하고 겪었던 그 똑같은 정도의 충격을 겪게 될 것이다. 예를 들면, 죽음을 야기 시킬 정도의 진보는 겨우 2-30년 정도 밖에 되지 않을 것이다. 2050년의 세계는 우리가 거의 사실 인식하지도 못하는 오늘날의 세계와 완전히 다른 세계가 될지도 모른다.

This isn’t science fiction. It’s what many scientists smarter and more knowledgeable than you or I firmly believe—and if you look at history, it’s what we should logically predict.

이것은 공상과학 소설의 이야기가 아니다. 위와 같은 기술적 진보에 대한 견해는 여러분보다 혹은 필자 보다 더 똑똑하고 더 지식에 근거한 과학자들이 굳게 믿고 있는 내용이다. 만약 여러분이 역사를 살펴본다면, 위와 같은 미래 전망은 우리가 논리적으로 예측할 수 있는 것이다.

So then why, when you hear me say something like “the world 35 years from now might be totally unrecognizable,” are you thinking, “Cool….but nahhhhhhh”? Three reasons we’re skeptical of outlandish forecasts of the future:

그래서 여러분이 필자인 제가 지금으로부터 ‘35년이 지난 세계가 완전히 이게 우리가 살던 세상이야?’라고 말하는 것을 듣는다면, 여러분은 왜 ‘멋진데.....하지만 아니겠지?’라고 생각할까요? 우리가 미래에 대한 이러한 기이한 전망에 대해 의심하는 세 가지 이유는 다음과 같다:

1) When it comes to history, we think in straight lines. When we imagine the progress of the next 30 years, we look back to the progress of the previous 30 as an indicator of how much will likely happen. When we think about the extent to which the world will change in the 21st century, we just take the 20th century progress and add it to the year 2000. This was the same mistake our 1750 guy made when he got someone from 1500 and expected to blow his mind as much as his own was blown going the same distance ahead.

1) 역사에 관한한 우리는 직선적인 방식으로 생각한다. 우리가 그 다음 30년의 진보를 상상할 때, 우리는 최근 30년 전의 진보를 앞으로 30년 사이에 얼마나 많은 변화가 일어날 지를 예측하는 지표로서 참고한다. 우리가 21세기에 세상이 어느 정도 까지 변할지를 생각할 때, 우리는 단지 20세기의 진보의 정도를 2000년에 갖다 붙여 계산한다. 이것은 1750년 남자가 1500년대로 타이머신을 타고 가서 한 남자를 자기가 놀란 것처럼 놀라게 하려고 할 때 했던 실수와 똑같은 실수였다.

It’s most intuitive for us to think linearly, when we should be thinking exponentially. If someone is being more clever about it, they might predict the advances of the next 30 years not by looking at the previous 30 years, but by taking the current rate of progress and judging based on that. They’d be more accurate, but still way off. In order to think about the future correctly, you need to imagine things moving at a much faster rate than they’re moving now.

우리가 기하급수적으로 생각할 때, 우리가 일직선적으로 생각하는 것은 가장 직관적이다. 만약 누군가가 미래에 관한 전망에 대해 더 영리하게 예측한다면, 현재로부터의 30년 미래의 진보의 정도를 예측할 때, 최근 30년을 봄으로써가 아니라 현재 진보의 속도를 그리고 이 진보의 속도에 근거해서 판단함으로써 이루어져야 한다. 그러면 미래에 대한 예측은 더 정확할 것이지만, 여전히 빗나가있다. 미래에 대한 전망을 정확히 하기 위해서는 여러분은 현재의 진보의 속도 보다 훨씬 더 빠른 속도로 진보함을 상상할 필요가 있다.

Projections

2) The trajectory of very recent history often tells a distorted story. First, even a steep exponential curve seems linear when you only look at a tiny slice of it, the same way if you look at a little segment of a huge circle up close, it looks almost like a straight line. Second, exponential growth isn’t totally smooth and uniform. Kurzweil explains that progress happens in “S-curves”:

2) 가장 최근의 진보의 궤도는 종종 왜곡된 이야기를 말 해 준다. 첫 째로, 여러분이 단지 이 진보가 진행되는 궤적의 일부만 보면, 가파른 기하급수적인 곡선은 선적으로 진행하는 것처럼 보인다. 만약 여러분이 거대의 곡선의 작은 부분만을 자세하게 보는 방식으로 보면, 이 궤적은 거의 직선처럼 보인다. 둘째로, 기하급수적인 진보는 전적으로 부드럽지도 일관적이지도 않다. 커즈와일은 진보는 ‘S자 곡선에서’ 일어난다고 설명 한다:

S-Curves

An S is created by the wave of progress when a new paradigm sweeps the world. The curve goes through three phases:

새로운 기술적 패러다임이 세계를 휩쓸 때, S자는 진보의 파도에 의해 만들어 진다. 이러한 S자형 곡선은 3단계로 진행된다.

1. Slow growth (the early phase of exponential growth)

느린 성장 (기하급수적인 성장의 초기 단계)

2. Rapid growth (the late, explosive phase of exponential growth)

급격한 상승 (후기의 폭발적인 기하급수적인 진보)

3. A leveling off as the particular paradigm matures

특별한 기술적인 혁신이 성숙할 때 수평적 선을 보인다.

If you look only at very recent history, the part of the S-curve you’re on at the moment can obscure your perception of how fast things are advancing. The chunk of time between 1995 and 2007 saw the explosion of the internet, the introduction of Microsoft, Google, and Facebook into the public consciousness, the birth of social networking, and the introduction of cell phones and then smart phones. That was Phase 2: the growth spurt part of the S. But 2008 to 2015 has been less groundbreaking, at least on the technological front. Someone thinking about the future today might examine the last few years to gauge the current rate of advancement, but that’s missing the bigger picture. In fact, a new, huge Phase 2 growth spurt might be brewing right now.

만약 여러분이 최근의 역사만 봐도 여러분이 지금 현재 서있는 S자 곡선의 일부는 상황이 얼마나 빠르게 발전하는지에 대한 인식을 불분명하게 만들 수 있다. 1995년과 2007년 사이의 상당한 기간에 인터넷의 폭발적 성장을 우리는 목격했다. 예를 들면, 마이크로 소프트, 구글, 그리고 페이스북이 사람들의 의식 속으로 들어오게 되었다. SNS의 등장, 셀폰과 이어 스마트폰의 출현이 있었던 시기다. 이것이 2단계이다: S자 곡선이 가파르게 상승한 시기이다. 하지만 2008년에서 2015년 사이의 기간은 덜 획기적인 진보의 시기였다. 특히 기술적인 부분에서는 덜 획기적인 진보를 보인 시기다. 미래에 관해 생각하는 누군가는 진보의 현재 속도를 측정하기 위해 최근 몇 년을 살펴볼 수 있다. 하지만 이런 방식의 예측은 더 큰 그림을 놓치는 것이다. 실제로, 새로운 거대한 2단계 성장의 폭발은 지금 태동하고 있을지도 모른다.

3) Our own experience makes us stubborn old men about the future. We base our ideas about the world on our personal experience, and that experience has ingrained the rate of growth of the recent past in our heads as “the way things happen.” We’re also limited by our imagination, which takes our experience and uses it to conjure future predictions—but often, what we know simply doesn’t give us the tools to think accurately about the future. When we hear a prediction about the future that contradicts our experience-based notion of how things work, our instinct is that the prediction must be naive. If I tell you, later in this post, that you may live to be 150, or 250, or not die at all, your instinct will be, “That’s stupid—if there’s one thing I know from history, it’s that everybody dies.” And yes, no one in the past has not died. But no one flew airplanes before airplanes were invented either.

3) 우리 자신의 경험이 미래에 관해서 예측할 때는 우리를 늙고 고집 센 남자로 만든다. 우리는 우리 자신의 경험에 비추어 세상에 관한 우리의 견해를 만든다. 그리고 그 경험은 최근 성장의 속도를 우리에 머릿속에 스며들게 만든다. 우리는 또한 우리의 상상력에 의해 제한되기도 한다. 이것은 우리의 경험을 이용해 미래의 예측을 추론함을 의미한다. 하지만 자주 우리가 아는 것이 우리에게 미래에 관해 정확하게 예측할 수 있는 수단을 제공하지 못한다. 우리가 세상이 작동하는 방식에 대한 우리의 경험에 반대되는 미래예측을 들으면, 우리는 이 예측이 너무 멍청하다고 자동적으로 생각한다. 만약 필자인 제가 여러분에게 이 글의 후반부에서 얘기하겠지만, 여러분은 백 오십 또는 이백 오십 살 혹은 아예 죽지 않을 수도 있다고 말한다면, 여러분은 자동적으로 그건 멍청한 예측이야 라고 생각할 것이다 - 만약 내가 역사에서 배운 교훈이 하나 있다면, ‘그것은 모든 사람은 죽는다’ 이다. 그렇다. 죽는다. 하지만 과거의 어느 사람도 죽지 않는 사람이 없었다 하지만 비행기가 발명되기 전까지는 어느 누구도 비행기를 타 본 사람은 없었다.

So while nahhhhh might feel right as you read this post, it’s probably actually wrong. The fact is, if we’re being truly logical and expecting historical patterns to continue, we should conclude that much, much, much more should change in the coming decades than we intuitively expect.

그러므로 여러분이 이런 글을 읽을 때 아니겠지 라고 느낄 수 있지만 이것은 아마도 틀렸을 가능성이 있다. 사실은, 만약 우리가 진정으로 논리적이고 역사적인 패턴이 계속된다고 기대한다면, 우리는 훨씬, 훨씬, 훨씬, 훨씬 더 많이 우리가 직관적으로 예상하는 것 보다 미래에 변할 것이다.

Logic also suggests that if the most advanced species on a planet keeps making larger and larger leaps forward at an ever-faster rate, at some point, they’ll make a leap so great that it completely alters life as they know it and the perception they have of what it means to be a human—kind of like how evolution kept making great leaps toward intelligence until finally it made such a large leap to the human being that it completely altered what it meant for any creature to live on planet Earth. And if you spend some time reading about what’s going on today in science and technology, you start to see a lot of signs quietly hinting that life as we currently know it cannot withstand the leap that’s coming next.

논리는 만약 지구상에서 가장 진화된 종이 계속해서 점점 더 큰 도약을 전례 없는 속도로 계속한다면, 미래의 어느 시점에선가, 인간은 너무나 큰 진보를 이루어서 이러한 변화는 우리가 아는 삶을 전적으로 변경할 것이고 또한 우리가 인간인 것이 무엇을 의미하는지에 대한 인식까지도 완전히 바꿔 버릴 것이다. 이것은 마치 진화가 지능을 가진 생물을 만들어 낼 때 까지 계속해서 도약해서 인류에게도 엄청난 변화를 일으켜서 어떤 생물이 지구라는 행성에 산다는 것이 무엇을 의미하는지를 완전히 바꿔버린 것과 같다. 만약 우리가 과학과 기술 분야에서 진행되고 있는 상황에 대해 읽는 데에 약간의 시간을 쓴다면, 여러분은 우리가 다가올 기술적 도약을 견뎌낼 수 없을 것이라는 점을 암시하는 많은 힌트들을 보기 시작할 것이다.

The Road to Super-intelligence 강한 인공지능으로 가는 길

What is AI? 인공지능이란?

If you’re like me, you used to think Artificial Intelligence was a silly sci-fi concept, but lately you’ve been hearing it mentioned by serious people, and you don’t really quite get it.

만약 여러분이 필자인 저와 같다면, 여러분은 인공지능이 멍청한 공상과학 개념으로 생각하곤 했을 것이다. 하지만 최근에 전문적인 사람들이 인공지능에 관해 말하는 것을 들어 왔다. 그리고 여러분은 여전히 아직도 그들의 인공지능에 관한 논평을 이해하지 못하고 있다.

There are three reasons a lot of people are confused about the term AI:

많은 사람들이 인공지능이란 용어에 헷갈려하는 세 가지 이유가 있다:

1) We associate AI with movies. Star Wars. Terminator. 2001: A Space Odyssey. Even the Jetsons. And those are fiction, as are the robot characters. So it makes AI sound a little fictional to us.

우리는 인공지능하면 스타워즈나 터미네이터 영화들을 연상한다. 그리고 이런 영화들은 이 영화에 나오는 로봇들처럼 소설이다. 그래서 이런 영화들은 인공지능을 다소 허구적인 소설처럼 생각하게 만든다.

2) AI is a broad topic. It ranges from your phone’s calculator to self-driving cars to something in the future that might change the world dramatically. AI refers to all of these things, which is confusing.

인공지능은 상당히 넓은 영역이다. 인공지능은 여러분의 스마트폰의 계산기에서 무인 자동차에 이르기까지 그리고 극적으로 세상을 변화시킬 어떤 것에 까지 다 포함한다. 인공지능은 이러한 모든 것들을 가리키며, 이런 폭 넓은 인공지능의 범위는 우리로 하여금 인공지능에 대한 매우 애매한 인식을 갖게 만든다.

3) We use AI all the time in our daily lives, but we often don’t realize it’s AI. John McCarthy, who coined the term “Artificial Intelligence” in 1956, complained that “as soon as it works, no one calls it AI anymore.” Because of this phenomenon, AI often sounds like a mythical future prediction more than a reality. At the same time, it makes it sound like a pop concept from the past that never came to fruition. Ray Kurzweil says he hears people say that AI withered in the 1980s, which he compares to “insisting that the Internet died in the dot-com bust of the early 2000s.”

우리는 일상에서 인공지능을 항상 이용한다. 하지만 우리는 자주 그것이 인공지능인지를 깨닫지 못한다. 1956년에 ‘인공지능’이란 용어를 만들었던 존 맥카티는 인공지능이 작동하자마자 어떤 사람도 그것을 인공지능이라고 부르지 않을 것이라고 불평한 적이 있다. 이러한 현상 때문에 인공지능은 종종 현실보다 더 신화적인 미래에 관한 예측처럼 들린다. 동시에 이러한 사실은 결코 실현된 적이 없는 과거의 대중적인 생각처럼 들리게 만든다. 레이 커즈와일은 자신은 사람들이 인공지능은 1980년대에 시들어버렸다고 말하는 것을 듣는다고 말한다. 하지만 커즈와일은 이런 말들을 2000년대 초기에 닷컴 버블이 붕괴되면서 인터넷이 죽었다고 사람들이 말하는 것과 비교했다.

So let’s clear things up. First, stop thinking of robots. A robot is a container for AI, sometimes mimicking the human form, sometimes not—but the AI itself is the computer inside the robot. AI is the brain, and the robot is its body—if it even has a body. For example, the software and data behind Siri is AI, the woman’s voice we hear is a personification of that AI, and there’s no robot involved at all.

그러면 상황을 정리해 보자. 첫 째로, 인공지능과 로봇을 연결하지 말자. 로봇은 인공지능을 담아내는 틀이다. 때때로 이 로봇은 인간의 형태를 갖기도 하지만 때로는 인간과 같은 모양을 가지지 않는다. 하지만 인공지능 그 자체는 로봇 안에 있는 컴퓨터이다. 인공지능은 뇌에 해당하고, 만약 인공지능이 몸을 가진다면, 로봇은 인공지능의 몸에 해당한다. 예를 들면, 아이폰의 시리 이면에 있는 소프트웨어와 데이터, 그리고 우리가 듣는 여성의 목소리는 인공지능의 의인화이다. 그리고 이런 인공지능은 로봇과 전혀 관련이 없다.

Secondly, you’ve probably heard the term “singularity” or “technological singularity.” This term has been used in math to describe an asymptote-like situation where normal rules no longer apply. It’s been used in physics to describe a phenomenon like an infinitely small, dense black hole or the point we were all squished into right before the Big Bang. Again, situations where the usual rules don’t apply. In 1993, Vernor Vinge wrote a famous essay in which he applied the term to the moment in the future when our technology’s intelligence exceeds our own—a moment for him when life as we know it will be forever changed and normal rules will no longer apply.

둘째로, 여러분은 아마도 ‘싱귤래러티 혹은 기술적인 싱귤래러티’라는 용어를 들은 적이 있을 것이다. 이 용어는 수학에서 사용되어져 왔다. 이 용어는 일반적인 규칙이 더 이상 적용되지 않는 점근선 같은 상황을 묘사하기 위해서 사용된다. 이 용어는 무한히 작은, 무한히 밀도가 높은 블랙홀 또는 우리가 빅뱅 직전에 쪼그라드는 지점과 같은 현상을 묘사하기 위해 이용되어 왔다. 다시, 일반적인 규칙이 적용되지 않는 상황을 ‘싱귤래러티’라고 부른다. 1993년에 베노르 빈지는 유명한 글을 썼는데 이 글에서 빈지는 미래에 일어난 순간에 적용했다. 이 미래의 순간에 우리의 인공지능은 우리의 지능을 넘어서는 순간이다. 우리가 알고 있는 현재의 삶을 영원히 바꿀 때 그리고 일반적인 규칙이 더 이상 적용이 안 되는 순간이 바로 이 순간이 싱귤래러티이다.

Ray Kurzweil then muddled things a bit by defining the singularity as the time when the Law of Accelerating Returns has reached such an extreme pace that technological progress is happening at a seemingly-infinite pace, and after which we’ll be living in a whole new world. I found that many of today’s AI thinkers have stopped using the term, and it’s confusing anyway, so I won’t use it much here (even though we’ll be focusing on that idea throughout).

레이 커즈와일은 상황을 싱귤래러티를 변화 가속의 법칙이 극단적인 속도까지 도달해서 기술적인 진보가 거의 무한의 속도로 일어나는 순간으로 정의하면서 더 복잡하게 만들었다. 그리고 이 순간 이후에 우리는 전혀 새로운 세계에 살고 있을 것이다. 필자는 오늘날의 인공지능 학자들의 많은 이들이 싱귤래러티라는 용어를 사용하지 않는 다는 사실을 알게 되었다. 그리고 이 용어는 어쨌든 상당히 애매하다. 그래서 필자도 여기서 이 용어를 많이 사용하지 않을 것이다. 하지만 이 글은 계속해서 인공지능이 인간의 지능을 넘어서는 순간에 대해 집중할 것이다.

Finally, while there are many different types or forms of AI since AI is a broad concept, the critical categories we need to think about are based on an AI’s caliber. There are three major AI caliber categories:

마지막으로 인공지능이 상당히 넓은 개념이기 때문에 많은 다른 유형이나 형태의 인공지능이 존재하지만, 우리가 생각할 필요가 있는 명확한 분류는 인공지능의 역량에 기초해 있다. 세 개의 주된 인공지능 역량에 관한 분류가 있다:

AI Caliber 1) Artificial Narrow Intelligence (ANI): Sometimes referred to as Weak AI, Artificial Narrow Intelligence is AI that specializes in one area. There’s AI that can beat the world chess champion in chess, but that’s the only thing it does. Ask it to figure out a better way to store data on a hard drive, and it’ll look at you blankly.

인공지능 역량 1) 좁은 인공지능 (ANI): 때때로 이런 종류의 인공지능을 약한 인공지능으로 일컬어지기도 한다. 좁은 인공지능은 한 영역에만 특화되어 있는 인공지능이다. 체스에서 세계 챔피언을 꺽은 인공지능이 있다. 하지만 체스를 이기는 것이 좁은 인공지능이 하는 유일한 것이다. 이 인공지능에게 하드 드라이브에 데이터를 저장할 수 있는 더 좋은 방식을 생각해 보라고 요구해 봐라! 그러면 인공지능은 멍하니 여러분을 쳐다만 볼 것이다.

AI Caliber 2) Artificial General Intelligence (AGI): Sometimes referred to as Strong AI, or Human-Level AI, Artificial General Intelligence refers to a computer that is as smart as a human across the board—a machine that can perform any intellectual task that a human being can. Creating AGI is a much harder task than creating ANI, and we’re yet to do it. Professor Linda Gottfredson describes intelligence as “a very general mental capability that, among other things, involves the ability to reason, plan, solve problems, think abstractly, comprehend complex ideas, learn quickly, and learn from experience.” AGI would be able to do all of those things as easily as you can.

인공지능 역량 2) 일반적인 인공지능 (AGI): 때때로 일반인공지능은 강한 인공지능으로 묘사되기도 한다. 혹은 인간 수준의 인공지능인 일반인공지능은 전체적인 영역에서 인간만큼 똑똑한 컴퓨터를 가리킨다. 이 기계는 인간이 할 수 있는 어떤 지적인 업무도 수행할 수 있다. 이런 강한 인공지능을 만드는 것은 약한 인공지능을 만드는 것 보다 훨씬 더 어려운 임무다. 우리는 아직 강한 인공지능을 만들 수 없다. 린다 고트프레드손 교수는 인공지능을 매우 일반적인 정신적 능력으로 묘사한다. 이러한 일반적인 능력은 다른 것들 중에서 추론하고, 계획하고, 문제를 해결할 수 있고, 추상적으로 사고하고, 복잡한 사상을 이해하고, 빠르게 학습하고 경험으로부터 배우는 능력과 관계가 있다. 강한 인공지능은 여러분이 할 수 있는 만큼 쉽게 이러한 모든 것들을 다 할 수 있을 것이다.

AI Caliber 3) Artificial Superintelligence (ASI): Oxford philosopher and leading AI thinker Nick Bostrom defines superintelligence as “an intellect that is much smarter than the best human brains in practically every field, including scientific creativity, general wisdom and social skills.” Artificial Superintelligence ranges from a computer that’s just a little smarter than a human to one that’s trillions of times smarter—across the board. ASI is the reason the topic of AI is such a spicy meatball and why the words “immortality” and “extinction” will both appear in these posts multiple times.

인공지능 역량 3) 초강력 인공지능 (ASI): 옥스퍼드 철학자이자 앞서가는 인공지능 사상가인 닉 보스트롬은 초강력인공지능이 과학적인 창의성, 일반적인 지혜 그리고 사회적 기술을 포함해서 거의 실질적으로 모든 영역에서 최고의 인간 두뇌보다 훨씬 더 똑똑한 지능으로 정의한다. 초강력 인공지능은 인간보다 약간 더 똑똑한 인공지능에서 모든 영역에서 인간보다 수 조배 더 똑똑한 인공지능을 포함한다. 초강력 인공지능은 인공지능 주제가 그토록 충격적이 될 수 있는 이유다. 그리고 초강력 인공지능은 왜 ‘불멸’과 ‘멸종’이란 두 단어 모두가 이 글에서 자주 등장하게 만드는 바로 그 이유다.

As of now, humans have conquered the lowest caliber of AI—ANI—in many ways, and it’s everywhere. The AI Revolution is the road from ANI, through AGI, to ASI—a road we may or may not survive but that, either way, will change everything.

현재까지 인간은 가장 낮은 수준의 약한 인공지능을 정복해왔다. 이러한 약한 인공지능은 많은 방식으로 우리 삶의 여기저기에 존재한다. 인공지능 혁명은 이 약한 인공지능으로부터 강한 인공지능으로 그래서 결국에는 초강력 인공지능에 이르게 될 것이다. 이 초강력 인공지능은 우리 인류가 견뎌낼 수도 아니면 멸종할 수 도 있다. 하지만 어떤 식이든 간에 이 초강력 인공지능은 우리 세계의 모든 것을 바꿔 놓을 것이다.

Let’s take a close look at what the leading thinkers in the field believe this road looks like and why this revolution might happen way sooner than you might think:

인공지능 분야에서 앞서가는 학자들이 초강력 인공지능이 만들어 낼 세계에 대해 어떻게 생각하는지 살펴보자. 그리고 이러한 혁명이 여러분이 생각하는 것보다 인공지능 과학자들은 왜 더 빨리 일어날 지도 모른다고 생각하는지도 살펴보자.

Where We Are Currently—A World Running on ANI

우리가 살고 있는 세계는 약한 인공지능에 기반한 사회

Artificial Narrow Intelligence is machine intelligence that equals or exceeds human intelligence or efficiency at a specific thing. A few examples:

약한 인공지능은 특정한 한 영역에서 인간의 지능이나 효율성에 버금가거나 능가하는 기계 지능이다. 몇 가지 예를 들면:

◾Cars are full of ANI systems, from the computer that figures out when the anti-lock brakes should kick in to the computer that tunes the parameters of the fuel injection systems. Google’s self-driving car, which is being tested now, will contain robust ANI systems that allow it to perceive and react to the world around it.

자동차들은 약한 인공지능으로 가득 차 있다. 언제 자동 잠금 브레이크가 작동해야 하는지를 파악하는 컴퓨터에서 연료주입시스템의 한도를 조율하는 컴퓨터도 약한 인공지능에 속한다. 현재 도로 시험 중인 구글의 무인 자동차는 강력한 약한 인공지능 시스템을 가지고 있다. 이 인공지능은 차로 하여금 주변 세계를 인식하고 반응하는 것을 가능하게 만들어 준다.

◾Your phone is a little ANI factory. When you navigate using your map app, receive tailored music recommendations from Pandora, check tomorrow’s weather, talk to Siri, or dozens of other everyday activities, you’re using ANI.

여러분의 스마트 폰은 작은 약한 인공지능의 공장이다. 여러분이 지도 앱을 이용해 길을 찾을 때, 여러분에게 맞춤형으로 판도라에서 추천한 음악을 받을 때, 내일의 날씨를 파악할 때, 시리에게 말을 걸 때, 또는 수십 개의 일상적인 다른 활동을 할 때, 여러분은 약한 인공지능을 사용하고 있다.

◾Your email spam filter is a classic type of ANI—it starts off loaded with intelligence about how to figure out what’s spam and what’s not, and then it learns and tailors its intelligence to you as it gets experience with your particular preferences. The Nest Thermostat does the same thing as it starts to figure out your typical routine and act accordingly.

여러분의 스팸메일 필터는 고전적인 유형의 약한 인공지능이다. 이 필터는 인공지능이 탑재되어 있어 어떻게 무엇이 스팸이고 아닌지를 판단하고 그리고 나서 학습한다. 그 다음에 이 인공지능은 여러분에게 최적화된다. 왜냐하면 이 인공지능은 여러분이 가지는 특정한 선호를 경험하기 때문이다. 네스트의 써모스타트도 스마트 홈을 가능하게 하는 인공지능인데 집의 실내 온도와 조명 등을 언제든지 컨트롤 할 수 있게 하는데 사실, 이 인공지능은 여러분의 전형적인 일상을 보고 학습한 후에 여러분의 습관에 맞게 온도조절 및 에너지 절약 등의 방식을 스스로 수행한다.

◾You know the whole creepy thing that goes on when you search for a product on Amazon and then you see that as a “recommended for you” product on a different site, or when Facebook somehow knows who it makes sense for you to add as a friend? That’s a network of ANI systems, working together to inform each other about who you are and what you like and then using that information to decide what to show you. Same goes for Amazon’s “People who bought this also bought…” thing—that’s an ANI system whose job it is to gather info from the behavior of millions of customers and synthesize that info to cleverly upsell you so you’ll buy more things.

아마존에서 상품을 검색할 때 작동하는 소름 돋는 것이 있다는 것을 안다. 여러분은 다른 사이트에 있는 ‘당신을 위해 추천된 상품’으로 추천되는 것을 본다. 또는 페이스북이 누구를 친구로 추가해야 할지 스스로 파악해서 우리에게 보여준다. 이런 것들은 약한 인공지능이 결합된 채로 연결되어 있는 것이다. 여러 약한 인공지능이 함께 작동하면서 서로에게 정보를 주고 이를 통해 여러분이 누구인지, 무엇을 좋아하는지, 그리고 이 정보를 이용해서 무엇을 여러분에게 보여주어야 할지를 결정한다. 같은 방식이 이 상품을 산 사람이 이것도 역시 구입했다는 목록을 보여 주는 것도 같은 방식이다. 이것들이 약한 인공지능 시스템이고 이것들의 일은 수 백 만의 소비자들의 행동에 대한 정보를 수집해서 이 정보를 교묘하게 더 비싼 상품을 살 수 있도록 설득하기 위해 통합한다. 그러면 여러분은 더 많은 물건을 살 것이다.

◾Google Translate is another classic ANI system—impressively good at one narrow task. Voice recognition is another, and there are a bunch of apps that use those two ANIs as a tag team, allowing you to speak a sentence in one language and have the phone spit out the same sentence in another.

구글 번역은 또 다른 전형적인 약한 인공지능이다. 탁월할 정도로 한 영역의 일은 잘한다. 음성인식도 약한 인공지능의 예이다. 한 세트의 앱들이 있는데 음성인식 인공지능과 이 묶음 앱들이 함께 활동하면서 여러분이 한 언어로 문장을 말하게 하고 전화는 여러분이 말한 문장을 다른 언어로 말해 주는 방식이다.

◾When your plane lands, it’s not a human that decides which gate it should go to. Just like it’s not a human that determined the price of your ticket.

여러분의 비행기가 착륙할 때, 어느 게이트를 향해 비행기가 가야만 하는지를 결정하는 것은 사람 비행사가 하는 일이 아니다. 물론 여러분의 비행기 티켓 값을 결정하는 것도 사람이 아니다.

◾The world’s best Checkers, Chess, Scrabble, Backgammon, and Othello players are now all ANI systems.

세계 최고의 체커들, 체스, 스크래블, 백가몬, 그리고 오델로의 선수들은 현재 다 약한 인공지능들이다.

◾Google search is one large ANI brain with incredibly sophisticated methods for ranking pages and figuring out what to show you in particular. Same goes for Facebook’s Newsfeed.

구글의 검색 엔진은 하나의 거대한 약한 인공지능의 뇌이다. 엄청나게 정교한 방식으로 웹페이지에 순위를 매기고 여러분에게 맞는 페이지를 보여주어야 하는지를 파악한다. 같은 방식이 페이스북의 뉴스피드에도 적용된다.

◾And those are just in the consumer world. Sophisticated ANI systems are widely used in sectors and industries like military, manufacturing, and finance (algorithmic high-frequency AI traders account for more than half of equity shares traded on US markets6), and in expert systems like those that help doctors make diagnoses and, most famously, IBM’s Watson, who contained enough facts and understood coy Trebek-speak well enough to soundly beat the most prolific Jeopardy champions.

그리고 이러한 인공지능들은 소비자들의 세계 속에 있다. 정교한 약한 인공지능 시스템은 폭 넓게 군사, 제조업, 그리고 금융 산업에서도 사용되고 있다. 미국에서 거래되는 주식시장의 반 이상을 고주파 알고리즘의 인공지능 딜러가 담당하고 있다. 의사가 진단을 하도록 돕는 것과 같은 전문 시스템에서도, 예를 들면, IBM의 왓슨은 충분한 의학적 지식을 가지고 있기 때문에 정확한 진단을 내릴 수 있다. 인공지능 왓슨은 사회자의 말을 잘 이해해서 세계 최고의 제오퍼디 퀴즈쇼 챔피언을 제압한 시스템이다.

ANI systems as they are now aren’t especially scary. At worst, a glitchy or badly-programmed ANI can cause an isolated catastrophe like knocking out a power grid, causing a harmful nuclear power plant malfunction, or triggering a financial markets disaster (like the 2010 Flash Crash when an ANI program reacted the wrong way to an unexpected situation and caused the stock market to briefly plummet, taking $1 trillion of market value with it, only part of which was recovered when the mistake was corrected).

현재의 약한 인공지능은 그닥 소름 돋을 정도로 무섭지는 않다. 물론, 최악의 경우에는 상태가 나쁜 혹은 잘못 프로그램된 약한 인공지능은 부분적인 재난을 만들어 낼 수 있다. 전력망을 해체시킨다든지, 핵발전소를 오작동하게 만든다든지, 또는 금융시장 전자서비스를 망가뜨리는 것 등을 할 수 있다. 2010년에 예상치 않은 상황에 약한 인공지능 프로그램이 잘못된 방식으로 반응하면서 주식시장을 아주 잠깐 동안 급락하게 만들었던 사고가 있었다. 이 때 시장의 주식 가치로 1조 달러가 날아갔다. 이 인공지능이 제 정신을 차렸을 때에 이 돈의 작은 부분만 회복되었다.

But while ANI doesn’t have the capability to cause an existential threat, we should see this increasingly large and complex ecosystem of relatively-harmless ANI as a precursor of the world-altering hurricane that’s on the way. Each new ANI innovation quietly adds another brick onto the road to AGI and ASI. Or as Aaron Saenz sees it, our world’s ANI systems “are like the amino acids in the early Earth’s primordial ooze”—the inanimate stuff of life that, one unexpected day, woke up.

하지만 약한 인공지능이 인간의 존재 자체를 위협할 정도의 힘은 가지지 못했지만 우리는 상대적으로 무해한 약한 인공지능이 점점 더 커지고 복잡해지는 인공지능 생태계를 보게 될 것이다. 이러한 약한 인공지능들이 모인 생태계는 우리를 향해 오고 있는 세상 자체를 변화시킬 수 있는 대형 허리케인의 전조로 이해해야 한다. 각각의 새로운 약한 인공지능의 혁신은 조용히 강한 그리고 초강력 인공지능으로 가는 길의 벽돌을 하나씩 하나씩 쌓고 있다. 아론 사엔즈가 이러한 과정을 이렇게 표현한다. 현재의 약한 인공지능 시스템들은 지구의 초기 형성과정에서 예상치 않은 날에 깨어났던 무생물 형태의 생명이었던 아미노산과 같다.

* 위글은 아래 출처에서 발췌해서 필자가 번역한 글입니다. 헬조선 최초 인문학 전문학원인 생각공장의 강의록입니다. 약간의 오역이 있을 수 있습니다. 그래서 원문을 참조하시면서 읽으시라고 영문과 한글번역을 같이 올립니다. 좋은 지식의 확산을 통해서 헬조선이 해피 조선이 되길 희망하며 올립니다. - 생각공장 -

* 이 게시물은 이 게시물 포함해서 4부로 구성되어 있습니다. 일주일 간격으로 1부씩 올릴 예정입니다.

Bibliography

Tim Urban, 'The AI Revolution: The Road to Super-intelligence' WAIT BUT WHY [website], (updated 22 Jan. 2015) <http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html>, accessed 24 Jan. 2016.