생각공장 강의록 - 인공지능 2
초강력 인공지능의 IQ가 12952 ??
Al Extinction vs. immortality Ⅱ
인공지능 멸종 vs. 영생
The Lecture Series in the Humanities delivered by Y. J. Eom at IDEA FACTORY on July 22, 2016
Ray Kurzweil, a senior researcher of Google (born February 12, 1948)The Road From ANI to AGI
약한 인공지능에서 강한 인공지능으로
Why It’s So Hard 강한 인공지능을 만드는 게 쉬운 일이 아냐?
Nothing will make you appreciate human intelligence like learning about how unbelievably challenging it is to try to create a computer as smart as we are. Building skyscrapers, putting humans in space, figuring out the details of how the Big Bang went down—all far easier than understanding our own brain or how to make something as cool as it. As of now, the human brain is the most complex object in the known universe..................
어떤 것도 인간의 지능이 가지는 가치를 여러분으로 하여금 알아볼 수 있게 만들 수 있는 것은 없어 보인다. 우리 인간만큼 똑똑한 컴퓨터를 만드는 일이 엄청나게 어려운 문제인지에 관해서 알게 된다면 여러분은 인간의 지능이 얼마나 가치 있는 것인지를 알게 될 것이다. 초고층 건물을 짓는 것, 우주에 인간을 보내는 것, 빅뱅이 어떻게 진행되었는지에 관한 세부적인 과정을 이해하는 것과 같은 것들은 인간의 뇌를 이해하는 것 보다 훨씬 더 쉽다. 인간의 뇌와 같이 멋진 것을 만드는 것은 위에 언급된 것들보다 훨씬 더 어렵다. 현재로선, 인간의 뇌는 우리가 아는 한 우주에서 가장 이해하기 어렵고 복잡한 물건임에 틀림없다............
Hard things—like calculus, financial market strategy, and language translation—are mind-numbingly easy for a computer, while easy things—like vision, motion, movement, and perception—are insanely hard for it. Or, as computer scientist Donald Knuth puts it, “AI has by now succeeded in doing essentially everything that requires ‘thinking’ but has failed to do most of what people and animals do ‘without thinking.'”
미적분, 금융전략, 그리고 외국어 번역과 같은 어려운 일들은 컴퓨터에게는 너무나 지루할 정도로 쉬운 일이다. 반면에 시력, 근육의 움직임, 동작, 그리고 인식과 같이 인간에게 쉬운 일들은 컴퓨터에게는 정말 ‘넘사벽’ 이라고 표현할 정도로 어렵다. 컴퓨터 과학자 도날도 크누스가 다음과 같이 설명 한다: 현재로서 인공지능은 ‘생각’을 필요로 하는 모든 일들을 하는데에 성공했다. 하지만 인간과 동물이 ‘생각 없이’ 할 수 있는 것들의 대부분은 하지 못하고 있다.
What you quickly realize when you think about this is that those things that seem easy to us are actually unbelievably complicated, and they only seem easy because those skills have been optimized in us (and most animals) by hundreds of millions of years of animal evolution. When you reach your hand up toward an object, the muscles, tendons, and bones in your shoulder, elbow, and wrist instantly perform a long series of physics operations, in conjunction with your eyes, to allow you to move your hand in a straight line through three dimensions. It seems effortless to you because you have perfected software in your brain for doing it.........................
여러분이 눈치 채신 것처럼, 우리에게 쉽게 보이는 것들은 컴퓨터에게는 믿기지 않을 정도로 복잡하고 어려운 것임을 알 수 있을 것이다. 인간에게 쉬운 일들은 단지 쉬워 보이는데 이러한 기술들은 인간이나 대부분의 동물들에게 최적화되어있기 때문이다. 그런데 이러한 시력, 몸동작, 주변 환경 인식과 같은 기술들은 수 억 년에 이르는 진화의 시간을 거쳐서 동물과 인간에게 주어진 기술들이다. 여러분이 물건을 향해 손을 뻗을 때, 여러분의 어깨와 팔꿈치 그리고 손목에 있는 근육과 힘줄 그리고 뼈들이 즉시 긴 과정의 물리적인 동작을 수행하는 것이다. 물론 이런 단순한 행동에 여러분의 눈이 동시에 작동하는데 3차원적인 공간에서 직선으로 여러분의 손을 움직이는 것을 가능하게 만들어 준다. 이렇게 쉬운 동작이 너무 쉬워 보이는 이유는 이런 동작을 할 수 있게 여러분이 여러분의 뇌의 소프트웨어를 완벽하게 만들었기 때문이다..............
And everything we just mentioned is still only taking in stagnant information and processing it. To be human-level intelligent, a computer would have to understand things like the difference between subtle facial expressions, the distinction between being pleased, relieved, content, satisfied, and glad, and why Braveheart was great but The Patriot was terrible. Daunting.
그리고 우리가 방금 언급한 모든 것들은 정체된 정보를 흡수하고 그 정보를 처리하는 것을 요구한다. 인간 수준의 지능에 도달하기 위해서는 컴퓨터는 미묘한 여러 얼굴 표정, 기쁜 것과 안도하는 것, 그리고 만족하는 것과 기쁜 것 사이의 차이를 이해할 수 있어야 한다. 그리고 인간 수준의 지능을 갖춘 컴퓨터는 브레이브하트가 왜 애국자란 영화보다 훌륭한 영화인지를 구별할 수 있어야 한다. (사실 이러면 인간보다 한참 더 똑똑한 거다!) 정말 현재 인공지능에게는 벅찬 임무다.
So how do we get there? 그럼 어떻게 인간 수준의 인공지능을 만들 수 있을까?
First Key to Creating AGI: Increasing Computational Power
인간수준의 강한 인공지능을 만드는 첫 번째 조건은? 컴퓨터의 연산능력 증가!
One thing that definitely needs to happen for AGI to be a possibility is an increase in the power of computer hardware. If an AI system is going to be as intelligent as the brain, it’ll need to equal the brain’s raw computing capacity...................
강한 인공지능이 출현할 가능성을 높이기 위해서 먼저 일어나야 하는 것은 컴퓨터 하드웨어의 연산능력의 증가다. 만약 인공지능 시스템이 인간의 뇌만큼 똑똑해 질려면, 인공지능은 인간의 뇌가 가지는 연산 능력과 같아져야 할 필요가 있다................
Currently, the world’s fastest supercomputer, China’s Tianhe-2, has actually beaten that number, clocking in at about 34 quadrillion cps. But Tianhe-2 is also a dick, taking up 720 square meters of space, using 24 megawatts of power (the brain runs on just 20 watts), and costing $390 million to build. Not especially applicable to wide usage, or even most commercial or industrial usage yet.
현재까지 세계에서 가장 빠른 수퍼 컴퓨터는 중국의 Tianhe-2인데 실제로 인간 뇌의 연산 속도를 능가했다. 이 컴퓨터의 연산 속도가 초당 3경 4천초이다. 하지만 이 컴퓨터는 720 평방미터의 공간을 차지하고 있고 2천 4백만 와트의 전력을 사용하고, 가격은 3억 9천 만 달러입니다. 우리 돈으로 4천 5 백억 원 이상입니다. 참고로 인간의 뇌는 단지 20와트 정도의 에너지를 사용합니다. 하지만 이 수퍼컴은 당연히 널리 보급된 컴은 아니다. 심지어 상업적이거나 산업적으로 사용되고 있지도 않다.
Kurzweil suggests that we think about the state of computers by looking at how many cps you can buy for $1,000. When that number reaches human-level—10 quadrillion cps—then that’ll mean AGI could become a very real part of life...................
미래학자 레이 커즈와일은 우리가 컴퓨터의 발전 상태 가늠해 보고 싶을 때, 여러분이 천 달러 (백 이십 만 원 정도)로 얼마나 많은 초당 연산 속도를 살 수 있는지를 보면 된다고 한다. 천 달러로 인간 수준의 초당 연산 속도인 1경 정도의 컴퓨터를 구입할 수 있게 되면, 이것은 강한 인공지능이 우리 삶의 실질적인 한 부분이 될 수 있음을 의미한다.............
So the world’s $1,000 computers are now beating the mouse brain and they’re at about a thousandth of human level. This doesn’t sound like much until you remember that we were at about a trillionth of human level in 1985, a billionth in 1995, and a millionth in 2005. Being at a thousandth in 2015 puts us right on pace to get to an affordable computer by 2025 that rivals the power of the brain.
그러므로 현재 천 달러짜리 컴퓨터는 쥐 뇌의 연산 속도 정도를 이길 수 있다. 이 정도의 연산 속도는 인간 수준의 천 분의 1 정도이다. 이 정도의 격차는 그리 커 보이지 않는다. 왜냐하면 1985년에는 컴퓨터의 연산 속도가 인간 뇌의 연산 속도 수준의 1조 분의 1이었고, 1995년에는 십 억분의 1이었다. 가장 최근인 2005년에는 백 만 분의 1이었다. 2015년 기준으로 인간 뇌의 연산 속도의 천 분의 1인 현재 컴퓨터의 연산 속도는 앞으로 2025년 이면 천 달러에 인간 뇌의 연산 속도를 갖는 컴퓨터를 갖게 될 것으로 예측된다.
So on the hardware side, the raw power needed for AGI is technically available now, in China, and we’ll be ready for affordable, widespread AGI-caliber hardware within 10 years. But raw computational power alone doesn’t make a computer generally intelligent—the next question is, how do we bring human-level intelligence to all that power?
그러므로 하드웨어 측면에서 강한 인공지능을 위해 필요한 컴퓨터의 능력은 기술적으로 현재에도 가능하다. 물론 중국에서다. 우리는 10년 안에 대중에게 보급될 수 있는 강한 인공지능 역량을 가질 준비가 되어있을 것이다. 하지만 컴퓨터의 연산 속도만으로는 컴퓨터를 인간 수준의 지능을 갖게 만들지는 못한다. 그렇다면 그 다음 질문은 우리가 어떻게 강한 인공지능을 인간답게 만들 수 있을까? 이다.
Second Key to Creating AGI: Making It Smart
강한 인공지능을 만드는 두 번째 열쇠: 컴퓨터를 똑똑하게 만드는 것
This is the icky part. The truth is, no one really knows how to make it smart—we’re still debating how to make a computer human-level intelligent and capable of knowing what a dog and a weird-written B and a mediocre movie is. But there are a bunch of far-fetched strategies out there and at some point, one of them will work. Here are the three most common strategies I came across:
이 부분은 우리에게 기쁜 나쁜 부분일 수 있다. 사실, 어는 누구도 컴퓨터를 똑똑하게 만드는 법을 알지 못한다. 우리는 여전히 컴퓨터를 인간 지능 수준의 강한 인공지능을 만드는 방법 즉, 개 그리고 이상하게 쓰여진 글자 B가 무엇인지 그리고 이류 영화가 무엇인지를 구별 할 수 있는 방법을 어떻게 찾을지에 대해 토론하고 있다. 하지만 다수의 터무니없어 보이는 방식이 많이 있다. 미래의 어느 시점에선가 그 터무니없어 보이는 방법 중에 하나가 작동할 것이다. 여기에 컴퓨터를 인간 수준의 지능 정도로 만들 수 있는 가장 많이 나오는 세 가지 전략들이 있다:
1) Plagiarize the brain. 뇌를 따라해.
.................The science world is working hard on reverse engineering the brain to figure out how evolution made such a rad thing—optimistic estimates say we can do this by 2030. Once we do that, we’ll know all the secrets of how the brain runs so powerfully and efficiently and we can draw inspiration from it and steal its innovations. One example of computer architecture that mimics the brain is the artificial neural network. It starts out as a network of transistor “neurons,” connected to each other with inputs and outputs, and it knows nothing—like an infant brain.
.................과학 세계는 인간의 뇌가 어떻게 이렇게 놀라운 지능을 가질 수 있는지 파악하기 위해 뇌를 역설계하는 데에 열심히 연구하고 있다. 뇌를 역설계 한다는 것은 뇌의 신경세포를 분해해서 각 신경 세포의 기능을 면밀히 분석하는 연구를 의미한다. 이런 뇌의 역설계는 좀 낙관적으로 예측하면 2030년 이면 가능할 것이라고 합니다. 일단 우리가 뇌의 역설계가 완성되면, 뇌가 어떻게 그렇게 강력하고 효율적으로 작동할 수 있는지에 관한 비밀을 풀 수 있을 것이고 이러한 연구 결과에 근거해서 강한 인공지능 개발에 활용할 수 있고 더 나아가 뇌의 여러 탁월하게 진화된 방식을 강한 인공지능 개발에 적용할 수 있게 된다. 뇌를 모방하는 컴퓨터의 한 예는 인공적인 신경 연결망이다. 이러한 컴퓨터는 ‘신경세포’라는 트랜지스터의 연결망으로 시작하는데 이러한 신경 세포망은 입력과 출력으로 서로 연결되어있다. 하지만 이 컴퓨터는 유아의 뇌처럼 아무 것도 모른다.
The way it “learns” is it tries to do a task, say handwriting recognition, and at first, its neural firings and subsequent guesses at deciphering each letter will be completely random. But when it’s told it got something right, the transistor connections in the firing pathways that happened to create that answer are strengthened; when it’s told it was wrong, those pathways’ connections are weakened. After a lot of this trial and feedback, the network has, by itself, formed smart neural pathways and the machine has become optimized for the task. The brain learns a bit like this but in a more sophisticated way, and as we continue to study the brain, we’re discovering ingenious new ways to take advantage of neural circuitry.
컴퓨터가 ‘배우는’ 방식은 컴퓨터가 필기체 글씨를 인식하는 것과 같은 임무를 하려고 노력하는 것이다. 처음에는 컴퓨터는 뇌의 신경망의 발화와 같은 임무를 배우려고 애쓰는 것이다. 각각의 글자를 해독하는 그 이후의 추측들은 전적으로 무작위로 일어난다. 하지만 컴퓨터에게 올바르게 임무가 수행되었다고 전달되면 그 답을 우연히 만들어 냈던 트랜지스터의 연결망이 강화 된다; 만약 컴퓨터가 임무가 잘못 수행되었다고 하면 그 트랜지스터 연결망은 약화된다. 이러한 수많은 시행착오와 여러 피드백을 받은 후에, 그 연결망은 그 자체로 스마트한 트랜지스터 연결망을 형성한다. 그리고 그 컴퓨터는 그 임무를 위해 최적화된다. 인간의 뇌가 이렇게 학습한다. 물론 컴퓨터보다 더 정교한 방식으로 인간의 뇌는 학습한다. 우리가 인간의 뇌를 계속해서 연구한다면, 우리는 신경세포회로망을 활용할 수 있는 독창적인 새로운 방식을 발견하게 될 것이다.
More extreme plagiarism involves a strategy called “whole brain emulation,” where the goal is to slice a real brain into thin layers, scan each one, use software to assemble an accurate reconstructed 3-D model, and then implement the model on a powerful computer. We’d then have a computer officially capable of everything the brain is capable of—it would just need to learn and gather information. If engineers get really good, they’d be able to emulate a real brain with such exact accuracy that the brain’s full personality and memory would be intact once the brain architecture has been uploaded to a computer. If the brain belonged to Jim right before he passed away, the computer would now wake up as Jim (?), which would be a robust human-level AGI, and we could now work on turning Jim into an unimaginably smart ASI, which he’d probably be really excited about.
더 극단적인 인간의 뇌의 모방은 ‘전적인 뇌의 모방’이라고 불리는 전략과 관계가 있다. ‘전적인 뇌의 모방’의 목적은 실제 인간의 뇌를 얇은 층으로 잘라서, 각각의 뇌의 층을 스캔한 다음, 소프트웨어를 이용해 이 뇌의 각 층을 정확하게 재구성한 3차원 모델을 만든다. 그런 후에 이 3차원 모델을 강력한 컴퓨터에 실행시킨다. 우리는 그러면 인간의 뇌가 할 수 있는 모든 것을 할 수 있는 컴퓨터를 갖게 될 것이다. 그러면 이 컴퓨터는 단지 배우고 정보를 수집하기만 하면 된다. 만약 컴퓨터 공학자가 정말 성공한다면, 이들은 실제 인간의 뇌를 매우 정확하게 모방할 수 있을 것이다. 그 결과 그 모방된 뇌가 가지는 완전한 인격과 기억이 하나도 손상되지 않은 채로 컴퓨터에 업로드될 것이다. 만약 그 컴퓨터에 업로드된 뇌가 죽기 직전의 짐의 것이라면 그 컴퓨터는 이제 짐으로 깨어날 것이다. 그리고 이 짐으로 깨어난 컴퓨터는 강력한 인간 지능 수준의 강한 인공지능이 될 것이다. 우리는 그 때부터 짐을 상상 불가능할 정도로 똑똑한 초강력인공지능으로 바꾸는 연구를 할 수 있게 될 것이다. 그리고 이것에 대해 짐은 매우 흥분하게 될 것이다.
How far are we from achieving whole brain emulation? Well so far, we’ve not yet just recently been able to emulate a 1mm-long flatworm brain, which consists of just 302 total neurons. The human brain contains 100 billion. If that makes it seem like a hopeless project, remember the power of exponential progress—now that we’ve conquered the tiny worm brain, an ant might happen before too long, followed by a mouse, and suddenly this will seem much more plausible.
우리는 2015년 현재 기준으로 완전한 인간의 뇌의 모방을 하는데 어느 정도까지를 이루어냈을까? 지금까지 인간은 아직 멀었다. 최근에 1 밀리미터 길이의 편형동물의 뇌를 모방할 수 있게 되었다. 왜냐하면 이 동물의 전체 신경세포의 수가 겨우 302개 정도 밖에 안 되기 때문이다. 인간 뇌의 신경세포는 천 조개 정도다. 만약 이 완전한 뇌의 모방이 희망이 없는 계획이라고 여러분이 판단하고 있다면, 기하급수적인 진보의 힘을 기억하기 바란다. 인간이 아주 작은 벌레의 뇌를 정복했기 때문에 곧 개미의 뇌, 그리고 머지않아 쥐의 뇌 정도가 모방이 가능하게 될 것이다. 그리고 갑자기 인간의 뇌의 완전한 모방은 훨씬 더 가능성이 높아 보일 것이다.
2) Try to make evolution do what it did before but for us this time.
진화가 과거에 했던 것을 하게 해라 하지만 이번에는 우리 인간을 위해.
.....................So how can we simulate evolution to build AGI? The method, called “genetic algorithms,” would work something like this: there would be a performance-and-evaluation process that would happen again and again (the same way biological creatures “perform” by living life and are “evaluated” by whether they manage to reproduce or not). A group of computers would try to do tasks, and the most successful ones would be bred with each other by having half of each of their programming merged together into a new computer. The less successful ones would be eliminated. Over many, many iterations, this natural selection process would produce better and better computers. The challenge would be creating an automated evaluation and breeding cycle so this evolution process could run on its own....................
.................그러므로 우리가 어떻게 강한 인공지능을 만들기 위해 시뮬레이션 할 수 있을까? ‘유전자 알고리즘’이라고 불리는 방법은 다음과 같이 작동 한다: 반복해서 발생하는 실행과 평가과정이 있을 것이다. 생명체가 인생을 ‘살아봄으로써’ 생명체가 번식이 가능한지 그렇지 못한지를 ‘평가되는’ 방식과 똑 같다. 일련의 여러 컴퓨터들은 여러 임무를 수행하려고 애쓸 것이다. 그리고 가장 성공적인 컴퓨터들이 서로 짝짓기 함으로써 각각의 컴퓨터들이 가졌던 프로그램을 하나의 새로운 컴퓨터를 만들기 위해 합쳐진다. 덜 성공적인 컴퓨터들은 이 과정에서 제거될 것이다. 수많은 이와 같은 과정의 반복을 통해서 이러한 자연 선택 과정은 점점 더 좋은 컴퓨터를 만들어 낼 것이다. 이것을 성취하기 위해서는 자동화된 평가와 성공적인 컴퓨터들 사이의 결합을 가능하게 만드는 방법을 만들어 내야 한다. 그리고 이러한 방법은 이 컴퓨터들로 하여금 스스로 진화의 과정을 경험하게 만들 것이다..................
3) Make this whole thing the computer’s problem, not ours.
강한 인공지능을 개발하는 일을 우리 일이 아니라 컴퓨터의 일로 만들어라.
.............But it might be the most promising method we have.
하지만 이 방법이 우리가 가진 것 중에 가장 가능성 있는 방법일 수 도 있다.
The idea is that we’d build a computer whose two major skills would be doing research on AI and coding changes into itself—allowing it to not only learn but to improve its own architecture. We’d teach computers to be computer scientists so they could bootstrap their own development. And that would be their main job—figuring out how to make themselves smarter. More on this later.
이 방법은 우리가 한 컴퓨터를 만드는데 이 컴퓨터의 주된 두 가지 기술은 인공지능에 관해 연구를 하게하고 이 컴퓨터가 스스로에 대한 수정을 프로그램하도록 하는 것이다. 즉, 컴퓨터 스스로 학습할 수 있게 하도록 할 뿐 만 아니라 컴퓨터의 구조 자체를 업그레이드 할 수 있게 만드는 것이다. 우리는 컴퓨터에게 컴퓨터 과학자가 되라고 가르치게 될 것이다. 그래서 이 컴퓨터들이 자기 자신의 발전을 스스로 이루어 낼 수 있도록 하는 것이다. 그리고 이 컴퓨터에게는 자기 자신을 더 똑똑하게 만드는 법을 파악하는 일이 자신의 주된 업무가 될 것이다.
All of This Could Happen Soon 이러한 모든 것들이 곧 일어날 수 있다
Rapid advancements in hardware and innovative experimentation with software are happening simultaneously, and AGI could creep up on us quickly and unexpectedly for two main reasons:
하드웨어나 소프트웨어와 관련된 혁신적인 실험들이 동시에 일어나고 있다. 강한 인공지능은 두 가지 주된 이유 때문에 예상 못할 정도로 빠르게 우리 앞에 등장할 수 있다:
1) Exponential growth is intense and what seems like a snail’s pace of advancement can quickly race upwards—this GIF illustrates this concept nicely:
기학급수적인 발전이 강렬하고, 달팽이 속도처럼 보이던 진보가 빠르게 발전할 수 있다:
2) When it comes to software, progress can seem slow, but then one epiphany can instantly change the rate of advancement (kind of like the way science, during the time humans thought the universe was geocentric, was having difficulty calculating how the universe worked, but then the discovery that it was heliocentric suddenly made everything much easier). Or, when it comes to something like a computer that improves itself, we might seem far away but actually be just one tweak of the system away from having it become 1,000 times more effective and zooming upward to human-level intelligence.
소프트웨어에 관한 한 발전은 느려 보일 수 있다. 하지만 어떤 하나의 통찰이 즉시 진보의 속도를 바꿀 수 있다. 우주가 지구 중심적이라고 생각하던 시기에는 우주가 작동하는 방식을 계산하기가 매우 어려웠다. 하지만 태양 중심적인 사고가 갑자기 이 모든 것들을 훨씬 더 쉽게 만들었던 것처럼 말이다. 자기 자신을 향상시키는 컴퓨터에 관해서도, 우리는 아직 갈 길이 먼 것처럼 보일 수 있다. 하지만 실제로 시스템에 대한 단 한 번의 변경도 천 배나 더 효과적이게 만들 수 있고 강한 인공지능으로 급상승하게 만들 수 도 있을 것이다.
The Road From AGI to ASI 강한 인공지능에서 초강력 인공지능으로
At some point, we’ll have achieved AGI—computers with human-level general intelligence. Just a bunch of people and computers living together in equality. Oh actually not at all.
미래의 어느 시점에선가, 우리는 인간 수준의 일반지능을 갖춘 강한 인공지능 컴퓨터를 가지게 될 것이다. 수많은 사람들과 컴퓨터들이 평등하게 살아 갈 수 도 있을 것이다. 실제로는 전혀 인공지능과 인간은 평등하지 않을 것이다.
The thing is, AGI with an identical level of intelligence and computational capacity as a human would still have significant advantages over humans. Like:
실상은 인간과 똑 같은 지능과 연산능력을 가진 강한 인공지능은 인간 보다 몇몇 중요한 장점을 가지게 될 것이다. 예를 들면:
Hardware: 하드웨어
◾Speed. The brain’s neurons max out at around 200 Hz, while today’s microprocessors (which are much slower than they will be when we reach AGI) run at 2 GHz, or 10 million times faster than our neurons. And the brain’s internal communications, which can move at about 120 m/s, are horribly outmatched by a computer’s ability to communicate optically at the speed of light.
스피드. 인간 뇌의 신경세포들은 약 200 헤르츠가 최고이다. 반면에 오늘날의 마이크로프로세서는 2 기가 헤르츠 즉, 인간의 신경세포보다 천만 배 빠르다. 그리고 인간 뇌의 내부의사소통은 초당 약 120미터를 이동할 수 있는 반면에 컴퓨터는 거의 빛의 속도로 정보를 주고받을 수 있기 때문에 인간의 뇌는 속도 면에서 컴퓨터와 비교 대상 자체가 되지 못한다.
◾Size and storage. The brain is locked into its size by the shape of our skulls, and it couldn’t get much bigger anyway, or the 120 m/s internal communications would take too long to get from one brain structure to another. Computers can expand to any physical size, allowing far more hardware to be put to work, a much larger working memory (RAM), and a long-term memory (hard drive storage) that has both far greater capacity and precision than our own.
사이즈와 저장량. 인간 뇌는 우리의 두개골의 모양에 의해 뇌의 사이즈가 제한된다, 그리고 현재보다 훨씬 더 커질 수 없다. 한 뇌구조에서 다른 뇌구조에 도착하는 데에 초당 120미터는 너무 길어서 도달할 수 없다. 반면에 컴퓨터들은 어떤 물리적인 크기로도 확대될 수 있다. 그리고 훨씬 더 많은 하드웨어를 설치할 수 있다. 물론 메모리도 인간의 뇌보다 훨씬 크다. 컴퓨터의 하드 드라이브는 인간 뇌의 장기 기억보다 훨씬 더 강력하고 더 정확하다.
◾Reliability and durability. It’s not only the memories of a computer that would be more precise. Computer transistors are more accurate than biological neurons, and they’re less likely to deteriorate (and can be repaired or replaced if they do). Human brains also get fatigued easily, while computers can run nonstop, at peak performance, 24/7.
신뢰성과 내구성. 더 정확한 것은 컴퓨터의 메모리 뿐 만이 아니다. 컴퓨터의 트랜지스터들은 인간 뇌의 신경세포보다 더 정확하다. 그리고 이 트랜지스터들은 언제든 수선되고 대체될 수 있다. 인간의 뇌는 반면에 너무 쉽게 피곤해지지만 컴퓨터들은 최고의 속도로 쉬지 않고 달린다.
Software: 소프트웨어:
◾Editability, upgradability, and a wider breadth of possibility. Unlike the human brain, computer software can receive updates and fixes and can be easily experimented on. The upgrades could also span to areas where human brains are weak. Human vision software is superbly advanced, while its complex engineering capability is pretty low-grade. Computers could match the human on vision software but could also become equally optimized in engineering and any other area.
수정가능성과 업그레이드가능성, 그리고 더 폭넓은 가능성. 인간의 뇌와는 다르게 컴퓨터 소프트웨어는 업데이트와 수정을 받을 수 있고 쉽게 실험될 수 있다. 업그레이드는 또한 인간의 뇌가 약한 부분에 까지 확대될 수 있다. 인간의 시각 소프트웨어는 놀라울 정도로 진화되어있다. 반면에 컴퓨터의 복잡한 엔지니어링 기술능력은 상당히 낮은 단계이다. 컴퓨터들은 시력 면에 있어서 인간과 경쟁할 수 있다. 하지만 공학과 다른 기타 영역에 있어 컴퓨터들은 또한 똑같이 최적화 될 수 있다.
◾Collective capability. Humans crush all other species at building a vast collective intelligence. Beginning with the development of language and the forming of large, dense communities, advancing through the inventions of writing and printing, and now intensified through tools like the internet, humanity’s collective intelligence is one of the major reasons we’ve been able to get so far ahead of all other species. And computers will be way better at it than we are. A worldwide network of AI running a particular program could regularly sync with itself so that anything any one computer learned would be instantly uploaded to all other computers. The group could also take on one goal as a unit, because there wouldn’t necessarily be dissenting opinions and motivations and self-interest, like we have within the human population.
집단적인 능력. 인간은 거대한 집합적인 지능을 만들 때에 다른 모든 종의 생명체들을 짓밟았다. 언어의 발달 그리고 거대하고 조밀한 공동체의 발달, 문자와 인쇄를 통한 진보 그리고 인터넷과 같은 도구와 함께 인류의 집단 지성은 우리가 지구상의 모든 생물들 보다 앞설 수 있어왔던 주된 이유들 중에 하나다. 그리고 컴퓨터는 현재의 인간보다 더 앞서게 만들 것이다. 특정한 프로그램을 돌리는 인공지능의 전 세계적인 연결망은 규칙적으로 자기 자신과 동시에 작동한다. 이를 통해서 컴퓨터가 배우는 어떤 것이든 즉시 다른 모든 컴퓨터에 업로드될 것이다. 이 인공지능 연결망은 또한 하나의 개체로서 한 목표를 떠맡게 될 것이다. 왜냐하면 이 인공지능의 연결망들은 인간이 자신만의 견해와 동기, 그리고 자기 이해를 가진 것처럼 반드시 반대되는 의견과 동기 그리고 자기이해를 갖지는 않을 것이기 때문이다.
AI, which will likely get to AGI by being programmed to self-improve, wouldn’t see “human-level intelligence” as some important milestone—it’s only a relevant marker from our point of view—and wouldn’t have any reason to “stop” at our level. And given the advantages over us that even human intelligence-equivalent AGI would have, it’s pretty obvious that it would only hit human intelligence for a brief instant before racing onwards to the realm of superior-to-human intelligence.
인공지능은 결국 자기를 스스로 향상시키도록 프로그램 된 강한 인공지능으로 발전하게 될 것이다. 이 강한 인공지능은 자신이 인간과 같은 지능을 갖게 되는 것을 중요한 발전의 이정표로 간주하지 않을 것이다. 단지 인간과 지능이 같아진 진보는 우리 인간의 관점에서만 인간에게 의미 있는 이정표일 뿐이기 때문이다. 그리고 이 강한 인공지능은 인간의 지능 단계에만 머무를 아무런 이유가 없다. 인간과 같은 수준의 강한 인공지능의 여러 장점을 고려하면, 아주 짧은 순간 동안만 인간의 지능에 머무르고 인간보다 더 월등한 수준으로 계속해서 진보하게 될 것이다.
Intelligence 지능
So as AI zooms upward in intelligence toward us, we’ll see it as simply becoming smarter, for an animal. Then, when it hits the lowest capacity of humanity—Nick Bostrom uses the term “the village idiot”—we’ll be like, “Oh wow, it’s like a dumb human. Cute!” The only thing is, in the grand spectrum of intelligence, all humans, from the village idiot to Einstein, are within a very small range—so just after hitting village idiot level and being declared to be AGI, it’ll suddenly be smarter than Einstein and we won’t know what hit us.
그러므로 인공지능이 지능 면에서 우리 인간 수준을 향해서 진보하기 시작하면, 우리는 그 인공지능을 단지 동물보다 더 똑똑하다고 간주할 것이다. 이 일 후에 이 인공지능이 옥스퍼드 철학자 닉 보스트롬이 사용하는 표현인 ‘마을 머저리’의 지능을 넘어서면, 우리는 ‘와우, 인공지능이 마을 머저리 정도의 지능을 갖게 되었어! 정말 귀여운데!’ 하지만 지능의 스펙트럼에서 마을 머저리와 아인슈타인까지의 인간의 지능은 매우 작은 구간을 차지한다. 그렇기 때문에 인공지능이 마을 머저리의 지능을 넘어서는 순간, 곧 강한 인공지능이 출현하게 되고 급기야는 이 인공지능은 아인슈타인보다 더 똑똑해진다. 그 다음부터는 이 인공지능이 어디까지 똑똑해질지는 아무도 모른다.
And what happens…after that?; An Intelligence Explosion
인공지능이 아인슈타인을 넘으면 무슨 일이 벌어질까?; 인공지능 혁명
I hope you enjoyed normal time, because this is when this topic gets unnormal and scary, and it’s gonna stay that way from here forward. I want to pause here to remind you that every single thing I’m going to say is real—real science and real forecasts of the future from a large array of the most respected thinkers and scientists. Just keep remembering that.
필자는 여러분이 현재의 정상적인 시대를 즐겼기를 희망한다. 왜냐하면, 이 때는 갑자기 인공지능 주제가 비정상적인 상황이 되면서 무서운 상황으로 치 닫을 수 있기 때문이다. 그리고 그 순간부터 계속해서 그 상태를 유지할 것이다. 잠깐만요! 이쯤에서 여러분에게 다시 말씀드리고 싶은 것은 필자가 이 글에서 말씀드리고 모든 것은 실제 과학이라는 사실과 폭 넓은 범위의 가장 존경받는 사상가와 과학자들로부터 얻은 미래에 관한 전망이라는 사실이라는 점입니다. 이 점을 계속해서 기억하세요.
Anyway, as I said above, most of our current models for getting to AGI involve the AI getting there by self-improvement. And once it gets to AGI, even systems that formed and grew through methods that didn’t involve self-improvement would now be smart enough to begin self-improving if they wanted to.
어쨌든 위에서 필자가 말한 것처럼 강한 인공지능으로 가기 위한 현재의 인공지능 대부분은 자기 스스로 향상시키는 기능과 관련 있는 것들이다. 일단 강한 인공지능이 만들어지면 심지어 자기 향상 기능과는 관계없던 방법으로 형성되고 발전해 왔던 인공지능도 자기 향상기능을 원한다면 충분히 이 기능이 가능할 정도로 똑똑해 질 것이다.
And here’s where we get to an intense concept: recursive self-improvement. It works like this—
그리고 여기서 우리는 강력한 개념하나를 만나게 된다: 반복되는 자기 향상. 이 기능은 다음과 같이 작동 한다:
An AI system at a certain level—let’s say human village idiot—is programmed with the goal of improving its own intelligence. Once it does, it’s smarter—maybe at this point it’s at Einstein’s level—so now when it works to improve its intelligence, with an Einstein-level intellect, it has an easier time and it can make bigger leaps. These leaps make it much smarter than any human, allowing it to make even bigger leaps. As the leaps grow larger and happen more rapidly, the AGI soars upwards in intelligence and soon reaches the super-intelligent level of an ASI system. This is called an Intelligence Explosion, and it’s the ultimate example of The Law of Accelerating Returns.
예를 들면, 마을 머저리 수준의 인공지능은 자기 자신의 지능을 개선하는 목표를 가지게 프로그램 된다. 일단 그렇게 되면 이 인공지능은 더 똑똑해진다. 이 인공지능이 아인슈타인의 지능을 얻게 되면 이 인공지능은 자기 향상에 있어 이전 단계보다 더 쉬워진다. 그리고 더 높은 지능의 도약을 이룰 수 있다. 이러한 지능의 비약적인 발전은 이 인공지능을 다른 어떤 인간 보다 더 똑똑하게 만들 것이다. 이어서 이러한 인공지능의 도약은 이전 보다 훨씬 더 높은 지능의 도약을 가능하게 만든다. 이러한 지능의 상승이 더 커지고 더 빠른 속도로 계속해서 지속된다면 이 강한 인공지능의 지능은 급상승하게 되고 곧 초강력 인공지능의 정도까지 발전하게 될 것이다. 이러한 상황을 ‘인공지능의 폭발’ 혹은 세종의 표현을 빌리면 ‘인공지능의 혁명’이라 부른다. 이러한 인공지능의 혁명이 변화 가속의 법칙의 궁극적인 예가 된다.
There is some debate about how soon AI will reach human-level general intelligence. The median year on a survey of hundreds of scientists about when they believed we’d be more likely than not to have reached AGI was 2040—that’s only 25 years from now, which doesn’t sound that huge until you consider that many of the thinkers in this field think it’s likely that the progression from AGI to ASI happens very quickly. Like—this could happen:
얼마나 빠르게 인공지능이 인간 수준의 지능까지 도달할 수 있을지에 대한 많은 토론들이 있다. 수 백 명의 과학자들에게 그들이 ‘언제 강한 인공지능에 도달할 수 있을 것 같냐?’는 질문에 대한 답의 중간 값이 2040년 이었다. 지금으로부터 겨우 25년 정도 남았다. 그리고 이 25년의 시간은 그리 길어 보이지 않는다. 그리고 이 인공지능 분야의 사상가들의 대부분은 강한 인공지능에서 초강력 인공지능으로의 진보는 매우 빨리 일어날 것이라고 생각 한다:
It takes decades for the first AI system to reach low-level general intelligence, but it finally happens. A computer is able to understand the world around it as well as a human four-year-old. Suddenly, within an hour of hitting that milestone, the system pumps out the grand theory of physics that unifies general relativity and quantum mechanics, something no human has been able to definitively do. 90 minutes after that, the AI has become an ASI, 170,000 times more intelligent than a human.
낮은 수준의 최초 강한 인공지능에 이르는데 수 십 년 정도 걸린다. 하지만 이 일은 결국 일어난다. 컴퓨터는 4 살짜리 아이만큼 자기 주변 세계를 이해할 수 있게 된다. 갑자기 인간 지능 수준의 인공지능이 도달하고 한 시간 안에 상대성 이론과 양자 역학을 통합하는 위대한 물리학 이론을 만들어 낼 수 있다. 이 두 이론의 통합은 어떤 인간도 할 수 없었던 과제이다. 이 일이 일어난 90분 후에 이 강한 인공지능은 초강력 인공지능이 된다. 인간보다 십칠만 배 더 똑똑한 인공지능이다.
Super-intelligence of that magnitude is not something we can remotely grasp, any more than a bumblebee can wrap its head around Keynesian Economics. In our world, smart means a 130 IQ and stupid means an 85 IQ—we don’t have a word for an IQ of 12,952.
초강력 인공지능의 지능 수준은 우리가 파악할 수 있는 수준의 지능이 아니다. 범블비 자동차가 케인즈의 경제학을 이해할 수 있는 것 그 이상이다. 우리 세계에서 정말 똑똑하다 함은 아이큐 130 정도를 넘는 것을 의미한다. 그리고 멍청함은 아이큐 85정도를 의미한다. 우리 인류는 아직 아이큐가 12,952란 숫자를 가진 적은 없다.
What we do know is that humans’ utter dominance on this Earth suggests a clear rule: with intelligence comes power. Which means an ASI, when we create it, will be the most powerful being in the history of life on Earth, and all living things, including humans, will be entirely at its whim—and this might happen in the next few decades.
우리가 진짜 아는 것은 이 지구를 지배하면서 알게 된 교훈이다: 지능이 권력이다. 이것은 우리가 초강력 인공지능을 만들 때 초강력 인공지능이 지구 생명의 역사상 가장 강력한 존재가 될 것이라는 점을 의미한다. 인간을 포함에 모든 살아 있는 생명체의 운명의 이 초강력 인공지능의 변덕에 달려 있다. 그리고 이런 초강력 인공지능의 출현이 향후 2-30년 사이에 일어날지도 모른다.
If our meager brains were able to invent wifi, then something 100 or 1,000 or 1 billion times smarter than we are should have no problem controlling the positioning of each and every atom in the world in any way it likes, at any time—everything we consider magic, every power we imagine a supreme God to have will be as mundane an activity for the ASI as flipping on a light switch is for us. Creating the technology to reverse human aging, curing disease and hunger and even mortality, reprogramming the weather to protect the future of life on Earth—all suddenly possible. Also possible is the immediate end of all life on Earth. As far as we’re concerned, if an ASI comes to being, there is now an omnipotent God on Earth—and the all-important question for us is: Will it be a nice God?
만약 인간의 약한 뇌들이 와이파이를 만들고 현재 인간 보다 백배 혹은 천배 혹은 10억 배 더 똑똑해지면 우리 세계의 모든 원자와 그 원자의 위치를 조종하는 데에 큰 어려움이 없을 것이다. 우리가 마술과 같다고 여기는 모든 것들, 우리가 최고의 신이 가졌다고 상상하는 모든 힘은 초강력 인공지능에게는 우리가 전등 스위치를 켜는 것과 같이 아주 일상적인 활동이 될 것이다. 인간의 노화를 되돌리는 기술, 질병과 기아를 해결하는 기술 그리고 심지어 영생을 가능하게 하는 기술을 만들어 내는 일, 지구 생명의 미래를 보호하기 위해 기후를 다시 프로그램 하는 일들이 갑작스럽게 가능해질 것이다. 또한 어는 순간에 지구의 모든 생명체가 멸종하는 것도 가능하다. 우리가 아는 한, 만약 초강력 인공지능이 존재하게 된다면 인간은 이제 전지전능한 신을 지구상에 가지게 될 것이다. 이런 상황에서 가장 중요한 질문은 다음과 같다: 이 전지전능한 신은 우리 인간에게 착한 신이 될까?
* 약간의 오역이 있을 수 있어 원문과 같이 올립니다. 참고하시기 바랍니다.
Bibliography
Tim Urban, 'The AI Revolution: The Road to Super-intelligence' WAIT BUT WHY [website], (updated 22 Jan. 2015) <http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html>, accessed 24 Jan. 2016.