비즈니스 세계의 인공지능 (5/6)
에릭 브린욜프슨 교수와 앤드류 맥아피 교수는 2017년 7월 하버드 비즈니스 리뷰에 '비즈니스 세계의 인공지능 (The Business of Artificial Intelligence)'이라는 글을 기고했습니다. 이 글은 데이터에 기반한 의사 결정을 위해 비즈니스 업계에서 AI를 어떻게 활용하는 지를 설명합니다. 두 교수는 '제2의 기계 시대'라는 책을 저술하였고, 인공지능과 관련된 많은 활동을 함께 하고 있습니다.
RISKS AND LIMITS
위험과 한계
The second wave of the second machine age brings with it new risks. In particular, machine learning systems often have low “interpretability,” meaning that humans have difficulty figuring out how the systems reached their decisions. Deep neural networks may have hundreds of millions of connections, each of which contributes a small amount to the ultimate decision. As a result, these systems’ predictions tend to resist simple, clear explanation. Unlike humans, machines are not (yet!) good storytellers. They can’t always give a rationale for why a particular applicant was accepted or rejected for a job, or a particular medicine was recommended. Ironically, even as we have begun to overcome Polanyi’s Paradox, we’re facing a kind of reverse version: Machines know more than they can tell us.
제2차 기계 시대의 두 번째 물결은 새로운 위험을 불러옵니다. 특히, 머신 러닝 시스템은 대개 설명하는 능력이 떨어집니다. 다시 말해서 어떻게 시스템이 결정을 했는 지를 인간이 이해하기 어렵습니다. 딥 신경망은 수 억 개의 연결을 가질 수도 있고, 각각의 연결은 최종 결정에 미미하게 공헌할 것입니다. 그 결과, 시스템들의 예측은 단순하고 명확하게 설명하기 어렵습니다. 사람과 달리, 기계는 (아직까지) 훌륭한 스토리텔러가 아닙니다. 기계들은 특정 응모자는 합격시키거나 불합격시킨 이유와 특정 약을 추천하는 이유를 설명하지 못합니다. 아이러니하게도 우리가 폴라니의 역설을 극복하기 시작하자 일종의 반대 상황에 직면했습니다. 기계는 그들이 우리에게 말할 수 있는 것보다 더 많은 것을 압니다.
This creates three risks. First, the machines may have hidden biases, derived not from any intent of the designer but from the data provided to train the system. For instance, if a system learns which job applicants to accept for an interview by using a data set of decisions made by human recruiters in the past, it may inadvertently learn to perpetuate their racial, gender, ethnic, or other biases. Moreover, these biases may not appear as an explicit rule but, rather, be embedded in subtle interactions among the thousands of factors considered.
머신러닝 시스템은 세 가지 위험이 있습니다. 첫째, 머신은 설계자가 의도하지 않았지만 시스템이 트레이닝하는 과정에서 바이어스 (편향성)가 숨어들 가능성이 있습니다. 예를 들면, 어떤 시스템이 과거에 인간 리크루터의 의사 결정에 의해 만들어진 데이타셋을 사용하여 입사 지원자들의 면접 여부를 결정하는 법을 학습한다면, 그 시스템은 인종, 성별, 민족 등의 다양한 바이어스를 학습할지도 모릅니다. 더욱이 이런 바이어스들은 명시적 규칙으로 드러나지 않고 수천 가지의 요소들 가운데 작은 하나로 내장될지도 모릅니다.
A second risk is that, unlike traditional systems built on explicit logic rules, neural network systems deal with statistical truths rather than literal truths. That can make it difficult, if not impossible, to prove with complete certainty that the system will work in all cases — especially in situations that weren’t represented in the training data. Lack of verifiability can be a concern in mission-critical applications, such as controlling a nuclear power plant, or when life-or- death decisions are involved.
두 번째 위험은 전통적인 시스템은 명시적이고 논리적 규칙에 기반하여 만들어지는 것과 달리, 신경망 시스템들은 문자 그대로의 진실보다 통계적 진실을 다룹니다. 시스템이 트레이닝 데이터에 포함되지 않은 상황을 포함한 모든 상황에서 완벽하게 동작할 것이라고 증명하기 어렵습니다. 부족한 검증 가능성은 핵발전소를 제어하거나 생사를 가르는 결정을 내리는 것과 같은 미션-크리티컬 한 상황에서 인공지능의 활용이 어려울 수 있습니다.
Third, when the ML system does make errors, as it almost inevitably will, diagnosing and correcting exactly what’s going wrong can be difficult. The underlying structure that led to the solution can be unimaginably complex, and the solution may be far from optimal if the conditions under which the system was trained change.
세 번째, 머신러닝 시스템이 오류를 일으킬 때 무엇이 잘못되었는 지를 정확히 진단하고 수정하는 것이 어려울 수 있습니다. 솔루션을 도출하는 기본 구조는 상상 이상으로 복잡하고, 솔루션은 최적화와 거리가 멀 지도 모릅니다. 시스템이 트레이닝을 통해 학습한 조건에 변화가 있다면
While all these risks are very real, the appropriate benchmark is not perfection but the best available alternative. After all, we humans, too, have biases, make mistakes, and have trouble explaining truthfully how we arrived at a particular decision. The advantage of machine-based systems is that they can be improved over time and will give consistent answers when presented with the same data.
모든 위험들은 매우 현실적인 반면에, 적절한 기준은 완벽하지 않진 않더라도 최적의 대안이어야 합니다. 결국, 우리 인간도 바이어스가 있고, 실수를 하고, 어떻게 우리가 특정 결정에 도달했는 지를 진실하게 설명하는 데 곤란을 겪습니다. 기계의 장점은 시간이 지날수록 개선될 수 있고 같은 데이터가 주어지면 일관된 답을 내놓는다는 것입니다.
Does that mean there is no limit to what artificial intelligence and machine learning can do? Perception and cognition cover a great deal of territory — from driving a car to forecasting sales to deciding whom to hire or promote. We believe the chances are excellent that AI will soon reach superhuman levels of performance in most or all of these areas. So what won’t AI and ML be able to do?
그것이 인공지능과 머신러닝이 할 수 있는 것은 한계가 없다는 의미일까요? 지각과 인지는 매우 광범위한 영역을 담당합니다. 자동차 운전부터 매출 예상과 채용과 승진 결정까지. 우리는 인공지능이 곧 모든 영역 또는 대부분의 영역에서 인간보다 뛰어난 성과를 낼 가능성이 높다고 믿습니다. 그렇다면 인공지능과 머신러닝이 할 수 없는 일은 무엇일까?
We sometimes hear “Artificial intelligence will never be good at assessing emotional, crafty, sly, inconsistent human beings — it’s too rigid and impersonal for that.” We don’t agree. ML systems like those at Affectiva are already at or beyond human-level performance in discerning a person’s emotional state on the basis of tone of voice or facial expression. Other systems can infer when even the world’s best poker players are bluffing well enough to beat them at the amazingly complex game Heads-up No-Limit Texas Hold’em. Reading people accurately is subtle work, but it’s not magic. It requires perception and cognition — exactly the areas in which ML is currently strong and getting stronger all the time.
우리는 때때로 "인공지능은 결코 감정적이고, 교묘하며, 은밀하고, 모순 덩어리인 사람을 평가하는 데 결코 능숙하지 않을 것이다. 너무 융통성이 없고 비인격적이다"라는 말을 듣습니다. 우리는 동의하지 않습니다. 어패티바 시스템 같은 머신러닝 시스템들은 사람의 말투나 표정을 토대로 감정 상태를 파악하는 능력이 인간 수준이거나 그 이상일 정도로 뛰어납니다. 포커 규칙 중에서도 복잡하기로 이름난 헤즈업 무제한 텍사스 홀덤 규칙에 따라 진행되는 시합에서, 세계 최고의 포커 플레이어들이 블러핑을 할 때 상대의 패를 예상할 수 있습니다. 사람을 정확히 읽는 것은 미묘한 작업이지 마법이 아닙니다. 다만 지각과 인지 기능을 요구합니다. 그 두 분야는 머신 러닝은 현재 뛰어난 성능을 보여주었고 시간이 지나면 더 향상될 것입니다.
A great place to start a discussion of the limits of AI is with Pablo Picasso’s observation about computers: “But they are useless. They can only give you answers.” They’re actually far from useless, as ML’s recent triumphs show, but Picasso’s observation still provides insight. Computers are devices for answering questions, not for posing them. That means entrepreneurs, innovators, scientists, creators, and other kinds of people who figure out what problem or opportunity to tackle next, or what new territory to explore, will continue to be essential.
컴퓨터에 대한 파블로 피카소의 관찰은 인공 지능의 한계를 논의하기 좋은 출발점입니다. "컴퓨터들은 쓸모가 없습니다. 그것들은 단지 답만을 할 뿐이기 때문이다" 그들은 실제로 쓸모없음과는 거리가 멉니다. 머신러닝의 최근 성과를 알고 있더라도 피카소의 관찰은 여전히 통찰력이 있습니다. 컴퓨터들은 질문에 응답하는 단말이지 질문을 던지는 단말이 아닙니다. 이것은 우리가 탐색해야 할 새로운 영역이나 해결해야 할 문제나 기회를 찾아내는 사람들, 기업가들, 혁신가들, 과학자들, 창작가들이 지속적으로 필수적일 것입니다.
Similarly, there’s a huge difference between passively assessing someone’s mental state or morale and actively working to change it. ML systems are getting quite good at the former but remain well behind us at the latter. We humans are a deeply social species; other humans, not machines, are best at tapping into social drives such as compassion, pride, solidarity, and shame in order to persuade, motivate, and inspire. In 2014 the TED Conference and the XPrize Foundation announced an award for “the first artificial intelligence to come to this stage and give a TED Talk compelling enough to win a standing ovation from the audience.” We doubt the award will be claimed anytime soon.
비슷하게도, 누군가의 정신 상태나 도덕성을 수동적으로 평가하는 일과 그것을 변화시키기 위해 적극적으로 일하는 것 사이에는 큰 차이가 있습니다. 머신러닝 시스템은 평가하는 일에는 너무 능숙하지만 변화시키는 일은 인간보다 훨씬 더 뒤처져있습니다. 우리 인간들은 매우 사회적인 동물입니다. 기계가 아닌 다른 인간들은 설득하고 동기를 부여하고 영감을 불어넣기 위해 열정, 자존심, 수치심과 같은 사회적 동기를 부여하는 일을 아주 잘합니다. 2014년 테드 강연과 엑스프라이즈 재단은 무대에서 관객들에게 기립박수를 받을 정도로 강렬한 테드 토크를 하는 최초의 인공지능에 상을 주겠다고 발표했습니다. 우리는 짧은 시간 안에 상이 주인을 찾을 거라는 것을 믿지 않습니다.
We think the biggest and most important opportunities for human smarts in this new age of superpowerful ML lie at the intersection of two areas: figuring out what problems to work on next, and persuading a lot of people to tackle them and go along with the solutions. This is a decent definition of leadership, which is becoming much more important in the second machine age.
우리는 초강력 머신러닝의 새로운 시대에 인간 지성을 위한 가장 크고 중요한 기회들이 두 영역의 교차점에 있다고 생각합니다. 해결해야 할 문제점을 찾아내는 것과 솔루션을 함께 만들어 가기 위해 사람들을 설득하는 것입니다. 이것은 리더십의 올바른 정의입니다. 그것들은 제2의 기계 시대에 더욱더 중요해졌습니다.
The status quo of dividing up work between minds and machines is falling apart very quickly. Companies that stick with it are going to find themselves at an ever-greater competitive disadvantage compared with rivals who are willing and able to put ML to use in all the places where it is appropriate and who can figure out how to effectively integrate its capabilities with humanity’s.
인간과 기계 사이의 작업을 구분하는 관행은 매우 빠르게 무너지고 있습니다. 이런 관행을 고집하는 기업들은 머신 러닝을 활용할 수 있는 영역이라면 어디라도 기꺼이 뛰어들거나 뛰어들 수 있는 기업, 머신 러닝의 역량과 인간의 역량을 효과적으로 통합해내는 기업과의 경쟁에서 비교 우위를 점유하지 못할 것입니다.
A time of tectonic change in the business world has begun, brought on by technological progress. As was the case with steam power and electricity, it’s not access to the new technologies themselves, or even to the best technologists, that separates winners from losers. Instead, it’s innovators who are open-minded enough to see past the status quo and envision very different approaches, and savvy enough to put them into place. One of machine learning’s greatest legacies may well be the creation of a new generation of business leaders.
기술의 진보에 의해 촉발된 비즈니스 세계에 지각변동의 시기가 도래했습니다. 증기력과 전기와 경우와 마찬가지로, 패자와 승자를 가르는 것은 신기술이나 최고 전문가의 보유 여부가 아닙니다. 대신에 지금과는 완전히 다른 접근법을 실행에 옮길 수 있는 열린 마음을 가진 혁신가들입니다. 머신 러닝의 가장 위대한 유산 중 하나는 새로운 세대의 비즈니스 리더의 등장일지도 모릅니다.
In our view, artificial intelligence, especially machine learning, is the most important general- purpose technology of our era. The impact of these innovations on business and the economy will be reflected not only in their direct contributions but also in their ability to enable and inspire complementary innovations. New products and processes are being made possible by better vision systems, speech recognition, intelligent problem solving, and many other capabilities that machine learning delivers.
인공지능, 특히 머신러닝은 이 시대의 가장 중요한 범용 기술입니다. 비즈니스와 경제에 이 혁신의 충격은 머신러닝의 직접적인 공헌뿐만 아니라 오늘날 여러 혁신에 가능성과 영감을 주고 있다는 것입니다. 신제품과 프로세스는 더 나은 비전 시스템, 음성 인식, 지능적인 문제 해결 등, 그리고 머신 러닝이 제공할 수 있는 많은 다른 역량에 의해 나타날 것입니다.
Some experts have gone even further. Gil Pratt, who now heads the Toyota Research Institute, has compared the current wave of AI technology to the Cambrian explosion 500 million years ago that birthed a tremendous variety of new life forms. Then as now, one of the key new capabilities was vision. When animals first gained this capability, it allowed them to explore the environment far more effectively; that catalyzed an enormous increase in the number of species, both predators and prey, and in the range of ecological niches that were filled. Today as well we expect to see a variety of new products, services, processes, and organizational forms and also numerous extinctions. There will certainly be some weird failures along with unexpected successes.
어떤 전문가들은 훨씬 더 나아갑니다. 도요타 연구소장 길 프랫은 인공 지능 기술의 물결을 생물종의 다양성이 폭발적으로 증가한 5억 년 전 캄브라이기와 비교했습니다. 그때나 지금이나 새로운 핵심 역량 시각입니다. 동물들이 시각을 처음 획득했을 때, 더 효과적으로 주위 환경을 탐색할 수 있었습니다. 그래서, 포식자와 피식자를 포함한 다수의 종들이 증가했고, 생태적 지위의 범위를 대폭 확장할 수 있었습니다. 오늘날 우리는 새로운 제품, 서비스, 프로세스, 그리고 조직 형태를 대멸종과 함께 목격하고 있습니다. 기이한 실패와 예기치 않은 성공사례가 나타날 것입니다.
Although it is hard to predict exactly which companies will dominate in the new environment, a general principle is clear: The most nimble and adaptable companies and executives will thrive. Organizations that can rapidly sense and respond to opportunities will seize the advantage in the AI-enabled landscape. So the successful strategy is to be willing to experiment and learn quickly. If managers aren’t ramping up experiments in the area of machine learning, they aren’t doing their job. Over the next decade, AI won’t replace managers, but managers who use AI will replace those who don’t
비록 어떤 기업이 새로운 환경을 지배할 것이지를 정확히 예측하기는 어려울지라도, 기본 원칙은 분명합니다. 가장 민첩하고 적응력이 뛰어난 기업들과 경영진들은 살아남을 것입니다. 기회를 빠르게 감지하고 반응하는 기업은 인공지능이 열어주는 가능성의 이점을 제대로 활용할 수 있을 것입니다. 따라서, 재빨리 실험하고 학습하려는 의지가 있어야만 성공할 수 있습니다. 만일 관리자가 머신러닝의 영역에서 실험에 박차를 가하지 않는다면, 그들은 일을 제대로 하지 못하는 것입니다. 다음 10년 동안, 인공지능은 관리자를 대체하지 않을 것입니다. 하지만 인공지능을 사용하는 관리자는 사용할 줄 모르는 관리자를 대체할 것입니다.
정리
2016년 여름을 기점으로 딥러닝 기반의 인공지능 기술이 급격히 발전하면서 우리는 새로운 문제에 직면해 있습니다. 기계가 예측한 결과를 인간이 이해하기 어려운 것입니다. 즉, 기계가 특정 응모자는 합격시키거나 불합격시킨 이유를 사람이 추적할 수 없습니다. 기계가 병을 진단하고 특정 약을 추천할 지라도 사람은 이유를 알 수가 없습니다. 폴라니의 역설과 반대로 기계는 우리에게 말할 수 있는 것보다 더 많은 것을 알고 있습니다.
기계는 우리에게 말할 수 있는 것보다
더 많은 것을 알고 있습니다.
머신 러닝 시스템은 세 가지 위험을 가지고 있습니다.
설계자가 의도하지 않더라도 기계가 트레이닝하는 과정에서 바이어스 (편향성)가 낄 수 있습니다.
(면접 인터뷰 여부를 결정하는 인공지능이 오래된 리크루터의 트레이닝 데이터를 이용한다면, 인종이나 성별이 영향을 미칠 수 있음)
머신 러닝은 실제 진실이 아닌 통계적 진실을 다룹니다
(트레이닝 데이터에 포함되지 않은 상황에 어떻게 동작할지 알 수 없음)
오류 발생 시 진단과 수정이 어렵습니다.
이런 세 가지 위험에도 불구하고 기계는 인간과 달리 시간이 지날수록 개선될 수 있고, 동일한 데이터에 일관된 답을 항상 제공합니다. 현재 인공지능은 인간의 표정을 통해 정신상태를 평가하고 대처하기도 합니다. 현대의 인공지능은 포커 챔피언들을 상대로 블러핑을 하면서 승리합니다. 그렇다고 인공지능은 할 수 없는 일이 없는 것은 아닙니다.
인공지능은 무엇을 평가하는 일에는 아주 능숙하지만 변화시키는 일은 매우 약합니다.
- 암을 진단하는 것은 잘하지만 치료는 못합니다.
- 사람의 정신상태를 감정하는 것은 뛰어나지만, 동기를 부여하고 북돋우는 일은 매우 약합니다.
인공지능은 질문에 대답하는 것은 아주 능숙하지만 질문은 하지 못합니다.
인공지능은 이 시대의 범용기술입니다. 인공지능은 더욱더 발전할 것이고 많은 기업과 인간의 삶에 영향을 미칠 것입니다. 하지만, 인공지능은 모든 것을 대체하지는 못할 것입니다. 특히 기업의 경영자를 대체하지 않을 것입니다. 하지만 인공지능을 사용하는 관리자는 사용할 줄 모르는 관리자를 대체할 것입니다.
Over the next decade, AI won’t replace managers,
but managers who use AI will replace those who don’t
향후 10년간 AI는 관리자를 대체하지 않겠지만,
AI를 사용하는 관리자는 그렇지 않은 관리자를 대체할 것이다.
