11년 전 예측한 AI의 미래
원문: <AI>
안녕하세요 알렉스입니다.
OpenAI 창업자 Sam Altman이 2014년 작성한 <AI>라는 에세이를 번역해 보았습니다.
자신이 예측한 미래를 스스로 만들고 있다는 점이 대단하다고 생각합니다.
도움이 되기를 바랍니다.
<Sam Altman, 출처: Inc.Magazine>아, 그리고 뉴스레터를 만들었습니다.
실리콘밸리 대가들의 에세이와 인터뷰를 번역한 글을 매주 수요일 저녁에 받아보실 수 있어요 :)
한 가지 약속드릴 수 있는 것은 "쓸모 있는" 글만을 보내드린다는 것이에요.
어떤 경우에도 읽는 분들의 "시간을 빼앗는" 글은 없을 것이라고 약속드릴게요.
아래 링크에서 이메일만 입력하시면 바로 신청됩니다 :)
<11년 전 예측한 AI의 미래>
어제 점심때 만난 친구가 제게 "다들 놓치고 있을 법한데, 앞으로 주목해야 할 기술 트렌드가 뭘까?"라고 물었습니다. 깊게 생각할 겨를도 없이 저는 "인공지능"이라고 답했지만, 잠시 더 고민해 보니 이 대답이 틀리지 않았다는 확신이 들었습니다.
솔직히 말해, AI는 성공하지 못할 가능성이 높습니다. 새로운 기술이 나올 때마다 늘 듣는 이야기이며, 대체로 맞는 말이기도 합니다. 하지만 저는 대다수 사람들이 AI의 가능성을 지나치게 비관적으로 본다고 생각합니다. AI가 오랫동안 눈에 띄는 성과를 내지 못하면서 안 좋은 인식이 박혔기 때문입니다. 심지어 컴퓨터 공학 교수들조차 AI를 언급할 때 픽 웃곤 합니다. 그들의 논리는 간단합니다. "예전에 신경망 연구가 실패했으니, 이번에도 성공할 리 없다"는 것입니다.
하지만 AGI는 다를 수 있습니다. 만약 AGI가 현실이 된다면, 이는 기술 발전 역사상 가장 거대한 사건이 될 것입니다.
우리는 이미 수많은 특정 분야에서 AGI에 한 걸음씩 가까워지고 있습니다. 예를 들어, 컴퓨터는 체스나 비행기 조종 같은 대단한 일들을 이제 인간보다 훨씬 잘합니다. 하지만 이런 사례가 나올 때마다 사람들은 이것을 AI의 성과로 보지 않고, "사실 그 일 자체가 그렇게 어렵지 않았던 거야"라며 평가절하합니다. 공평하게 말하자면, 이런 기술들 중 그 어떤 것도 '인간처럼 생각하는 컴퓨터'라는 느낌을 주지는 못하는 것이 사실입니다.
낙관적으로 볼 만한 이유도 분명 있습니다. 과거 구글의 AI 연구를 이끌었던 앤드류 응(Andrew Ng은 학습이란 하나의 알고리즘에서 나온다고 믿는다고 말했습니다. 우리 뇌가 귀에서 들어온 소리를 처리하는 부분이 눈에서 들어온 이미지를 처리하는 법도 배울 수 있듯이, 만약 우리가 이 하나의 범용 알고리즘만 찾아낸다면, 프로그램도 여러 분야를 스스로 학습할 수 있게 될 것입니다.
이러한 연구에서 희망적인 초기 결과들이 나오고 있지만, 뇌라는 시스템이 워낙 복잡하고 창발적 특성에 크게 의존하기 때문에 우리가 목표에 얼마나 근접했는지 가늠하기는 어렵습니다. 우리는 개별 뉴런이 작동하는 방식은 상당히 잘 이해하고 있으며, 이것만으로도 지능의 원리를 모델링하는 데 충분할 수도 있습니다. 그러나 1,000억 개의 뉴런이 동일한 원리로 뭉쳐 함께 작동하면서 발생하는 창발적 행동은 놀라울 정도로 복잡해져서, 소프트웨어로 구현하기가 매우 까다롭습니다.
저에게 가장 큰 질문은 인공지능 그 자체가 아니라, 인공 의식(artificial consciousness)이나 창의성, 욕구, 또는 그것을 뭐라고 부르든 간에, 바로 이 '의지'입니다. 저는 컴퓨터 프로그램이 특정하고 복잡한 작업을 매우 훌륭하게 수행하도록 만들 수 있다는 점은 확신합니다. 하지만 컴퓨터가 '무엇을 하고 싶은지' 스스로 결정하도록 만들려면 어떻게 해야 할까요? 컴퓨터가 운전을 배우거나 소설을 쓰는 일에 스스로 필요성을 느끼고 관심을 갖도록 만들 수 있을까요?
어쩌면 이러한 종류의 창의성은 우리가 예상치 못한 방식으로 학습 과정에서 발생하는 '창발적 속성'일지도 모릅니다. 예를 들어, 파충류의 뇌와 인간의 뇌가 다르게 진화하게 만든 어떤 일이 진화 과정 중에 일어난 것처럼 말입니다.
그리고 어쩌면 우리는 굳이 이런 의미의 '의식 있는' 기계를 만들기를 원하지 않을 수도 있습니다. 제가 생각하는 가장 긍정적인 미래는 컴퓨터는 '일을 처리하는 실행 능력'을 극대화하고, 인간은 '생각하고 판단하는 사고 능력'을 극대화하는 것입니다. 만약 우리가 컴퓨터에게 창의성을 부여하는 방법을 끝내 알아내지 못한다면, 인간과 기계 사이에는 매우 자연스러운 역할 분담이 이루어질 것입니다.
참고자료