AI 에 농락당하지 않는 방법
메타의 AI 과학자 얀르쿤의 WIRED 인터뷰 전문 번역/요약
메타(Meta)의 최고 AI 과학자인 얀 르쿤(Yann LeCun)의 인터뷰가 WIRED 지에 실렸다. 이번 인터뷰에서 그는 인공지능(AI)에 대해서 일반인들이 가진 오해와 현실적인 가능성에 대해서 깊이있게 이야기했다. 이번에 프랑스 대통령에게 상을 받은 과학자라 그런가, 인터뷰 내용이 매우 깊이있고 균형잡혀 있는데 아쉽게도 전문이 영어인데다 길이도 엄청나다. 그래서 그의 인터뷰 내용을 간단히 한국어로 번역했다. 지면 관계상 핵심 내용 중심으로 번역했고, 비전문가들도 이해할 수 있게 쉽게 풀어서 설명하려 한다.
[인터뷰 요약]
기본적으로 얀 르쿤은 AI의 위험성이 미디어에 의해 과장되었다고 본다. AI가 인간 수준의 지능에 도달하는 것은 아직은 먼 미래의 일로 보이며, 실제로 AI는 사회적 위험을 완화하는 데도 기여하고 있기 때문이다. 그는 안전한 마래를 위해서라도 AI 는 오픈 소스가 되어야 한다고 강조한다. 이번 인터뷰에서는 얀 르쿤은 AI의 잠재적인 이점은 무엇인지, 우리에게는 어떤 과제가 남아있는지, 그리고 AI가 인간의 창의성에 어떤 영향을 미칠 것인지를 이야기해 준다.
Source : WIRED Q. 최근 강연에서 머신러닝은 별로라는 말을 했어요. AI 선구자로서 왜 그런 말씀을 하셨나요?
A. 머신러닝은 정말 멋져요. 하지만 우리가 가진 기술을 단순히 확대해서 인간 수준의 AI에 도달할 거라는 생각은 글쎄요. 거기엔 인간이나 동물처럼 효율적으로 학습하는 데 필요한 중요한 것이 빠져있어요. 아직 그게 뭔지는 모르겠지만요. 저는 머신러닝이 쓸모없다고 말하는 건 아니에요. 그랬다면 제 인생을 거기에 바치지 않았겠죠. 하지만 오버는 금물이에요. 어떤 사람들은 머신러닝을 단순히 확장하면 인간 지능에 도달할 거라고 말하지만 그건 절대 아니거든요.
AI는 우리 사회에 많은 혜택을 가져다 줄 거예요. 그런데 일부 사람들이 AI 대한 인간의 두려움을 이용해서 AI 로부터 사람들을 멀어지게 하고 있어요. 과거, 세계를 변화시킨 기술들이 나왔을 때 똑같이 반복됐던 실수죠. 15세기에 인쇄술이 발명됐을 때, 가톨릭 교회는 모든 사람들이 성경을 스스로 읽을 수 있는 것을 싫어했어요. 그렇게 되면 사제를 만날 필요가 없어지니까요. 인쇄술은 사회의 권력구조를 바꿔버릴 수 있기 때문에, 당시 대부분의 기득권층은 인쇄술의 보급을 반대했어요. 실제로 인쇄술은 200년 간 종교적 갈등을 만들었고, 동시에 계몽주의를 가져왔죠.
Q. 이 분야의 많은 사람들이 AI의 위험에 대해 경고하고 있어요.
A. 그들은 주목을 받고 싶어하는 사람들이거나, 현 상황을 너무 순진하게 바라보는 사람들이에요. 그들은 AI가 혐오 발언, 오보, 선거 시스템을 교란시키려는 시도를 막는 데 얼마나 큰 기여를 하고 있는지 몰라요. 실제로 메타에서는 이런 방식으로 AI를 사용해서 엄청난 진전을 이뤘어요. 예를 들어서, 5년 전에는 AI 가 페이스북에 올라온 증오발언의 20~25%를 미리 걸러냈어요. 근데 작년에는 그 비율이 무려 95%에 달했어요.
Q. 챗봇에 대해서는 어떻게 생각해요? 사람들의 일자리를 대체할 만큼 강력한가요?
A. 챗봇은 놀라울 정도로 발전했어요. 보다 많은 사람들이 창의적이되는데 일부 기여하는 건 사실이죠. 아주 유창하게 글을 쓰고 유려한 필체를 만들 수도 있지만, 가끔 하나마나한 이야기를 하거나 완전히 틀린 이야기를 만들어내기도 해요.
Q. 메타는 그런 서비스를 개발하고 제품에 적용하는데 집중하고 있는 것 같아요.
A. 먼 미래에는 온라인에서의 모든 상호작용, 인간 사이의 상호작용이 AI를 통해서 중개될 거에요. 예를 들어, 챗봇이 WhatsApp(메신저)에서 사람과 대화를 할 수도 있고, 우리의 일상 생활에 도움을 줄 수도 있고, 실시간으로 글을 쓰거나 번역을 해 주기도 할 거예요.
Q. 마크 주커버그는 메타의 AI 를 어떻게 추진하고 있나요?
A. 마크는 매우 적극적으로 관여하고 있어요. 올해 초에 그와 대화를 나눴는데, 미래에는 인간의 모든 상호작용이 AI에 의해 중재될 거란 이야기를 했어요. 우리는 ChatGPT 를 통해서 예상보다 훨씬 빨리 AI 를 적용한 제품의 가능성을 봤어요. 대중들은 우리가 기대했던 것보다 훨씬 더 AI 의 기능에 매료되더라고요. 이후 마크는 생성형 AI에 집중하는 제품 부서를 개설하기로 결정했어요.
Q. 메타가 라마(Llama) 코드를 오픈소스로 공유한 이유는 무엇인가요?
A. 많은 사람들이 기여할 수 있는 오픈 플랫폼이 있어야 AI 분야의 진보가 빨라지거든요. 그렇게 만들어지는 시스템은 더 안전하고 성능이 좋아질 거예요. AI는 오픈 소스여야 해요. AI 기술이 커뮤니케이션의 핵심 요소가 되어가는 상황에서는, AI 가 오픈 소스로 유지되어야 모두가 접근하고 공동으로 개선하고, 그래야 이를 통해 더 나은 기술발전, 보안, 사용성을 이룰 수 있어요.
Q. OpenAI와 관련된 논란에 대해 어떻게 생각하나요?
A. 제 생각에는 연구씬에서는 OpenAI에 대해 큰 신경을 쓰지는 않는 것 같아요. 현재는 그들의 연구 결과를 공유하지도 않고 뭘 하고 있는지도 밝히지 않으니까요. 연구는 안정성이 기반이되어야 발전이 가능한데, 이번과 같은 드라마틱한 일들이 생기면 여러모로 주저하게 되거든요. 덧붙여 연구자들에게 중요한 요소가 바로 개방성인데, OpenAI는 더 이상 개방된 조직이 아니에요. 그래서 OpenAI가 연구자들의 커뮤니티에서의 역할은 상당히 변했어요.
Q. 최근 OpenAI 사건은, AI 의 "종말주의(doomer-ism)"에 반대되는 "가속주의(accelerationism)"의 승리로 인식되곤 해요. 당신은 어느 쪽인가요?
A. 저는 그런 라벨을 좋아하지 않아요. 이렇게 극단주의적으로 밀어붙이면, 결국 순수성의 순환에 빠져서 바보 같은 짓을 하게 되거든요.
Q. EU는 최근 인공지능(AI)과 관련된 새로운 규정을 도입했고, 이 규정에서 오픈소스 AI 모델들에 대한 일부 규제를 면제하거나 완화했어요. 이런 변화가 메타 같은 기업에 어떤 영향을 미칠까요?
A. 어느 정도는 메타에 영향을 주겠지만, 메타는 이미 어떤 규제든 준수할 수 있는 역량이 있어요. 이번 규정은 메타 보다는 자체적으로 AI 시스템을 구축할 자원이 부족한 나라에 훨씬 중요해요. 그런 나라들은 자기의 문화, 언어, 관심사에 맞는 AI 시스템을 구축하기 위해서 이 오픈 소스 플랫폼의 도움을 받을 수 있어요.
Q. 누군가가 세상을 지배할 수 있는 정교한 오픈 소스 시스템을 악용할 위험은 없을까요?
A. 그렇게 하려면 2,000개의 GPU에 접근할 수 있어야 하고, 엄청난 자금과 실력이 필요할 거예요. 사실 중국조차도 그렇게 할 수 없어요. AI와 관련된 기술이나 장비에 대한 국제적인 제재나 무역 제한으로 인해 중국이 이러한 기술을 완전히 활용하거나 개발하기는 어렵거든요. 아마 중국은 직접 AI 칩을 만들게 될 거예요. 하지만 최신 기술보다 몇 년은 뒤처져 있는 칩이겠죠. 기술이 발전하면 언제나 나쁜 의도로 그 기술을 사용하는 사람들이 있어요. 그걸 원천적으로 막을 수는 없지요. 아마 미래에는 좋은 AI와 나쁜 AI의 대결 구도가 만들어 질 지도 모르겠어요. 나쁜 AI 를 앞서가는 방법은, 그것보다 더 빠르게 발전하는 거예요. 그럴려면 연구를 공개해야 하죠. 그래서 더 큰 커뮤니티가 기여할 수 있도록 해야 해요.
Q. AGI(인공 일반 지능)를 어떻게 정의하시나요?
A. 저는 AGI라는 용어를 좋아하지 않아요. 일반 지능이라는 것은 없거든요. 지능은 측정할 수 있는 선형적인 것이 아니에요.
Q. 인간 수준의 지능에 도달한 컴퓨터가 계속해서 발전하면 어떻게 될까요?
A. 기계는 결국 인간보다 똑똑해질 거예요. 그건 의심의 여지가 없어요. 하지만 몇년이 될 수도 있고, 몇 세시가 걸릴 수도 있지.
Q. 그러면 우리는 그 때를 위해 방어태세를 갖춰야 할까요?
A.그럴 필요는 없어요. 그때가 되면 인간은 누구나 AI 비서를 갖게 될 거예요. 마치 아주 똑똑한 사람들과 한 팀에서 일하는 것처럼요. 다른 점이 있다면 팀원들이 사람이 아니라 컴퓨터라는 사실 뿐이죠. 많은 사람들은 이런 이야기를 하면 위협을 느끼는데, 저는 반대로 우리가 기뻐해야 한다고 생각해요. 나 보다 똑똑한 사람들과 일하게 되면 나의 능력이 증폭되거든요.
Q. 하지만 컴퓨터가 초지능 (인간을 능가하는 지능)을 갖게 되면, 과연 우리를 필요로 할까요?
A. AI 가 똑똑해지면 인간을 지배하고 싶어할 거라는 근거는 없어요. AI 시스템이 인간과 같은 동기를 가질 것이라고 가정하는 것은 대표적인 오해예요. AI 는 인간을 지배하지 않을 거예요. 우리가 AI 를 그렇게 설계하지 않을 테니까요. 어떤 시스템을 만들 때, 안전장치를 함께 만들지 않는 건 어리석은 행동이에요. 그건 마치 시속 1000km 자동차를 만들면서 브레이크는 안 만드는 것과 같거든요. AI 를 통제하고 안전하게 만드는 유일한 방법은 AI 시스템에 동기를 부여하는 거예요. 우리는 이를 '목표 지향적 AI'라고 부르죠. 이건 일종의 새로운 개념인라 당장 시연해 보여줄 수는 없네요.
Q. 그게 요즘 당신이 작업하고 있는 건가요?
A. 맞아요. 이 개념의 핵심은 "AI 는 명확한 목표를 가지고 있어서, 이 목표가 충족되지 않으면 아무것도 하지 않는다"예요. 이 목표에는 위험을 방지하는 안전장치가 포함될 수도 있어요. 그렇게 되면 AI 시스템이 안전해 지죠.
Q. AI가 가져올 결과에 대해서 후회할 거란 생각은 혹시 안 하나요?
A. 그렇게 생각했다면, 지금 이 일을 안 하겠죠.
Q. AI가 엘리트 수준의 예술, 영혼을 가진 작품을 만들 수 있을까요?
A. 좀 복잡해요. 우선 기술적인 면에서는 인간이 할 수 있는 것과 유사하거나 더 우수한 작품 - 음악이나 그림을 만들 수 있을 거예요. 하지만 AI 는 인간의 감정과 기분을 공유하는 즉흥적인 본질이 없어요. 적어도 아직은요. 그래서 재즈 음악은 라이브가 좋지요. 영혼을 가진 작품에 대해서 답하자면, 이미 영혼이 없는 음악을 일사에서 들을 수 있어요. 레스토랑이나 카페에서 배경 음악으로 사용되는 음악들은 대부분 기계로 만들어졌거든요. 그런 음악이 팔리는 시장이 존재해요
Q. 만약 당신에게 유명한 음악가의 작품보다 뛰어난 음악을 들려준 다음, AI 만든 음악이라고 한다면 속은 느낌이 들 것 같으세요?
A. 그럴 수도 있고, 아닐 수도 있어요. 속은 느낌이 들 것 같은 이유는, 음악은 단지 청각적 경험이 아니라 문화적인 경험이기 때문이에요. 연주자에 대한 감탄 같은 거요. 예술가가 가진 진실성은 예술의 핵심적인 부분이죠. 하지만 AI 가 엘티트들의 예술 수준과 맞먹을 정도로 충분히 발전한다면, 음악 시장은 높은 수준의 음악으로 넘쳐나고, 사람들도 그 둘의 차이를 잘 모르겠지요. 하지만 저는 그게 문제라고 생각하진 않아요. 겉보기에는 5천원 짜리와 다를 게 없어 보이는 접시라도, 우리는 그게 오리지널 핸드메이드란 이유로 30만원에 사기도 하잖아요. 사람들은 여전히 자기가 좋아하는 음악가들의 라이브 공연을 듣으러 갈 거예요. 비록 AI 가 그 음악을 모방할 수 있어도, 라이브 공연과 같은 경험을 줄 수는 없으니까요.
Q. 최근에 프랑스 마크롱 대통령에게 발음하기도 어려운 영예를 받았다고 들었어요!
A. 맞아요. '쇼발리에 드 라 레지옹 도뇌르 (Chevalier de la Légion d'honneur)'예요. 나폴레옹이 만든 것으로, 영국의 기사 작위와 비슷한 거예요. 다만 프랑스는 혁명을 이룬 나라이기 때문에 사람에게 'Sir'라는 걸 붙이지 않아요. 대신 자켓에 작은 빨간 줄을 달 수 있어요.
'Chevalier de la Légion d'honneur'는 프랑스어로 "레지옹 도뇌르 기사"란 의미예요. "레지옹 도뇌르"는 프랑스의 가장 높은 국가 훈장 중 하나이고, "쇼발리에"는 기사라는 뜻이죠. 이 훈장은 프랑스에서 탁월한 민간 및 군사적 공적을 이룬 개인에게 수여되는 영예로운 상이에요. 나폴레옹 보나파르트에 의해 1802년에 창설되었는데, 이 훈장을 받은 사람은 특별한 표식으로 자켓에 작은 빨간 줄을 달 수 있답니다.
<핵심만 말할께>는 전문을 읽는데 15분 이상 소요되는 책/강연/스토리 등의 핵심을 3분 이내에 이해할 수 있도록 필자가 쉽게 요약해 놓은 브런치 매거진입니다.
