AI의 가까운 미래 by 앤드류 응(Andrew Ng)

스탠포트 대학에서의 AI 전문가 앤드류 응의 강연 요약

이 글은 스탠포드 대학의 연사 프로그램인 Stanford eCorner(Entrepreneurship Corner)에 AI 전문가인 앤드류 응(Andrew Ng)이 초청되어 AI에 대해 강연한 영상을 번역 및 요약한 글입니다.
오역 및 의역이 있을 수 있으니 이에 대한 다양한 의견을 환영합니다!

원본 영상 : The Near Future of AI [Entire Talk]  - Andrew Ng (AI Fund)
https://youtu.be/KDBq0GqKpqA?feature=shared

---

1. ️ 프롬프트 엔지니어링을 통한 AI 애플리케이션 개발

지난 몇 년 동안 우리가 목격한 주요 트렌드 중 하나는 프롬프트가 AI 애플리케이션 개발에 혁명을 일으키고 있다는 것입니다.

이제까지의 일반적인 AI 시스템 구축 방식을 지도 학습 방법론(Supervised learning)이었습니다. 이렇게 AI 모델을 훈련시키는 데에는 몇 달이 걸릴 수도 있습니다. 하지만 프롬프트를 활용하면 몇 분 또는 몇 시간 만에 시스템을 배포할 수 있습니다.

스타트업 입장에서는 GPT와 Bard 등과 같은 LLM을 개발 도구로 사용하면 훨씬 더 많은 AI 애플리케이션을 구축할 수 있고 그 장벽을 크게 낮출 수 있을 것입니다.

프롬프트 엔지니어링을 통해 개발 시간을 단축하여 빠르게 프로토 타입을 만들고 실험할 수 있는 방법론이 등장하고 있는 것이지요.

2. ️AI 기술을 활용한 애플리케이션의 성공 가능성과 실패 위험성

현재 생성형 AI(Generative AI)의 수익 가치는 비교적 작은 규모지만 관심과 기대, 상업적 흥미를 고려하면 3년 안에 두 배로 늘어날 것으로 예상됩니다. 6년 후에는 생성형 AI의 가치가 지도 학습(Supervised learning)과 비슷해질 것으로 생각되며, 이는 지금 가장 중요한 도구로서 많은 발전 가능성을 보여줍니다.

이 강연을 통해 여러분이 얻으셨으면 하는 것은 AI 기술은 범용 기술(general-purpose technologies)이며 다양한 업무에 유용하게 사용될 수 있다는 것입니다.

지도 학습이 잘 작동하기 시작한 이후로 약 10년이라는 오랜 시간이 걸렸고 마찬가지로 향후 생성형 AI의 사용 사례를 파악하는 데 정말 오랜 시간이 걸릴 것입니다.

이렇게 AI 기술은 일반적으로 많은 다양한 작업에 유용하게 사용될 수 있지만 AI 기술을 사용한 적용 분야를 찾는 것도, 성공 사례를 찾는 것도 아주 어려울 수 있습니다.

예를 들어 ‘Lensa’라는 초반 상업적 성공 후 급락한 사례가 있습니다.

3. AI 애플리케이션에 기반한 스타트업 기회

개발자 플랫폼으로서 생성형 AI를 생각하면 스티브 잡스의 아이폰을 떠올릴 수 있습니다. 초반에는 19달러를 결제해서 손전등 기능을 쓸 수 있는 앱이 만들어졌지요.

하지만 머지않아 Uber, 에어비앤비, 틴더 등과 같이 시간이 지나도 여전히 가치 있는 비즈니스를 위해 훨씬 더 장기적으로 방어할 수 있는 방법을 알아낸 것입니다. 마찬가지로 우리도 차세대 AI를 기반으로 장기적으로 가치 있는 프랜차이즈, 비즈니스를 구축할 기회가 있다고 생각합니다.

그렇다면 기회는 어디에 있을까요? 새로운 AI 기술 덕분에 몇 년 전에는 불가능했던 많은 프로젝트들이 지금은 가능해졌습니다. 그래서 창업가들과 협력하여 벤처 스튜디오인 AI Fund를 시작했습니다. 가치 있는 프로젝트를 추구하기 위해 여러 스타트업을 창업하는 것이 한 회사, 심지어 대기업이 많은 자원을 투입하는 것보다 더 효율적일 것 같았습니다.

특히 애플리케이션 계층은 더욱 가치 있는 계층입니다. (하드웨어나 클라우드 인프라에 비해 덜 자본집약적입니다.) 또한 여러 가지 기술 측면에서 인프라와 툴링 계층이 성공하려면 그 위에 더 많은 수익을 창출하는 애플리케이션이 구축되어야 인프라 계층을 감당할 수 있기 때문입니다.

4. 학생들을 위한 조언

강의를 듣기를 추천합니다. 실제로 많은 학생들이 연구소 등에 합류해서 AI 작업을 시작하는 것들을 많이 보았고 막연히 뛰어들어서 시작하기 좋은 일들이 너무 많습니다. 이것 역시 학습 방법 중의 하나라고 생각하지만 교수들은 학생들이 학습하기에 효율적인 방법으로 메트릭을 구성하기 위해 노력하기 때문에, 특히 기초를 다지는 데에 있어 강의를 듣는 것은 굉장히 효율적인 학습 방법이라고 생각합니다. 수업을 통해 AI 기초 기술을 숙달하고 그 외에 캠퍼스에서 흥미로운 사례를 실습하면서 많은 것들을 배울 수 있을 것입니다.

컴퓨터 기술을 익히는 것도 도움이 됩니다. 이제는 누구나 데이터에 접근할 수 있습니다. 특히 생성형 AI를 통해 뭔가를 작업할 수 있는 능력이 그 어느 때보다 훨씬 높아졌습니다. 앞으로는 진입 장벽이 더욱 낮아질 것이기 때문에 코딩을 할 수 있는 것이 장점이 될 수 있습니다.

5. CEO들을 위한 조언

AI Fund 팀은 수많은 스타트업 아이디어를 갖고 있으며, 현재는 그 아이디어를 추적하기 위해 Asana와 같은 소프트웨어를 사용하고 있습니다. 지금까지 AI 사업에 대한 좋은 아이디어는 많지만, 실제로 그 아이디어를 구현할 수 있는 기술자는 부족합니다. 따라서 AI 기술을 배우고 실습한 후, 다른 분야의 전문가들과 협업할 필요가 있습니다. 또한 실력 있는 AI 창업자들은 기술적 깊이와 빠른 의사 결정 속도를 갖추고 있습니다.

6. 인공지능의 위험성

일부 유명한 AI 전문가들이 AI 개발의 속도가 인류에게 엄청난 위협이 될 것이라 우려하며 AI 개발을 중단하는 청원을 냈지만 거기에 참가하지 않았습니다.

인공지능은 인류에게 존재적 위협을 가하지 않는다고 생각하며, 잘 설계된 소프트웨어 시스템이 큰 영향을 미칠 수 있다는 것은 알지만 그렇기 때문에 책임감을 가지고 AI를 개발해야한다고 생각합니다. 일부 사람들은 악의적으로 AI를 활용하여 전쟁 무기를 만드는 것을 우려하고, 다른 사람들은 우연히 인간의 멸종으로 이어질 수 있는 AI의 진화에 대해 걱정하고 있습니다. 하지만 인공지능이 인류의 멸종을 가져올 수도 있다는 주장은 모호하고 구체적이지 않다고 생각합니다.  인간은 이미 우리보다 강력한 것을 통제한 경험이 있습니다. 우리가 완전히 통제할 수 없는 것들도 있지만 분명 안전하고 가치 있는 것들이 있으며, 인공지능 역시 그렇게 될 것이라고 생각합니다. 예를 들어, 인간이 비행기를 통제하지 않더라도 안전을 확보하기 위해 수많은 사례를 토대로 안전한 항공기를 만든 경험이 있습니다. 인공지능 또한 그럴 것이라고 생각합니다.

---

여기부터는 학생들이 직접 질문하고 앤드류 응이 답변하는 질의응답 세션입니다.

Q1. ️

사회와 스타트업을 위한 AI 스택에서 GATO 및 기타 강화 학습(reinforcement learning) 모델과 같은 제너럴리스트 에이전트의 잠재력이 여전히 있다고 생각하나요?

A. 제가 훈련시킨 최근 NLU 모델은 강화 학습, 비지도 학습, 지도 학습을 사용했지만, 강화 학습이 변화나 혁신을 일으키기까지는 좀 더 기다려야 할 것 같습니다. 그리고 로봇 공학 분야에서 강화 학습을 적용하는 것에 대한 기대가 많습니다. 하지만 로봇마다 각각 다르기 때문에 필요한 데이터를 충분히 얻는 것이 어렵습니다. 충분한 데이터를 확보하는 데 필요한 일반적인 데이터 및 컴퓨팅 확장 레시피를 어떻게 얻을지에 대해 이해하기가 어렵기 때문입니다. 따라서 계속해서 이러한 강화 학습 분야에서 이에 대한 연구가 진행 중입니다.

Q2.

LLM(언어 모델) 모델을 남용함으로써 나타나는 보안 우려에 대해 어떻게 생각하시나요? 프롬프트 삽입, 데이터 유출, 제일브레이킹(jailbreaking)과 같은 새로운 공격들이 늘어나면서, 이러한 공격에 대해 어떻게 방어할 수 있을지에 대한 의견을 알고 싶습니다.

A. 많은 기업들은 이러한 우려 때문에 먼저 내부용 제품을 출시할 것입니다. 자사 직원에게 잘못된 정보를 전달했을 때 더 쉽게 이해할 수 있고 문제가 될 가능성이 줄어들기 때문입니다. 따라서 내부용 제품을 먼저 출시하고 테스트하며 안정성을 보장한 후, 외부에 제품을 출시하는 기업들이 많아질 것으로 보입니다. 물론 이 외에도 다양한 기업들이 각기 다른 접근을 취하고 있습니다.

Q3.

저는 홍콩에서 온 국제 학생입니다. 졸업 후에 가족과 가까운 곳에서 일하고 싶지만 귀국하면 기회 손실이 걱정됩니다. 예를 들어, 홍콩에서는 미국 번호 없이 Chat GPT와 같은 자원에 접근하기 어렵기 때문입니다. 이런 문제를 어떻게 해결할지에 대한 생각이 궁금합니다.

A. 복잡하네요. 하지만 요즘 아시아 여러 지역을 다녀왔는데, 많은 국가들이 LLM 애플리케이션을 구축하는 능력을 개발하고 있다는 것을 알고 있습니다. AI deep tech 세대의 인재는 주로 샌프란시스코에 집중되어 있는데, 그 이유는 구글 브레인이나 OpenAI와 같은 초기의 중요한 업적을 이룬 두 팀이 있었기 때문입니다. 이후에는 많은 사람들이 캘리포니아에서 회사를 창업했습니다.

현재로서는 Deep Tech 계층의 크기는 작지만, 전 세계적으로는 AI 애플리케이션 계층의 기술 집약도 빠르게 발전하고 있습니다. 그리고 많은 곳에서는 그 지역만의 로컬 기회가 있을 것이라 생각합니다. 많은 비즈니스가 각 나라나 지역에서 로컬로 진행될 것이며, 그 기업들은 실리콘밸리가 아닌 다른 장소에서 효율적으로 구축될 것입니다.

Q4. 

인공 지능에 대한 인간 의존도가 언젠가 한계에 도달할 것이라고 생각하는지, 아니면 계속해서 기하급수적으로 증가할 것이라고 생각하는지 묻고 싶습니다.

A. 우리는 이미 기술에 매우 의존하고 있습니다. 만약 인터넷이 중단된다면 음식 공급망과 의료체계에 당장 직접적인 영향을 미치겠지요. 기술의 신뢰성 있는 공급이 계속되는 한 의존하는 것은 괜찮다고 생각합니다. 솔직히 농업 시스템에 의존하지 않는다면 현실에서 우리 중 몇 명이 정말로 농사짓고 사냥해서 살아남을 수 있을까요? 마찬가지로 기술에 대한 의존은 계속해서 증가할 거라고 생각합니다.

Q5. 

하지만 그 관계에서 본질적인 변화가 일어날 순간이 올까요? 우리가 기술이 어떻게 발전하고 있는지에 대해 알지도 못하는 특이점(Singularity Point)이 오게 될 거라고 생각하시나요?

A. 기술적 특이점은 과장(hype)된 것 중 하나입니다. 그래서 저는 그것이 무엇을 의미하는지 모릅니다. 그저 흥미로운 공상과학 소설 중 하나라고 생각하거든요.

엔지니어와 과학자로서 특이점에 대해 어떻게 이야기해야 할지 잘 모르겠습니다. 인공 지능 분야에서는 몇 가지 모호하고 정의되지 않은 용어가 있고 이것들을 어떻게 체계적이고 합리적인 방식으로 정의해야 할지 아직 잘 모릅니다. 하지만 중요한 것은 기술과의 관계가 빠르게 변하고 있다는 것입니다.

또다른 뜨거운 감자는 'AI가 의식을 가진다'는 것입니다. 의식을 가진다는 것은 철학적으로 중요하지만 무언가가 의식을 가졌는지 아닌지에 대한 테스트가 존재하는지는 모르겠습니다. 그리고 저는 철학이 중요하다고 생각하지만 엔지니어 과학자로서, 의식을 가졌느냐 안 가졌느냐를 어떻게 정의 내릴 수 있는지는 모르겠습니다.

만약 누군가가 의식에 대해 아주 간단한 정의를 내리면서 ‘거울에서 자기 자신을 인식할 수 있다면 의식이 있는 것이다'라고 가정한다면, 사실 로봇이 거울에 비친 자기 모습을 인식하는 것은 쉬운 일입니다. 그러면 누군가는 'AI가 의식을 가졌다'는 신문 헤드라인을 뽑아낼 것이며, 이는 실제로는 작고 제한된 의식의 정의에 불과하지만 넓은 대중에게는 그 이상의 의미로 해석될 여지가 있습니다. 저는 이와 같은 AI 분야의 과장을 종종 보았습니다.

Q6. 인프라스트럭처(infrastructure) 분야에서 AWS나 구글과 같은 기업들이 AI나 엔터프라이즈와 같은 비즈니스를 정말 효과적이고 가능하게 만들기 위해 어떤 것을 해야 하는지에 대한 생각이 궁금합니다.

A. LLM 스타트업 툴을 많이 사용하면 전환 비용이 실제로 꽤 낮다는 것이 밝혀졌습니다. 하나의 LLM API 호출(calls)로 시작하더라도 다른 LLM 공급자로 전환할 때 코드 라인 수가 상당히 적습니다. 따라서 전환 비용이 낮습니다. 그러나 AWS와 Google Cloud, 그리고 AMD는 한 번 이 클라우드 중 하나를 구축하면 전환 비용이 매우 높아집니다. 왜냐하면 API 훅 통합(API hooks integration)이 있기 때문입니다. 그래서 여전히 API를 판매하는 많은 스타트업이 비즈니스 모델을 찾기 위해 여러 산을 넘어야 한다고 생각합니다. AWS나 GCP, Azure 모두 LLM 역량을 지속적으로 개발하고 더 많은 고객을 확보하기 위해 경쟁하고 있다고 생각합니다. 아주 역동적인 분야입니다.

Q7.

하지만 AI 산업이 민주화되면서, 성공의 예측 변수로서 컴퓨터와 데이터 쪽으로 상황이 더 많이 옮겨가는 것 같습니다. 그렇다면, 혁신의 중심이 학계에서 산업계로 옮겨가고, 기업들이 정말로 인공지능의 최전선에서 우위를 점할 것이라고 생각하나요?

A. 빅테크기업에서 하는 것 중에서는 엄청난 자원이 필요한 것들이 있긴 한데, 이는 소수에 불과합니다. 대개 빅테크기업의 마케팅에는 "봐봐, 너네 데이터랑 컴퓨팅 필요하지? 그것들을 갖고 있는 건 우리 밖에 없어. 그러니 그냥 포기하고 우리와 경쟁하지 마, 아니면 우리와 함께 일하러 와."라는 메시지가 숨어있습니다. 이런 메시지는 빅테크기업의 PR 전략이었을 것입니다. 나는 그 빅테크기업들 내부에서 정확히 어떤 논의가 있었는지를 알고 있기 때문에 그 마케팅 메시지에 속지 않기를 권합니다. 엄청난 자본, 교육, 매우 큰 기초 모델이 필요한 일부 작업은 학계보다 빅테크기업에서 더 쉽게 할 수 있습니다. 그러나 이는 AI 분야에서의 모든 활동의 일부분에 불과합니다. Scaling Law 덕분에, 우리는 상대적으로 더 작은 모델을 통해 더 큰 모델을 예측하는데 꽤 능숙합니다. 그래서 훨씬 더 작은 모델에서도 훌륭한 과학적 연구가 이루어질 수 있습니다. 따라서 개인용 컴퓨터에서도 수행 가능한 작업이 많습니다.

Q8.

AI 전문가와 투자자의 관점에서 미래에 돌파구를 마련할 수 있는 잠재력이 큰 AI 기반 의료 애플리케이션은 무엇이라고 보나요? 그리고 우리가 알아야 할 도전과 장애물은 무엇인가요?

A. 의료 분야는 복잡한 분야이기 때문에 많은 의료 전문가들이 진단과 치료에 중점을 두는 경향이 있습니다. 어떤 기업은 실제로 공개 시장에서 어려움을 겪고 있으며, 거의 파산 수준입니다. 저는 처방전이 필요한 디지털 진료는 확실히 어려움을 겪고 있다고 생각합니다. 그렇다면 AI 제품을 출시할 때 필요한 해결책은 무엇이며, 시장에서 구매자는 무엇을 기꺼이 구매하려고 할까요? 많은 기업들이 이를 찾아내려고 노력하고 있고 머지않아 찾아낼 것입니다.

의료 분야에서는 진료와 관련된 것이 아닌 예약, MRI 기계 일정, 환자 관리 시스템과 같은 운영 측면에서도 큰 옵션이 있다고 생각합니다. 이러한 의료 운영은 규제적인 장벽이 덜하며 다양한 기회가 있는 분야입니다.

마지막으로 규제 기준이 아주 다른 미국 또는 다른 국가의 시장에 진출할 수도 있을 것입니다. 규제를 더 받는 나라가 있을 수도 있지만 동시에 AI 도입은 더 수월한 나라가 있을 수도 있습니다.

Q9.

앞서 AI Fund 팀이 정말 많은 AI 애플리케이션 아이디어들을 가지고 있다고 했는데 이러한 아이디어를 생성하기 위한 프로세스는 어떻게 되나요?

A. 우리는 분야를 깊이 이해하는 전문가들과 일하는 것을 좋아합니다. 세상에는 CEO를 포함하여 많은 사람들이 있지만, 실제로 몇 달 또는 몇 년 동안 어떤 것에 대해 깊이 생각하고 분야를 이해하는 많은 사람들도 있습니다. 그리고 우리가 그들과 함께 할 때, 그들은 때때로 그들의 아이디어를 우리와 공유할 수 있다는 사실에 아주 기뻐합니다. 그들은 그 아이디어들을 검증하거나 변조하고 구축하는 것을 도와줄 누군가를 찾고 있었기 때문입니다. 그래서 우리는 실제로 많은 아이디어를 얻습니다. 어떤 경우에는 아직 AI 기술을 가지고 있지 않은 전문가들로부터 많은 영감을 받기도 합니다.

---

이 글에 대한 다양한 의견을 환영합니다.

또한 오역이나 잘못된 부분이 있다면 댓글 남겨주세요.