인공지능과 추천 시스템 강의 노트 - (3/16)
2024. 9. 20
미국에서 원격으로 새벽에 하는 수업이고, 이번 주는 추석 연휴 사이에 있는 주여서 출석 처리를 하지 않고 대신 같이 관련 클립들을 보는 것으로 수업을 대신했다. 두어 개 더 같이 보았으면 하는 내용도 있었지만, 주제를 그룹 짓기에 어색하다 생각했고, AI , Search by Google , AI by Google 의 세 그룹으로 이야기거리를 모았다. 다음 주부터 다시 조금은 딱딱한 강의 내용들로 채워 지겠다.
준비한 자료들
금융권에서는 금리 인하만큼 큰 일이 드물 듯. 아래는 수업 시간에 같이 훑은 토막 비디오들. 채팅 창에서 소통을 하듯 이야기를 하고 싶었고, 아래는 script를 붙여 놓았다. 채팅을 통해 질문도 하나 들어와서 조금 더 이야기할 수 있었다.
클립 같이 보기
Marty McFly & Doc Brown - Visit Jimmy Kimmel Live (2015, 11 min )
AI
Ted Talk : How we're teaching computers to understand pictures by Fei-Fei Li ( March 2015 , 18 min )
Ted Talk : Why AI is incredibly smart and shockingly stupid by Yejin Choi ( April 2023 , 16 min )
트랙터 회사가 보여준 AI 트랜스포메이션의 정석 ( 2023, CES , 13min )
Korean Cipher with OpenAI o1 ( 2023, 4 min )
Search by Google
The Evolution of Search ( 2011, 6 min )
How Google makes improvements to its search algorithm ( 2011, 4 min )
Search Quality Meeting: Spelling for Long Queries (Annotated) ( 2012, 8 min )
Year in Search 2010: Year in Review ( 2011, 4 min )
Google — Year in Search 2022 ( 2023, 4 min )
Google — 25 Years in Search: The Most Searched ( 2024, 4 min )
AI by Google
building AI for Everyone | Jeff Dean Senior Fellow in Google AI ( 2018, 세바시 강연, 16 min )
Google I/O 2024 Keynote: Google DeepMind ( 2024, 17 min )
---
Clip 1. 영화 백 투더 퓨처의 1985년 영화가 처음 나왔을 때의 30년 후 미래, 빽투더퓨쳐 2의 같은 시간대입니다..
Clip 2. AI 의 대모 역할을 맡고 있으신 FeiFei Li 의 ImageNet 소개에 대한 Ted Talk 입니다. ( 자막이 아주 작게 나오네요… )
10년 전에 한계에 부딪쳤던 AGI, language model 들이 이 시기의 vision recognition 이 물고를 터서 LLM으로 가는 한계를 풀어 나갔습니다.
이 이후에 구글 클라우드 팀에도 몇년 계셨지만, 원하시는 만큼의 성과를 서로 만들지 못한 아쉬움들이 있고, 학교로 다시 돌아가신 후에 더 큰 역할을 하고 계십니다.
Clip 3: 시기상으로 GPT가 매우 잘 나가고(?) 있을 때 다른 방향에서 논의를 리딩하고 계시는 최예진 교수님의 이야기입니다.
워싱턴 대학교에서 교수님으로 계시고, 인공지능 영역에 묵묵히 진행하고 계시고, 어떻게 humanity를 ‘가르칠 수 있을까’를 연구하고 성과로 주도하고 계십니다.
작년에 전세계 AI 100인에 선정된 (아마도 유일한) 한국인 혹은 한국계 인재시고, 개인적으로 손자병법으로 대화를 만들어 나간 이 스토리가 주는 감동이 있었습니다.
빌 게이츠와 주고 받는 팟캐스트가 이후에 나왔는데, 아주 훌륭합니다.
Clip 4: 2023년 초에 CES 장소를 압도적으로 지배했던 존디어 이야기입니다. 랭기지 모델 같은 것과 별개로 어찌 보면 자율주행이 가장 잘 어울리는 곳에서 입지를 잡고 있습니다.
( 미국에서 아주 큰 시골에 가면 이 기계를 가끔 볼 수 있는데, 정말 큽니다. )
Clip 5: OpenAI GPT-4o 로 할 수 있게 된 신기한 기능을 소개해 줍니다.
문제를 보고 여러 단계의 전문가들을 동원하는 모습으로 구현해 내고 있습니다. 사람들의 예상대로 knowledge / reasoning / language 를 구분해서 접근하는 방식의 좋은 예제이겠습니다.
여기까지 AI 이야기였고, 구글 이야기들 들려 드릴께요.
Clip 6: 10년 전 시점으로 세상을 정복하기 직전에 구글 검색의 역사에 대해 이야기해 줍니다.
저는 2007년에 조인해서 이 시기에 유니버설 검색을 참여했었습니다.
(구글) 검색은 사용자를 극단적으로 만족시켜야 하는 미션을 다루고 있었고, 모바일 세상이 오기 직전까지의 이야기입니다.
Clip 7: 이미 15년 전에 어떻게 제품을 ‘개선’시키는가에 대한 이야기를 보여 줍니다. 실제 사용자의 피드백들이 제품을 강하게 만드는 일들을 해 주고 있습니다.
제가 개인적으로 돌려 보았던 실험만도 1년에 20개는 되었으니
Clip 8: 앞에서 이야기했던 결정 미팅의 실제 소개 영상입니다. 결정권자들이 둘러 있고, 각 과제 제안자들이 하나씩 리뷰를 받습니다.
Clip 9-11 : 연말이 되면 그 해의 검색 쿼리들에 대해 소개 영상을 만들어서 진행을 했었습니다. 2010년부터 시작했네요. 기억으로는 그 전에는 구글이 유튜브에 호스팅을 안 했던가 그렇습니다…
Clip 10: 2022년 버젼입니다.
Clip 11: 작년에는 2023년 걸 보여 주는 게 아니라 25주년 특집을 보여 주었습니다.
Clip 12: 구글의 AI 를 이끄는 양웅 중 하나인 제프딘이 한국에 왔을 때 세바시에 강연 영상입니다.
구글 초기부터 개발자 연구자로 남아 있는 이제 몇 안 되는 고인물이고, AI 가 뜨기 이전에 지금의 구글에 들어가는 소위 인프라들은 전부 이 분 손에서 시작했다 알려져 있습니다.
이 때 이미 ‘검색’의 영역에서는 search by image 가 거의 풀린 문제로 인식되었습니다.
Clip 13: 딥마인드를 이끄는 분입니다. 한국에는 알파고 때 방문했었지만, 구글 행사에 좀처럼 안 나오는 분인데, 올해 구글 I/O 행사에 처음 나오셨습니다.
지금은 제프딘과 함께 구글의 AI 를 제품 단으로 올리는 역할을 하고 있습니다.
참고로 알파벳 지주회사 아래에 구글과 딥마인드는 따로 있었는데, 이 시기부터 구글의 한 영역으로 자리잡고 있습니다.
이 날의 하이라이트가 이 Project Astra 인데, 전날 오픈에이아이의 시연과 같은 레벨의 성능을 보여줍니다. 시연 영상이 아마 나오는데, 개인적으로 두가지 무시무시한 포인트가 있습니다.
개인적으로 코드 잘 보는 건 감동이 적습니다만..
현재 위치를 보지 않고 어딘지 알아 냈다면 stretview 에서 가지고 온 거라 엄청난 일이구요.
본 영상들을 기억하면서 끄집어 낸다는 것도 context size 를 가지고 풀어 나가는 게 구글 스럽긴 합니다.
Q&A
Q. 최예진 교수님의 강연은 시기가 언제일까요? 최근의 LLM이 보여주는 퍼포먼스를 기준으로는 이제 stupid라는 표현이 어울리지 않는 것 같은데요.
A. 작년 GPT4 가 나온 직후였습니다. 문제를 잘 푸는 것들과 함께 ‘common sense를 가르침'을 조화해야 한다는 것에 대한 이야기이구요. ‘잘 하는 것은 잘 하지만, common sense 에 대한 것들을 어떻게 가르칠까 등과 함께 소버린 AI 와도 같이 이야기를 모아 나가고 있습니다.
현업에서는 빼고 싶은 지식 혹은 감추고 싶은 이야기들 등에 대해 어떻게 할 것인지를 고민하는 방향으로 진행하고 있습니다. Language model vs knowledge model 로의 논의에도 의미가 있다 하겠습니다.
