현재 AI 접근 방식에 대해 우려를 표하는 전문가 토론
2022년 12월 23일 몬트리얼.AI에서 있었던 AGI 토론
이 글은 뉴욕 대학의 게리 마커스가 자신의 블로그 '신뢰할 수 있는 AI로 가는 길(The Road to AI We Can Trust)'에 올린 '역사적인(epic) AI 토론 - 왜 모든 사람이 2023년으로 향하는 AI에 대해 적어도 조금은 걱정해야 하는가'를 적당히 번역한 글입니다. 원문은 여기에서 보실 수 있습니다.
언어학의 살아 있는 전설 노엄 촘스키, 중국 전체에서 가장 유명한 AI 연구가인 카이-푸 리, 2022년 맥아더 펠로우십을 받고 얼마전 뉴욕 타임스에 인터뷰한 최 예진 교수, 그리고 십 여명의 과학자, 연구자, 선출직 공직자들이 모두 공통으로 갖고 있는 것은 무엇인가?
그들은 모두 AI의 단기적 미래에 대해 걱정하고 있다. 무엇보다 가장 걱정되는 것은? 모두 다른 점에 대해 걱정하고 있다는 것이다.
몬트리얼.AI의 빈스 부셰와 개리 마커스가 조직한 2022년 12월 23일의 'AGI 토론' 내용이 아직 모든 요약이 만들어지지는 않았지만 (ZDNet에 8천 자 정도의 기사가 가장 근접한 내용이다) 다음과 같은 우려를 제기했다.
(토론 내용의 유튜브 영상은 이 링크를 보면 된다)
노엄 촘스키 - AI에 대한 현재의 접근이 우리가 가장 관심을 갖는 '인간의 마음을 만드는 것은 무엇인가?'에 대해 조금이라도 무엇인가를 말해줄 수 있는가?
게리 마커스 - AI에 대한 현재의 접근이 우리가 지능 기계에서 기대해야 하는 네 가지 중요한 측면인 추론, 추상화, 구성성 및 사실성에 대한 해결 방안을 제공할 수 있는지 여부
콘래드 코딩 (유펜의 계산 신경과학자) - 현재의 접근이 기계가 인과 관계에 대한 추론하게 만드는데 적절한 방법인지? (스포일러 경고: 적어도 아직은 아니다)
딜립 조지 (딥마인드 연구자이며 두 개의 AI 스타트업 공동 창업자) - 크기를 키우는 것(scaling) 만으로는 우리를 일반 지능으로 이끌기에는 충분하지 않을 것이다. 한 때 비행기를 능가하는 것처럼 보였던 힌덴부르크와 같은 비행선에 대한 비유를 제기. 조지는 촘스키와 나처럼 인간 지능에 대한 이해를 더욱 강조할 것을 요구했다.
데이빗 페루치(엘리먼털 코그니션 CEO, IBM 왓슨이 제퍼디에서 이길 때 이끌던 디렉터) - 현재 시스템이 궁극적으로 만족스럽지 못하다. 신경망과 추론 및 구조화된 표현을 결합하는 하이브리드 접근 방식을 요구 (개리 마커스와 같은 입장)
벤 괴르첼 (AGI라는 용어를 만들어 낸 유명 AI 연구자) - 현재 가장 인기가 많은 하나의 접근에 초점을 맞춘 지적 제국주의가 너무 많고 지적 협력인 충분하지 않다.
최 여진 (워싱턴 대학 및 알렌 연구소의 AI 교수, 맥아더 펠로우십) - 그녀가 'AI의 암흑물질'이라고 말하는 상식적 추론을 이해하는데 충준한 진전을 이루고 있는지, AI의 가치 다원주의 및 윤리적 추론에 대한 두 번째 토크에서 중요한 추가 질문을 제기
아서 다빌라 가르세즈 (신경기호 접근의 파이오니어, 런던 시립대 교수) - 기호적 접근을 믹스하는 방식을 도입하는 것이 시급하며 더 풍부한 의모론적 프레임워크의 필요성을 강조
위르게 슈미트후버 (KAUST AI 이니셔티브 디렉터이며 교수, 딥러닝의 파이오니어) - 아마 가장 적게 우려했는데, AI를 구축하기 위한 필수적인 도구는 대부분 이미 존재한다고 느끼면서 (다른 패널과 반대로), 그럼에도 불구하고 메타러닝에 대한 관심이 늘어나야 한다고 조언했다.
제프 클룬 (UBC와 벡터 연구소 교수) - 마찬가지로 좀 더 진화적인 트위스트를 갖고 메타러닝을 옹호했다. 두 번째 강연에서는 나쁜 행위자가 AGI를 어떻게 사용할 수 있는 지에 대한 우려를 표명하고, 그런 잠재적 오용을 해결하는 것이 '인류가 직면한 가장 중요한 질문' 중 하나라고 주장
미쉘 가너 렘펠 (캐나다 국회의원) - 선출직 공직자들은 AI가 가져다줄 일과 공직자들이 우리에게 필요한 정책을 가져오기 위해 충분히 초당파적인 방식으로 함께 일할 수 있는지에 대해 준비가 되어 있는지에 대한 우려를 제기
사라 후커 (Cohere.AI의 리더) - AI 소프트웨어에 대한 현재 인기 있는 접근 방식이 현재 인기 있는 하드웨어의 우연한 사고(accident)인지, AI 커뮤니티가 충분히 광범위하게 보고 있는지에 대해 우려
프란체스카 로씨 (IBM 펠로우이며 AAAI 학회장) - 현재 접근 방식이 충분히 윤리적으로 행동할 수 있는 AI 시스템으로 우리를 이끌 수 있는지? 또한 현재 기술의 현실을 고려할 때 '휴먼 인 더 루프' 방식으로 해야 한다고 주장
앤야 카스퍼슨 (카네기 위원회 시니어 펠로우) - AI 커뮤니티의 권력 역학이 최고의 연구와 최상의 정책으로 이어지고 있는지, 아니면 단순히 이미 위험한 것으로 입증된 경로의 추가 강화로 이어지고 있는지에 대해 걱정
에릭 브린욜프슨 (스탠포드 경제학자이며 베스트 셀러 작가) - 기술자, 기업 임원 및 정책 입안자 간의 인센티브가 우리를 정의로운 사회로 이끌 수 있을 만큼 충분히 잘 조정되었는지 여부와 자동화보다는 인간 증강으로 더 전환해야 하는지 여부에 대한 우려
카이-푸 리 - 때때로 개리보다 더 긍정적인데, AI로 생성된 콘텐츠의 최근 발전이 사회에 긍정적인 영향을 미쳤는지, 아니면 그들이 잘못된 정보의 눈사태[나도 심각하게 걱정하는 것]와 해로울 수 있는 표적 광고로 이어질 수 있는지에 대한 우려
앤젤라 쉬필드 (DC의 보안 스타트업 Raft의 AI 수석 디렉터) - 의사 결정자와 정책 입안자가 AI를 규제하는 방법에 대해 걱정하고 있다. 특히 현재 우리가 가지고 있는 실제 AI가 진정한 일반 지능인 경우에는 더욱 그렇다.
모든 강연자는 명료하고 날카로웠다. 슈미트후버와 클룬은 현재 기술의 잠재력에 대해 더 낙관적이다 (그 낙관론을 표현했을 때 불꽃이 튀었다). 그러나 현재의 AI가 인공 일반 지능의 성배와 같은 것이라고 생각한 연사는 단 한 명도 없었습니다. (클룬은 2030년까지 우리가 거기에 도달할 것이라고 생각했다.) 거의 모든 연사가 상황이 거칠어질 것이라고 생각했다 - 전반적으로 좋은 방식은 아닐 것이고.
인공지능과 인공지능의 미래, 사회에 미치는 영향에 관심이 있다면 토론을 끝까지 지켜봐 주시기 바란다. 3시간 30분이라는 엄청난 시간이 소요되지만 모든 연사가 동의할 수 있는 한 가지는 인공 지능이 현재 어떤 형태로든 사회에 막대한 영향을 미치게 될 것이라는 점이다.
이 분야의 많은 리더들이 생각하고 있는 큰 단면이 무엇인지 알고 싶다면 지금이 시작하기에 가장 좋은 지점이고 2020년대의 남은 야생 AI 시대로 들어 가는 2022년의 타임캡슐을 봐야 한다.
