인류의 미래를 그리는 민족지학, AI 리더십의 과제
Humanizing Tech Investments
오픈AI의 최고기술책임자(CTO) 미라 무라티가 6년 반의 시간을 끝으로 회사를 떠난다는 발표를 했다. 2022년 발표된 ChatGPT의 개발을 총괄해 온 그녀는 작년부터 이어진 오픈AI 초기 핵심 멤버들의 퇴사 릴레이에서 3번째 주자가 되었다. 현재 1,500억 달러 규모의 투자 유치를 진행 중인 오픈AI이기에 기존의 비영리법인에서 영리법인으로의 전환에 따른 지배 구조 개편의 영향 때문일 것이라는 가능성도 제기되고 있다.
하지만 무엇보다 우리가 이 상황에서 주목해야 할 사실은 이제 샘 올트먼 대표의 ‘AI가 만드는 인류의 미래’에 대한 관점과 태도가 우리 사회에 더 큰 영향력을 끼치게 될 것이라는 점이다. 그는 그동안 전 세계를 다니며 인공지능은 인류에게 압도적으로 유익할 것임을 공공연히 밝혀왔다. 그리고 얼마 전 새 블로그 글 ‘지능의 시대’를 통해 머지않아 인류 역사에 풍요의 시대가 올 것임을 다시 한번 주장했다.
그는 수천 일 뒤에 확인 가능해질 AGI(범용 인공지능)가 오랜 시간 인류를 괴롭혀 온 문제들을 제거하고 황금시대를 열게 될 거라 이야기한다. 하지만 그의 낙관론에는 부의 불평등이나 사회 적응에 있어서의 부작용에 대한 언급이 ‘윤리적 고려’라는 모호한 표현에 그치고 있음을 우리는 확인할 필요가 있다. 이를 보다 명확히 이해하기 위해 여기 또 하나의 AI 사회 적용을 추진하는 사람을 소개해 본다.
안두릴(Anduril)의 공동 창업자인 트레이 스티븐스는 최근 Wired와의 인터뷰에서 자신이 실리콘밸리 내 미국 정부에 군사 및 데이터 과학 기술을 판매하는 회사를 만들려는 시도의 중심에 있었음을 밝혔다. 그가 설립한 안두릴은 AI와 혼합 현실을 방위 기술에 접목한 군사 계약자로, '스마트 전장' 구축을 목표로 시작되었다 한다.
해당 인터뷰에서 흥미롭게 확인되는 부분은 그가 불완전한 인간이 일으키는 전쟁 관련 윤리적 의식을 그의 기독교인으로서의 믿음과 이해에서 가져온다는 점이다. 초기 안두릴은 무기를 개발하지 않을 것이라는 기준 아래 시작했음에도, 현재는 미 국방부의 지침에 따라 자칭 '윤리적인 방식'으로 자율 전투기 등의 치명적인 무기를 개발하고 있다. 다시 말해, 그는 군사 및 방위 기술에의 AI 적용이 전쟁의 양상을 변화시켜 결과적으로 국가를 방어하고 사람들을 보호한다는 정당성을 공개적으로 언급하고 있다.
두 사람 모두 각자의 관점에서 AI가 적용된 인간의 미래에 새로운 가능성을 제시하며, AI의 윤리적 사용에 대한 책임을 강조하고 있다. 하지만 그들은 기술적 성취와 기대 뒤에 숨겨진 또 하나의 달의 뒷면, 즉 윤리적 딜레마와 사회적 영향, 사회 적응 가능성에 대해서는 구체적으로 다루지 않고 있다. 외부에서 이러한 상황을 방관한다면, 거대한 사회적 부적응 사례가 통제 불가능하게 발생할 수 있음을 상기할 필요가 있다. 실제로 AI 알고리즘 편향에 의한 차별 문제, 자율 무기 오작동으로 인한 인명 피해, 딥페이크 기술로 인한 정보 왜곡과 사생활 침해 등 다양한 부작용 사례가 이미 나타나고 있다.
따라서 현재와 미래의 행동 방향을 결정하는 데 보다 구체적인 이해와 대비를 위해, 민족지학을 활용한 '미래 예측'(foresight) 프로젝트를 관련 기업별로 시도해 볼 필요가 있다. 민족지학적 접근은 사람들의 행동, 신념, 문화적 맥락을 깊이 있게 이해함으로써, 표면적인 데이터나 통계로는 파악할 수 없는 미묘한 사회적 신호와 패턴, 숨겨진 동기와 필요를 발견할 수 있게 해 준다. 이는 새로운 AI 기술이 사회에 어떻게 받아들여질지, 어떤 반응을 일으킬지를 예측하는 데 핵심적인 정보를 제공한다.
예를 들어, 여행을 위해 가방을 꾸리는 과정을 생각해 보자. 우리는 필요한 것과 미래에 할 일을 상상하며 짐을 챙긴다. 이 과정에서 일기 예보를 확인하고, 공항에 제시간에 도착하는 방법 등을 계획한다. 이는 미래를 추상적으로 생각하고, 사전에 정의된 목표를 달성하기 위한 구체적인 단계를 확인하는 능력이다. 이러한 과정 없이 어떤 것도 제대로 달성할 수 없음을 깨닫게 된다.
마찬가지로, 기술의 사회적 수용과 적응을 민족지학적으로 따라가고 매핑함으로써, 우리는 관련 참여자들이 사는 세계와 잠재적으로 다가올 세계를 더 잘 시각화하고 설명할 수 있게 된다. 미래는 결국 예측과 계획, 실천의 상호 구성적 노력에 의해 구체화될 수 있다는 점을 잊지 말아야 한다. 기술의 발전은 인류에게 큰 이익을 제공할 수 있지만, 그 뒤에 숨겨진 윤리적 딜레마와 사회적 영향에 대한 고려가 필수적이다. 민족지학적 접근을 통해 우리는 기술의 사회적 수용과 영향을 심층적으로 이해하고, 예상치 못한 부작용을 사전에 파악하여 책임 있는 기술 개발과 활용을 실현할 수 있을 것이다. 이는 기술이 인류의 복지와 발전에 지속적으로 기여할 수 있도록 하는 데 중요한 역할을 할 것이다.
References
'챗GPT의 어머니' 미라 무라티 CTO, 오픈AI 떠난다
Trae Stephens Has Built AI Weapons and Worked for Donald Trump. As He Sees It, Jesus Would Approve
