brunch

You can make anything
by writing

C.S.Lewis

by Ryan Son Nov 27. 2023

OpenAI의 거버넌스 드라마, AI의 윤리적 미래

Humanizing Tech Investments

얼마 전, ChatGPT 출시 이후 몇 달 만에 무일푼에서 연간 10억 달러의 매출로 성장한 비영리 기업인 OpenAI의 이사회 내에서 엄청난 드라마가 펼쳐졌다. 회사의 CEO인 샘 알트먼이 해고되었고 그의 마이크로 소프트에의 이직 발표 이후 다시 OpenAI CEO로의 복직이 결정되었다. 보통 창업 CEO는 회사의 가장 강력한 힘이기에 이사회가 창업 CEO를 해고하는 경우는 거의 없는 일이며, 무엇보다 기업 가치가 800억 달러에 달하는 거대 기업이라면 손도 대지 않는다.

그럼에도 이 같은 5일간의 긴박한 드라마가 펼쳐질 수 있었던 건 OpenAI가 ‘인류를 위해’라는 사명 선언문에 묶여 있는 독특한 구조에 기반한다. ‘인류와 관측 가능한 우주의 모든 것이 사라지지 않도록’이라는 목표에 맞춰 알트먼의 해임 결정을 주도한 것으로 알려진 세 명의 독립 이사회 멤버는 모두 회사의 사명과 연결된 효과적인 이타주의(EA, effective altruism)와 관련이 있다.

the board structure of OpenAI

올 한 해 전 세계를 순회하며 언론과 정부를 상대로 자신이 개발 중인 기술의 실존적 위험에 대해 경고하면서, 알트먼은 OpenAI의 특이한 비영리 내 영리 구조를 강력한 AI의 무책임한 개발에 대한 경종을 울리는 것으로 묘사해 왔으며, 만약 그가 위험한 행동을 하거나 인류의 이익에 반하는 행동을 한다면 이사회는 그를 쫓아낼 수 있는 구조임을 지난 6월의 블룸버그와의 인터뷰에서 언급하기도 했다. 다시 말해 돈보다 통제 불가능한 AGI의 출현과 관련한 안전을 우선시하는 이사회가 언제든지 CEO를 해고할 수 있도록 의도적으로 설계된 구조였다.

그럼 이 Open AI의 새 CEO가 이전의 CEO와 동일하다는 현 상황을 우리는 어떻게 바라봐야 할까?

결과적으로 변화가 없었다는 해프닝으로 마무리하기 어려운 이유는 현시대 우리 사회에 가장 큰 영향을 끼칠 수 있는 윤리적 인공지능 개발과 관련한 결정이 극히 소수의 의견만으로 이루어졌음을 확인하게 된 점에 있다. 샘 알트먼은 이제 AI 개발과 규제를 향한 전 세계의 시선이 몰린 시대의 상징과 같다. 그리고 앞으로의 그의 판단과 결정을 막아설 수 있었던 거의 유일한 외부의 수단이 사실상 폐기된 과정을 우리는 보았으며 이후의 추가적인 외부 수단의 중요성을 확인하게 되었다.

또한 이번 사태로 AI가 인류를 파괴할 것이라고 걱정하는 파멸론자, 기술이 유토피아적 미래를 앞당길 것이라고 생각하는 트랜스휴머니스트, 자유분방한 시장 자본주의를 믿는 사람들, 강력한 파괴적 기술의 잠재적 피해와 돈벌이에 대한 욕구 사이의 균형을 맞출 수 없다고 믿는 거대 기술 기업 억제를 위한 엄격한 규제를 지지하는 사람들의 입장과 해석이 한층 명확해졌다. 그리고 이는 곧 모두 AI와 함께하는 인간의 미래를 향한 두려움에서 시작된다는 점에서 이 미래를 예측하는 주체를 확인할 수 있는 더욱 다양한 커뮤니티의 필요를 확인하고 있음에 주목할 필요가 있다.

세계 AI 분야 가장 영향력 있는 100인에 포함된 바 있는 워싱턴대 최예진 교수는 그녀의 TED 강연에서 각종 국가고시에 합격하는 인공지능이 12리터, 6리터의 주전자들을 통한 6리터 물의 양 측정 시 바보같이 불필요한 과정을 덧붙이는 이유가 인간이 사회에서 습득하는 상식의 학습 부족에 기인한다고 설명했다.

미래를 예측할 때, 우리는 종종 주류가 어디로 향하고 있는지를 나타내는 '한계'를 기준으로 외부자로서의 입장에서 새로운 것을 식별한다. 이때 외부에서 안정적인 미래의 비전으로 보이는 것은 항상 어느 정도는 현재를 기준으로 하는 “생생한 경험”에서 추상화된 기대다. 미국의 인류학자 아르준 아파두라이는 상상력을 사적이고 개인적인 능력이 아닌 사회적 실천이라 주장한 바 있다. 이는 곧 다양한 미래에 대한 상상력이 현실로 나타날 수 있음을 의미하며 이번 사태는 AGI의 출현과 관련된 불안한 미래에의 상상력이 만들어낸 풍경 중 하나일 것이라 해석할 수 있다.

미래를 향한 업계 리더들의 기대가 정치적으로 중요한 의미를 가짐을 확인한 만큼 앞으로는 AI의 미래를 결정하는 데 있어 다양한 사회적, 문화적 맥락에서 집단적으로 상상되고 구성되는 미래에 대한 더 깊은 이해를 필요로 할 것이다. 더 다양한 커뮤니티 내에서의 생생한 경험들을 바탕으로 하는 집단적 기대를 적극적으로 제시할 수 있는 기회의 창출은 과연 어떻게 가능한가에 질문을 던질 때다.