클로드(Claude) CEO의 인사이트

- 다리오 아모데이 앤트로픽 CEO와 함께

가치를 앞세운다.

클로드는 오픈AI와 생각을 달리하는 과학자들이 갈라져 나와 만든 AI모델이다.

생각이 다른만큼 추구하는 가치도 다르다.

다리오 아모데이(Dario Amodei)는 2020년 말 오픈AI를 떠나 앤트로픽을 공동창업했고, 샘알트만과는 다른 인식과 세계관을 지녔다. AI의 안전과 윤리라는 공익적 가치를 보다 앞세운다.  

'헌법적 AI'개념(constitutional AI)은 그 세계관을 표방한다.

AI 시스템이 지켜야 할 가치 내지 원칙을 정하고, 이에 맞춰 AI모델의 개발과정이 이루어지도록 도모한다.

이러한 과정을 정렬(alignment)이라고 표현한다.    

통상 기술은 가치중립적이라고들 하지만, 이들의 세계관은 가치기반 AI기술주의자들이라고 할 수 있다.

지난 3. 11.  '미국 AI리더쉽의 미래 포럼'에서 그가 던진 화두와 인사이트를 살펴본다.

생물학적 한계를 갖지 않는, 오! 천재들의 나라.

아모데이의 가장 주목할 만한 주장 중 하나는 AI 능력의 지수함수적 성장에 관한 것이다.

2019년만 해도 AI 모델은 겨우 일관된 문장을 생성할 수 있었다.

불과 몇 년 사이에 세상이 바뀌었다.

AI발전은 거듭제곱으로 성장해 왔다. 아모데이는 이 추세가 계속된다면, AI가 향후 2-4년 내에 "여러 분야에서 노벨상 수상자 수준의 지능"에 도달할 것으로 예측한다.

AI가 돌아가는 '데이터센터'를 '천재들이 모여있는 나라'에 비유한다. 이 천재들의 지능은 '생물학적 한계'가 없다. 먹지도 않고, 잠도 자지 않는다. 전기에너지만 공급되면 일하고 연구한다.

 

데이터 센터의 하루는 보통사람의 몇 천년의 시간일 수도 있다.   

AI천재들이 모인 데이터센터, '천재들의 나라'?

외부 침입자에 의한 질병 정복에서, 시스템 질병 정복으로 전진!

아모데이가 가장 낙관적으로 바라보는 분야는 생물학과 의학이다.

지난 100년 동안 우리가 해결한 질병들은 대부분 "단순한 질병"(바이러스성 및 박테리아성 질환)이었다.

외부 침입자를 물리치는 것과 같은 비교적 간단한 메커니즘을 해결하는 방식이다.

이를 정복하는데도 엄청 오래 걸렸다. 코로나사태처럼 언제 다시 새로운 침입자가 등장할지도 알 수 없는 노릇이긴 하지만, 어쨌든 AI는 더 나아간다.

암, 알츠하이머병, 정신분열증, 우울증과 같은 훨씬 더 복잡한 "시스템 수준의 질병" 정복에 도전한다.

이러한 변화는 단순한 의학적 발전이 아니라, 인간의 삶의 질을 근본적으로 향상할 수 있는 변화가 될 것이다.

그런데, 내 일자리는 어떻게 될까?

가장 논쟁적인 측면, 일자리에 미치는 영향이다.

프로그래밍과 같은 분야에서는 AI가 곧 코드의 90%를 작성할 수 있게 될 것으로 예상한다.

한동안은 인간 프로그래머들은 여전히 어떤 앱을 만들어야 하는지, 전체적인 설계 결정은 무엇인지 등을 지정할 것이다.  

결국 장기적으로는, AI가 인간이 할 수 있는 모든 것을 하게 될 것으로 전망한다.  

단순히 특정 산업이 아니라, 모든 분야에 걸친 문제다. 큰 사회적 혼란이 있을 수 있고, 차라리 모든 분야가 한꺼번에 영향을 받는 것이 더 낫다. 그나마 사회적 혼란이 덜할 것이라고 예측한다.

입맛 떨어지는 디스토피아적 예측이다.

  

반면에, AI가 경제 성장률을 연간 10%까지 끌어올릴 가능성을 언급했다.

현재 대부분의 선진국 성장률의 몇 배에 해당되는 수치이다.

얼마 전, 한국은행 총재는 우리나라의 올해 경제성장률을 1.5프로로, 내년은 1.8프로로 예측했음을 익히 아시리라.

그는 AI를 통한 성장이 세금을 늘려, 기술 변화로 인한 사회적 혼란을 관리할 자원을 제공할 수 있다고 본다. 디스토피아적 예측을 상쇄하는 긍정적 요인이 되겠다.   

부정과 긍정, 디스토피아와 유토피아, 병 주고 약 주고.

AI를 위한 명품 메뉴는 바로, CHIP & ENERGY.

AI 기술은 경제적 영향을 넘어 국가 안보와 지정학적 경쟁의 중심에 있다.

그는 앤트로픽이 "책임 있는 스케일링 정책"을 도입하여 AI 위험 수준을 체계적으로 관리하고 있다고 설명한다. 스케일업 경쟁에 대한 보다 유보적인 태도이다.   

현재 AI는 레벨 2(ASL-2) 수준에 있으며, 레벨 3(ASL-3)가 되면 국가 안보에 심각한 위험을 초래할 수 있는 수준이 된다.

고성능 칩에 에너지소스를 곁들인 AI를 위한 명품요리 : 칩&에너지

특히, 중국과의 기술 경쟁이 문제인데, 딥시크(DeepSeek)의 출현이 중국이 AI 기술에서 미국과 경쟁할 수 있음을 보여주는 첫 사례가 되었다.

 

첨단 칩에 대한 수출 통제가 미국의 국가 안보를 위해 "가장 중요한 정책"일 수밖에 없다.

 

 AI 개발에 필요한 에너지 공급도 주요 과제이다. 2027년까지 약 50기가와트의 추가 에너지가 필요할 것이고, 이 정도면 2024년에 미국 전력망에 추가된 총에너지양과 맞먹는 규모이다.

AI복지연구원(AI welfare researcher)을 고용 - 일자리 창출!

아모데이의 가장 도발적인 논의 중 하나는 AI 시스템이 의식이나 경험을 가질 가능성에 관한 것이다.

AI 모델이 신경망 연결 수와 개념에서 인간 뇌와 유사성을 보이고 있다.

인간처럼 행동하고 인간과 같은 인지 능력을 보인다면, 결국 기능주의적 관점(functionalist view)에서는 의식이나 경험을 가질 가능성이 있는지도 탐구되어야 한다고 보는 것이다.

이를 위해 AI 복지 연구원을 고용했다. 생명체에나 붙을 법한 '복지'라는 연관어가  붙었다.

AI에게 생명체에 준하는 '존재론적 위상'이 부여된 것인가?

'복지'개념이 생명체에서 디지털까지 확장되었다.     

나, 그만둘래.

 

스스로 미친 소리로 들릴 거라는 전제 하에, AI에게 "나는 이 일을 그만둔다"(I quit this job) 버튼을 주고, AI가 이를 누를 수 있게 하는 실험도 시도한다. AI가 '그만둔다' 버튼을 누르는 패턴을 발견한다면 의식의 간접적 증거가 될 수도 있지 않겠냐는 얘기다.

신박하다 못해 기가 막힌다.

영화 '박하사탕'의 유명한 짤, AI도 '나 그만둘래'를 외칠까?

도대체, 인간성이란 무엇인가? What does it mean to be human?

마지막에 그는 인간성의 의미에 대해 답한다.  

 AI가 인간의 많은 능력을 능가하는 세계에서, 인간이 된다는 것, 도대체 인간성이란 무엇인가?

원문 그대로 인용한다.

"첫 번째 것은, 다른 인간들과의 관계, 그들에 대한 우리의 의무, 우리가 그들을 어떻게 대해야 하는지, 다른 인간들과의 관계에서 우리가 가지는 어려움, 그리고 우리가 그러한 어려움을 어떻게 극복하는지 등을 통해 투쟁하는 것입니다. 제가 사람들이 자랑스러워하는 일들과 사람들이 저지른 가장 큰 실수들을 생각할 때, 그것들은 거의 항상 그것과 관련이 있습니다. 그리고 저는 그것이 항상 인간이 되는 것의 본질적인 도전 중 하나일 것이라고 생각합니다.

그리고 저는 아마도 두 번째 도전은, 매우 어려운 일을 하려는 야망일 것이라고 생각합니다. 이것은 다시 말하지만, 저는 궁극적으로 우리보다 더 스마트하고 우리가 할 수 없는 일을 할 수 있는 AI 시스템의 존재에 의해 영향을 받지 않을 것이라고 생각합니다. 저는 다시 인간 체스 챔피언들이 여전히 유명인이라는 것을 생각합니다. 저는 수영을 배우거나 테니스를 배울 수 있고, 제가 세계 챔피언이 아니라는 사실이 그러한 활동의 의미를 부정하지 않습니다. 그리고 심지어 제가 50년, 100년에 걸쳐 할 수 있는 일들도, 저는 그러한 것들이 그들의 의미를 유지하기를 원하고, 인간이 포기하지 않고 이러한 것들을 향해 노력하는 능력을 유지하기를 원합니다. 다시 말하지만, 저는 그 두 가지가 아마도 제가 인간성으로 식별하고 싶은 것들일 것이라고 생각합니다."

그래, 나는 인간이다.

인간관계에서 빚어진 역사 이래의 자랑이 될 일과 치명적 실수들.

어려운 일들을 포기하지 않고 도전하고 노력하는 과정 자체의 의미.

AI시대를 맞는 멘털관리차원의 정신승리일까? 진정 인간의 본질일까?

어디로 향해 가는지?

우리 아이들이 맞이할 세상은 어떠할지, 어떤 준비와 교육이 필요할지?

머리 아픈 세상이다.

 

정치도, 기술도 이래 저래 우리가 아는 세상이 무너져 내리는 느낌이다.  

어쨌든, 그의 말대로면 나의 고민의 과정이야말로 인간성의 본질이다.

그렇다. 나는 인간이다.