The Software Revolution
소프트웨어 혁명 - 샘 올트먼 (2020)
인류 역사에는 세 번의 거대한 기술 혁명이 있었습니다. 수많은 작은 혁신도 있었지만, 진정한 전환점이 된 세 가지는 농업 혁명, 산업 혁명, 그리고 지금 우리가 한가운데를 지나고 있는 소프트웨어 혁명입니다. [1]
이런 대규모 기술 혁명은 사람들이 매일 하는 일의 본질과 사회의 구조 자체를 바꿔 놓았습니다. 예컨대 산업 혁명은 새로운 기술을 운영하기 위해 엄청난 수의 인력이 필요했기 때문에, 대량의 일자리를 창출했습니다. 하지만 사실 이런 현상은 기술 발전의 일반적인 흐름은 아니며, 오히려 예외적인 경우였습니다. 그런데 많은 사람들이—어쩌면 무의식적으로—기술 혁명이 항상 대부분 사람들의 경제적 지위에 긍정적인 영향을 미칠 거라고 믿게 된 이유이기도 합니다.
하지만 소프트웨어 혁명은 전통적인 기술의 방식대로 흘러가고 있는 것처럼 보입니다. 즉, 부(wealth)는 만들어내되, 일자리는 없애는 방향으로요. 물론 인류는 무한한 욕망을 충족시키기 위해 새로운 일을 또 찾아낼 겁니다. 하지만 “소프트웨어 혁명 그 자체가 중산층 임금 상승에 기여할 것이다”라는 식의 낙관적 환상은 이제 그만둘 때입니다.
기술은 능력과 운을 증폭시키는 지렛대 역할을 합니다. 하지만 동시에 부의 집중과 불평등의 심화를 낳습니다. 저는 극단적인 부의 격차가 앞으로 20년간 가장 큰 사회적 문제 중 하나가 될 것이라고 생각합니다. [2] 우리는 부의 재분배를 시도할 수 있고, 실제로 그렇게 할 것입니다. 하지만 여전히 남는 문제는 “사람들이 삶에서 의미를 느낄 만한 활동을 할 수 있는가”라는 근본적 질문입니다.
쓸모없는 일자리를 억지로 유지하려는 시도는 끔찍하지만 의외로 대중적인 아이디어입니다. 반대로 수십억 인구에게 새로운 일자리를 만들어주려는 시도는 정말로 바람직하지만 현실적으로 거의 불가능에 가까운 과제입니다. 왜냐하면 새로 생겨날 일들은 지금 존재하는 것들과는 근본적으로 너무 다를 것이고, 그렇기 때문에 지금 시점에서 제대로 계획하는 것이 거의 불가능하기 때문입니다.
하지만 현재 많은 이들이 취하는 전략은 이런 식이죠:
“트래비스(칼라닉, 우버 전 CEO)가 자율주행차를 말할 때 그냥 농담하는 거라고 치자. 우버는 앞으로도 수백만 개의 일자리를 계속 만들어낼 거야.”
이건 현실을 외면하는 태도입니다. 진짜 해답이 아닙니다.
소프트웨어 혁명의 두 번째 주요 과제는 권력의 집중입니다.
기술 혁명은 대부분 소수에게 더 많은 권력을 몰아주는 경향이 있고, 소프트웨어도 예외가 아닙니다. 이전의 가장 무서운 기술—핵폭탄—은 산업 혁명처럼 사람들에게 잘못된 교훈을 남겼습니다.
핵폭탄을 만드는 일이 어려운 이유는 지식이 기밀이기 때문만은 아닙니다(물론 기밀이긴 합니다. 가령, 제가 핵폭탄 만드는 법을 안다고 해도, 그걸 말하는 건 극도로 불법입니다). 진짜 어려운 이유는 엄청난 에너지가 필요한 우라늄 농축 과정 때문입니다. [3] 사실상 국가 단위의 자원이 없으면 만들 수 없죠.
하지만 이것도 기술 발전의 전형적인 경로는 아닙니다.
핵기술은 특수한 경우고, 일반적으로 기술은 더 많은 권력을 더 적은 사람에게 줍니다.
그리고 지금 소프트웨어가 그 전형적인 길을 따르고 있는 중입니다.
저는 소프트웨어 혁명에서 생겨나는 가장 위험한 두 가지 리스크로 AI(인공지능)와 합성 생물학을 꼽습니다. 이 기술들은 소수의 그룹, 아니면 개인의 손에 엄청난 해악의 능력을 쥐여줄 수 있습니다.
이미 작은 실험실에서도 끔찍한 전염병을 설계하고 제조하는 것이 가능하다고들 말합니다. 그리고 인류를 멸망시킬 수 있는 AI의 개발 역시, 전 세계 어디든 노트북만 있는 건물 안 수백 명 규모의 팀이면 충분할 수도 있습니다.
즉, 앞으로는 존재 자체를 위협하는 위험(existential risk)을 만들기 위해 국가 수준의 자원이 필요하지 않게 될 것입니다.
과거엔 국가만이 할 수 있던 일들—예를 들어 로켓 개발—도 지금은 민간 기업이 합니다. 그게 가능한 건 부분적으로 소프트웨어가 가능케 했기 때문이죠.
하지만 로켓 하나만으로도 지구상의 모든 것을 파괴할 수 있다는 사실은 변하지 않습니다.
그렇다면 우리는 무엇을 해야 할까요?
“이런 기술에 대한 지식을 금지하면 되지 않을까?”
아니요, 그런 건 통하지 않습니다.
“기술 발전을 막으면 되지 않을까?”
그것도 불가능합니다.
제가 생각하는 최선의 전략은 다음과 같습니다:
- 지속 가능한 규제를 입법화하려 노력하되,
- 기술의 선한 활용이 악의적 활용보다 항상 더 앞서가도록 만드는 것입니다.
예를 들어, 우리가 신종 질병을 합성할 수 있다면, 신종 백신도 합성할 수 있어야 합니다.
우리가 악의적인 AI를 만들 수 있다면, 그걸 막는 AI도 만들어야 합니다.
현재 대부분 사회가 취하고 있는 전략은 완전히 잘못된 방향입니다.
이번은 핵폭탄 때와는 전혀 다를 것입니다.
우리가 이 사실을 빨리 인식할수록, 훨씬 더 나은 대응을 할 수 있습니다.
그런데도 AI나 합성 생물학의 위협에 대응하는 진지한 시도조차 거의 없는 현실은 참으로 충격적입니다.
분명히 말하자면, 저는 소프트웨어 혁명의 열렬한 지지자입니다. 지금 이 시대에 태어났다는 사실에 감사하고 있고요. 하지만 저는 우리가 최근 사례들에서 잘못된 교훈을 배웠다고 느낍니다. 그리고 지금 우리가 놓치고 있는 두 가지 가장 중요한 이슈가 바로 이것입니다:
1. 대규모 일자리 붕괴
2. 소수에 집중되는 거대한 권력
[1] 많은 작은 기술들도 인류 역사에서 매우 중요했습니다. 예컨대 수제 도끼(인류 역사상 가장 오랫동안 쓰인 기술), 문자, 대포, 내연기관, 핵무기, 그리고 낚시—일부 학자들은 우리가 오늘날의 뇌를 갖게 된 건 낚시 덕분이라고도 말합니다.
[2] 물론 지금은 100년 전보다 훨씬 삶의 질이 좋아졌습니다. 정말 가난한 사람조차도요.
그리고 “부자들이 싸고 좋은 서비스를 만들어 가난한 사람들에게도 혜택이 간다”는 주장도 사실입니다.
하지만 오늘날 다른 사람들과의 상대적 삶의 질을 무시하는 건, 인간성을 무시하는 것과 다름없습니다.
저는 어떤 사람이 다른 사람보다 수천 배 많은 돈을 버는 현실 자체를 나쁘게 보지는 않습니다. 하지만 동시에 세금을 기꺼이 내야 한다고 생각하고, 진짜 가난한 사람들을 돕기 위한 더 많은 사회적 노력이 필요하다고 믿습니다.
기술 발전이 계속될수록 사회 안전망도 함께 진화해야 합니다.
