왜 인간은 AI를 통제하기 어려운가?(1)

현대 기술의 특성과 인간의 배제

AI는 인간이 통제하기 어렵다.

왜 그럴까?

그 가장 큰 이유는 현대 기술의 본성 때문이다.

여기서 내가 말하는 현대 기술은 대략 18-19세기에 등장한 기술을 말한다.

이 무렵 완전히 새로운 종류의 기술이 등장했다.

전통 기술

전통 기술은 한 마디로 '경험의 반복'을 통해 축적된 기술이다.

일본도를 수백 년 동안 만들어온 장인에게는 수백 년 동안의 경험이 축적되어 있는데, 이것이 전통 기술이다.

장인의 기술의 상당 부분은 말이나 글로 설명하기 어려운 '암묵지'(暗默知)이다.

현대 기술

그러나 현대 기술은 다르다. 뭐가 다른가?

1. 목표

현대 기술은 암묵지를 그다지 중요하게 여기지 않는다.

그럼 무엇이 중요한가?

현대 기술은 일단 '기술의 목표'부터 다르다.

현대 기술은 '심오함,' '깊이,' '혼', '가치', '고귀함,' '아름다움' ..

이런 것들에 별 관심이 없다.

현대 기술은 수학적으로 측정가능한 목표치를 중요하게 여긴다.

가령, 현대 기술은 '시청자에게 유익을 주는 방송'과 같은 목표에는 관심이 없다.

대신 '시청 지속시간 10분 연장'과 같은 목표 달성에 관심이 있다.

목표는 측정 가능해야 한다.

2. 목표 달성 경로's

일단 그러한 측정 가능한 목표가 세팅되면

그 다음 단계는 그 목표 달성을 어떤 식으로 할 것인지에 대한 방식들을 모색한다.

그런데 이때 그 방식들도 수학적으로 계산 가능해야 한다.

이것은 마치 네비게이션이 출발지에서 도착지까지의 경로를 계산하는 것과 유사하다.

그러니까 현대 기술이란 한 마디로 측정 가능한 목표치에 도달하는 경로를 수학적으로 계산하는 과정이라고 압축해서 말할 수 있다.

현대 기술에서는 목표치도 측정 가능해야 하고,

그에 도달하는 경로들도 계산 가능해야 한다.

무엇을 계산할 것인가?

비용(cost) 대비 효과(effect),

즉 효율성(efficiency)을 계산한다.

3. the 최단거리

만일 측정 가능한 목표치가 존재하고,

그 목표에 도달 가능한 몇 가지 경로들을 계산할 수 있다고 해보자.

그렇다면 당연히 그러한 여러 경로들의 효율성을 서로 비교할 수 있을 것이다.

이때 추론되는 결론이 있다.

여러 개의 후보 경로들 중에서 '최적의 경로는 단 하나'라는 것이다.

현대 기술은 그 단 하나의 최적의 경로를 찾아내는 과정이라고 할 수 있다.

전통 기술은 주로 장인들에 의해서 수행되고 발전해 왔는데, 그들은 다양한 방식의 실험을 감행하고 그러한 과정에서 수없이 많은 시행착오들을 반복하며 경험을 축적해서 기술을 발전시켰다.

그러나 현대 기술은 그렇게 발전되지 않는다.

현대 기술은 실험실(lab)에서 발전된다. 랩실에서 하는 일은 계산이다.

현대 기술의 발전은 실험적, 경험적 방식이 아니라

오로지 '수학적' 계산을 통해서 발전한다.

인간의 배제

그리고 바로 이러한 과정에서 인간은 배제된다.

만일 측정 가능한 목표치의 달성을 위해서 10가지 경로가 존재한다고 해보자.

그런데 각 경로들의 효율성을 계산해 봤더니 그 중 6번째 경로가 최적의 경로라고 밝혀졌다.

이때 6번째 경로는 '자동적'으로 선택된다.

누가 선택하는가? 연구실의 과학자가 선택하는 것이 아니다.

수학적 계산이 선택한다.

사람이 선택하는 것이 아니라 수학이 선택한다.

인간은 이러한 수학적 계산치를 마치 신의 계시처럼,

즉 신탁(oracle)처럼 받아들인다.

받아들이기만 할 뿐 누구도 토를 달 수 없다.

혹 '계산 방식'에 대해서 이의를 제기한다면 모를까...

지복점(bliss point)

원두 로스팅에서 지복점(bliss point)이라는 개념이 있다.

지복점은 로스팅할 때 설탕, 소금, 지방이 결합하여 소비자에게 최대의 만족감을 주는 지점을 말한다.

전통 기술에서는 커피 명장 개인의 시각, 미각, 후각 등 감각을 통해서 최적의 로스팅 방법을 찾아냈을 것이다.

그러나 현대 기술에서는 이것을 수학적으로 계산한다.

커피 생두가 열을 받아 화학적 변화를 일으키는 과정에서

단맛(Sweetness), 산미(Acidity), 쓴맛(Bitterness), 바디감(Body)이

가장 조화롭게 어우러지는 '찰나의 순간'을 수학적으로 찾아낸다.

이제 더는 커피 명장이 필요 없다.

이런 식으로 현대 기술에서 인간이 배제되는 것이다.

자끄 엘륄의 '기술의 정의'

이러한 현대 기술에 대해서 자끄 엘륄(Jacques Ellul)은 다음과 같이 정의했다.

현대 기술은,

The totality of methods rationally arrived at and having absolute efficiency (for a given stage of development) in every field of human activity.

이를 번역하면

"모든 인간 활동의 영역에서 합리적으로 도달가능한, 절대적인 효율성을 가진 '최선의 단 한 가지 방법들(The one best ways)'의 총체"

라고 할 수 있다.

이 개념은 워낙 함축적이어서 한 번에 이해하기는 쉽지 않다.

이를 풀어쓰면 다음과 같다.

1) 모든 인간 활동의 영역에서:

현대 기술은 특정 영역에 머무르지 않는다. 모든 인간 활동에 나타난다.

2) 측정 가능한 목표에:

엘륄은 이 부분를 생략했는데, 측정 가능한 목표 개념을 고려하지 않으면 엘륄의 기술 개념을 이해하기는 어렵다.

3) 합리적으로 도달 가능한:

수학적으로 계산 가능한

4) 절대적 효율성을 가진:

다양한 경로 중 수학적으로 계산해서 가장 효율적으로 밝혀진

5) 최선의 단 한 가지 방법:

현대 기술은 최적의 단 한 가지 방법을 찾는 과정이다.

6) 단 한 가지 방법들의 총체:

현대 기술은 독립된 개별 기술에 머무르지 않는다.

어느 한 영역에서 찾아진 최적의 단 한 가지 방법은 다른 영역들에서 찾아진 최적의 단 한 가지 방법들(s)과 연결된다.

그리하여 현대 사회는 거대한 기술적 시스템으로 포섭된다.

에필로그

AI를 인간이 통제하기 어려운가? 이유는 바로 여기에 있다.

현대 기술은 본성상 인간을 배제하는 경향이 있다는 것이다.

지난 18-19세기 이후 현대 기술이 발전하는 과정에서 이미 오래 전부터 인간은 점차 체계적으로 배제되어 왔다.

그리하여 기술 발전은 역사적 필연이자 운명이 되어왔다.

그리고 그것이 AI에서 절정에 달하였다.