빅브라더와 인공지능 독점의 해체

인공지능 제작, 집행, 분쟁해결 기능의 분리

모두들 인공지능은 우리를 도와 주고 우리가 하기 싫은 일을 대신 해 주는 우리의 친구로 생각한다. 그렇지만, 모든 것에는 밝은 면과 어두운 면이 있듯이 인공지능은 생각하는 대로 우리의 친구가 될 수도 있지만 생각 외로 우리를 감시하는 빅브라더 (Big Brother)가 될 수도 있다. 우리가 인공지능 빅브라더 (Big Brother)에 항복하지 않기 위해서는 미리 철저하고도 충분한 준비를 하고 있어야 한다.

인간의 선택에 따라 인공지능을 친구로 만들 수도 있고 인간의 감시자로 만들 수도 있다.

미국은 자본주의의 원조 국가이자 서부 개척을 통하여 발전한 자유주의가 강한 국가임에도 과거 미국에서 스탠더드 오일 같은 독점 기업을 강제로 분리시키는 법을 이용해서 독점 기업을 분리한 사례에서 얻는 교훈이 분명히 존재한다. 자본주의는 독점 기업을 위해 존재하는 것이 아니다. 독점 기업이 이윤을 얻을 수 있도록 호주머니에서 푼돈을 어렵게 내어 주는 일반 소비자를 보호하고 지켜 주는 것이 바로 진정한 자본주의라는 것을 100여 년 전의 과거 미국에서도 충분히 잘 알고 있었기에 독점 기업을 강제로 분리시키는 법을 통과시켜서 일반 시민의 그나마 가벼운 호주머니가 더 가벼워지는 것을 방지할 수 있었다.

과거 1800년대 후반 그와 같은 미국에서의 귀중한 독점 기업 강제 분리 사례에서 얻은 교훈은 100여년이 흐른 지금도 계속 적용될 수 있다.

그러한 과거 교훈을 바탕으로 지금 우리 앞에 등장하고 있는 인공지능 관련 독점 기업도 분리시킬 필요가 있다.

과거 존재했던 스탠더드 오일 같은 석유 독점 기업은 단순히 일반 소비자의 주머니를 더욱 가볍게 만드는데 그치지만 인공지능 독점 기업은 단순히 일반 소비자의 호주머니에 영향을 미칠 뿐만 아니라 조지 오웰의 1984 소설에 등장하는 빅브라더 (Big Brother) 같이 인간을 감시하고 인간의 생활을 통제할 위험성도 높다. 그런 이유로 스탠더드 오일 같은 석유 관련 독점기업이 사회에 끼치는 해악의 규모보다도 우리 인간의 정신 세계를 갉아먹을 수 있는 인공지능 관련 독점 기업이 사회와 인류에 끼치는 해악의 규모는 상상을 초월할 정도로 더욱 크다고 할 수 있다. 그런 이유로 빅브라더가 될 수 있는 인공지능 독점 기업을 분리시켜 가공할 빅브라더가 출현할 위험성을 사전에 봉쇄할 필요성이 과거 분리되었던 석유 독점기업을 분리시켰어야 하는 필요성보다도 훨씬 더 크다고 볼 수 있다.

구슬이 서말이라도 꿰매야 보배라는 말처럼 인공지능 독점 기업을 어떻게 분리시킬지 구체적인 분리 방법을 잘 마련하지 않으면 아무 소용이 없다.

우선, 기존에 존재하는 인류가 개발한 것들 중에 정부 구조상 권릭분립의 원리, 즉 입법부, 사법부, 행정부의 3부를 각각 분리시키는 삼권 분립의 정신을 인공지능 독점 기업의 분리에도 적용시는 방안을 검토할 필요가 있다.

즉, 인공지능 독점 기업을 분리하는 방안으로는 인공지능 제작자와 인공지능 집행자 그리고 인공지능 분쟁 해결자(분리되어야 하는 인공지능 제작자와 인공지능 집행자 사이에 탈법적으로 은밀한 담합행위를 조사사고 검증허며 적발해 내는 자)를 서로 완전히 분리하는 방안을 적극 검토할 필요가 있다.

정부 구조에서 통용되는 삼권 분립, 즉 입법부 - 사법부 - 행정부이 권력 분립 원리를 인공지능 독점 기업의 분리에도 준용하는 방안이다.

시민 혁명에 의한 삼권 분립과 인공지능 독점 해체의 비교

우선, 인공지능 프로그램의 제작자는 제작 업무만을 담당하도록 하여 제작된 해당 인공지능을 실행하거나 집행하는 것에까지 관여하는 것을 엄격하게 금지할 필요가 있다. 인공지능 프로그램의 제작자와 실행자를 엄격하게 분리하면 제작자는 제작에만 관여할 뿐 실제 인공지능의 적용에는 개입할 수 없기 때문에 인공지능이 조지 오웰의 1984 소설에 등장하는 빅브라더가 될 위험성을 축소시킬 수 있다. 위와 같은 인공지능 제작과 실행의 엄격한 분리는 단순히 형식상으로만 분리해서는 안 되고 특수관계인이나 간접적인 관계 등 우회 통로를 통한 인공지능 제작과 실행의 결합을 엄격하게 통제할 필요가 있다.

예를 들어, A라는 기업이 인공지능 프로그램을 개발하면 개발 즉시 A라는 기업은 더 이상 인공지능 프로그램을 이용한 추가 행위를 할 수 없게 법제화 하는 것이다. 물론 A라는 기업과 관련이 있는 자, A 라는 기업이 개발한 인공지능 프로그램 개발에 관여한 개인들(이하, "A 관련자"라고 지칭하기로 한다)도 모두 A 관련자로 보아서 더 이상 개발 이후의 추가 행위를 할 수 없도록 하여야 한다. 이러한 인공지능 개발 단계에 관여할 수 있는 자와 인공지능 개발 후 실행 단계에 관여할 수 있는 자를 엄격하게 법적으로 구분하도록 하는 것은 미국에서 실행되었던 과거 독점 기업에 대한 기업 분리 명령과 사실상 같은 것이라고 볼 수 있다. A라는 기업 및 A 관련자는 인공지능 프로그램 개발이 된 즉시 인공지능 프로그램에서 손을 떼어야 하고 더 이상 개발된 인공지능과 관련된 그 어떤 행위도 할 수 없도록 하고, 만약 A라는 기업 및 A 관련자가 위와 같은 제한을 회피함으로써 직접 또는 간접적으로 우회통로를 이용해서 개발 이후의 인공지능에 추가 관여하였음이 확인되면 엄청난 규모의 징벌적 손해배상, 벌칙 적용 등을 함으로써 함부로 위와 같은 제한을 회피하려는 시도를 최대한 억제할 필요가 있다.

A라는 기업이 제작한 인공지능이 개발된 후 A 및 A 관련자는 일체 더 이상 인공지능에 관여할 수 없으므로, 인공지능 개발 이후에 인공지능을 이용하거나 활용하는 행위는 A 및 A 관련자 이외의 제3자가 수행할 수밖에 없다. 그 제3자를 B라는 기업이라고 하자. A 및 A 관련자와는 법률적, 사회적, 경제적으로 완전 독립된 B 및 B 관련자만이 인공지능(A 및 A 관련자가 개발한 인공지능)을 이용하거나 활용하는 행위를 할 수 있다.

B 및 B 관련자는 인공지능의 제작에는 전혀 관여할 수 없고, 단지 A 및 A 관련자가 제작한 인공지능을 이용하거나 활용할 수밖에 없다. 그러한 이유로 B 및 B 관련자는 인공지능 실행자의 지위만을 갖게 된다. 현재 한국에서는 입법부인 국회의 국회의원이 행정부의 장관을 겸직할 수 있어 의원내각제적 요소가 허용되고 있다. 그렇지만, 인공지능의 독점을 막기 위해서는 인공지능 제작자와 인공지능 실행자를 철저히 분리시킬 필요가 있으므로, 현재 한국의 정부 구조와 달리 인공지능 분야에서는 그 어떤 경우에도 인공지능 제작자와 인공지능 실행자를 철저히 분리시켜야 한다. 인공지능이라는 것은 눈에 보이지 않는 프로그램들의 작동으로 운영되는 것이므로, 조금만 빈틈을 두었다가는 우리는 우리를 감시하는 빅브라더를 곧 만나게 될 것이다.

인공지능을 개발하는 업무만을 한정적으로 담당하는 A 및 A 관련자와 인공지능 실행자의 지위만을 갖는 B 및 B 관련자는 서로 법적, 사회적, 경제적으로 완전 독립되어 있으므로 인공지능 개발자(A 및 A 관련자)와 인공지능 실행자(B 및 B 관련자) 가 담합하여 인공지능을 이용해서 소비자를 감시하는 등 우리 인간을 희생시키면서 이익을 추구하는 행위를 하는 것이 원천적으로 차단될 수 있다.

그리고, 권력분립의 원칙상 사법부에 해당하는 인공지능 분쟁 해결자(분리되어야 하는 인공지능 제작자와 인공지능 집행자 사이에 탈법적으로 은밀한 담합행위를 조사사고 검증허며 적발해 내는 자)로 C 및 C 관련자를 설정할 수 있다.

C 및 C 관련자(인공지능 분쟁 해결자)는 인공지능 개발자(A 및 A 관련자)와 인공지능 실행자(B 및 B 관련자) 사이에 엄격하게 완전한 사회적, 법적, 경제적인 분리가 지켜지고 있는지를 감시하면서 만약 탈법적인 방법으로 인공지능 개발자(A 및 A 관련자)와 인공지능 실행자(B 및 B 관련자) 사이의 내통이나 담합행위가 적발되는 경우 이를 조사하고 징벌적 손해배상 및 벌칙규정을 적용할 수 있는 권한을 가진다.

물론, 인공지능 분쟁 해결자(C 및 C 관련자) 는 인공지능 개발자(A 및 A 관련자)와 엄격하게 완전한 사회적, 법적, 경제적인 분리가 되어야 하고, 또한 인공지능 분쟁 해결자(C 및 C 관련자) 는 인공지능 실행자(B 및 B 관련자)와도 엄격하게 완전한 사회적, 법적, 경제적인 분리가 되어야 한다.

위와 같이 인공지능 분쟁 해결자(C 및 C 관련자), 인공지능 개발자(A 및 A 관련자), 인공지능 실행자(B 및 B 관련자) 등 인공지능 관련 3가지 주체를 엄격하게 분리하는 것은 자본주의와 모순되는 것이 아니며, 자본주의 하에서 충분히 실행될 수 있다. 과거 독점 기업을 미국에서 강제 분리시켰던 것처럼 자본주의하에서도 충분히 실행할 수 있는 조치라고 볼 수 있다.

위와 같이 인공지능 분쟁 해결자(C 및 C 관련자), 인공지능 개발자(A 및 A 관련자), 인공지능 실행자(B 및 B 관련자) 등 인공지능 관련 3가지 주체를 엄격하게 분리하는 것이야말로 애플이라는 회사의 1984년 광고에서 도끼를 던져 깨뜨렸던 대상인 빅브라더 인공지능이 출현하는 것을 예방할 수 있는 최소한의 장치라고 볼 수 있다. 삼권분립의 원칙을 활용하여 위와 같이 인공지능에서 독점을 예방하지 않으면 인공지능은 순식간에 빅브라더가 되어 우리를 감시할 것이다. 물론 우리는 인공지능 빅브라더가 우리를 감시하는 것조차 알지 못한 상태에서 감시를 받을 것이다. 다음에서는 인공지능에 대한 기득권(그동안 엄청난 비용과 노력을 들여서 인공지능을 개발해서 현재 인공지능으로 인한 독점 이익을 향유하고 있는 독점 기업 또는 앞으로 그러한 독점 이익을 누릴 것을 기대하고 있는 독점 기업의 기득권)을 보유한 독점기업들이 영업비밀의 침해를 주장하거나 또는 자신들의 지적재산권 침해 등을 주장하면서 강력하게 위와 같은 인공지능 관련 3가지 주체를 엄격하게 분리하는 법에 대해 저항할 것이라고 예상되는바, 그와 같은 거대 독점 기업들의 저항에 대해 대비할 수 있는 방안에 대해 살펴보고자 한다. 인공지능 관련 기득권을 가진 거대 독점 기업들의 기득권 지키기 움직임은 매우 거셀 것으로 보이지만 그러한 거대 기득권 독점 기업들의 기득권 수호 움직임에 항복한다면 어느 새 인공지능 빅브라더가 우리의 일거수 일투족을 감시하는 1984년의 세상이 현실이 될 수 있다.