brunch

You can make anything
by writing

C.S.Lewis

by 키다리아저씨 Mar 02. 2023

인공지능의 한계

결정과 책임의 문제

인공지능 Chat GPT가 연일 화제다. 언론에서는 당장이라도 모든 인간을 대체할 지적생명체의 등장을 경계하는 듯한 글들이 쏟아져 나오고 있다.


하지만, 인공지능의 한계는 너무나 명확하다. 그것은 책임과 사명의식 그리고 결정과 그것에 대한 의미를 스스로 알 수 없다는 점이다. 인간은 유기생명 본연적으로 종(Species)에 대한 속박이 있고, 이것은 지구상에 존재하는 유기 생명체의 역사와 함께 한다. 굳이 인공지능과 컴퓨터의 발달을 인간의 진화와 연계하여 필연적 결과물로 인식하고 해석한다 하더라도 인간과 인공지능을 완전히 분리시킬 수는 없다. 오히려 강력한 연결고리를 형성함으로 인공지능의 기원에 대한 이대올로기적 인간 존재의 정당성을 강화시키는 역설을 만들어낸다.


따라서 당분간은 인간과 인공지능은 필연적으로 공생할 수밖에 없는 구조로 발전할 것이다. 물론 현재의 인공지능이 곧 초인공지능 또는 범용인공지능으로 발전하여 인간의 지능 아득히 넘어서겠지만 말이다.


먼저 근본적인 한계로 지목한 책임과 결정의 문제를 차치하고 생명의 근원이 되는 유전자와의 비교로 시작해 보자.


인공지능은 기본적으로 디지털 신호에 의한 로직을 기반으로 움직인다. 유기 생명체의 DNA가 우연하지만 필연적인 목적성을 가진 것에 비해 인공지능은 현재 그 자체로 우연적이지 않고 필연적인 목적성을 갖지 못한다. 이는 진화론적 관점에서 매우 중요한 근거가 될 수 있으므로 인공지능은 지구상에 존재하는 모든 유기 생명체와는 다른 길을 걷고 있는 셈이다.


여기서 언급하는 유전적 우연성과 필연적 목적성은 유전자의 번식과 생존에 대한 욕구를 의미한다. 생명체는 과거 수억 년의 진화과정을 통해 이해할 수는 없지만 유전적 프로그램(DNA 또는 RNA)이라는 특이한 단백질구조의 활동을 기반으로 번식과 생명활동 유지라는 가장 강력하면서도 기본적인 활동을 영위해 왔다. 그럼 여기서 인공지능에게는 번식과 생명활동 유지라는 조건이 성립할 수 있는가에 대해 고민해보아야 한다. 철저히 인간에 의해 설계되는 컴퓨터 프로그램은 인간을 보조하기 위한 고속의 정보처리를 목적으로 발전해 왔다. 그리고 알고리즘이라 불리는 연산법칙의 덩어리는 어디까지나 외부에 존재하는 인간의 인위적 참여에 의해 창조되었다. 이는 생명의 기원이라 생각되는 유기물 복합체의 제조 기원과는 조금 거리가 있다. 때문에 프로그램의 한계는 자체적인 돌연변이의 변수를 극도로 제한받으며, 이는 인간 및 지구상에 존재하는 다양한 생명체의 근원이 되는 '우연'이라는 확률게임과는 다른 형태이다. 설령 '우연'이라는 확률을 극대화시켜 알고리즘을 구성하더라도 기본적으로 인간이 활용하려는 프로그램과 먼 형태의 프로그램이 될 것이며, 이것은 지금 우리가 다루는 인공지능이 아닌 다른 형태의 무엇 일 가능성이 높다. 스스로가 번식하는 프로그램은 완전히 다른 개념으로 발전할 수밖에 없다. 이런 이유로 현재의 인공지능은 철저하게 인간 사회와 지능의 보조수단으로 발전할 수밖에 없으며 그 최종단계의 활용이라는 의미에서 인간이 배제된 인공지능은 아무런 의미와 의의를 갖지 못하게 된다. 


자, 이제 책임과 결정에 대해서 생각해 볼 차례이다. 인공지능은 결정에 대한 권한이 없다. 권한이란 나(我)라는 자아의 존재를 인식했을 때에 가능한 것이며, 스스로의 선택으로 발생하는 결과를 고려할 수 있는 능력이 있어야 한다. 이것은 인간 고유의 생각하는 능력 곧 지능과는 조금 다르게 보아야 한다. 좀 더 직관적으로는 동물이나 식물의 행동으로 말할 수 있다. 자신의 생명유지 활동 유지 또는 위협에 대처하는 방식 정도로 해석할 수 있을 것이다. 따라서 인공지능 즉 컴퓨터 프로그램이 스스로를 하나의 제한된 덩어리 즉 생명체 자신으로 의식하지 않는 이상 선택과 결정이라는 행위는 그 자체로 아무런 의미를 갖지 못한다. 곧 인공지능은 스스로의 존재를 정의할 수 없기 때문에 존재하지 않는 나를 위한 무엇인가는 있을 수 없다. 곧 선택과 결과에 대한 리스크가 존재하지 않는 것이다. 그리고 무엇인가를 고심하거나 고민할 필요도 없다. 때문에 이것이 다른 유기 생명체와의 가장 큰 차이점이라 할 수 있다.


거창하게 들릴 수 있지만, 이러한 근본적인 차이는 데이터의 고속처리 그리고 인공지능의 범용성과는 별개로 인공지능이 진정한 생명체로 발전할 수 있는지에 대한 질문이 된다. 


만약 논리적 설계과정에서 단순히 인공지능의 능력 극대화가 아니라 위에서 언급한 생명활동과 유사한 프로그램을 기반으로 알고리즘을 만든다면 또 다른 문제이다. 오히려 그런 프로그램이 나오는 것을 걱정해야 할지도 모른다. 그러나 지금의 인공지능은 철저히 인간 관점에서 설계되고 있으며, Chat GPT와 같은 형태의 인공지능은 설계과정에서 근본적으로 유기 생명체의 생명활동을 모방하고 있지는 않다.


그럼에도 불구하고 인공지능의 발전속도는 가히 상상하기 어려울 정도로 빠르게 진행되고 있다. 나는 인공지능의 발전이 미래사회에 더 풍요로운 삶을 돕는 획기적인 기술이 되기를 간절히 바란다. 그렇지만 언젠가 현생인류(호모사피엔스)의 지위를 빼앗는 존재가 나타난다면, 그것은 지구상의 다른 종이 아닌 인공지능이 될 것이라는 것도 또한 나의 믿음이다. (아니면, 외계인 정도가 될 듯싶다.)


어쩌면 우리는 가장 역동적인 역사의 순간에 살고 있는지도 모른다. 이 글이 조금은 무겁고 어두운 내용일 수도 있다. 그래도 때로는 이런 심각한 고민을 통해 또 하루의 오늘이 갖는 의미를 되새겨본다. 하루하루가 정말 소중하게 느껴지려면 가끔은 이런 생각이 필요하다. 





이미지 출처 : 

Pixabay로부터 입수된 PublicDomainPictures님의 이미지 입니다. 

작가의 이전글 지식을 담다.
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari