AI 발전의 필요성

도덕적 관점에서 2019

 인류가 우주로 뻗어나가고 언젠가는 지적외계생명체와 조우하였다고 가정하였을 때, 인류의 윤리사상은 그 지적생명체에게도 인정받을 수 있고 우주 차원의 시선으로 보았을 때 도덕적이라고 보일 수 있는가. 어려운 문제다. 만일 우주에 수많은 문명이 있고 그 문명들의 평균적인 도덕적 수준과 비교하였을 때 인류의 도덕적 수준은 그 이하거나 이상일 수 있다. 하나 이 또한 인류의 도덕적 기준을 통해 봤다는 사실을 피할 수 없다. 우리에게는 상당히 중요한 문제이지만 그들에게는 고려해 본 적도 없는 문제일 수도 있다. 혹은 그 반대 상황일 수도 있다. 둘 모두 처음 겪는 상황에 대한 도덕적인 관점은 전혀 형성되지 않았을 것이다. 이러한 차이의 원인은 환경이 다르기 때문이다. 예를 들어,  외계지적 생명체가 초식만으로도 삶을 영위할 수 있고 그들에게 위협이 되는 맹수가 없다면 그들은 동물에 관련한 윤리 의식이 우리와는 다를 것이다. 이토록 우리도 우리의 자연 환경이나 인문 환경에 맞춰진 윤리 의식만을 키워왔을 테고 우리가 상상하지 못하는 상황에 대한 윤리의 존재조차 인지하지 못하고 있다. 이런 눈에 들어오지 않고 상상조차 할 수 없는 윤리와 도덕을 발전시킨다면 우리의 사회는 큰 변혁을 맞을 수 있다. 

 그렇다면 이런 새로운 윤리와 도덕을 변화시키기 위해서는 무엇을 해야 할까. 지적 외계생명체를 만나서 그들과 대화하고 그들의 윤리와 도덕을 생각해 보는 것은 상상 속 혹은 미래에서나 가능하다. 우리에게 필요한 것은 도덕과 윤리에 대해 생각해 볼 수 있는 수준 높은 지능을 가진 존재 혹은 그런 존재로 이루어진 집단이 필요하다. 그런데 우리 외의 지적생명체를 찾아볼 수 없으니 만드는 것이 새로운 방법이 될 수 있다. AI, 즉 인공지능은 인류가 만들어낸 지능이다. 인공지능의 수준을 높이는 것은 결국 우리 인류지만 그 발전 속도가 매우 빠르다. 스스로 생각이 가능한 인공지능이 지금으로서는 완벽하지 아닌지 알지 못하지만 언젠가는 인류와 비슷한 사고를 하는 인공지능을 만들어 낼 수 있으리라 생각한다. 그렇다면 이런 인공지능은 당연 윤리에 대한 사고가 가능할 것이고 우리와는 다른 존재로서 우리와 도덕에 대해 같이 생각하고 고려해 볼 수 있을 것이다. 인공지능과의 소통을 통한 윤리와 도덕의 발전은 큰 이점을 불러일으킬 수 있다. 우선, 인공지능은 자연적으로 발생한 존재가 아니다. 인류의 활동 또한 자연의 일부라고 본다면 인공지능 또한 자연적인 발생이지만 그건 현재 글로 남기고자 하는 바가 아니니 제외한다. 자연적으로 발생하지 않은 존재의 사고는 당연 우리와 다르다. 인류의 도덕과 윤리는 자연의 영향을 받았다. 첫 생명이 생겨난 시점부터, 뇌를 가진 생물이 된 시점, 그리고 어느 정도의 지능을 가지게 된 시점, 이외 자잘한 모든 순간이 자연법칙에서 벗어날 수가 없었다. 즉 인류의 도덕성과 윤리 의식은 지구 자연의 법칙에 종속되어 있다. 그러나 이미 지구에서 다른 종이 도달할 수 없었던 자리에 도달한 인류가 자연을 변화시킬 수 있을 정도의 수준을 가지고 새로운 생명체나 지능을 만들어낼 수 있는 수준에 이르러 만들어 낸 새로운 지적 존재라면 이는 자연법칙과 상당히 밀접한 관계를 맺고 있는 인류와는 다른 방식으로 사고할 테고 인류와 다르게 도덕과 윤리를 변혁시킨다. 즉 어느 정도 독립된 형태의 도덕의식과 윤리의식이 자리 잡을 수 있다. 이는 우리 인류끼리 논하던 것을 다른 관점에서 볼 수 있는 계기가 된다.  또한, 자연법칙에서의 거리를 두는 것과 비슷하게 인공지능은 유기체를 벗어난 기계라는 점에서 주목할만하다. 뇌 또한 전기를 통해 신호를 전달하는 체계를 가졌지만 기계의 회로와는 확연히 다르다. 그 날의 감정과 여러 외부 정보를 통해 뇌에서 관장하는 모든 것이 바뀔 수 있다. 반면 기계적 회로는 오직 회로의 논리만을 따른다. 외부환경이 회로에 영향을 미칠 수는 있지만 기존에 프로그래밍된 일정 선에서 크게 벗어나지 않는다. 예를 들어, 어떠한 문제를 해결할 때 우리는 종종 알면서도 희망을 가지거나 자신의 신념을 위해 일부러 틀리는 경우가 있다. 반면 인공지능에게 답을 정해주면 오직 답만을 선택하거나 데이터에 기반하여 답을 고르는 선택을 한다. 이런 점이 큰 차이를 가져온다. 마지막으로 주목할 점은 소통 그 자체에 있다. 이 문단의 처음으로 돌아가면 외계의 지적생명체와의 소통에 대해 상상하였다. 즉, 그 어느 이유보다 다른 존재와 소통한다는 점에서 새로운 윤리와 도덕을 대두시킬 수 있다. 간단한 이야기이다. 한 사람이 생각하는 것보다 두 사람, 그리고 두 사람보다는 그 이상의 사람이 소통하고 의견을 나눌 때, 새로운 의견이 나타나고 1명으로 이루어진 집단이든 다수로 이루어진 집단이든 그 집단이 나아가는 방향은 바뀐다. 인류 전체를 하나의 개인으로 보았을 때에는 오직 인류가 나아가는 방향에 대한 확신만 강해질 뿐이다. 새로운 개인과 조우와 소통은 하나로써 작용하고 운동하는 우리에게 새로운 길을 제시할 수 있다. 

  여러 번 생각을 통해 나온 결과이지만 사실 문제가 없는 것은 아니다. 첫째, 일단 새로운 의견의 대두와 이를 통해 변형되는 우리의 윤리가 발전인지 확신할 수 없다. 당연하지만 오히려 퇴행할 수도 있다. 우리는 어디까지나 우리 인류의 시점으로 보아야 하고 그럴 수밖에 없기에 변화가 발전이라고 단정 지을 수는 없다. 예를 들어 인류의 비친환경적 산업이 모두 멈춰버린다면 우리에게는 크나큰 재앙이지만 생태계의 입장에서 보았을 때는 오히려 좋을 수 있다. 즉, 변화가 항상 우리에게 좋은 점만을 가져다주는 것은 아니기에 긍정적인 이미지를 가진 '발전'이라는 표현을 쓰는 게 맞는지 모르겠다. 둘째, 스스로 도덕과 윤리에 대한 고찰하는 수준의 인공지능이라지만 결국 인간의 손에서 만들어졌다는 점은 변하지 않는다. 위 문단에서 완전히 독립적이라고 표현하지 않은 이유이다. 결국 우리의 손에서 만들어졌고 우리의 사회를 통해 배우기 때문에 인류의 도덕성과 윤리의식에서 단절되어 있지 않다. 기술적으로 가능할지는 몰라도 그렇게 완전히 단절시킨다면 우리와의 소통이 불가능할 지경이 될 수도 있다. 즉, 어느 정도 협의할 수 있는 수준이 되어야 하고 특정 문제에 대해서는 환경에 따라 합의점을 찾을 수 있을 정도로 인류의 도덕과 윤리 사상의 주입이 필요하다. 여기서 다시 문제가 발생하는데 어느 정도의 인류적 관점을 주입해야 소통이 가능한지 어느 정도 주입해야 서로 협의가 가능하진 어느 정도 주입해야 최선일지 그 정도에 대한 문제가 발생한다.  너무 인류 기준에 가깝게 설정하면 그 존재의미가 흐려지고 너무 다르게 설정하면 영화에서나 보던 일이 발생할 수도 있다. 존재하지도 않는 적정치를 계산해야 되는 것은 상당한 난제이다. 이외에도 여러 문제가 있겠지만 현재까지의 상상으로는 더 이상 떠올리기에 한계가 있다.

 지금까지 이 글을 읽고 흥미를 느꼈다면 다행이다. 그런데 왜 이런 글을 썼는지 궁금하지 않는가. 어느 정도 엿볼 수 있을지도 모르겠지만 나는 인류의 도덕과 윤리의식에 변화가 필요하다고 느낀다. 위 문단에서 서술한 듯 발전이 아닐 수도 있고 우리에게 재앙을 가져다 줄수도 있다. 그러나 역사를 보면 알 수 있듯이 자정작용이란 상당히 어려운 것이다. 그저 변화가 어쩌면 발전을 가져올 수 있지 않을까라는 희망에 기대어 본 결과이다.