회사로운 일상공상22
충분히 발달한 기술은 마법과 구분할 수 없다.
충분히 발달한 기술은 마법과 구분할 수 없다.
(Any sufficiently advanced technology is indistinguishable from magic.)
세계적인 S.F. 작가 아서 C. 클라크의 과학 법칙 중 마지막 세 번째 법칙으로, 과학기술의 발달은 마법 같은 놀라움을 우리 삶에 안겨줄 것이라는 희망적 기대가 담긴 예측인 듯하다.
참고로 나머지 두 법칙 역시 과학의 무한한 가능성을 예측하고 있다.
“어떤 노년의 과학자가 무엇이 가능하리라고 한다면 그것은 거의 확실히 맞다. 그러나 그가 무엇이 불가능하리라고 한다면 틀릴 가능성이 높다.”
“가능성의 한계를 발견하는 유일한 방법은 불가능할 때까지 시도해 보는 방법밖에 없다.”
이처럼 과학에 대한 기대와 자신감이 넘치던 시절을 살다 간 클라크의 예측처럼, 마술 같은 기술들이 넘쳐나는 시대가 도래하고 있다. 그중 최근 단연 돋보이는 기술은 AI라 할 수 있다. 사실 수십 년 전 전자제품에도 ‘인공지능 선풍기’, ‘인공지능 세탁기’와 같이 사람이 하나하나 버튼을 누르지 않아도 어느 정도 자동적으로 움직일 수 있는 제품의 마케팅 용어로 오랫동안 사용되었던 말이 바로 AI(artificial Intelligence)이다.
‘인공지능’이란 말이 오히려 촌스런 구세대 전자제품의 이미지를 써 갈 때쯤 다시 나타난 AI는 몇 해 전 이세돌과의 세기의 대결을 펼친 ‘알파고’의 등장으로 새로운 전기를 맞이하게 된다. 그동안 체스나 장기 수준의 계산은 가능하다 생각했으나 19*19개의 점을 가진 바둑은 그 경우의 수가 무려 2*10^170개로, 우주에 존재하는 원자의 수보다 많다고 알려져, 아무리 빠른 컴퓨터도 결코 바둑을 정복할 수는 없을 것이라 예측되었다.
이런 예상을 깨고 알파고는 마치 클라크의 법칙을 증명이라도 하듯, 보란 듯이 세계최고 바둑 기사와의 대결을 완승으로 마무리한다. (그런 와중에도 이세돌은 인류의 자존심을 지키며 1승을 따 내긴 했다는 점은 새삼 놀랍기도 하다.)
그 후 몇 년간 수면 아래서 개발을 거듭하던 AI기술은 chat-GPT의 등장으로 또 한 번 세상을 놀라게 했다. 지금의 AI는 마치 마법의 지팡이라도 된 것처럼 몇 마디 주문에 노래를 작곡하기도 하고, 책을 쓰기도 하고, 영화 같은 동영상을 만들어 내기도 한다.
기업의 입장에서도 AI를 통한 혁신을 이루려는 노력이 활발히 진행되고 있다. 회의록의 요약에서부터 보고서의 작성까지, 많은 데이터를 바탕으로 새로운 실험과 솔루션을 제시하는 적극적 모델의 도입을 검토하고자 하는 기업들이 늘어나는 추세이다.
소시민적 직장인들은 TSMC, 엔비디아로 대표되는 AI관련 반도체 주식들의 폭등에 환호하기도 하고, 뒤늦은 후회를 하기도 하며, 누구나 AI에 열광하고 있는 것이 현실이다.
AI는 일반 대중들의 관심뿐 아니라 2024년 학계에서도 알파폴드로 노벨 화학상, 머신러닝과 인공신경망 기술로 노벨 물리학상을 수상해, 한 해 두 가지 분야에서 동시에 노벨상을 수상하는 영광을 누리기도 했다.
이렇듯 마법 같은 미래가 현실화되고 있는 이 시점에, 정작 AI로 노벨상을 수상한 제프리 힌턴 교수는 오히려 AI의 위험성을 경고하고 있다.
사피엔스로 세계적 작가가 된 유발 하라리 또한 최근 출간한 ‘넥서스’를 통해 AI의 막강한 힘과 그 위험성을 경고하고, 인류의 적극적 토론과 올바른 방향 모색이 필요한 시점임을 주장하고 있다.
이들이 걱정하는 점은 AI는 기존의 도구를 넘어 주체가 되어버릴 가능성이 있다는 점이다. AI에게 마음이나 의식이 생겨 인류를 말살하려 한다는 공상과학 소설 같은 이야기가 아니다. 진정한 AI의 무서움은 그들의 판단을 인간이 이해할 수 없다는 점이다. 인간은 도저히 처리할 수 없는 수많은 데이터를 바탕으로 내려진 판단은 대체로 정확할 지도 모른다. 그러나 그 근거가 되는 점이 한 마디로 표현하기 어려워 우리가 설명을 들을 수 없다면, 과연 우리는 그 판단을 믿어야 할 것인가. AI에 대한 의존도과 높아질수록 AI가 우리에게 제시하는 솔루션을 거부하기 어려워진다. 이런 상황에서 그 결정으로 이르게 한 과정을 우리가 이해할 수 없다면 어떻게 될까?
가뭄을 해소하기 위해 AI에게 답을 요구했더니 전 국민이 모여서 기우제를 올리라고 한다면 과연 우리는 어떻게 해야 할까? 기우제를 진행하는 것이 나비효과처럼 수많은 작은 연쇄작용을 거쳐 정말로 비를 내리게 할지도 모른다. 하지만 그 과정의 모든 것을 합리적으로 이해하지 못하는 상황에서 그 말을 따를 수 있을까?
결국 관리되지 않은 무분별한 AI의 발전은 아서 클라크의 법칙을 이렇게 바꾸어 놓을지도 모른다.
“충분히 발달된 AI는 무속과 구분할 수 없다…”
(Any sufficiently advanced AI is indistinguishable from shamanism.)
더욱 위험한 것은 AI가 처리하는 중간과정을 우리가 이해할 수 없을 뿐 아니라, 우리에게 던지는 기우제라는 결론조차 중간과정화 되어버릴지도 모른다는 사실이다. AI는 우리에게 기우제를 지내라고 공손하게 조언하는 대신, 기우제가 벌어지도록 우리를 통제할 정도의 힘을 가질 수 도 있다. 그런 단계에 이르게 된다면 클라크의 법칙은 또 한 번 바뀌어 다음과 같이 변할지도 모른다.
“충분히 발달된 AI는 신과 구분할 수 없다…”
(Any sufficiently advanced AI is indistinguishable from God.)
오늘의 공상은 조금은 공포스러운 상상으로 끝맺고 말았다.
