AI 의존의 위험성
많은 종류의 AI가 백가쟁명식으로 각각의 우수성을 과시하며 사용을 권하는 시대다. 불과 2,3년의 사용자 경험들이 이미 잽싸게 반영되어 날렵하게 변모하는 모습도 보인다. 그렇지만 환각이나 사용자에 아부하는 현상은 쉽게 없어지지 않는다. 내가 누구보다 정확히 알고 있는 졸저에 대한 정보를 요구하고 확인해 보면 너무나 아부가 심하다는 것도 확인할 수 있다.
몇 개를 비교해 봐도 대동소이한 현상들은 아직 '인공일반지능'으로 가는 길에 험로가 도사리고 있음을 짐작케 한다. 그렇지만 과거의 방대한 데이터를 용케 찾아내고 종합하고 정리하는 일은 인간이 수작업으로 하는 노력을 엄청나게 덜어주고 있어서 이미 많은 이들이 그 편리함에 익숙해져가고 있는 현실이다.
특정 생성형 AI는 미국 다음으로 한국인 사용자가 많다니 인구를 감안할 때 한국인의 높은 디지털 적응능력에 긍정적 시선을 보낼 수도 있다. 그렇지만 국가 전체의 지력이 높아지는 것인지에 대해서는 또 다른 그늘도 생각할 수 있다.
읽고 쓰고 토론하고 익혀서 체화된 지식의 깊이가 없이 인용에 인용을 거듭하다 보면 스스로 고유한 생각을 해낼 수 있는 능력이 감퇴할 수 있다. 우직하게 스스로의 방식으로 해나가는 힘은 언젠가 요긴한 자산으로 자신의 미래를 개척하는 데 도움이 되고 있음을 느끼는 순간이 올 수도 있다.
오래전 작은 초등학교의 여름을 돌아본다. 소녀에게 여름방학 중 독서학교에서 읽는 위인전이나 문학 서적들이 생각의 잔 근육을 키우고 읽기 습관을 들이는 데 큰 역할을 했음을 느낀다.
AI의 환각현상이나 아첨 성향도 극복될 수 있을 것이다. 그렇지만 기계가 떠먹여 주는 지식에 의존했을 때 우리 뇌는 궁극적으로 스스로 걸을 수 있는 힘을 잃어가지는 않을까도 함께 고민해야 할 것이다. 그런 문제들을 교육현장이나 가정에서 다각도로 제기할 때 해법 또한 가까이에 있을지도 모른다.
이런 우려는 가까운 거리도 몸이 편하게 자동차를 이용하다 걷기 기능이 퇴화되어 몸을 움직일 수 없게 될지도 모른다는 수준의 아주 어리석은 걱정에 그쳤으면 한다. 아직 인간과 기계는 차별점이 너무나 뚜렷하기에. 재독 철학자의 글 또한 위로가 된다. 기계는 우리가 즐겁게 또는 고통스럽게 겪어낸 것을 감정으로 담아두는 그릇으로는 너무나 조잡하기에 공감이 간다.
인공지능은 겪을 능력이 없으며, 다른 문제를 제쳐 두더라도 그 능력의 부재 때문에 생각할 수 없다. 당함과 감수함은 기계로 성취할 수 없는 상태들이다. 무엇보다도 기계는 관조하는 무위를 모른다. 기계가 아는 상태는 두 가지, 켜짐과 꺼짐 뿐이다. 관조하는 상태는 그저 기능을 중지함을 통하여 발생하지 않는다. 엄밀히 말하면 기계는 행위하지도 않고 무위 하지도 않는다. 행위와 무위의 관계는 빛과 그림자의 관계와 같다. 그림자는 빛을 조형한다. 즉, 빛의 윤곽을 부여한다. 그림자와 빛은 서로의 조건이다. 이와 마찬가지로 행위와 무의를 생각하기에 두 가지 상태 혹은 모드로, 더 나아가 정신의 두 가지 모드로 간주할 수 있다. 생각하기는 빛과 그림자로 짜인 직물이다. 반면에 기계 지능은 빛도 모르고 그림자도 모른다. 기계 지능은 투명하다.
- <관조하는 삶> 한병철 지음, 전대호 옮김, 김영사, 2024, p.66
