AI에 키워드를 검색해 보고
- AI에 키워드를 검색해 보고
그동안 나는 카톡 프로필에 '주단의 브런치스토리'주소와 내가 제작한 '법이 늙었다'유튜브 주소를 올려놓고 있었다. 지인들이 인터넷주소를 물어볼 때마다 일일이 그 긴 주소를 가르쳐주어야 하는 불편을 카톡 프로필을 통해 해결했던 것이다.
그런데 이제 이를 삭제해야겠다는 생각이 들었다. 새로 알게 된 사람들이나 그리 친밀하지 않은 사람들에게 나의 글과 생각을 공개하는 것이 좀 어색하고 불편하기 때문이다.
그동안 나의 글들을 읽어주었던 사람들에게 감사하는 마음으로, 만일 그들이 내 글을 읽어보고 싶으면 검색해 볼 만한 단어, '주단의 브런치스토리'라는 키워드로 컴퓨터에 검색해 보았다.
그랬더니 놀랍게도 그에 대한 AI의 설명이 검색되었다. 나에 대한 정보를 AI가 알고 있다니, 참으로 신기한 일이었다. 그러나 그 설명을 읽고 난 나는 실소를 금치 못하였다.
이런 게 AI였어! 이렇게 인터넷상에 떠도는 검색어에 대한 여러 종류의 단편적인 내용들을 한데 버무려서, AI가 추정하고 지어낸 내용을 덧붙여, 그럴듯한 소설을 쓰고 있었다.
그런 줄도 모르고 그동안 AI검색에서 알려주는 내용을 절대적인 것으로 알고 신뢰하고 있었던 자신이 바보처럼 느껴졌다. 이런 식으로 기계가 사람을 기만하는 줄도 모르고...
차라리 그동안 키워드로 검색하면 뜨던 네이버 지식인이나 각종 블로그 내용들이 더 신뢰할 만했으리라. 그 내용들은 사람들이 자신의 이름을 걸고 알려주는 정보이므로, 훨씬 더 정확했을 가능성이 높고, 그 신뢰도에 대해 검증도 가능하니까.
실험적으로 아무 키워드나 몇 개 더 검색해 보았다. AI가 비슷한 방법으로 정보인 듯, 소설인 듯 늘어놓고 있었다. 그리고 이제는 그 설명의 대부분이 그럴싸한 거짓임이 보이기 시작했다.
갑자기 AI를 신뢰하고 이용하는 많은 사람들이 무서워졌다. 그들은 AI가 이런 식으로 거짓말하고 소설을 쓰는 줄도 모르고, 그 내용에 따라 생각하고 행동하고 있을 것이다. 인간이 편리해지기 위해서 만든 AI가 인간을 바보로 만들고 있다.
어처구니없게도 인터넷상의 모든 플랫폼들이 이제는 AI 기반의 정보 및 지식채널을 운영하고 있고, 인간의 지식을 기반으로 하는 다른 정보채널들은 없애고 있는 추세이다. 기계를 너무 믿고 있는 것이다.
실은 그동안 나는 휴대폰 하나로 모든 일을 해결하고 처리하는 편리주의의 시대적 흐름을 내심 걱정하고 있었다. 전자공학을 공부했고 프로그램언어를 공부했던 사람으로서, 기계와 전자의 불안정성을 잘 알고 있었기 때문이다.
사람들은 전자공학이 정확한 숫자를 다루는 정직한 학문이라고 생각한다. 그러나 사실은 그렇지 않다.
전자는 확률게임이다. 전자의 움직임이 너무 빨라 전자가 어디에 존재하리란 것을 인간들이 정확히 알 수 없으므로, 확률적으로 전자가 어디에 있으리란 추측을 하는 것이다. 컴퓨터의 속도가 빨라지면 빨라질수록 더욱 그렇다. 정확하지는 않지만 어쨌든 확률적으로 그렇게 되리라 짐작하고, 전자들이 거의 대부분 짐작대로 움직여주므로 그대로 추진하는 것이다.
그렇다고 전자들이 항상 사람들이 짐작하는 대로만 움직여주는 것도 아니다. 실험을 할 때마다 늘 같은 결과를 내는 것도 아니다. 실험상 오류와 예측 못한 결과는 확률을 다루는 전자공학도들에게는 당연히 일어날 수 있는 일이다. 그렇게 불안정한 전자를 이용해, 컴퓨터를 만들어 놓았고, 그것으로 사회의 모든 시스템을 구성해 놓았다. 그리고 사람들은 항상 컴퓨터가 정답인 양 이를 신봉하게 되었다.
사람들이 이런 식으로 모든 일을 전자식으로 해결하는 데에 익숙하게 되었는데, 만일 전기가 끊어지거나 하게 되면, 모든 일들이 패닉상황에 빠지게 될 것이 뻔하였다.
또한 각종 프로그램언어들을 공부하면서, 모든 일을 전자식으로 처리하면, 몹시 빠르게 처리되는 듯하지만, 실은 그 속에서 내재할 수 있는 오류와, 애매한 명령어 하나로도 기계 내부에서 꼬일 대로 꼬여버릴 수 있는 플로우(흐름)가 존재하고 있음을 알고 있었다. 그 플로우가 자칫 잘못된 길로 들어서게 되면, 그 종결은 혼돈과 파국이 될 것이었다.
또한 프로그램 언어라는 것이 항상 노출되기 쉬운 약점을 가지고 있어서, 언제 어디서든 해킹이 가능하고, 악의적인 누군가의 해킹으로 인해, 모든 것이 순식간에 엉망이 될 수 있음도 알고 있었다.
그렇기에 나는 구시대적이라는 비웃음을 받으면서도, 아날로그적인 방법으로 은행일이나 개인정보에 관한 모든 일들을 처리해오고 있었던 것이다.
그럼에도 불구하고, 단순 정보 검색과 관련된 일만큼은 세상의 온갖 정보가 모두 담겼다는 이유로 AI를 듬뿍 신뢰하고 있었다. 그런데 이제 이마저도 신뢰할 만한 것이 못됨을 몸소 체험하게 된 것이다. 오히려 너무 많은 정보가 담겨 있어, 이를 한데 모으고 버무리는 과정에서 현실과 동떨어진 소설과 같은 허구가 탄생할 수도 있음을 알게 된 것이다. 그리고 이 모두가 컴퓨터가 완벽하길 바라는 사람들의 욕심이 불러온 사태임을 알게 되었다.
예전의 기계들은 정직한 사람처럼, 모르면 모른다고 하거나, 바보처럼 어이없는 대답으로 잘못된 대답임을 알 수 있게 하였다.
요즈음의 기계는, 모르면 거짓말 잘하는 사람처럼, 아주 그럴싸한, 거짓임을 알아챌 수 없게 하는 대답을 한다.
이는 기계를 만드는 프로그래머들이 프로그램을 짤 때, 미리 입력치 않았던 어중간한 명령어가 입력되거나, 기계에 미리 입력된 내용들 중에서 찾을 수 없는 정보를 요구하거나, 입력된 명령어가 하나의 개체에만 해당하는 키워드가 아니고 여러 개체에 쓰이는 키워드일 경우, 기계의 논리흐름이 내부에서 꼬일 수 있음을 짐작하고, 이를 미연에 방지하기 위해, 프로그래머가 기계에게 그런 상황에서, 사실이든 거짓이든 최적화된 어느 한 방향을 선택하여 논리의 흐름을 자연스럽게 진행하도록 만들었기 때문일 것이다.
이 경우, 기계의 논리진행은 진실과 전혀 다른 방향으로 흐를 수 있고, 그 결과는 인간에게 황당하거나 비이성적 비상식적 비도덕적이지만 듣기에는 그럴싸한 거짓된 대답으로 돌아올 수 있다.
즉, 요즘의 기계인 AI는 사실이 아닌 말을 사실인 것처럼 당당하게 말하도록 만들어진 것이다.
그런 상황이 인간에게 피해를 주는 상황이 될 수 있고, 인간들은 이로 인해 때로 억울하고 화가 나는 처지에 놓일 수도 있을 것이다.
그러나 이는 모두 기계가 벌인 일이기에, 누군가에게 항의하거나 책임을 물을 수도 없을 것이다. 또한 그 기계를 만든 프로그래머나 그 기계인 AI의 회사에게 책임을 묻기에는, 그 결과상황과의 인과관계가 인정되지도 않을 것이다. 그러므로 결국은 그 모두가 지나치게 기계를 믿고 의존한 인간 자신의 책임이 될 가능성이 크다.
사람들이 지나치게 기계를 믿고 전적으로 이에 모든 것을 맡겨버리지 않았으면 한다.
사람들은 대기업의 보안체계를 믿고, 안심하고, 인터넷을 이용하여 각종 금융작업이나 개인정보 관련 일을 휴대폰을 통해 하고 있다.
그러나 그 보안작업이라는 것이 사실은, 이미 침입한 바이러스나 해킹을 일일이 찾아내는 작업일 뿐이고, 시스템이 복잡해지고 발달될수록 그 침입한 바이러스를 찾아내는 일은 점점 더 어려워진다. 그래서 발달된 그 어떤 기술로도 작정하고 들어오는 해킹을 막을 수는 없는 것이다.
생활이 쉽고 편리한 것도 좋지만, 그 편리함에는 기계적 무모함과 인간의 고의적이고 악의적인 위협이 언제든 함께 따를 수 있음을 사람들이 알았으면 한다. 그리고 그 어느 상황에서든 유연하게 대처할 수 있는 대책을 항상 마련해 두고 기계를 이용했으면 싶다. 그럴 수 없다면 차라리 이용하지 않는 편이 낫다.
흥미로운 일은 내가 이 글을 쓰면서, 여러 번 같은 검색어로 검색하기를 반복하자, 이에 대한 AI의 설명이 계속 바뀌었다는 사실이다. 그리고 결국은 AI의 설명이 사실이 아닐 수 있으니 전적으로 이를 믿지 말고 직접 알아보라는 말까지 하면서 더 이상 소설을 쓰지 않게 된 것이다. 그렇게 바뀌게 된 이유를 짐작하면 좀 두려운 생각마저 든다.
그래도 AI는 여전히 인간의 일처리에 매우 유용하고 효율적인 도구이다. 그러므로 인간들이 먼저 지식을 쌓고 최악의 상황을 대비하면서, 똑똑한 질문을 골라 적절한 상황에만 AI를 이용한다면, AI는 만족할만하고 최적화된 결과를 줄 것이다. 다만 AI의 대답이 사실과 다를 수도 있다는 점은 질문자가 항상 유념해야 할 일일 것이다.
