AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(11)

AI를 쓰지 않고 땀 흘려서 작성한 글을 AI가 판정하는 현실의 가벼움

인공지능 AI를 쓰지 않으면 시대에 뒤떨어지는 것 같은 분위기 속에서 사람들은 인공지능 AI를 사용해야만 시대에 적응하는 것으로 인식하고 있습니다.

그런데, 어떤 업무를 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지 여부를 판정하는 업무까지 사람이 아닌 인공지능 AI에게 맡기는 것이 현실이 되고 있습니다. 인공지능 AI가 작성한 글인지 아니면 사람이 땀을 흘려서 작성한 글인지를 그 글을 외부에 발표하는 사람이 양심대로 사실대로 밝힌다고 믿을 수 있으면 가장 이상적인 방법입니다.

그렇지만, 현실에서 모든 사람이 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지를 사실대로 밝히는 것으로 신뢰하기는 어렵습니다. 그래서 과연 발표된 글이나 업적이 과연 인공지능 AI가 한 것인지 아니면 진짜로 사람이 땀을 흘려서 한 것이지를 판정하는 업무가 갈수록 중요해지고 있습니다.

옛날 같으면 다른 사람의 작품을 표절하였는지를 판정하는 것은 온전히 사람의 몫이었고 여러 위원들이 위원회를 구성해서 표정 여부를 결정하여 왔습니다.

그런데, 인공지능 AI의 발달로 현재는 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지를 판정하는 일도 사람이 아닌 인공지능 AI에게 맡기고 있는 것이 현실입니다. AI 스타트업인 무하유라는 회사는 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지 여부를 인공지능 AI를 동원해서 판정하는 기술을 가진 회사로 알려져 있습니다.

마치 스포츠 경기에서 금지약물인 스테로이드 등을 복용하고 뛰어난 실력을 보여준 것인지 아니면 금지약물 없이 온전히 사람의 땀과 노력만으로 스포츠 경기에서 뛰어난 실력을 보여준 것인지에 대해서는 선수들의 신체를 검사함으로써 과학적으로 판정하는 시스템과 체계가 구비되어 있습니다.

그렇지만, 어떤 글이나 어떤 일을 과연 사람이 땀을 흘려서 생각하는 힘을 사용해서 만들어 낸 것인지 아니면 인공지능 AI에게 시켜서 기계적으로 만든 것인지를 판정하는 것은 생각보다 쉽지 않습니다.

그래서 그런 판정을 하는 업무를 사람이 아닌 인공지능 AI에게 맡겨서 전문적으로 판정하는 회사까지 등장하게 된 것입니다.

그러나, 사람이 땀을 흘려서 생각하는 힘을 사용해서 만들어 낸 것인지 아니면 인공지능 AI에게 시켜서 기계적으로 만든 것인지를 과연 인공지능 AI가 독립적이고 중립적으로 그리고 공정하게 판정한다고 믿을 수 있을까요?

인공지능 AI에게 비밀명령문을 사람 몰래 넣은 논문에 대해 인공지능 AI가 좋은 평가를 비밀명령문에 따라 내려 준다는 것은 실제로 확인되었고, 본 연재 글 중에서 AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(10)에 그 내용이 있습니다.

실제로는 사람이 땀을 흘려서 노력으로 만든 글이나 업적인데도 판정을 하는 인공지능 AI가 비밀명령문의 지시에 따라 또는 땀을 흘려 노력으로 작성한 사람을 인공지능 AI가 부정적으로 바라보아서 실제와 달리 그 글이나 업적을 인공지능 AI가 작성한 것으로 의도적으로 판정하는 일이 과연 앞으로 없다고 자신할 수 있을까요?

판정하는 인공지능 AI가 실제로는 사람이 땀을 흘려서 노력으로 만든 글이나 업적을 인공지능 AI가 한 것으로 잘못 판정을 한 경우 그 판정이 잘못된 판정이라고 사람이 밝히는 것은 매우 어렵거나 경우에 따라서는 불가능하게 될 위험이 높습니다.

AI를 쓰지 않고 땀 흘려서 작성한 글을 AI가 판정하는 현실은 위와 같이 사람이 인공지능 AI의 판정에 저항하기 어려운 현실을 만들어 가고 있고 그런 현실은 점점 더 무게감을 더할 것입니다.

금지약물을 사용하지 않은 스포츠 선수가 결백함을 호소하면서 도핑테스트가 잘못되었다고 주장을 하면 과학적으로 도핑테스트의 과정을 다시 검증할 수 있습니다. 그렇지만, 인공지능 AI의 작동과정은 지금 지구상의 인간 어느 누구도 완벽하게 이해할 수 없는 상태입니다. 그러므로, 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지를 인공지능 AI에게 맡겨서 판정을 하고 나면 인간이 그 인공지능 AI의 판정이 잘못되었다고 아무리 항의를 하고 결백을 호소해도 인공지능 AI의 작동이 잘못되었다는 것을 사람이 밝히는 것은 거의 불가능에 가깝습니다.

이렇게 인공지능 AI에게 의존할수록 오히려 인간은 소외되는 현상은 갈수록 심화될 것입니다. 인공지능 AI가 내놓은 내용에 인간이 의존하면 할수록 인간은 다소 편리해질 수는 있어도 멀리 보면 인간 스스로의 생각하는 힘을 잃고 인간 자체의 소외만 더 크게 확장될 것입니다. 인공지능 AI가 멈추면 온 세상이 멈추는 세상은 갈수록 현실이 되어가고 있습니다. 트로이 목마 속에 숨은 인공지능 AI가 튀어나와서 인간이 인공지능 AI의 노예가 되는 세상이 눈앞에 와 있습니다. 인공지능 AI를 인간을 위해 적절하게 사용하는 것은 절대 찬성을 하지만 위와 같은 위험성도 항상 인식하고 있어야 합니다.