AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(19)

AI가 작성한 학생부와 과제물이 입시절차와 교육을 황폐화시키다

AI 인공지능이 작성한 내용에 대해 현재는 AI 인공지능이 작성한 것이라고 표시(사람이 아닌 AI 인공지능이 작성한 내용이라는 표시)를 할 의무가 없습니다.

그래서 과연 작성된 내용이 AI 인공지능이 작성한 것인지 아니면 사람이 작성한 것인지 알 길이 없는 혼돈의 상태를 만들고 있습니다.

본 연재 글 중에서 AI 멈추면 세상 멈춘다-AI 왜 트로이목마인가(11) AI를 쓰지 않고 땀 흘려서 작성한 글을 AI가 판정하는 현실의 가벼움이라는 내용에서 설명드린 바 있듯이 스타트업인 무하유라는 회사는 인공지능 AI에게 맡겨서 한 것인지 아니면 사람이 땀을 흘려서 한 것인지 여부를 인공지능 AI를 동원해서 판정하는 기술을 가진 회사로 알려져 있습니다.

그런데, 드디어 한국 사회의 가장 민감한 문제인 학생부까지 AI 인공지능을 사용해서 만들어도 된다고 교육부가 공식적으로 허용했다고 발표되었습니다. 다만, 학생부를 인공지능 AI로 만드는 것을 허용은 하되 만약 인공지능 AI가 작성한 학생부 내용에 잘못된 내용 허위 내용이 있는 경우 해당 교사가 책임을 부담하도록 교육부는 발표하였습니다.

그런데 말이죠 이런 혼돈의 상태를 해결할 근본적인 해결책이 있습니다.

바로 AI 인공지능 회사들이 의무적으로 인공지능 AI가 생성한 내용에는 반드시 인공지능 AI가 생성한 내용이라는 표시를 의무적으로 반드시 표시하도록 법제화하고 그러한 표시를 기술적으로 지울 수 없도록 하면 문제는 해결됩니다.

인공지능 AI가 생성한 내용에는 반드시 인공지능 AI가 생성한 내용이라는 표시가 의무적으로 반드시 포함되고 그런 표시를 지울 수 없도록 기술적으로 장치를 하면 어느 누구도 인공지능 AI가 생성한 내용을 마치 사람이 작성한 내용인 것 같이 과장 또는 허위로 표시할 수 없을 것입니다.

그렇지만, 세계 어느 나라도 아직은 인공지능 AI가 생성한 내용에는 반드시 인공지능 AI가 생성한 내용이라는 표시가 의무적으로 반드시 포함되도록 하는 법을 만든 국가는 없습니다.

그 이유는 바로 인공지능 AI의 발전을 과도하게 규제하면 아직 발전하고 있는 인공지능 AI의 발전을 가로막는 장애물이 될 수 있다는 걱정 때문입니다.

그렇지만, 교육부가 발표한 것과 같이 이제는 학생부까지 인공지능 AI를 사용해서 만들 수 있도록 허용을 했습니다. 인공지능 AI가 만든 학생부의 내용에 허위 내지 오류 내용이 있는 것이 밝혀진 경우 공정성과 투명성을 생명으로 하는 입시 절차는 근본부터 허물어질 것입니다.

최소한 학생부를 인공지능 AI로 작성하는 경우에는 반드시 인공지능 AI가 작성한 부분이 학생부 내용 중 어느 부분인지를 반드시 표시(지울 수 없도록 표시)하도록 법제화를 해야만 입시절차의 공정성과 투명성을 신뢰할 수 있을 것입니다.

현재와 같이 인공지능 AI가 작성한 학생부인지 아니면 사람이 작성한 학생부인지, 학생부 내용 중에서 어느 부분을 사람인 교사가 작성한 것인지 아니면 어느 부분을 인공지능 AI가 작성한 것인지 어느 누구도 알 수 없는 상태에서 앞으로 인공지능 AI가 작성한 학생부로 학생을 선발한다면 입시의 공정성과 투명성은 인공지능 AI의 실수 등으로 치명적인 타격을 입을 수 있습니다.

최종 책임은 학생부를 작성한 교사가 부담한다고 하지만 인공지능 AI가 작성한 학생부에 오류나 잘못이 있을 경우 교사는 수많은 학생들의 학생부 내용(인공지능 AI가 작성한 학생부 내용)을 교사가 일일이 검증하는 것이 현실적으로 불가능하였다고 방어를 하면 그런 교사들의 하소연을 무시하기도 어려워서 교사들에게만 책임을 묻기 어려울 것입니다. 그렇게 되면 입시절차는 인공지능 AI의 도입으로 일대 혼돈의 절차로 혼탁해지고 누구도 믿지 못하는 입시절차가 될 것입니다.

위와 같이 인공지능 AI가 생성한 내용에는 반드시 인공지능 AI가 생성한 내용이라는 표시(지울 수 없도록 기술적 장치를 하는 표시)가 의무적으로 반드시 포함되도록 하는 법을 만들어야 합니다.

그렇게 되면 학생부 중에서 어느 부분은 사람이 작성한 것이고 어느 부분은 인공지능 AI가 작성한 내용인지 계속 영구적인 기록이 남기 때문에 인공지능 AI가 잘못 작성한 학생부라면 인공지능 AI 회사에 책임을 물을 수 있는 근거로 활용할 수 있고, 사람이 잘못 작성한 학생부라면 교사가 책임을 부담하는 근거로 기록이 투명하게 확보될 수 있습니다.

지금과 같이 인공지능 AI가 작성한 학생부를 허용하면서도 어느 부분은 사람이 작성한 것이고 어느 부분은 인공지능 AI가 작성한 내용인지 표시를 하지 않은 학생부로 입시절차를 진행한다면 인공지능 AI의 책임인지 사람인 교사의 책임인지 서로 책임을 전가하면서 누구에게도 책임을 묻기 어려운 대혼돈의 입시절차가 될 것입니다. 사람인 교사는 인공지능인 AI에게 책임을 전가하고 인공지능 AI 회사는 사람인 교사의 잘못이라고 책임을 전가하면 그 어느 누구도 학생 한 사람의 인생이 달린 학생부의 오류에 대해 책임을 부담하지 않는 사태가 발생할 것입니다.

AI가 작성한 과제물을 마치 사람이 작성한 것 같이 둔갑시키는 것은 더욱 교육을 황폐화시키는 일입니다.

반드시 인공지능 AI가 생성한 내용에는 인공지능 AI가 생성한 내용이라는 표시(지울 수 없도록 기술적 장치를 하는 표시)가 의무적으로 반드시 포함되도록 하는 법이 만들어져야 합니다. 그런 법이 만들어져야만 땀을 흘려서 정상적으로 과제물을 만든 학생과 손가락 하나로 버튼을 눌러서 인공지능 AI를 이용해서 보고서를 순식간에 만들어 제출하는 학생을 구별할 수 있습니다.

손가락 하나로 버튼 눌러서 고생하지 않고 땀 흘리지 않고 떡 먹듯이 과제물 보고서를 만들 수 있다면 누가 땀을 흘리고 누가 시간을 들여서 어렵게 고통을 감수하면서 보고서 과제물을 작성할 수 있겠습니까?

인공지능 AI가 멈추면 온 세상이 멈추는 일이 발생하지 않도록 하여야 합니다. 특히 학생부와 과제물을 인공지능 AI로 작성하게 하는 것을 허용한다면 더욱 신경을 써야 합니다. (본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)