교육 토큰을 통한 통제와 팬옵티콘 감시?

팬옵티콘Panopticon 가능성?

교육 토큰을 통한 통제와 팬옵티콘 감시 우려

수학문제를 푼 교실의 상황이 교육 토큰이 되어 미래 프로젝트에 참여할 기회를 준다고 했다. 그런데 다음과 같은 질문이 생길 수 있다. 수학문제를 푼 학생의 성적이 교육 과정에서 남는 대신 푼 순간을 상황 토큰 속에 남기면 인공지능 교육감시 체계가 만들어 질 수 있다는 우려를 할 수 있다.

교육 토큰은 학점보다 오히려 더한 통제와 관리가 용이한 꼬리표 같은 표식이 될 수 있다는 걱정이다. 이런 걱정은 당연하고 충분히 생각되어져야 할 부분이다. 교육 과정에서 교육적 상황 토큰이 쓰이기 전에 계속해서 의심하고 충분하게 검정되어야 한다. 다만 토큰을 통한 통제와 감시 가능성을 우려하기 전에 한가지 토큰에 대해 추가로 알아야 할 특징이 하나 있다. 교육에 쓰이는 상황토큰은 학점과 학위와 달리 딱 하나가 아니라는 것이다. 만약 수학문제를 푼 상황 토큰이 딱 하나라면 지금 우리가 사용하고 있는 성적표, 학점과 별반 다를게 없다. 점수 대신 수학문제의 특징과 푼 방식 등이 일부 추가되었을 뿐 수학문제를 푼 단순 기록을 벗어나기 힘들다. 성적표만 못할 수도 있다. 하지만 수학이란 과목만 해도 초등학교, 중학교, 고등학교, 대학교 등을 거치면서 다룬 문제, 오고간 토론, 관련 연구를 발표한 학회장에서의 활동 등에서 만들어진 상황토큰은 수도 없이 많을 것이다. 주위 친구와 동료는 물론 자신도 이 모든 상황 토큰을 기억하기 힘들다. 활동 기록을 딱 하나로 정리하면 하나로 요약된 기록을 근거로 분류가 가능하지만 수많은 조건이 변수가 되는 다양한 상황을 모두 기록하면 조종과 관리의 수단으로 활용하는 것은 아무리 인공지능이라고 하더라도 현실적으로 불가능해 진다. 인공지능에 통제와 관리의 코드를 프로그램하는 것은 인간이고 인간은 상황토큰 기록을 이해할 수 없기 때문이다. 즉, 인간의 능력으로는 감시할 수 없는 복잡성이 과거의 모든 상황을 미래의 특정 상황으로 연결하는 역할을 교육적 상황 토큰이 담당하게 해준다.

모든 것을 볼 수 있는 능력은 오직 인공지능이다. 인공지능은 볼 수는 있으나 통제할 수 없다. 인간은 통제할 수 있으나 보지는 못한다. 그러니 인공지능 감시체계를 너무 걱정하지 않아도 된다.