AI의 시험 채점 믿을 만한가,AI멈추면 세상멈춘다83

시험 참여자의 동의 없이 사람이 아닌 AI가 한 채점을 믿을 수 있는가

최근에 대학에서 시험의 채점을 교수가 직접 하지 않고 인공지능 AI로 하여금 채점을 하게 하는 경우가 늘어나고 있습니다.

얼핏 보면 단순 반복되는 시험의 채점을 굳이 교수가 직접 하지 않고 간편하고 효율적으로 인공지능 AI로 하여금 채점을 하게 하는 것이 무슨 큰 문제인가라고 생각을 할 수도 있을 것 같습니다.

그렇지만, 단순해 보이는 문제도 파고 들어가면 그렇게 간단한 것이 아닙니다.

대학에서 학생들은 많은 경륜과 풍부한 학식을 가진 인간 교수들에 의해 교육을 받으리라고 신뢰하고 대학에 입학을 한 것입니다.

그리고, 대학에서 공부한 과목에 대해서 시행하는 시험의 채점도 과목을 가르친 인간 교수가 직접 객관적으로 채점을 한다고 신뢰를 해서 대학에 입학을 하고 시험을 본 것입니다.

인간교수가 가르치지 않고 인공지능 AI가 학생들을 가르치고 인공지능 AI가 시험 문제도 출제를 하며, 또한 인공지능 AI가 시험의 채점도 한다면 그렇게 인공지능 AI에게 전적으로 의존하는 대학에 과연 입학을 하려는 학생들이 얼마나 있을까요?

아마도 학생들 중 상당수는 인공지능 AI에 의존해서 가르치는 대학보다는 그래도 인간 교수가 직접 가르치는 대학을 선택하려고 할 것입니다.

만약, 인공지능 AI에 의존하는 대학이 늘어간다면 대학이라는 제도가 장기적으로는 소멸하고 인간의 교육도 모두 인공지능 AI에 의존해서 처리하는 시대가 열릴 것입니다.

시험 채점과 관련하여 최소한 대학에서 과목을 수강하려고 할 때 헤딩 과목의 시험 문제를 인간 교수가 직접 뇌세포를 움직여서 출제를 하는 것인지 또한 시험의 채점은 인공지능 AI가 하는 것인지 아니면 인간 교수가 직접 채점을 하는 것인지 등을 명확하게 안내를 해야 합니다.

그렇게 대학에서 특정 과목의 수강 신청을 할 때 인공지능 AI에 의한 시험 채점 여부를 명확하게 안내를 해서 수강 신청을 받는다면 그래도 사전에 안내를 받고 수강 신청을 한 것이므로 학생들도 이해를 할 수 있을 것입니다.

그렇지만, 대학에서 수강 신청을 할 때는 아무런 안내도 하지 않아서 해당 과목의 시험 문제도 인간 교수가 고민을 하면서 출제를 하는 것으로 알고 또한 시험이 채점도 인간 교수가 뇌세포를 움직여서 객관적으로 채점을 한다고 신뢰해서 특정 과목을 수강 신청을 했음에도 실제로는 시험 문제도 인공지능 AI에게 시켜서 시험 문제를 출제하고 시험이 채점도 인공지능 AI에 의존해서 시험을 채점한다면 과연 해당 과목의 수강 신청을 한 학생들이 상식적으로 납득을 할 수 있을 것인지 의문스럽습니다.

근원적인 문제는 대학에서의 과목에 대한 수강 신청, 시험 문제 출제 그리고 시험의 채점보다는 결국 인간이 해야 하는 일과 인공지능 AI에게 의존해서 처리해도 되는 일이 어떤 것인지 아직 인공지능 AI의 개발 단계 초기여서 정립된 기준과 원칙이 전무하다는 것입니다.

사회적인 제도와 절차로 어디까지 인간이 직접 처리해야 하고 어디까지는 인공지능 AI에 의존해서 처리해도 되는 것인지 여부가 정해져 있지 않은 관계로 위와 같이 대학의 수강 신청, 시험의 채점 등에서도 극심한 혼선이 빚어지고 있습니다.

그러한 인공지능 AI에 의존할 수 있는 업무 범위 등에 관한 사회적 합의가 이루어져야 하며, 그러한 사회적 합의를 이루는 과정에서 AI 3원칙이 적용될 수 있을 것입니다.

본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에 있습니다. 위 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.

The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )

인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.

인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.

Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.

인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.

Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.

인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.

Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.

인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알고, 인공지능 AI의 개입 없이 100% 사람에 의한 뇌세포를 사용해서 고생을 하는 사람을 대접하고 보상해 주는 제도가 보장되어야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.

( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재 및 AI가 멈추면 세상이 멈춘다 1 https://brunch.co.kr/brunchbook/safeai7771 31-60에 이어지는 내용들입니다)

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인공지능 #AI #뇌 #무단 #사용 #동의 #인간 #완벽 #학습 #작동 #세상 #정보 #소멸 #결정 #트로이 #목마 #노예 #역사 #인류 #존재 #생산물