7. AI 진로 필수 역량 - 5) 비판적 사고
2. 인공지능 필수 역량
5) 데이터 리터러시와 비판적 사고
데이터 리터러시(Data Literacy)는 데이터를 해석하고 분석하며 비판적으로 수용하고 판단하는 능력을 의미합니다. 데이터를 기반으로 하는 머신러닝은 학습에 사용된 데이터의 특성에 영향을 많이 받습니다. 만약 학습에 사용한 데이터가 편향성을 가지고 있다면 머신러닝의 모델은 심각한 문제를 불러오기도 합니다. 따라서 인공지능이 내린 판단에 대해 올바른 데이터에 근거했는지 살펴보는 데이터 리터러시는 매우 중요합니다. 구글의 수석 이코노미스트 할 베리안(Hal Varian)은 ‘데이터 리터러시 역량은 누가 어떤 비즈니스에 종사하든 앞으로 10년간 가장 중요한 비즈니스 능력이 될 것’이라고 말했습니다.
인터넷 IT 기업이자 세계 최대의 온라인 상점인 아마존에서는 10년간의 이력서를 바탕으로 인공지능 채용 시스템을 학습시켰습니다. 그 결과 ‘여성 구직자는 적합하지 않다’는 판단을 했습니다. 이러한 결과를 도출하게 된 이유는 IT 기업의 기술직에서는 남성이 60% 이상을 차지했던 데이터 때문에 인공지능이 남성을 선호하는 알고리즘을 만들었기 때문입니다.
편향된 데이터에 의해 여성을 차별하는 알고리즘이 만들어진 아마존의 인재 채용 인공지능 위 사례와 비슷한 경우가 2020년에 영국에서도 있었습니다. 코로나19로 인해 대학 입학에 필요한 A레벨의 시험을 치를 수 없게 되자 알고리즘에 근거해 A레벨의 점수를 산출하기로 했습니다. 이 알고리즘에는 학생들이 다니고 있는 학교의 수준, 학생이 16세에 받은 GCSE 성적, 학생의 평소 내신 성적, 담당 선생님들이 예상한 학생의 A레벨 점수 예상치를 데이터로 사용했습니다. 그 결과 알고리즘은 학생의 능력보다는 어느 학교에 다니고 있는지를 더 반영하는 결과가 나타났습니다. 소득이 낮은 지역에 거주하는 학교에 다니는 학생들은 실력에 훨씬 못 미치는 결과를 거두었으며, 약 36%의 수에 해당하는 학생들이 예상보다 낮은 점수를 받았습니다.
인공지능은 알고리즘 설계를 과정을 최대한 합리적으로 설계하려고 노력하더라도 절대 완벽할 수 없고 데이터 또한 어떠한 편향이 없이 만들어지기가 어렵습니다. 이 때문에 인공지능이 내어놓은 결정이 과연 올바른지에 대해 인간이 주도적으로 판단할 수 있어야 합니다. 따라서 인공지능 시대에는 인공지능이 내린 판단이 윤리적, 사회적인 가치에 합당한 지, 왜곡된 결과를 가져오지는 않았는지 살펴볼 수 있는 비판적 사고가 매우 중요합니다.
학교에서 데이터 리터러시와 비판적 사고력을 키우려면?
통계는 데이터를 간략하게 요약해서 전체 데이터를 특징을 살펴볼 수 있는 장점이 있습니다. 반면 이러한 통계를 왜곡되게 해석하면 그릇된 정당화의 방법으로 쓰이기도 합니다. 따라서 각종 단체나 언론에서 통계를 어떻게 활용하고 있는지, 어떻게 해석하는지 등을 유심히 살펴야 합니다. 통계를 기반으로 데이터를 올바로 분석할 수 있는 데이터 리터러시의 기초 역량을 갖추기 위해서는 수리적인 역량 외에도 전체 맥락을 이해하는 사고력이 중요합니다. 이러한 사고력은 직접적인 연관이 없어 보이는 독서, 토론, 작문 등과 같은 활동을 통해 조금씩 오랜 기간 길러집니다.
윤리, 사회문화, 정치, 철학 등과 같은 인문학적 상식, 교양도 중요합니다. 자동차로 비유하자면 과학 기술은 속도를 높이는 엑셀레이터이고, 인문학은 자동차의 방향을 조절하는 핸들과 속도를 줄이는 브레이크의 역할을 한다고 할 수 있습니다. 브레이크가 없다면 자동차는 사람을 해치는 도구가 될 수도 있고 방향성을 잃게 됩니다. 반면 인문학은 엔진이 만들어내는 동력으로 움직일 수 있게 되죠. 따라서 적어도 학생들이 학교에 머무르는 기간에는 과학, 공학, 인문학을 함께 골고루 배우며 균형을 맞추는 것이 필요합니다.
