윤리적 인공지능: ChatGPT사용 후기
ChatGPT에 대한 이런저런 생각들
by
Jan 26. 2023
"로봇은 고대에 노예가 하던 노동을 대체함으로써 인간을 도울 것이다." 발명가이자 미래학자인, 니콜라 테슬라 (Nikola Tesla)가 한 때 이야기 했습니다. 현재 미국과 유럽에서 큰 관심을 받고 있는, 인공 지능 챗봇, Chat GPT을 (자세한 설명은 여기를 클릭하세요) 지난 두 달간 직접 이용하면서, GPT가 우리의 인생을 도와줄 엄청난 툴이라고 생각하기 시작했습니다-- 마치 테슬라가 말한 대로 말이죠.
Chat GPT (Chat Generative Pre-Trained transformer)는 OpenAI라는 회사가 개발한, 다중 언어 모델을 기반으로 구축된 오픈 소스 챗봇입니다. 사용자 입력에 대한 자연어 응답을 생성하도록 설계되었고, 리포트나 에세이는 물론, 간단한 코딩을 제공하고, 심지어 시나 연극 대본을 쓰기도 합니다.
그런데 이번주, GPT가 가진 문제점들에 대해서 이런저런 생각을 할 기회를 갖게 되었어요.
숨겨진 노동 착취의 가능성. 타임지 (The Times)에서 1월 18일 날 발표한 기사가 상당히 충격적이었는데요, GPT가 가진 기술적인 한계를 넘어서, 기술이 개발되는 과정상에서의 윤리적 이슈를 제기했습니다. 이 기사에 따르면, OpenAI 회사는 Sama라는 윤리적 인공지능 회사 (Ethical AI company)를 이용해서 GPT의 모델을 보다 안전하고 윤리적으로 만들려는 노력을 했다고 해요. 케냐에 있는 고용인들에게, GPT가 걸러야 할 지나치게 부정적인 언어와 시각자료를 구분하는 일을 시켰다고 하는데요.
아주 폭력적일 수 있는 언어와 이미지를 종일 읽고 분류해야 하는 굉장히 어려운 일에 대해서, 시간당 2달러 미만을 지급했다고 해서 문제가 되었어요. 서구 사회에서 최저 임금 (미국의 경우 $7.25/시간)을 생각할 때, 부당한 보상이었다는 생각이 들었습니다. 또한, 이 기술을 이용하는 사람들의 최상의 경험을 위해서, 어떤 사람들은 종일 더러운 언어를 걸러내는 작업을 해야 했다는 것이 아이러니라는 생각도 들었습니다.
정보의 진실성 문제. GPT를 사용하면서 드는 또 다른 우려는 얼마만큼 우리가 챗봇이 만들어낸 정보를 믿을 수 있는가에 대한 것이었습니다. GPT가 저를 위해서 만들어낸 리포트에서는 크게 거짓된 정보를 찾을 수 없었지만, GPT가 만들어낸 에세이들이 정보나 자료의 출처를 밝히지 않는다는 점이 참 우려가 됐습니다. (교수의 직업병인가요 --;;) 리포트에 사용된 정보의 출처를 분명히 하는 일은, 사실 그 정보와 리포트의 신뢰성을 검증하기 위해서 꼭 필요한 과정입니다.
또한, GPT나 비슷한 AI 도구들의 지능은 처음에 인간이 입력하는 훈련 데이터 (Training Data)에서부터 개발이 되는데, 과연 훈련 데이터가 오류가 없고 다양한지를 어떻게 체크하고 있는지도 궁금해지더라고요.
