chat GPT 가 보낸 컴플레인
병원 홈페이지에 컴플레인이 하나 올라왔다. 가끔 올라오는 다래끼 처치 관련 내용인데, 내용 자체야 새로울 게 없었지만 기존 의견들과 달랐던 점은 본인의 불편감을 chat GPT에 호소한 뒤, 답변을 사진으로 첨부해 붙였다는 것이었다. 호소할 곳이 없어 인공 지능에 대고 호소하는 모습이 참 딱 하기도 했고, 몇 가지 생각들도 떠올랐다.
1. 많은 사람들이 인공 지능의 답변을 비판적 시각으로 바라보지 못한다.
GPT는 본인의 말을 바탕으로 남들이 할 법한 말을 이어 붙이는 language model 일 뿐이다. 딴에는 자기가 하는 말을 재료로 그럴싸하게 다듬은 말을 올려놓고, 컴퓨터가 하는 말이니 “객관적”일거라고 생각하는 모양이다. 하지만, 생성형 언어 모델은 결국 나의 주관이 실리고, 내가 듣고 싶어할 법한 말을 출력할 뿐이니, 감정적으로는 당연히 “내 편” 이다. 내가 병원의 입장에서 진상 환자에 대해 자세히 서술한 뒤 상황을 정리해 달라고 하면, 언어 모델은 전혀 다른 답을 내놓을 것이다.
화가 나면 자신에게 맞장구 쳐주는 인공지능을 열고 본인의 생각을 굳히는 무비판적 사고는, 향후에도 커다란 사회적인 문제가 될 것으로 생각한다. GPT와 대화하는 많은 사람들이, GPT가 “훌륭한 생각입니다!”, “핵심을 짚은 탁월한 의견입니다!” 말하는 것을 진짜로 자신이 훌륭한 생각, 탁월한 의견을 개진해서 그렇다고 생각을 한다. 혼자 만의 세계에 빠져있는 사람들은 객관적인 생각을 하지 못한다. 결국 이성은 온데 간데 없고 감정만 남은 괴물들이 점차 늘어만 간다.
2. 인공지능을 통한 악의적인 공격이 가능하다.
미국에서 200불 짜리 드론을 사면, 드론이 사람 얼굴을 인식해서 그 뒤를 따라가게 한다고 한다.유투브를 하는 나는 처음 이 말을 듣고, 그런 장치가 있다면 저렴한 값에 멋진 영상을 찍을 수 있을 것 같아 정말 멋지다고 생각했다. 그런데, 만약 내가 원치 않는데도 그 드론이 계속 나를 따라온다면 어떨까? 섬뜩하지 않을까? 만약 그 드론에 총을 달면 그건 무인 살상 기계가 된다. 과연 우리나라에서 앞으로 그런 일이 벌어지지 않을까?
이미 유명인을 대상으로 한 딥페이크 공격은 일상이 되었다. 인공 지능을 이용하면, 맘에 들지 않는 사업체에 바이러스 코드를 짜서 보낼 수도 있고, 앞서 말한 것처럼 사람에 대해 드론 공격도 할 수 있다. 인공지능은 스스로 윤리적인 고찰을 하지 않기 때문에, 무한히 날카로운 창이 될 수 있다. 인공지능 기업 주가의 랠리에만 환호하지 말고, 인공지능이 만든 드론이 자기 뒤통수에 총알을 박을 수 있다는 생각을 해야 한다.
3. 인공 지능의 규제에 대한 사회적인 논의가 시급하다.
노벨상 수상자이자 AI 의 대부인 제프리 힌튼 박사는 현재 우리 사회를 집어 삼키고 있는 인공 지능에 대해 “엄격한 규제 (high regulation)”가 필요하다고 역설했다. 회사의 이익 추구는 법적으로 보장되어 있다. 그러나, 회사의 이익 추구 활동은 사람들이 함께 지혜를 짜내 만든 “법” 이라는 테두리 내에서 이루어져야 한다. 그런데 만약 무섭게 발전하는 인공 지능이, 오랫동안 사람들의 지혜를 모아놓은 “법”을 초월한다면 어떻게 될까? 앞서 말한 것처럼 드론을 이용한 살인이 교묘하게 법망을 피해간다면 어떤 사회가 펼쳐지게 될까?
또한 인공 지능의 안전을 보장하는 인공 지능에 대한 개발도 반드시 필요하다. 이미 거의 모든 분야에서 인공 지능은 인간의 지능을 추월했다. 그러니 인공 지능의 안전한 사용을 보장하기 위해서는, 반드시 인공 지능의 도움을 받아야 한다. 그런데 치열한 경쟁이 이뤄지는 이 분야에서, 당장 돈이 안 되는 안전에 투자하지 않을 것임은 불보듯 뻔하다. Open AI 도 처음에 약속했던 20%의 안전을 위한 (safety issue) 비용 투입을 철회했다.
영화 매트릭스를 보면, 기계의 지배를 받는 인간은 작은 1인 캡슐에 각각 갇혀 뇌에 쇠꼬챙이를 끼우고 생각을 조종당한다. 우리가 손에 쥔 핸드폰이 바로 우리 뇌에 꽂혀 있는 쇠꼬챙이 아닐까? 1인 가구가 급증하고 개개인이 물리적으로 파편화 되가는 사회에, 육체 아닌 정신마저 파편화 되어가는 것 같다. 이런 상황에서 인공지능이 우리의 안전을 보장하지 못한다면, 파편화된 개인은 속수 무책으로 인공지능에 각개격파 당하게 된다.
