by
Nov 01. 2023
인공지능(AI) 개발 규제는 꼭 필요할까?
미국의 최초 AI 행정명령 발표
미국 대통령 바이든이 지난달 30일 인공지능(AI) 관련 규제에 관한 행정명령을 발표했다고 한다. 행정명령의 세부 내용은 크게 1)미국의 안보, 경제, 공중보건 등 중대한 사항과 관련된 인공지능에 대한 안전 테스트 및 정부와 결과 공유 2) 화학과 생물학, 방사성, 핵 등 인공지능 적용시 보안이슈 해결 3) 생성형 AI 컨텐츠 인증 및 워터마킹이다.
한마디로 말하자면, 인공지능 기술이 뭔지는 잘 모르지만 어떻게 될지 모르니 일단 자국의 이익을 지키기 위해 일단 뭐든지 인공지능과 관련된 위험해 보이는 것은 보고하라는 것이다. 뭐든지 통제하고 관리하려고 하는 미국정부스러운 행정명령일 뿐 기술에 대한 이해도 없었으며 미래에 대한 현명한 해결책 모색을 위한 것이라는 생각역시 들지 않았다.
그밖에도 인공지능 기술을 경계하는 가장 대표적인 인물은 일론 머스크이다. 일론 머스크는 "AI는 인류를 멸종시킬 위험"을 가지고 있어서 개발을 늦춰야 한다고 주장하는데, 나는 그가 인공지능 기술을 얼마나 이해하고 있는지, 그리고 정확히 어떤 근거를 가지고 이러한 주장을 펼치는지는 잘 모르겠지만 그에게 한가지 확실히 말해줄 수 있는 것이 있다.
바로 인공지능은 인류를 멸종시킬 수 있을지 모르지만 적어도 우리가 SF 영화에서 봐왔던 것 처럼 터미네이터가 등장해 사람들을 몰살 시키는 방식으로 하지는 않을 것이라는 사실이다.
나는 인공지능 개발을 단순히 중단하거나 늦추어야 한다는 주장은 지극히 '인간스러운' 주장이며 '무지에 의한 두려움'의 발현일 뿐이라고 생각한다. 그보다는 어떤 종류의 잠재적 위협이 있는지 살펴보고 우리 스스로가 인간의 실존적 위협에 대비는 것이 더욱 중요하다고 생각한다.
참고로 이 글은 '인공지능 개발 중단'에 대한 입장으로 한정됨을 밝혀둔다. 물론 더 나은 미래를 위해 '책임감있는 인공지능 개발'이나 '인공지능과 윤리'에 대한 논의는 충분히 더 활발히 진행되어야 한다고 생각한다.
1. 인공지능과 인간의 실존적 위협
인공지능과 관련된 첫번째 위협은 인간 스스로의 실존에 대한 위협이 될 가능성이 크다. 숙련된 기술을 바탕으로 돈을 벌어오던 의사, 변호사, 작가 등 직업군이 수십년 안에 사라지거나 완전히 사라지지는 않더라도 매우 적은 규모로 축소될 것이라는 것은 기정 사실화 되었다고 생각한다.
위에서 열거한 직업군들은 생각할 줄 모르지만 특정 분야에서 인간보다 뛰어난 능력을 발휘하는 현재의 인공지능 기술로도 충분히 구현이 가능하기 때문이다. 이처럼 한정된 분야에서 처음 맞닥드리는 상황(데이터)에 대처하는 인공지능을 약인공지능(weak AI)이라고 하는데 나는 이 분야에서 인공지능이 사람을 능가할 것이라는 사실에 의심의 여지는 없다고 생각한다.
출처 : pixabay인간은 여기에서 오는 실존적 의미의 상실에 대비해야 한다. 직업 없이 어디서 자기효능감을 찾을지 알아야 하고, 스스로가 동물보다 나은 점이 무엇인지 끊임없이 질문해야 할 것이다.
2. 일반인공지능(AGI)의 판단력
또하나의 위협은 스스로 인간처럼 생각하고 행동하며 판단을 내리는 진정한 일반인공지능(AGI)이 탄생했을 때 생겨날 수 있는데, 우리는 그들이 어떠한 프로세스를 거쳐서 사고를 하고 판단을 내리는지 모르기 때문에 두려워 한다.
인간의 뇌는 생존을 위한 '파충류의 뇌'와 이성적 판단을 담당하는 '새로운 뇌(신피질)'로 이루어져 있는데, '파충류의 뇌'는 불안감이나 두려움 그리고 공격성과 같은 생존에 필요한 부분을 담당한다.
한마디로 파충류스러운 인간의 모자란 부분을 인공지능에 재현할 필요가 있느냐는 질문으로 자연스럽게 넘어가게 되는데, 나는 현 시점에서 인간의 폭력성을 구태여 인공지능에 재현하고자 하는 사람은 없을 것이라고 생각한다.
출처 : pixabay