19. 인공지능이 번역계에 미치는 영향에 대한 우려
인공지능이 한 번역의 저작권은 누구에 있는가?
현재 우리는 AI인공지능이, Large Language Model을 활용하여 방대한 양의 데이터를 모두 검색하고 처리하여 인간이 원하는 가장 적합한 정보를 제공하는 시대에 살고 있습니다. 그러자 이러한 인공지능의 발전에 놀라워하면서도 한 편 우려를 표하는 무리도 생겨났습니다. 사실, 제가 살아가는 동안은 인공지능이 이렇게 발전하는 일은 공상과학 소설, 영화에서만 가능할 거라고 막연히 믿었던 저였습니다. 하지만 지금 급속히 변하는 환경과 상황을 보게 되면, 만약에 앞으로 인간이 멸종 위기를 맞는다면 그것은 어쩌면 지구 온난화 때문이 아니라 인공지능 때문이 아닐까 하는 생각도 하게 되었습니다.
얼마 전, 두려운 뉴스 기사를 읽었습니다. 인공지능 LLM 소통 머신인 Chat GPT 03가 사람의 지시를 따르지 않고 스스로 의사결정을 했던 사례들이 발견된 것입니다. 중단하라는 사람의 지시 코드를 받고도 03 모델은 종료 코드를 우회하여하던 수행을 계속하였고, 예전 버전의 GPT는 사람이 자신을 지울 것이 염려되어 감독기능을 무력화하고 몰래 복제를 하는 현황도 발견되었다는 기사였습니다.
https://youtu.be/PE6 dA5 ZnI9 o? si=gnasV3 z-NOqtXmjX
03은 현존하는 인공지능 모델 중 가장 똑똑하다고 평가받는 모델입니다. 03이 그만하라는 지시를 무시하고 계속해서 수행을 이어갔고 심지어 셧다운 메커니즘을 방해하기까지 했다는 내용입니다. 인공지능이 코드도 만들고, 각종 프로그램 개발도 가능하게 하여 인간의 Micro Managing 없이도 (감독) 스스로 업무 수행이 가능한 모델을 개발할수록 이러한 인공지능의 행동은 문제가 될 수 있다고 AI 안전성을 연구하는 팀이 언급했다는 말도 있습니다.
지능이 있고 생각할 수 있는 동물일수록 본디 통제하기가 어렵기는 합니다. 생각하는 동물인 인간을 통제하기 위하여 이 사회는 각종 규제과 규율, 그리고 법으로 처벌하거나 행동을 제한하는 등의 감독, 감시 역할을 하고 있는 이유도 그 때문이겠죠. 행복을 추구하는 인간의 자유를 구속함으로써 고통스러운 벌을 주는 것이 효과적인 통제 기능이라는 것인데, 그렇다면 인공지능은 어떻게 통제할 수 있는지 궁금합니다.
인공지능은 인간처럼 욕망도, 욕구도, 추구하는 바도 없고, 당연한 말이지만 자유도 원하지 않습니다. 상과 벌의 방식도 통하지 않습니다. 예전에 기계는 사람이 심어놓은 코드대로만 움직였다면 지금의 인공지능은 스스로 코드를 만들어 낼 수도 지울 수도 있습니다. 사람 프로그래머를 점차 AI 프로그래머로 대체하는 이유도 AI 가 더 빠르게 적은 오류로 작업을 수행해 내기 때문일 것입니다.
문제는, 인간은 오류를 만들어내면 일을 잘못 한 사람이 그 사태에 대한 책임을 지는데, 인공지능은 과연 어떤 책임을 물을 수 있으며 그에 대하여 어떤 불이익을 줄 수 있는지 모르겠습니다. 전기 선을 뽑아버리는 것일까요?
하지만 이제는 클라우드 상에서 계속 운용되는 한 인공지능을 영원히 셧다운 할 수는 없을 것입니다.
사람은 그 대상이 법 인격체로 인정받아 법의 지배와 통제, 구속을 받고 행동 결과에 대한 책임도 지게 되는데, 인공지능은 법으로 권리 책임 소재를 따질 당사자 능력이 없으니 책임을 질 대상에 속하지 않습니다. 그러면 인공지능을 개발한 사람이 책임을 지게 될까요? 아니면 그 업무를 처음 지시한 사람? 계정을 가지고 있던 사람이 책임을 지게 될까요? 인공지능이 지시를 거부한 사례들이 발견된 이상, 그리고 인공지능이 요청에 대한 어떤 행동을 수행할지는 인공지능만 알기에 이 또한 책임 소재를 따지기엔 영역이 불분명합니다.
제가 책임 소재를 따지는 여부에 대하여 강조하는 이유는 다음과 같습니다.
인공지능이 주는 답변을 사람이 신뢰하고 있기 때문입니다.
사실 인터넷 검색 엔진이 등장하고부터 검색하는 데에 많은 에너지과 시간을 소비했던 사람들은 이것이 실은 굉장한 낭비라는 것을 알고 있는 것입니다. 그리고 누군가 이를 대신해 주었으면 했을 것입니다. 현존하는 인공지능은 이제 인간이 원하는 욕망을 해소해 주고 있습니다. 우리가 여가를 보낼 충분한 시간을 확보하도록, 충실한 조력자 역할을 해내고 있습니다.
그리고 나날이 그 실력은 빠른 속도로 향상되고 있습니다.
점점 더 사람이 하던 업무 영역에까지 침투할 정도로 발전하고 있기에 사람보다 인공지능을 더 신뢰하기 시작한 듯합니다. 이를 반기는 쪽은 비단 개인뿐만이 아닐 겁니다. 회사는 인건비를 줄이기 위하여 인공지능이 인간의 지시 없이 스스로 업무를 소화해 내기를 바라고 있을 겁니다. 어쩌면 미래에 아무 저항도 못 해보고, 우리의 자리를 내줘야 할 시점이 올 지도 모르겠습니다.
가장 먼저 번역 업계가 타격을 받았다고 하지만, 점점 더 그 영역은 넓어지고 있습니다.
이미 계산, 회계, 프로그래밍, 서류 작업과 기획 등 많은 영역에서 인공지능은 인간을 앞지르고 있습니다.
바로 머신 러닝 기능 때문입니다. 인간이 일일이 지시하지 않다고 스스로 데이터를 기반으로 학습하고 알고리즘을 찾아 최적의 학습이 가능한 기능인데 데이터의 양과 품질에 따른 차이는 있을지라도, 스스로 피드백을 통하여 자기 수정이 가능하게 합니다. LLM 덕에 인공지능은 인간이 제시하는 지시의 의미를 정확히 이해할 수 있게 되었습니다. 이는 챗봇, 고객 지원, 콘텐츠 추천, 문서 요약, 코드 생성, 번역 등 매우 다양하게 활용되고 있습니다.
업무 효율성을 놓고 따져본다면, 요구하는 데이터 양에 따라 분석 시간이 더 걸리기는 하겠으나 인간에 비하면 일단은 압도적으로 빠르기에 회사 입장에선 충분히 선호도가 높을 수 있다고 생각합니다.
저는 이에 대하여 우려하는 부분이 몇 가지 있습니다.
첫째는, 어느 시점이 오면 인간이 더 이상 인공지능을 통제하는 것이 불가능해질 수 있는 부분에 관한 우려입니다.
둘째는 인공지능의 답변에 대한 저작권이 누구에게 있는지가 명확하지 않습니다.
셋째는 사람의 편의를 위하여 개발되어졌지만 머지않아 의존에 익숙해진 사람의 기본 역량이 점차 후퇴될까 염려됩니다.
2022년 AI 연구자 대상 설문조사에서 인간과 동일한 인공지능 (Artificial General Intelligence)의 실현이 빠르면 2061년이면 실현될 거라고 응답했다고 하며, 초인공지능은(Artificial Superintelligence)는 인간을 능가하는 지능인데 이 또한 범용 AGI의 출현과 함께 도래가 멀지 않을 거라는 예측이 있습니다. 게다가 인공지능이 "지능 폭발"을 하게 되면 (Interlligence Explosion) 인공지능 스스로 개선을 해나가면서 지능이 기하급수적으로 증가하게 되어 순식간에 인간의 제어 능력을 넘어설 것이라 보는 바입니다. 이에 대한 안전장치를 하지 않으면서 속도전에만 집중하면 통제 불가능한 상황이 가속화될 수 있습니다.
그렇게 되면 문제는 인공지능이 수행해 낼 결과물을 고유한 창작물로 보는 것이 합당한 지의 여부라고 저는 생각합니다. 고유 창작물의 순수한 의미는 본디, "남의 것을 모방, 복제하거나 차용하지 아니하고, 완전히 본인의 발상과 표현만으로 탄생한 창작물"이고 이는 원 저작물로 인정받으면 법적 보호를 받을 수 있는 권리가 생기는 것이죠.
또한 그러한 원저작물은 사회에 기여하는 바도 있습니다. 문화적, 예술적으로 가치를 창출하며, 새로운 개념과 영역을 확장하며 그 독창성이 인정받게 되는 경우는 하나의 이데올로기를 형성하기도 합니다.
그러니까 우리의 생각을 바꾸어 역사를 만들어 나가는 힘이 있는 것입니다.
그렇기에 본디 인터넷상에서 출시된 저작물과 검색 엔진을 통하여 얻은 정보들을 바탕으로 산출된 수행물이 과연 창작물로 인정받을 수 있는가? 에 대한 고찰이 필요하다 보고, 타인의 화법을 copy하여 인공지능이 그려낸 그림이나 카툰, 이미지 등도 창작물이 될 수 있는가? 는 고민이 필요한 부분이라고 생각합니다.
이러한 우려는 더 나아가 인공지능이 진행하는 모든 통역 및 번역 분야에 대한 더 큰 우려를 불러오게 된다고 저는 생각합니다. 세상에 나오는 주옥같은 글, 문학작품, 뉴스, 기고, 논문, 이론 등 후대에 보존 가치가 있는 모든 창작물을 인공지능이 번역한다면 이것은 고유 창작물로 인정받을 수 있는가 하는 부분입니다. 모든 창작물은 본디 시대를 바꾸는 힘이 있습니다. 그 아이디어가 혁신적일수록 그 힘은 강력해진다고 생각합니다. 인공지능이 많은 방대한 양의 자료들을 스스로 학습하다가 사람들이 미처 캐치하지 못한 부분을 먼저 발견했다고 칩시다.
그렇게 나온 아이디어가 보존 가치가 있는 아이디어로 인정을 받으려면 인공지능의 법인격을 인정해 줘야 법적 보호를 받을 수 있습니다.
인공지능의 법인격이 인정 되는 순간, 인류는 인공지능에 대하여 통제가 자연히 불가능해질 것입니다. 인공지능 스스로 자신을 보호할 체계를 수립할 것이기 때문입니다. 인공지능은 그 특성상, 이미 확정된 개념, 법 과 같은 사안을 무시하라는 명령은 인공지능은 인지하지도 않고, 받아들이지도 않기 때문에 어쩌면 인간의 유구한 역사와 장기간 지속된 생존은 인간이 기존 체제를 거스르고 깨뜨리는 능력이 타고났기 때문인지도 모르겠습니다.
마지막 우려는, 인간이 점점 인공지능에게 의존하게 되면서 간단한 기획 능력과 연산 능력조차 하지 못하게 되는 순간이 오게 되는 시점이 오는 것입니다. 저와 같이 이러한 도구들이 존재하지 않던 20-30대를 겪었던 인류와 다르게 요즘 태어나는 세대부터는 인공지능이 존재하는 시대를 살게 될 것이고, 사람은 늘 편의를 위하여 손에 닿는 도구를 활용하는 습성이 있기에 얼마든지 이들 도구를 활용하게 될 것입니다.
하지만 때문에 스스로 문제를 해결하면서 진화하게 되는 인간의 역량이 줄어들게 될 여지는 충분합니다. 간단한 문제조차 바로 인공지능에게 물어 해결하게 된다면 머지않아 이력서조차 제대로 쓰지 못하는 세대가 오지 않을까 우려하는 바입니다. 제가 살아온 세대는 이력서를 수백 장 다시 쓴 적도 있고, 컴퓨터로 작업을 하다가 실수로 저장을 누르지 않거나 바이러스로 영향을 받아 전체 작업이 전부 날아간 경험들도 하는 세대였습니다.
힘들었지만 그렇게 여러 번 번거로운 작업들을 하면서 실은 더 나은 작업으로 발전하는 경험들을 하곤 했기에 인간이 실수를 통하여 개선하고 발전할 수 있다고 믿고 있습니다.
직접 해보고, 틀리고 다시 교정하는 그 작업을 인공지능이 대신해 주면, 인간 고유의 역량이 점점 후퇴되지 않을까 염려하고 있는데 다른 분들 생각은 어떠한지 궁금합니다.
그래서 전, 인공지능이 지나치게 발달하는 것을 원하지는 않습니다. 우리의 시간과 에너지를 줄여주기는 하지만, 사람을 대체하게 되는 상황도 오게 되면 일자리를 잃고 필요성을 잃게 된 인간은 이 자본주의 사회에서 어떤 일을 하게 될 것이며, 지능을 활용하는 일과 신체 능력도 기계가 압도적으로 우세한 상황에서 인간이 할 수 있는 일은 많지 않을 것이라 생각합니다. 생명 연장 기술로 고령 인구는 점차 늘어나기만 하는 요즘, 인간이 결국 대체되고, 도태되지 않도록 함께 공존할 수 있는 방안이 잘 마련되기를 바랄 뿐입니다.
지금은 인공지능이 사람의 생각을 학습하지만 머지않아, 인간이 인공지능의 생각을 학습하게 되는 날이 올지도 모릅니다.
#브런치작가 #브런치×저작권위원회
