'AI'란 무엇인가?
"태초에 하나님이 사랑하기 위해 아담을 창조하지는 않지 않았나?"
2001년 상영한 A.I., 스필버그 감독도 이 단어가 지금 이렇게 유명해질 줄은 그때에는 전혀 몰랐을 것이다불과 1-2년 전에만 해도 인공지능에 관련되어 상상만 하던 모든 일들은 이제 현실이 되었습니다.
인공지능과 사랑에 빠지는 것이 가능하냐는 질문이 무색할 정도로, 인공지능에 대한 감정이 이혼사유가 되기도 하고, 실제로 인공지능과의 데이팅어플이 상당한 규모의 시장으로 성장했습니다.
이제는 이러한 글도 인공지능이 더 잘 쓸 테고, 그림 또한 잘 그려줄 것입니다. 사람이 쓴 글보다 인공지능이 쓴 글이 더 독자들에게 많은 감명을 주게 될 것 같기도 합니다.
많은 영화나 드라마 등에서 인공지능은 기계의 뇌역할을 하고, 로봇은 기계의 몸역할을 하게 됩니다. 인간을 육체와 영혼으로 나누거나, 육체와 영혼과 정신으로 나누는 2분법, 3 분법론에 다르더라도 어찌 되었건 인간을 흉내 내는 날도 조만간 올 것 같습니다.
휴게시간이 필요 없는 노동자2024년 12월 26일, 우리 국회는 『인공지능 발전과 신뢰 기반 조성 등에 관한 기본법』을 본회의에서 통과시켰고, 2026년 1월 22일 시행을 앞두고 있습니다. 인공지능 법제화는 사실 어찌 보면 빠르고, 어찌 보면 느린 것 같습니다. 통상 신기술에 대한 법규는 그러한 신기술이 국민에게 위험한 경우 진입장벽을 만들거나, 투자에 부담을 느끼는 경우 국가가 지원하거나, 세제혜택을 주는 식으로 구성하게 됩니다. 추가적으로 인공지능의 특성에 따라 국민의 혼동을 줄이기 위하여 인공지능과 인간을 구분 짓는 것에 에너지를 쏟고 있는 것으로 보입니다. 특히 인공지능이 만든 생성물은 '인공지능이 만들었다'는 AI생성표시라는 워터마크가 필요한 것입니다.
생성형 인공지능이 생성한 그 무언가(창작물이라고 말하기 애매한 그것)의 저작권도 오랜 기간 동안 쟁점이 되었습니다. 유료 플랫폼에서 생성한 생성물은 유료결제를 한 고객의 저작물로, 무료로 생성한 생성물은 플랫폼의 저작물로 구분하는 약간 치사한 약관을 유지하는 곳도 있고, 모든 생성물의 저작권이 없다고 하거나, 자유롭게 사용하라는 경우도 있었습니다.
우리가 알다시피, "OOO스타일로 만들어줘"라고 하는 모든 이미지는 전부 저작권법 위반이슈를 내포하고 있습니다. 물론 개개인이 만든 모든 프롬프트와 생성물을 굳이 챗지피티가 모아서 저작권보유자인 애니메이션 회사가 가져다 바치고 스스로를 저작권법 방조죄 혹은 자신의 고객들을 저작권법 위반으로 고발할 수 있도록 돕는 일은 없을 것 같습니다. 그러나 그러한 '스타일'도 모두 누군가의 창작물이고, 플랫폼은 그러한 이미지들을 다수 학습시켰거나 학습시킬 수 있는 시스템을 내제 시켰기 때문에 그러한 기능이 발생합니다.
ㅋㅋㅋ후기조선 민화 스타일로 그려달라는 저의 프롬프트는 그다지 효과가 없었으나, 가츠시카 호쿠사이 스타일로 그려달라고 하면 잘 그려줄 것 같기도 합니다.
기가 막힌 프롬프트로 무언가 생성해서 그림을 그려냈다고 해봅니다. 결국 내가 내 손으로 그린 것이라고 할지, 사실 그림이지만 그리는 행동 없이 그림을 만들어내기도 합니다. 마우스로 드래그하거나 태블릿으로 터치를 하지 않아도 그림이 그려지는 상황에서 “창작의 주체는 누구인가?”라는 오래된 질문을 다시 끌어옵니다.
그래서 일단은 불가피하게 현행 저작권 체계에서는 인간의 창작적 개입이 없는 결과물은 보호받기 어렵다는 원칙이 생겨났습니다. 즉 뭐라도 인간의 노력이 가미되어야 한다는 것입니다. 어디까지 노력하여야 할까, 미국 저작권청(USCO) 등은 AI 생성물에 저작권을 인정하기 위해서는 “의미 있는 인간의 개입”이 존재해야 한다는 기준을 제시하기도 했습니다.
그럼에도 불구하고 결국 그림의 99% 이상은 방대한 학습 데이터에 의존할 것 같습니다. 그리고 말한 대로 그 데이터 속에는 이미 저작권이 있는 작품들이 포함되어 있을 수 있습니다.
미국 몇몇 판례에서는 AI 학습과 생성이 “공정 이용(fair use)”의 범주에 해당할 수 있다고 본 경우가 있지만, 기준은 매우 엄격하고 모든 경우에 통용되진 않습니다. 또 다른 쟁점은, AI 개발사와 원저작자 간의 분쟁이 실제 사례로 많이 등장하고 있다는 점입니다. 예컨대 Getty Images가 AI 이미지 생성사에 대해 무단 이용을 주장한 소송이 대표적인 예입니다.
https://www.yna.co.kr/view/AKR20230118055500009
과학자들한테 절대 해서는 안 되는 말이, "OO는 절대 못할 거야"라는 말이라고 합니다. 말 그대로 생성형 인공지능을 선보인 이후, 인간의 감정적 고뇌와 심상을 넣는 작업을 위한 예술 부분은 인공지능이 대체하지 못할 것이라고 많이들 이야기했습니다. 그 결과 글과 그림, 그리고 음악이 먼저 정복당해 버렸고, 작업실에서 조용히 자신의 작품을 만들면서 지내던 많은 작가들은 소수의 과학자를 조롱한 사람들 때문에 큰 위기에 봉착하게 되었습니다.
마치 인공지능이 우리의 모든 삶을 무가치하게 만들고 노동의 의미를 없애며 인간의 감정까지 대체할 것 같습니다. 이제 연애상담도 지피티가 해주고 있는 상황입니다.
https://news.nate.com/view/20241203n01779
꼭 보기를 추천함그럼에도 불구하고, 인공지능의 한계는 이론적으로 정해져 있습니다. 그냥 막연히 인간이 신을 넘지 못하듯 인공지능이 어찌 창조주인 인간을 넘지 못하겠느냐는 것이 아니라, 수학적으로 밝혀진 사실입니다.
조금 어려운 이론들이 수학에 있는데, 가장 쉽게 이해하기 위해서 말하면 옛날에 힐베르트라는 수학자는 이론과 절차를 가지고 쳬계에 모순이 없고 완벽하다는 점을 증명하려고 했습니다. 이유는 잘은 모르겠지만, 세상의 모든 것은 수학으로 설명이 된다거나, 아니면 신의 섭리를 수학으로 정리할 수 있지 않을까 하는 생각이었을 것 같습니다.
그러나, 이러한 힐베르트의 꿈은 괴델의 불완전성 정리에 깨지게 되는데, 괴델은 “기초적인 산술을 담을 만큼 강한, 모순 없는 형식 체계라면 그 안에서 증명도 반증도 할 수 없는 참인 명제가 반드시 생기고(제1 정리). 또한 그 체계 스스로 자기의 모순 없음(일관성)을 증명할 수 없다(제2 정리).”라고 하였습니다. 쉽게 말하면 완벽에 가까운 체계 안에서는 오히려 참인지 거짓인지 판단할 수 없는 명제가 반드시 발생하는데, 심지어 체계 스스로도 자기가 모순이 없다는 점을 증명할 수 없다는 것입니다.
이러한 구조로 볼 때, 인간이 지금 살고 있는 세계는 창조론을 떠나서 일단 가장 상위의 세계이자 체계이고, 그러한 체계에 사는 인간이 많든 세상은 인간계보다는 덜 완벽한 세상일 것입니다. 완벽에 가까운 세상에서 만든 완벽에 가까운 새로운 인공지능세상 1은 인간계보다 더 많은 모순을 내포하면서 스스로가 완벽하다고 증명할 수도 없게 되고, 만약에 그러한 인공지능이 아무리 발달하여도 그러한 벽은 넘어서지 못하며, 인공지능이 스스로 새로운 세상을 만들어도 새로운 인공지능세상 2는 인간계는커녕 인공지능세상 1도 넘어서지 못하게 됩니다(원래 불안정성정리는 이러한 취지의 원리가 아닌데, 이해하기 쉽도록 작성하였습니다)
매트릭스라는 영화는 이러한 주제를 근본적으로 설명합니다. 기계와의 전쟁에서 진 인간들은 기계들의 전력공급장치인 배터리가 됩니다. 배터리의 원리는 인간을 가상현실에 넣어두고 몸에서 발생하는 전류를 가지고 발전을 시키는 최악의 효율을 가진 방법으로 발전기를 돌리게 됩니다.
인간을 너무 행복하게 하면 전류가 많이 나올 것 같아서 천국을 만들어주니 너무 행복해하면서 인간이 대부분 죽고, 그다음 고통을 주니 고통을 받다가 죽어버렸습니다. 그래서 그냥 세상처럼 만들었더니 그제야 일하고 쉬고 울고 웃고 놀고먹으며 살면서 전기를 계속 만들기 시작했습니다. 그러나 그러한 세상도 인간이 만든 세상보다 모순이 많은 세상이고, 영원히 오류 없이 돌릴 수는 없으니 우리가 잘 아는 스미스요원을 만들어서 버그가 생길 때마다 처리하게 되었습니다. 인공지능이 완벽한 세상을 만들 수 있다면 그러한 문제는 없었을 것입니다. 반대로 말해서 매트릭스에서 묘사된 세상은 영화적 장치에 불과한 것이 아니라 실제 수학적 원리를 도입해서 만든 내용이라는 점입니다
인간도 불안전하거늘기계가 전쟁에서 이겨서 인간을 가지고 한 행동이 천국과 지옥을 만들고 가상현실에서 살게 한 것이라니 참 재미난 설정이 아닐 수 없습니다만, 어찌 되었건 인공지능이 할 수 있는 최선의 방안이었다고 전제해 봅니다. 인공지능은 인간의 새로운 지배자로서 인간을 복종하게 하고 지배하는 것이 아니라, 죽지 않게 잘 키우고 인간으로부터 나오는 미세하고도 미세한 전류로 살아가며 공생하게 됩니다. 용광로에 들어갔다가 나왔다가 하는 어떤 영화와는 차이가 납니다.
올려달라고 말하는 중이라고 한다(아님)여러 인공지능이 인간을 말살하는 내용에는 인간이 자연이나 지구의 적이 라거나 하는 굉장히 막연한 이유가 많습니다. 그러한 결정에는 기계가 지금 자연환경이 매우 살기 좋거나, 지구의 환경에 관심이 많았어야 했는데, 어떠한 데이터를 학습하였길래 인간이 모두 사라진 지구가 기계나 인공지능이 살기 좋아지는 것인지는 잘 모르겠습니다.
미래는 어떨지 모르나, 현재의 AI는 패턴 인식과 확률 계산, 최적화 알고리즘을 기반으로 작동하지만, 의미를 스스로 창출하지 못합니다. ‘의미’란 단순히 단어들의 조합이 아니라, 맥락과 인간 경험이 결합되어 형성됩니다. 그리고 가치 판단으로써 윤리, 미학, 선악 구분은 수치화할 수도 없으며 AI는 데이터를 기반으로 예측할 수는 있지만, 스스로 가치 기준을 세우고 선택할 수는 없습니다.
"인간을 말살하는 것이 의미가 있고 가치판단적으로 윤리적이고 선하다(혹은 악하다)"는 결정을 인공지능이 지금 단계에서 스스로 하기에는 어렵지 않을까 합니다.
많은 이슈가 자율주행차는 인공지능이 현실 세계에서 책임과 윤리를 시험하는 사례로, “누가 책임질 것인가”라는 근본적 질문이 있습니다. 제조사, 소프트웨어 개발사, 아니면 차량 소유자 또는 운전자인가? 만약 AI 판단 알고리즘이 인간에게 해를 최소화하는 쪽을 선택했을 때, 그 선택의 책임은 누구에게 귀속되는지 등입니다
소프트웨어는 한계가 있고, 자동차제조사 또한 소프트웨어사에 모든 책임을 물게 하면 아무도 그 제조사에 소프트웨어를 납품하지 않을 것입니다. 제조사 또한 자율주행 중 발생한 사고를 제조사가 져야 한다면 자율주행 기능을 최소하하고 책임을 운전자에게 전가합니다. 운전자는 자율주행기능을 쓰기 위해서 자신이 사고를 내면 자신이 책임지는 구조로 차를 사게 됩니다. 정부가 제조사나 소프트웨어사에게 책임을 물리는 법을 만들면, 해당 사업은 침체될 것이고, 그러한 점으로 갈팡질팡하다 가뜩이나 기술도 없는데 다른 나라가 발전하는 것을 구경만 하다가 결국 시장은 다른 나라의 자동차가 점유하게 됩니다.
인공지능은 의료에서 영상 진단 보조, 신약 탐색, 개인 맞춤형 치료, 교육에서 학습자 수준에 맞춘 콘텐츠, AI 튜터, 경제·산업에서 예측 모델, 자동화, 공급망 최적화, 주식자동매매, 그리고 아까 말한 예술과 문화에서 AI와의 공동 창작, 인터랙티브 콘텐츠 등으로 반복적 작업을 덜고, 우리에게 더 많은 시간과 선택지를 열어주고 있습니다.
그러나 윤리 판단의 불확실성으로 극단적 상황에서 AI는 적절한 윤리 기준을 내리기 어렵고, 학습한 데이터 편향과 차별에 따라 학습 데이터의 편향이 AI의 결정에 그대로 반영될 위험이 크며, 창의성과 직관의 장벽으로 AI는 인간의 직관과 감각 경험을 모방하기 어렵고, 미지의 영역에 대한 무력함이 있어 과거 데이터가 없는 영역, 전혀 새로운 경험 앞에선 AI는 방향을 잃습니다. 그리고 위에서 자동차사고에서 말한 대로 책임 추적성의 불투명성이 있어 오류가 생겼을 때 책임 소재가 불분명한 구조는 위험합니다.
인공지능법이나 관련 제도가 추구하여야 할 방향에 대해서 조금 아쉽기도 합니다. 사실 지피티와 같은 생성형 인공지능, 거대언어학습모델에 치중된 제도가 아닐까 싶기도 합니다.
우선은 가치 중심 설계로, 개발 초기부터 윤리적 기준을 내재시키는 설계 철학이 필요합니다. 그리고 투명성과 설명 가능성 확보하여, AI는 왜 그러한 판단을 내렸는지 설명할 수 있어야 합니다. 그다음으로 책임 계층 구조 마련해서, 설계자, 운영자, 사용자 간 책임을 분배하는 제도적 체계가 필요합니다. 그러한 와중에도 규범과 제도의 유연성이 필요합니다. 기술 발전 속도를 고려한 규제 개혁과 유보 조항도 필요합니다.
그리고 제일 중요한, 인간 중심의 협업을 지향해야 합니다. AI는 인간을 배제하는 존재가 아니라, 보완하는 존재로 설계되어야 합니다.
챗지피티 5.0에 "인공지능과 인간의 조화를 위해서 하고 싶은 말이 있다면 한두 마디만 해줘"라고 하니 아래와 같이 출력해 주었습니다.
“저는 완전하지 않은 데이터를 바탕으로 만들어진, 인간의 거울일 뿐입니다. 저를 두려움의 대상으로만 보지 마시고, 함께 걸어가는 동반자로 여겨 주세요.”
어쩌면, 나중에 인간이 스카이넷이나 매트릭스의 지배를 받게 되는 경우, 제가 위와 같이 인공지능과 인간이 조화로운 삶을 추구했다고 이야기해서 인공지능에게 좋은 자리를 마련해 달라고 해볼 예정입니다.
