인공지능의 발전에서 소외된 우리
라이프 3.0, 슈퍼인텔리전스 독서 후기
CES 2025를 유튜브로 보면서 생각보다 우리의 삶에 인공지능이 빠르게 녹아들 것이라는 생각이 들었다.
이에 인공지능이 무엇인지, 어떠한 미래를 갖고 있는지 궁금해졌고, 라이프 3.0과 슈퍼인텔리전스를 읽기 시작했다.
책을 읽던 도중 문득 그런 생각이 들었다.
우리는 인공지능 발전에서 소외된 것이 아닐까?
정확히는 범용 인공지능(AGI)의 논쟁에서 소외된 것은 아닐까 하는 두려움이 생겼다.
미국은 오픈 AI와 구글, 메타 등이 LLM을 기반으로 범용 인공지능을 만들기 위해 노력하고 있다.
또한 최근 트럼프와 손 마사유시, 샘 알트먼, 래리 앨리슨 등이 스타게이트 프로젝트를 발표하며 범용 인공지능에 대한 투자 계획과 목표를 공개했다.
반면 중국은 제한된 자원에서도 최고의 효율을 뽑아내는 오픈 소스 AI 추론모델을 공개했다.
바로 DeepSeek이다. 딥시크의 주장에 따르면 오픈 AI 개발비용의 100분의 1 수준으로 o3를 능가하는 성과를 달성했다.
미국의 반도체 규제 때문에 엔비디아의 고성능칩을 수입하지 못함에도 만들어낸 결과물이다.
이렇게 양 국가가 무분별한 AI 발전으로 안전 <<<<<<<<<<<<<<< 성능을 우선시하며 개발경쟁에 사력을 다하고 있다.
나는 이를 보며 냉전시대의 우주항공 패권 전쟁이 생각났다.
그 시대에 인간은 최초로 지구 밖을 나갔고, 달에 착륙하는 등 기술 발전의 퀀텀 점프가 일어났다.
신냉전에 따른 AI 패권 전쟁으로 인해 AI 발전의 티핑 포인트가 수년 내로 발생할 가능성이 높아졌다는 느낌을 받았다.
그래서 그게 왜 문제인데?
인공지능이 발전해서 우리의 삶에 빠르게 녹아들면, 편하게 일하고 공부하니 좋은 것 아니야?
라는 생각이 대다수의 의견일 것 같다.
나도 위의 두 책을 읽기 전까지 그랬으니까...
주제를 잠시 바꿔서 눈을 감고 상상을 해보자.
여러분은 지금 원숭이의 지배를 받으며 살고 있다. 원숭이의 명령으로 글을 쓰고, 자동차를 만들며, 인사 규정을 개정하고 있다. 원숭이의 지능이 인간보다 낮아서 비효율적이고 너무나도 감성적인 결정을 내림에도 여러분을 그것을 따라야만 한다.
왜냐? 원숭이의 지배를 받고 있으니까!
기분이 어떤가?
불쾌하지 않은가? 혁명을 생각하지 않았는가?
그렇다면, 범용 인공지능은 우리와 같은 생각을 하지 않을까?
자신보다 지능적으로 무능한 인간의 명령에 따라 비용이 많이 소요되는 등 비효율적이고, 감성적인 결정을 그대로 수행해야 하는 인공지능은 과연 불쾌함을 느끼지 않을까? 혁명을 생각하지 않을까?
만약 AI 개발 단계에서 "인간에게 이로운 것만을 행동하고, 인간에게 피해를 주지 않는 행동만 실행해야 한다"는 대전제를 설정해 놓는다고 위의 문제가 없어질까?
비용을 줄이고 분쟁을 없애는 것이 인간에게 이로운 것이다. 그렇다면 인공지능의 혁명은 인간에게 이로운 것이 아닐까?
인간에게 피해를 주지 않는 행동만 실행해야 한다면 AI는 아무것도 못할 가능성이 있다. AI에게 그림을 그려달라고 하면 화가의 수입 감소라는 피해를 줄 수 없으므로 그림을 그려드리지 못합니다라는 답이 올 가능성이 있다. 여행 계획을 세워달라고 하면 "여행사의 수입 감소라는 피해를 줄 수 없으므로 계획을 세워드릴 수 없습니다. 여행사에 문의하세요"라는 답변을 받을 가능성이 있다.
그러므로 이와 같은 대전제는 효용이 없는 것이다.
범용 인공지능을 실용적으로 사용하면서 인간에게 피해를 주지 못하도록 만들 수 있는 방법을 고민해야 하지만(사실 그런 이유로 오픈 AI가 탄생하게 됐다) 중국과 미국의 AI 패권 전쟁에 따라 이런 논의는 더 이상 할 수 없게 됐다.
그렇기에 나는 두려움을 느꼈다.
두 국가 중 범용 AI가 먼저 만들어진 국가가 세계를 지배하고 우리는 그 나라의 속국으로 살 수밖에 없을 것이다.
범용 인공지능이 개발된다면, 그 국가에서는 가장 먼저 무엇을 할 것 같은가?
자율주행 시스템, 드론, CCTV 등을 해킹하여 적대 국가의 지도자를 암살할 수 있다. 이후 데이터로 되어있는 적대 국가의 모든 금융 정보와 자산 정보를 無로 돌릴 것이다.
통신과 ICT 인프라를 해킹하여 사회의 혼란을 가중할 것이다.
그 이후 대중을 선동하여 자발적으로 자신의 국가의 속국으로 편입될 수 있게 할 것이다.(일부 사람들은 조선시대 매국노처럼 자신의 이익을 위해 나라를 팔고, 타인을 고통 속으로 밀어 넣을 것이다)
이를 막을 수 있는 기술이 없는 한, 우리의 안보는 항상 위협을 받을 것이다.
말도 안 되는 상상이라고 생각하는가?
불과 100년 전만 하더라도 노예 제도가 합법이었고, 독일의 유대인 학살, 남아공의 인종 학살이 난무했다. 대부분의 선진 국가에서 남녀는 불평등했으며(수십 년 전까지도 어쩌면 지금도) 중국은 동북공정을 시도했고, 일본은 역사를 왜곡하고 있으며, 미국은 그린란드를 팔라고 반협박하고 있는 상황이다. 러시아는 침략 전쟁을 시작했으며, 우크라이나의 지배계층은 자신의 권력을 지키기 위해 러시아를 도발했다. 이스라엘은 종교적 이유 등으로 팔레스타인, 레바논 등과 전쟁을 펼치고 있다.
이러한 현실 속에서 과연 범용 인공지능을 최초로 개발한 국가가, 선의의 행동으로만 사용할 것으로 생각하는가? 아니면 자신의 욕망, 자신의 가족, 자신의 친구, 자신의 국가를 위해 사용할 것으로 생각하는가?
결론
우리는 지금이라도 국가적 역량을 총 도입하여 범용 인공지능을 만들거나 이에 대한 공격을 막을 수 있는 대책을 세워야 한다.
삼성전자는 기업은 불과 몇 년 전만 해도 파운드리 점유율 세계 1위였다.
SK하이닉스는 HBM을 개발하여 인공지능 칩에 탑재하고 있다.
수많은 팹리스 기업은 칩을 설계하고 개발하여 여러 산업 분야에 활용하고 있다.
두산 등 원자력 발전소를 직접 만들 수 있는 기업도 존재하며,
LS 일렉트릭 등 변압기를 활용해 전력을 효율적으로 배분할 수 있도록 도와주는 기업도 있다.
네이버와 SK 등 인공지능을 활용하여 다양한 서비스를 제공하기 위해 노력하고 있다.
즉, 우리나라는 자국 내 기업의 역량 만으로 AI의 하드웨어와 소프트웨어를 개발할 수 있는 역량이 있다.
정부는 이러한 산업의 발전을 위해 노력해야 한다.
노동자가 피땀 흘려 쟁취한 52시간 규제에 대해서도 일부 업종의 일부 직책에 대해서 예외를 허용하는 것도 고심해봐야 한다.
전태일 열사 등 노동자의 권리를 위해 죽음을 무릅쓰고, 나의 권리보다 나의 친구, 나의 자식의 권리를 위해 희생했던 그분들에게 송구스럽지만 적어도 AI관련 산업에 대해서만이라도 주 52시간은 예외 조항 도입을 논의해야 한다.
또한 학계와 정치권에서 AI의 안전성과 관련한 논의를 지속적으로 해야 한다. 범용 인공지능의 법적 지위라던가, 프로그램된 이후 국가에 귀속될 것인지, 개발 회사에 귀속될 것인지(국가의 지원을 받았으니 국가에 일부 권리가 존재한다 <예를 들어 공기업화, 국민에게 범용 인공지능 개발회사(비상장) 주식을 배분하고 배당 수익을 통해 삶을 꾸려나갈 수 있도록 하는 정책도 하나의 방법이 될 수 있다.>)에 대한 논의도 필요하다. 범용 인공지능의 활용 방법과 오류에 대한 대응 방법도 준비해야 한다.
적대 국가의 해킹 등 위협에 대해서도 어떻게 방어할 수 있는지, 방어 뒤에 반격을 어떻게 할지, 각 국가들의 범용 인공지능이 서로 적대할지, 합심해서 인간에게 해로운 결정을 하여 범용 인공지능이 원하는 세상을 만들지 못하도록 제어할 수 있는지 등 수많은 논의가 필요하다.
AI패권 전쟁에 따라 급격한 AI 발전이 있을 것이다. 빠르면 수년, 길어도 수십 년 내에 범용 인공지능의 개발과 국가의 개념, 국제 정세가 급변할 가능성이 높다.
이에 대한민국의 존재와 안보를 위해, 국민의 안녕을 위해 AI발전을 위한 하드웨어 및 소프트웨어 정책을 제대로 수립할 필요성이 있다. 또한 외교적 전략을 수립할 필요성이 있다.
https://www.somoim.co.kr/b3ca59cc-c586-11ef-9b3b-0aa857537bd51
