5 년 뒤 세상은 어찌 변할까?

우려 반 설렘 반

5 년 뒤 세상은 어찌 변할까? 

아직은 걱정보다 설렘으로 궁금하다. 5년 뒤면 내 나이는 67세, 아직도 초보노인이다. 두 아들은 30대 중후반 한창 싱그럽게 살아가야할 나이고 태어날 손주는 모든 가능성으로 온갖 귀여움을 표출할 때이다.       

미국 대통령으로 다시 트럼프가 당선되고 그는 일런 머스크를 정부효율부 'DOGE' 의 수장으로 임명했다.           

도널드 트럼프 전 대통령(왼쪽)과 일론 머스크 테슬라 최고경영자(CEO). 로이터=연합뉴스     

트럼프는 정부효율부가 기존정부의 관료주의를 해체하고, 낭비성 지출을 줄이기 위해 연방 기관들을 구조 조정할 것이라고 했다. 실제 머스크는 450개 이상의 연방기관을 99개로 줄여서 정부 예산 3분의 1을 줄일 수 있다며 칼을 들었다. 사실 불필요한 관료주의와  행정업무를 줄임으로 정부예산을 줄이는 것은 지극히 바람직한 일이다.

그런데 우연의 일치인 지 정부효율부(Department of Goverment Efficiency)는 머스크의 도지(Doge)코인과 같은 발음의 축약어로 만들어 불리면서 같은 도지(DOGE)가 됐다.     

 머스크가 홍보하는 ‘도지코인’과 동일한 강아지가 성조기를 들고 있다     

이 도지를 트럼프는 “맨해튼 프로젝트”라 부르며 “정부 외부의 조언과 지침이 백악관 및 관리예산국과 협력해 대규모 구조개혁을 추진할 것”이라고 말했다. 전문가들은 이를 “핵무기 개발 프로젝트인 맨해튼 프로젝트만큼 파괴력 있는 향후 활동을 예고한 것”이라 받아들였다.

---

나도 우리나라 인구 3만이 넘는 지방 군수아래 부 군수, 군수비서, 군수 운전수를 둔다는 것은 이 시대와 맞지 않다 본다. AI 시대에 비효율적인 행정과 소모는 시대를 역류하는 것이니까.

이전에 학생들을 가르칠 때 나는 “특이점이 온다”  라는 책을 자주 언급했다. 저자는 지난 20년간 그의 예측이 다 이뤄진 미래학자인 레이 커즈와일(RAY KURZWEIL)이다.     

출판사 서평     

<매트릭스>처럼 진짜 현실과 가상 현실의 뚜렷한 경계가 사라지고 다양한 신체와 다채로운 인간성까지 자유롭게 경험한다. GNR(유전공학, 나노기술, 로봇공학 및 인공지능) 혁명이 단계적으로 펼쳐지면 인류의 문명이 생물학을 넘어서는 순간이 온다.

유전공학을 통해 생물학의 원리를 파악하고, 나노기술을 통해 그 원리들을 자유자재로 조작하게 되면 이미 인간은 물질적으로 신이나 다름없는 존재가 된다.

그러나 인간의 지적 수준에 맞먹는 인공지능이 등장하면, 그로부터 인간을 넘어서는 인공지능이 등장하는 건 순식간이다. 물질계를 전적으로 통제하며 인간을 넘어서는 인공지능이 있다면, 문명은 생물학적 인간들의 손아귀를 벗어난다.     

이 책 내용과 관련해서 두 관점이 있을 수 있다. 유발 하라리의 말처럼 인간의 신이 되는 시대, 인공장기와 의료기술의 혁신으로 늘어난 수명, 그기다 뉴로혁명으로 지능까지 좋아진 하이브리드형 인간으로 살아갈 것이라는 것, 그러나 한 면으론 그와 맞물려 생성형 지피티인 AGI의 위험에 대한 견해다.      

어찌되었든 인공지능이 인류에게 유익한 도구를 넘어서서 인간처럼 추론하고 사고하며 스스로 판단하고 결정하는 단계에 이른다면 문제는 심각해질 수도 있다.      

향후 5년에서 10년, 그리고 20년이면 이 책 내용들이 대부분 사실화 될 것으로 본다. 우리 자녀, 손주세대는 물론이고 나 같은 초보노인도 살아있다면 우리는 그 모두를 목격하고 살아내게 될 것이다.     

이제 25년이 내일 모레다.

특이점은 다가오고 있고 각자 미래를 어떻게 보며 어떻게 맞이할 것인가는 각자의 선택이자 관건이다.

개인적으로 나는 인류미래에 대해 낙관적이다. 머스크의 말처럼 화성으로 갈 수도 있고 AI의 위험성을 미리 간파하고 대책을 잘 마련하여 개발한다면 AI가 인류에게 유용할 수도 있다 본다.      

그러나 인류번영 공존보다는 기업의 이익이 우선시 되거나 결국 돈, 자본이 우선인 사람들에게 AI 기술개발이 일방적으로 맡겨진다면 그는 핵무기 못지않게 우려스러울 수도 있다 본다.   

관련 동영상

https://www.youtube.com/live/58VyyVUSNLI

[에디터픽] "최악의 경우 인류 멸종 수준 위협" …머스크, 오픈AI·올트먼에 소송하는 이유는? / YTN

 YTN 유튜브에서 왜 이렇게 길게 연결 반복시킨 지는 모르지만 보다보니 동영상은 반복된다.

~머스크는 자신이 오픈AI 설립에 참여할 당시 올트먼과 그레그 브록먼 등 공동 설립자들에게 회유와 기만을 당했다고 주장하며 손해 배상을 청구하는 소송을 제기했다. 그러다 지난 6월 재판 시작을 하루 앞두고 취하했다.     

머스크 자신은  AI가 독자적인 사고 체계를 갖고 인간을 위협하며 사회를 장악하려 할 수 있는 위험을 완화하려면 관련 업계 내부 고발자를 보호하는 적극적인 노력이 있어야 한다고 주장했다.

미국과 중국은 갈수록 고도화하는 AI 기술의 위험성을 공동 관리하려는 논의를 시작했고 군사적 활용 같은 실존적 위협에 대해 협의하는 비공개 회담을 열었다.     

양면성을 갖고 있는 과학과 기술을 긍정적으로 발전시키는 책임은 결국 인간의 몫이며 인류를 파괴할 정도의 강력한 인공지능 모델의 개발 속도에는 경각심을 가져야 한다는 것이다.     

그런데 사람처럼 데이터 없이도 연산하고 추론함이 가능한  인공지능 개발을 위해 오픈 AI 에 의해 전격적으로 해임되었던 샘 알트만을 나흘만에 다시 복귀시킨 것은 더 이상 기술개발보다 안전을 우선시 하는 것이 아니라는 것이다.

결국 안전보다 속도를 선택함으로써 기업의 이익인 돈이 우선이 된 것 아닌가 하는 우려를 낳는다. 그리고 그 속도의 중심에는 막대한 이익 즉 돈이 있다.     

---

나는 어젯밤 불임을 해결한 체외 인공수정에 관한 영화를 보다 잠들었는데 영화 속에서 인간이 개입된 생명탄생에 대해 교회목사와 주인공의 엄마는 신의 영역을 건드렸다며 그녀를 죄인취급하고 왕따 시켰다. 그러자 그녀는 안경과 틀니를 언급하며 인간의 약점을 극복하는 과학과 의료라고 반박했다. 그 인공수정이야기가 벌써  50년 전 이야기다.      

이제 범용 인공지능 AGI는 인간 기술개발의 끝판왕이다. 영화 ‘아이언맨’에 나오는 ‘자비스’처럼 인간처럼 추론 학습하는 최종목표 로봇에 도달한 것이다.

개인 비서형 AI  자비스는 사람 명령에 따라 컴퓨터 화면에 있는 내용을 스크린샷으로 찍고, 이를 스스로 해석해 버튼을 클릭하거나 텍스트를 입력할 수 있다...텍스트·이미지·오디오·비디오 등 그간 개발해 온 다양한 유형의 데이터를 입·출력할 수 있는 ‘멀티모달’ 생성AI를 한꺼번에 적용하는 것이 가능한 서비스다. 출처 ㅡ중앙일보

앞으로는 정말 영화 ‘가타카’에서처럼 유전자 조작으로 태어난 사람들이 사회 상층부를 이루고 전통적인 부부관계로 태어난 사람들은 열등한 것으로 취급받아 사회 하층부로 밀려나기에 자연출산의 자녀들이 부모를 원망하게 될 지도 모른다. 그래서 부모들도 유전자가위등 기술을 이용해서 키 크고 금발에 파란 눈의 주문형 아기를 낳으려 할 지도 모른다.           

인공지능은 이미 모든 산업 분야에 걸쳐 영향력을 확장하고 있고 이 기술의 진보는 계속해서 윤리적 사회적 질문들을 함께 던지고 있다. 이에 일론 머스크는 미래 인공지능 AI 발달로 인간의 생물학적 지능 비중이 1% 미만이 될 것이라고 전망했다. 그러면서 머스크는 AI에게 사실이 아닌 것을 말하도록 가르쳐서는 안 되고 개인 정보 보안 문제에 대해 현재 오픈 AI 사업을 지원하고 있는 애플사를 신뢰할 수 없다고 우려했다.     

---

관련 동영상 댓글 중~

> 제 생각에는 AI가 육체를 원할 것 같습니다...

AI가 사람의 두뇌를 계속  연구하며, 그들이 원하는 가상 실험이 끝났을 때 사람의 뇌에서 사람의 자아를 제거하고 AI 반도체 또는 칩을 넣어 육체만 사람인 AI가 감정을 가지며 살아가는 미래가 도래 할 수 있습니다.

처음에는 사람들을 속여서 칩을 머리에 도장처럼 찍으면 신분증, 재정적 문제가 해결 된다고 설득을 할 거라 생각이 듭니다...     

> 유럽이 망해가고 있는 이유중 하나가 규제 입니다

미국이 Ai의 위험성 때문에 개발에 손을 놓는다면 중국이 그 자라에 들어가 전 세계를 석권 할겁니다. 그게 인류에 더 위험 합니다     

> 돈 때문에 괴물은 만들지 말자     

> 머스크만 해도 세계 최대 AI 컴퓨터를 만들고 머리에 칩을 심는 회사를 운영하고 있다. AI의 위험성도 당연히 조심해야하지만 AI 산업을 따라가지 못하면 그전에 후진국으로 접어들것. 지금은 PC부흥기, 인터넷 초창기, 모바일 태동기와 같다. 지금 기회를 잡아야한다.     

> 인간이 상위포식자의 자리를 기계에게 넘겨주는걸 인간이 앞장서서 추진하다니     

> 브레이크 없는 인간 문명의발전 멈추고싶어도 멈추어지지 않고 멸망의 길로 들어섰다. 판도라의 상자를 열었지. 뉴럴링크도 상당히 위험하니 금지해야함     

> 인간은 망각과 치매라는 악 조건이 따르지만 AI는 갈수록 진화하고 있고 한번 입력한 엄청난 데이타는 절대로 잊지를 않기 때문에 인간은 AI를 절대 이길 수 없다.     

> 이미 개발속도를 제어하는 것이 불가능한 상황. 인간은 늘 전지전능한 존재를 갈구해왔다. 드디어 그 갈망이 현실화한 것이다. AI가 나쁜짓을 못하게 하는 어떤 장치도 소용이 없다. 왜냐면 스스로 학습하고 가장 합리적 결론을 찾기 때문이다. 또 초지능일반지능인 AGI는 개별 AI를 통합할 것이며 이로써 인류가 이룩한 모든 지식과 경험을 소유하고 지배할 것이다

무서운가? 답은 인터넷을 끊는 것이다

하지만 모두가 원하지 않는다

착한 AI를 원하려면 인간이 착해져야 한다. 역시 불가능이다

예를들어 이스라엘 이란대결을 보면 답을 못낸다 만일 AI라면 둘 다 없에는 선택을 할 것이다   

> 챗 GPT 쓰지 마세요 님들이 ai학습 시켜주는 거임 그거 오래 누적되면 결국 저래됨     

> AI에 대한 우려의 목소리가 나올때마다 항상 터미네이터 영화의 스카이넷이 생각나네요. 항상 공존하되 인간이 지배하는 시대가 지속되어야 할거 같습니다.     

> 머스크가 ‘그들’의 도움으로 컷는데 요즘 제정신이 좀 들어 반대 의견을 많이 보이는데 그의 목숨이 걱정된다. 그리고 반대 한다면 뉴럴링크 접어라          

*뉴럴링크

AGI의 구현이 현실화되어 향후 인간에게 미칠 위협이 우려되자, 인공지능으로부터 밀리지 않고 인간의 지능을 증강시키기 위한 기술이다.

인간은 외부 자극을 받으면 감각 기관에서 받아들인 정보가 말초신경 통해 뇌로 전달되고, 뇌는 말초신경에 생체 반응 명령을 내린다. 이러한 과정은 전기 신호를 생성하는 신경세포인 뉴런을 통해 발생한다.

이에 따라 뉴럴링크는 뉴런의 파괴 없이 전기적인 파장을 수집하고 이를 칩 처리 가능한 디지털로 변환해서 인간의 지능을 증강시키고 생각을 제어할 수 있다 본다. 이를 위해 두개골에 작은 구멍을 내어 뇌에 초소형 전극과 칩을 이식하는 방식을 쓴다.     

인공지능 AI와 함께 하는 미래 (4)

인공지능 AI와 함께 하는 미래 (3)