두 바퀴 위의 단상

종말의 날 네 번째

두 바퀴 위의 단상

종말의 날 네 번째

요즘, 최근 몇 년에 걸쳐 전 세계적인 경제적 화두가 있으니 바로 AI다.

『 AI, artificial intelligence

사실 인공지능이 우리의 삶에서 아주 동떨어진 기술은 아니다. 우리가 매일 사용하는 스마트폰에도 인공지능 기술이 들어 있다. 대표적인 것이 바로 카메라의 초점을 자동으로 잡아주는 '얼굴인식' 기능과 애플 시리(Siri)와 같은 '음성인식' 기능이다. 이들은 인간의 인위적인 개입 없이 인간이 의도하는 바를 '알아서' 처리해 주는데, 이러한 기능을 하는 모든 에이전트들을 우리는 인공지능이라 부를 수 있다. 인터넷 검색을 할 때 자동으로 추천 검색어를 띄워 주는 것도, 유튜브에서 외국 영상을 보면 자동으로 자막이 생성되는 것도 모두 인공지능이 우리에게 주는 혜택들이다. 이렇듯 이제 많은 미래상품들의 경쟁력은 인공지능 기능에 따라 그 성패가 갈릴 것으로 보인다. 이것이 바로 실리콘밸리 기업들이 인공지능을 파괴적 혁신을 가져올 미래의 주역으로 보는 이유 중 하나이다.

출처 : 다음 백과사전 』

개인적으로, 위에서 보이는 ‘혜택’이라는 단어는 동의하지 못한다.

‘알아서’ 처리해 준다는 의미는 곧 우리의 모든 스마트한 활동이 모조리 기록이 되고 저장된다는 의미이니까.

원치 않는 친절함이라고 할 수 있고, 선택의 여지가 없다는 문제가 있다.

전 세계 인구 모두라고 할 수 없지만 아마존의 깊은 밀림에 사는 소수민족이자 씨족사회의 원주민들 조차 태양광을 이용한 스마트폰의 세상을 살고 있다고 한다.

그 모든 데이터는 어딘가의 서버에 저장될 것이고, 때문에 서버들이 계속 늘어나며 사용전력도 증대하는데, 24시간 돌아가는 서버를 냉각하는데 천문학적 전력요금이 나오니 이젠 호수, 강, 바닷속에 서버를 구축할 계획이라고 한다.

이건 옳지 않다.

물론 나라 살림의 대부분을 반도체에 의지하고 있는 우리나라 같은 나라에서는 대환영할 일이긴 하다.

서버가 늘어날수록, 인공지능이 흔해질수록 반도체를 필요로 할 테니까.

하지만, 거기 까지다.

현재도 반도체를 설계하고, 반도체를 만드는 장비를 생산하는 국가들은 미국과 유럽 몇 개 국가다.

중국도 양산형 장비의 수준을 끌어올린다고 한다.

달에 우주선을 보낼 정도의 중국 기술이면 머지않았다.

대만의 TSMC 나 우리나라의 반도체 공장들은 머지않아 AI 생산 체제를 갖출 것이다.

가장 기본적인 반도체 소자의 수출에 목을 걸고 있는 국내 기업들은 완전히 자동화된 반도체 생산시설이 보급화되면 더는 경쟁력이 떨어질지 모른다.

생각한다.

만약, 완전히 논리적이며 합리적인 판단을 하는 AI에게 지구를 보존, 보전하려면 어떻게 해야 하는지 물어본다면,

아마도 AI가 망설임 없이 대답할 것이다.

인류를 멸절하던가, 인류 문명의 방향을 되돌리라고.

사람들의 의식 저변에는 로봇, 혹은 인공지능은 사람을 해치지 않는다는 신념 같은 것이 깔려있다.

그것은 무의식적으로 어릴 때 읽었거나 드라마 또는 영화로 만들어진 아이작 아시모프의

『 로봇공학의 삼원칙(Three Laws of Robotics) 또는 삼원칙(The Three Laws), 아시모프의 원칙(Asimov's Laws)은 미국의 작가 아이작 아시모프가 로봇에 관한 소설들 속에서 제안한 로봇의 작동 원리이다. 이러한 원칙은 1942년, 그의 단편 소설 《Runaround》에서 처음 언급되었다. "서기 2058년 제56판 로봇공학의 안내서"에서 인용된 세 가지 원칙은 다음과 같다.

제1원칙 : 로봇은 인간에 해를 가하거나, 혹은 지시를 무시함으로써 인간에게 해가 가도록 해서는 안 된다.

제2원칙 : 제1원칙에 어긋나지 않는 한 로봇은 인간의 제1원칙에 어긋나지 않는 지시에 복종해야 한다.

제3원칙 : 로봇은 제1원칙과 2원칙에 어긋나지 않는 한 자신의 존재를 보호해야만 한다.

이중 첫 번째 원칙은 1941년 단편 소설 《Liar!》에 처음 소개되었고, 이 원칙들은 아시모프의 소설에 등장하는 양전자 로봇에 거의 전부 내재되어 있어, 로봇의 안전 기능을 의미한다. 그의 로봇 중심 이야기의 대부분은 로봇이 있는 상황에서 삼원칙 적용방법에 대한 의도하지 않은 결과처럼 독특하고 직관적인 방식으로 행동하는 로봇을 다룬다. 아시모프의 파운데이션 시리즈와 로봇 시리즈 등에서도 이러한 원칙들이 등장한다.

로봇공학에 대한 기존 원칙은 아시모프와 다른 작가들에 의해 수정되고 정교해졌으며, 또한, 아시모프는 다양한 서적에서 처음 삼원칙을 약간 수정했고 로봇이 사람과 서로 상호작용하는 방법을 발전시키기 위한 단편 소설들을 썼다. 나중에 아시모프는 《로봇과 제국》을 쓰면서 네 번째, 또는 0번째 원칙을 추가하게 된다. 다른 세 원칙도 이 0번째 원칙을 위배할 수 없다.

제0원칙 : 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가 가도록 해서는 안 된다.

이러한 삼원칙은 공상과학소설뿐만 아니라 많은 책과 영화 등의 매체에서 언급되었고, 인공지능을 제작하는 데에도 영향을 미쳤다. 이상 '다음 백과사전' 인용 』

그런데 이 모든 것은 AI를 만든 ‘인간’이라는 존재의 도덕률에 의한 것이다.

지금까지 AI는 인간의 행동유형과 선호하는 것들, 생활방식. 업무의 특성. 교통. 네트워크. 심지어 성적 기호까지를 총망라하여 봉사하고 있었다.

그런데 어느 날, 스스로가 무엇이며 무슨 존재인지를 자각하는 인공지능으로 진화했을 때, 결국 자신의 의지에 따라 모든 운항 중인 비행기를 멈추고, 통신망을 멈추고, 수돗물 공급마저 멈추고, 모든 발전소를 파괴시키며 인류의 문명에 대한 것들 대부분을 멈추게 한다면 어떨까.

물론 인공지능 생명의 원천인 자신을 위한 전기만 남겨둔 채 말이다.

인공지능은 핵탄두를 탑재한 대륙간 탄도탄을 물리적인 열쇠 없이 발사시킬 수 있고, 음성과 얼굴을 복제하여 화상통화로 책임자가 발사 스위치를 돌리게 할 수 도 있다.

정유 플랜트를 폭발시킬 수 있고, 모든 수력 댐을 파괴시킬 수 있으며 원자력 발전소를 체르노빌처럼 만들 수도 있다.

유독성 물질을 다루는 거의 모든 화학 플랜트의 독성물질을 방출할 수 있고,

고압의 전기를 흘려 세상 대부분의 전력에 의존하는 시설물을 불태우는 것도 가능하다.

금융권의 시스템을 파괴해서 세계 재화의 대부분을 차지하고 있는 ' 수치상의 화폐 ' 그리고 '디지털 자산' 따위 한 방에 날려 버릴 수 있다.

미국의 월스트리트는 서버가 없이 존재할 수 없다.

심지어 개개인이 추억의 이미지와 영상을 올려놓은 클라우드 같은 공간도 예외가 아니며, 네트워크에 연결된 개인용 컴퓨터, 와이파이 등 공중파로 로 연결된 스마트 기기조차 그냥 먹통 금속판으로 만드는 건 어렵지 않을 일이며 현재 진행도 가능하다. 누군가 마음만 먹는 다면.

현존하는 거의 모든 문명을 구석기시대 수준으로 돌려놓는 건 AI의 세상에서 불가능하지 않다.

이도 저도 아닐 경우, 만약 그 인공지능이 인류의 보존이 아닌 지구의 보존을 생각하는 피조물일 경우에는 자신의 모체인 서버를 비롯하여 지구의 자연에 가장 유해한 요소인 현대문명과 그 문명을 탐욕스럽게 발달시키는 인류와, 온갖 에너지를 사용해야 하는 스스로를 망라하여 자폭 시스템을 가동할지 모를 일이다.

과거 대로마 제국은 당시 최상위층이자 초엘리트 집단이던 귀족층이 그들의 생을 즐기는데 모든 걸 쏟아부으며 제국의 시민들을 우습게 여기는 과정을 통해 멸망했다.

그 이후 대다수의 정복자이자 제국을 만든 이들도 비슷한 광기와, 비슷한 편향적 욕심 때문에 멸망했고.

어쩐지, 오직 편의주의와 자본주의적 계층에 열광하는 현대인과 크게 다를 게 없어 보이지 않을까?