"AGI, 천사인가 악마인가"를 읽고..
무서운 상상들..
건강검진으로 인해 현장에서 대기시간의 무료함을 달래기 위해 e-book을 다운로드하여서 읽었다. 사실 얼마 전부터 AI에 관련된 여러 가지를 하다 보니 AI에 관련된 책을 골라서 읽었다. 최근에 Chat GPT API연동하는 걸 알게 되어서 매우 재미있게 연습하고 있다. 조금 더 응용해서 GPT에게 물어보고 코드를 수정해 가면서 체험을 해보고 있다. 갑자기 도파민이 올라서 회사 PC와 집 PC 모두 VScode를 설치해서 해보는데 재미가 있다. 그리고 PMP자격증 준비할 때도 노트북 LM을 활용해서 간단한 퀴즈도 보고, 마인드맵으로 전체 내용을 정리하고, 모의고사를 풀 때도 애매한 문제들을 캡처하거나 사진으로 찍어서 GPT나 Gemini에게 질문을 해서 많은 도움을 받았다. 업무를 할 때도 엄청나게 도움이 많이 되어서 문서 작업할 때 초안을 잡아주니, 시간이 훨씬 많이 줄긴 했다. 좋게만 보던 AI에 대해서 이 책을 읽어봄으로써 뭔가 무섭기도 하고 미리 준비하지 않으면 안 되겠다는 생각이 들었다.
초반에는 AI의 원리와 기초적인 것들을 알기 쉽게 설명해 주셨다. 저자는 현재 KIST의 김대식 교수님이시다. 잘 몰랐는데, 여기저기 서치해보니 유튜브에서 인터뷰하는 영상을 몇 번 본 것 같기도 했다. 정말 최근에 출판된 따끈따끈한 내용이었다. 요새 AI기술이 너무나도 빨리 바뀌고 있어서, 1년만 지나도 거의 볼 게 없는 수준이 돼버려서, 기술 관련 책은 최신이 좀 더 도움이 되는 것 같다. 인터넷과 SNS와 관련해서 공통점을 분석하고 긍정적인 발전에 대해서 논의하였다. 나도 최근에 도움을 많이 받고, 점점 더 좋은 방향으로 업그레이드되고 있는 것 같아서 긍정적인 생각을 많이 하게 되었는데, 책 내용도 비슷하니 흥미가 생겼다.
가장 흥미가 있었던 부분이 있었는데, 사람은 아날로그이고 컴퓨터는 디지털이라는 내용이다. 그래서 서로 소통할 수 있는 인터페이스가 꼭 필요하기 때문에 화면을 보고, 키보드와 마우스로 입력해서 디지털 신호로 컴퓨터와 소통했다. 사람이 컴퓨터보다 더 월등하기 때문에 우리가 시키는 대로 하게 만들 수 있었다. 그래서 지금껏 우리는 GUI를 활용했으나 점점 사람들이 하고 싶은 게 많아지면서 메뉴가 늘어나고 있다. 그러다 보니 컴퓨터 화면이나 휴대폰 화면이 무한대로 늘어날 수 없다보니 인터페이스가 바뀌고 있다는 것이다. 이제는 컴퓨터와 글이나 대화로 직접 소통하는 인터페이스인 LLM을 사용한다. 이제 GUI시대는 가고 LLM의 시대가 오는 것이라고 간단명료하게 설명해 주셨다.
후기 로마 공화정과 동일한 미국의 형태라는 내용이 매우 공감되었다. 로마의 멸망 직전의 형태와 지금 미국 또는 선진국의 형태가 너무나 닮았다는 것이다. 로마는 매우 과학이 발달하고, 민주주의가 있는 거대한 제국이었고 시민이 존재하는 나라였다. 시민은 봄에 씨를 뿌리고, 전쟁을 하고, 가을에 수확을 하는 일을 도맡아서 로마의 노동력을 제공하는 중요한 역할을 했었다고 한다. 하지만 나라가 강력해지면서 여러 나라를 정복하고, 노예를 대량 데리고 오면서 노동력이 무료로 확보가 되니 시민들은 할 일이 없어졌다. 그러면서 시민들은 점점 할 일을 잃어가고, 콜로세움에서 검투사 경기를 보고, 사우나에서 목욕이나 하면서 자연스레 불평등이 커지면서 중산층들이 없어졌다. AI가 더 발달한 AGI가 나타나면, 로마의 시민을 대체한 노예처럼 현재 일을 하는 지식노동자들과 육체노동자들이 인공지능과 로봇에게 밀려날 것이다. 그러면 당연히 불평등이 발생하면서 중산층이 무너질 것이라는 예측이었다. 실제로 그럴지는 모르지만 나름 논리적인 접근이어서 그럴 수도 있을 것 같다는 공감이 생겼다.
인간의 뇌는 100조 개의 변수로 동작한다고 한다. 인간의 뇌는 세포가 1개만 있을 때는 아무것도 하지 못하지만 100조 개가 모이면 엄청난 성능을 보이며, 감정, 생각 등 복합적인 지식 영역까지 해낸다고 한다. 현재는 AI가 훨씬 못 미치는 변수로 동작하지만 현재의 개발 속도라면 100조 개가 되는 시점이 빠르면 5년 후 정도라고 한다. 그러면 인간과 동등하지만, 여기서 더 무서운 것은 인간의 뇌는 진화하기 전까지는 멈춰져 있지만 인공지능은 MAX가 없이 지속 개발될 것이라는 것이다. 여기서 유토피아 관점과 디스토피아 관점으로 나뉜다. 이 개념을 생각해 보니 매트릭스, 터미네이터 등 컴퓨터와 싸우는 이야기부터 1984 소설과 같은 미래가 펼쳐질 수도 있겠구나 생각이 들었다. 얼마 전 "The Electronic State"라는 영화를 보았는데, 거기서는 로봇과 인간이 전쟁을 해서 로봇이 쫓겨서 산다. 하지만 인간이 원격 조종 슈트를 입고 로봇들을 괴롭힌다. 알고 봤더니 사람이 나쁜 쪽이었고, 로봇이 선한 마음을 가졌던 반전의 영화였다. 여튼 유토피아가 될지 디스토피아가 될지 아무도 모르는 세상일 것 같다.
이 책 속에서 많은 이야기를 다루었지만 AGI가 무섭다고 멈출 수 있는 세상은 이미 지나갔다고 했다. 서로 믿지 못하는 나라들이 패권 다툼을 하고 있고, 인종 차별, 환경을 무시한 개발 독식 등 분쟁이 생길만한 일이 너무나 많다. 예전에 맨해튼 프로젝트처럼 세계는 지금 AGI를 먼저 만들기 위해 각 나라들이 맨해튼 프로젝트를 하고 있다고 생각한다. 제발 정상적인 지도자가 나타나서 AGI를 긍정적으로 사용해서 디스토피아가 아닌 유토피아의 미래를 만들었으면 좋겠다는 걱정을 해봤다.
책 내용 中..
"'그럼 AGI개발을 안 하면 안 될까?' 그러곤 답했습니다. '구글이 안 하면 오픈 AI가 할 거고, 미국이 안 하면 중국이 할 거다' 서로에 대한 신뢰가 무너진 상황에서는 모두가 뛰고, 뛸 수밖에 없다는 것입니다."
"이제 지적 노동력도 대량 생산이 될 수 있는 미래가 오게 됩니다. 결과적으로 이게 불러오는 것은 새로운 산업혁명이라고 할 수 있습니다."
"미국 역사학자들이 말하길, 2025년 미국에서 벌어지는 일이 딱 후기 로마공화정과 똑같다고 말합니다. 불평등이 커지면서 중산층이 무너지는데, 그걸로 끝나는 게 아닙니다. 지금 아주 보수적인 학자들도 미국의 민주주의가, 미국 공화정이 수십 년 안에 제국으로 대체될 것이라고 예측하고 있습니다."
"우리 인간은 이기적인 유전자를 가졌기 때문에 혼자 있는 게 제일 편합니다. 그런데 모순적이게도, 사회성을 갖춘 영장류이기 때문에 타인과 같이 있어야 행복합니다. 인간은 동시에 만족시킬 수 없는 두 가지 욕구를 가지고 있습니다."
"기계가 인간의 능력을 뛰어넘는 건 문제없습니다. 자동차는 사람보다 빠르고, 망치는 인간의 주먹보다 강함니다. 그런데도 아무 문제없었습니다. 우리가 제어하니까요. 자동차 사고가 나고, 망치로 상해 사건이 일어나도 그걸 가지고 자동차나 망치를 탓하는 사람은 없었습니다."
"인공지능이 그 인과관계를 다 이해한 다음 우리한테 설명해 줘도, 우리는 이해하지 못할 수 있습니다. 마치 인간이 개미한테 아무리 설명해도 개미가 상대성이론을 절대 이해하지 못하듯이, 우리 인간도 이해할 수 있는 범위가 정해져 있을 겁니다."
"인공지능은 세상을 어린아이 보다 몇 억 배 더 자주 볼 수 있다는 겁니다. 이는 AGI가 세상을 항상 슈퍼 슬로모션으로 경험할 수 있다는 이야기입니다. 즉, 우리 인간에게 있어서 1초라는 시간은 AI입장에서는 100년이나 다름없습니다."
"샌드위치 하나 만드는 데도 복잡한 허가를 받아야 하는데, 인류를 멸망시킬 수 있는 AGI는 현재 아무 규정도 없다는 겁니다. 사회적인 규제나 제도가 지금 기술을 전혀 쫓아오지 못하고 있다는 뜻이지요."
"공생이 가능하다면 그게 제일 현명한 길일 겁니다. 인공지능을 노예가 아닌 파트너로 대하고, 상호 존중할 수 있도록 미리 설계해야 합니다."
