AGI의 시대, 인간은 무엇을 준비해야 하는가?
우리는 미중 갈등으로 인한 기술 개발의 수혜자일까? 피해자일까?
오늘은 4월 첫째 주 모임으로 AGI 시대에 관한 이야기를 나누었다, 우선 AI에 대해서는 사실 일상에서 많이들 사용하기 때문에 이제 의미가 조금씩 당연해지지만,
AGI의 경우는 일반인인 나의 입장에서 오르내리기에는 아직 좀 어렵다.
우선 제출한 독후감 내용부터
1부의 내용이 들어가기 전 마주했던 질문들이 떠올랐다.
서문에서 이야기한 AGI는 무엇인가? 인류에게 이로운가, 해로운가? 인류는 과연 자신보다 더 똑똑한 AGI를 제어할 수 있을까? 만약 어느 국가 혹은 기업이 AGI를 개별 하면 그들이 사실상 나머지 세계를 지배하게 되진 않을까? 내용을 읽으면서, 2023년도에 제프리 힌턴이 구글을 사임하면서 했던 말이 떠올랐다. "내가 만든 기술이 인류에 해를 끼칠 수 있다는 걸 깨달았어. 더 이상은 AI를 마냥 긍정적으로만 볼 수 없다." 그리고 이 상황이 오펜하이머 영화랑 오버랩이 되었다.
맨해튼 프로젝트로 알려진 원자폭탄 개발 사건이다. 일반 대중들은 모르지만, 일부 석학들과 소수에 기업에 의해서 인류 문명을 바꿀 기술들이 극비리에 만들어지는 것. 맨해튼 프로젝트는 나치 독일이 먼저 핵을 만들면 끝난다는 논리로 시작이 되었고, 이 개념이 현재 다루고 있는 이슈와 비슷하다고 생각했다. AGI 도 중국이 먼저 만들까 우려되어 경쟁이 시작되고 있다. 물론, 핵무기와 AGI는 다르겠지만, 안 좋은 파급력이 인류 전체에 영향을 끼친다는 것은 비슷하다. 핵의 경우는 소유한 사람이 쏘는 대로 진행이 되지만, 만약 AGI라면 더 문제다. AGI는 통제가 불가능할 수도 있고 사람의 개념을 넘어선 방식으로 판단하고 움직이는 것도 가능하다는 시나리오가 나온다. 또한 모든 것이 연결되어 있는 현시점에서 인터넷, 금융 등등 모든 것이 문제시될 수 있다는 생각이 들었다. 핵과 같이 물리적인 위협은 덜하겠지만, 오히려 인터넷상에서의 오픈되는 것들이 더 문제가 될 수 있을 것 같다.
사실, 나는 이렇게 까지 깊게 생각하는 편도 아니고 앞으로 5년 정도까지도 나는 일론머스크나 샘 올트먼과 같이 마케팅 차원에서 AGI 등을 언급하면서 좋은 점들만 사용할 것 같다. 분명한 것들도 나는 아직 정의되지 않은 점이 많기에 석학들이 논하는 불분명한 것들 내가 모르는 수준의 어떤 디지털 지능에 대해서는 현시점에서 나에게 의미가 없다. 그럼에도 불구하고, AI리터러시를 키워야겠다는 생각은 분명했고, 기업, 정부, 시민들 중 AGI를 책임져야 한다면 누구의 책임인가?를 고민하는 지점에서 결국 이 정답은 미래의 권력 중심이 어디로 이동하는지를 반문하는 것이기도 하다. 설령 기업이 국가만큼 비대해지더라도 바이든 행정부가 했던 행정명령처럼 AGI에 대한 규제를 한다면 너무 큰 혼란들을 막을 수 있을지 않을까 생각해 본다.
오늘 모임에서 이야기했던 여러 이야기가 있는데 AI는 자유의지를 갖는가? 그리고 전부 다 기계로 대체가 된다면 책임은 누구에게 전가할 수 있을까?
모임원 분 중에서 의사 한 분이 계셨다. 그분이 이이기 하는 영상의학과 의사 분에 대한 이야기가 인상적이었는데, 영상의학과 분들은 왜 직업이 사라지지 않을까?이다. 기계가 모든 판독까지를 전부 다 해주는데 왜 아직까지 사람이 일을 하는 것일까? 에 대한 질문을 던져주셨다.
바로 떠오른 대답은 바로 책임문제! 알고 보니, 영상의학과에서는 병원에서 진단과 치료를 위한 의료 영상을 다루는 곳이다. 영상촬영을 하고, 영상 판독을 본 다음 영상의학과 전문의가 분석해서 정확한 진단을 내린다. 그리고 다른 수술을 해야 하는 다른 의사들과 회의를 통해서 영상의학과에서 판독 리포트를 작성한다. 간혹 직접 시술도 하긴 하지만 ( 예를 들어서 혈관을 확장시키는 스텐트 삽입 등등) 이 분들이 잘리지 않은 이유는 진료에 오진이 생겼을 때의 책임 소재 부분이다.
결국은 사람들은 서로 판단한 일에 대해서 누군가에게 책임을 묻는다. 회사에서 상사에게 보고를 하고 리포트를 작성하는 등, 그런 일들이 왜 생길까?라고 생각을 해보면 그것 역시 누군가는 책임을 져야 하는 일이기 때문이다.
이 모임에서 의견이 조금 나뉘었는데, 결국 인간사회에서 책임을 가진 사람 몇 명 만이 남아 있다. 그리고 책임은 결국 분산될 것이다. 이렇게 의견이 나뉘었다.
책임은 결국 분산될 것이다라고 이야기한 쪽은 사람은 내 책임을 도와줄 사람이 필요하다가 전제이다. 그 사람이 능력과 권위가 어떻든지 간에, 항상 도와줄 사람이 필요하고 내 책임에 힘을 가해줄 사람이 필요한 것이다. 결국 책임을 질 수 있는 사람들은 남게 되고 그 안에서 관계랑 대화에 대해서도 잘 다루는 사람들이 남게 된다는 것이지 않을까?라는 결론으로 가게 되었다.
나는 유발하라리가 3월 20일에 강연에 왔을 때 온라인 줌으로 유튜브를 통해서 짧게 30분 정도를 들었다. 유발 하라리에게 다음번에 우리가 어떤 식으로 우리의 미래를 구축하고 개발해야 하는지를 이야기했고, 유발하라리의 대답은 예시를 통해서 이야기를 들었다. 의사와 간호사에 대한 부분으로 설명을 해주셨는데, 의사의 경우는 데이터로 분석을 하고 데이터를 통해서 이야기를 하다 보니 기계로 대체될 수 있다는 이야기를 하였다. 다만 간호사의 경우는 아이들이 만약 주사를 맞는 다면 인간에게 맞을까? 기계에게 맞을까?라는 질문으로 가게 되었고, 간호사는 사람과의 관계가 중요한 직업이다 보니 기계가 대체하기 어렵다는 결론을 내었다.
결국 창의력, 감정, 공감력과 관계등을 중심으로 계속 배우고 학습하라라는 이야기를 해주었다.
나는 위의 이야기를 들으면서 기계가 해야 하는 기술적인 부분이 있고, 인간이 인간 자체에게 집중해서 해야 하는 부분이 있다고 생각했다. 그리고 인간자체에 집중해서 할 수 있는 것은 대화, 관계 문제 해결과 같은 이야기 일 것이라는 생각이 들었다. 사실 이 과정에서는 전략이 중요하고 (큰 그림) 그리고 실행 그다음에 계속 과정을 반복하는 단계로 넘어가게 된다. AGI 시대에서 지배 권련의 문제를 어떻게 균형으로 넘기고, AGI는 이 문제를 어떤 식으로 다루고 책임을 질 것인지 이야기를 했던 것 같다.
AGI 시대에서의 자립?
사실, 이제 독립은 누구나 할 수 있다. 문제는 다음 단계인 자립의 개념인데 자립이 되려면 팬이 있어야 한다. 팬이 있으려면 내가 팬이 있을 만한 노력을 했거나, 매력적이거나 아니면 응원받고 싶은 사람이 되어야 한다. 잠시 먹고사는 문제로 돌아가려면 경제사회에서는 돈이 필요하고 개인팬이 있다면 개인 사업을 진행하면 된다. 다만 개인 팬이 없이, 시간이 있다면 돈을 얻기 위해서 회사를 다니면 된다. 나에게 팬이 생기게 하려면? 완벽하지 않아서 팬이 될 수 있다. 대부분의 사람들이 나아가는 것을 응원하기도 하니깐 말이지..
인간은 경험을 통해서 데이터를 쌓고 판단을 내리고 직감을 얻는다. AI는 많은 데이터를 보유하고 근거에 기반해서 개념을 내린다. 물론 간혹 오류(할루시네이션)도 많다. 나는 개인의 직감이 항상 개념(공통된 생각) 보다 선행한다고 생각한다. 직감이 왜 선행하는 가를 보면 이건 인간의 오래된 생존 본능이며, (무서운 기운이고, 말 안 해도 아는 분위기, 갑분싸와 같은 것이다) 그리고 사람도 그렇듯이 경험이 쌓이면 직감도 똑똑해진다. 이게 경험 + 감정 + 기억이기 때문이다. 그래서 나는 직감이 항상 선행하는 언어라는 생각이 들고, 개념은 나중에 그걸 해석해 주는 도구라고 생각한다. 개념은 하나의 조각일 수도 있다. 우리가 같은 책을 읽고서도 다른 독후감을 내듯이, 배스킨라빈스 31에 가서도 31가지 아이스크림 맛이 존재하는 이유가 2가지로 나뉜다고 생각이 든다. 1) 내가 원래 좋아하는 맛을 먹거나 2) 맛을 도전해 보거나
그래서 결국은 자신이 좋아하는 것을 따르면서 도전으로 가기에 AGI 시대에 내가 할 일 또한 사회 전체의 돌아가는 움직임을 알고 + 내가 지금 할 수 있는 것들을 하나하나씩 해보는 것이다. 너무 먼 미래를 그리면 압도되어서 긴장으로 몸이 굳어서 한 발 내딛는 것이 굉장히 어렵다. 그런데 모든 것을 쪼개서 당장 할 수 있는 한 두 가지만 기억해 보면 사실 별거 아닐 수도 있다.
AGI에서도 사람들의 시각이 나뉘고, 파멸론자 효과적 가속주의자, 효과적 이타주의자 이렇게 나뉘는데 나는 오히려 피해사례보다는 수혜사례가 많다고 더 믿으며 그쪽으로 더 생각해 보고 싶은 쪽이다. 미중 사례에서는 물론 그로 인한 피해가 더 많을 것이다. 사실 오펜하이머 원자 폭탄이 개발이 가속화된 것도 나치보다 더 빠르게 끝내야 했기 때문이다. 결국 AGI를 미국이 안 한다고 한 들 중국은 가속화할 것이며, 이 패권을 놓치지 않기 위해서 미국 또한 개발을 멈추지 않을 것이다. 결국은 언젠가 나오고 그 시대에 도래해서 살겠지만 그것들을 제대로 이용하고 쓰는 사람들은 또한 한정적이게 될 것이다.
미중 무역 갈등으로 관세 34%가 붙고, 양국 무역 간의 전쟁이 심해지고 있다. 특히나 중국의 AI 스타트업 딥시크의 급부상이 이 상황을 더욱 가속화했고, 딥시크 R1의 경우는 미국의 오픈 AI와 견줄 만한 성능을 가지고 있다. 중국의 AI산업은 정부의 적극적인 지원과 기업들의 혁신으로 빠르게 성장하고 있고, 알리바바, 텐센트, 바이두와 같은 대기업들은 AI 모델을 오픈 소스로 공개하며 기술 발전을 촉진하고 있다. 미국이 중국을 견제하기 위해서 반도체 수출 통체를 하지만 중국 기업들의 경우는 효율적인 알고르지므 개발과 대체 공급망 구축등을 하고 있기에 양측의 갈등이 심화될 것 같다. 아마 두 국가가 기술 패권을 잡기 위해서 개발을 가속화하지 않을까 한다.
나는 AGI가 도래해서 인간의 통제를 넘어서서 이것이 스스로 움직일 때 우리가 해야 하는 액션에 대한 고민이 있었다. 국가, 기업, 시민의 입장이 다르겠지만 이걸 균형을 어떻게 잡을 수 있을까?라는 고민이 있었다. 다만 현재 내린 결론은 사람들에게서 나온 결론들 중에서 취할 수 있는 것을 받아들이는 쪽으로 마음이 굳혀졌고, 내가 할 일은 내 앞에 놓인 문제들을 스스로 적절하게 잘 해결해 가는 것이 우선이다라는 것을 알게 되었다. AGI시대 부분에서 많이 생각하지 못하고, 그냥 지나쳤을 수 있었던 것을 이야기해보는 좋은 시간이었고, 사실 뭔가 다른 듯하지만 결국은 인간사회라는 것 거기에 + 지식이 조금 더 추가된 내용이어서 앞으로도 공통된 개념 + 나의 생각들을 잘 헤쳐가야겠다는 생각이 들었다.
