SNS, AI에 대한 짧은 생각

집필일자 : 2023.07.20

몇달 전 사석에서 AI가 화두로 언급된 적이 있었다. 그때 이런저런 이야기를 하던 중 나는 "인공지능도 원자력과 같은 위험도로 관리될 것 같다."나 "AI가 등장해도 결국 decision making 등 상대적으로 AI에 의한 대체에서 후순위로 밀릴 직종이 있다." 등 다양한 AI에 대한 생각을 펼치면서, 어쩌면 국제기구에서 AI에 대한 통제 논의가 조만간 이뤄지지 않을까 이야기를 한 적이 있었다.

두어달 정도가 지난 후 뉴스를 보던 중 UN 안보리에서 AI에 대한 논의가 이뤄졌다는 소식을 보았다. 얼마 전 AI에 대해 나눈 이야기가 떠올라 인스타에 짤막한 일기를 통해 내 생각을 담았다. 

댓글을 통해 흥미로운 이야기를 몇 개 주고받은 후 브런치에도 올리면 좋을 것 같아, 한 달 정도가 지난 지금 여기에도 공유를 해본다.

=========================================================================

니체 이후로 68혁명과 포스트모더니즘까지 진리를 해체하는 시대의 흐름까지는 좋았다.

하지만 진리를 해체한다는 건 어느 과학철학자의 말에 따르면 "그 시대의 아젠다는 다수결 선거처럼 숫자가 많은 쪽이 잡게 된다."는 부작용도 파생된다. 목소리 큰 사람이 곧 진리가 된다는 말이기도 하다.

정보 혁명까지는 매스미디어의 영향력이 이 부작용을 상쇄할 수 있었는데, SNS와 AI의 등장이 저 상쇄효과를 극적으로 무너트렸다.

AI의 정보 생산능력은 인간의 필터를 아득히 뛰어넘다보니 결국 가짜뉴스의 무한 생산으로 이어지고, SNS의 정보 전파능력은 바이러스처럼 무한 전파로 이어진다.

시대의 필요가 철학을 낳는다면, 회의주의의 시대는 곧 새로운 도전을 맞을지도 모른다.

필연이라고 본다. 통제받지 않는 AI는 결국 인류를 향해 총을 겨눌 수밖에 없으니, 인류는 통제라는 도구를 새롭게 만들 수밖에 없다고 본다. 아마 거기에는 뉴노멀 진리라는 새로운 이름을 붙일지도 모른다.

현재의 가짜뉴스 논쟁은 결국 양당제 사회에서 어느 진영이 먼저 헤게모니를 쥘 것인가로 이해하는 게 맞다고 본다.

플라톤이 만든 헤게모니에서 아직도 헤엄치고 있는 인류인 이상, 해방 직후 헤게모니 전쟁의 결과가 대한민국 헌법의 기초인 이상.

당분간 세계에선 그리 아름답지 않은 과정들을 많이 볼 것 같다. 새로운 질서가 자리잡기 전까진 말이다.

=====================================

댓글 1

음... 저도 AI 두렵다고 생각합니다. 다만 많은 분들이 뭔가 영화 매트릭스나 터미네이터에 나오는 스카이넷같은 이미지를 떠올리시는 것 같은데, 저는 조금 다른 관점에서 AI 문제를 걱정하고 있습니다.

저는 사람들이 AI에 (자신의 Decision을) 너무 의존하게 될까봐 두려워요. AI가 스펀지밥에 나오는 "마법의 소라고동" 같은게 되지 않을까 걱정되네요...

저도 AI 연구하는, 그 중에서도 자연어처리 연구하는 입장이고 ChatGPT같은 모델들이 어떻게 결과를 내놓는지 잘 알고 있으면서도 고민거리나 심리적인 스트레스까지 ChatGPT에게 털어놓게 되는 것 같습니다. 이런 과정이 심화되면 인류에게 위협이 되는 AI가 아니라, 인간을 뒤에서 지배하는 AI의 형태로 발전하지 않을까 싶어요. 무서운 미래입니다,, ㅎㅎ,,

답변

2차대전 후에 원자력을 지배한 국가가 유엔 안보리 등 주요 강대국으로 한정되었는데, 어쩌면 AI도 신냉전 이후 새로운 질서를 주도하게 된 국가들만 독점권을 행사할 수 있도록 하지 않을까.. ㅋㅋㅋㅋ 핵확산방지조약(NPT) 대신 인공지능확산방지조약(APT)로 인류가 AI의 위협에 무분별하게 노출되는 걸 막자는 명분으로.. 한편으로 AI에 decision making을 위탁하는 사람이 늘수록 몰락하는 직종도 늘어날텐데, 책임소지가 중요한 직종이거나 인류라는 공감대가 중요한 직종일수록 구조조정에 노출될 확률이 적을테고..

댓글 2

아무리 기술이 좋아지고 AI가 분석을 빠방하게 해도 최종 결정이나 소비의 주체가 세렝게티 초원에서 창들고 사냥하던 시절이랑 별로 다르지 않은 뇌를 지닌 사람들이니 그 간극이 점점 드러나는 거 같기도 하네요. 진짜 커즈와일 말대로 사람이 기계에 가까워지는게 답일수도..

답변

AI가 무한정 발산한다면 결국 "기후변화의 원인을 제거하는 건 인류 절멸이다."같은 'AI 입장에서 합리적인 판단'을 내릴 수 있을테고 (미군 드론 AI의 사례 등) 결국 AI 윤리 같은 지침을 내리는 게 인간 입장에선 합리적이긴 해요. 다만 그 통제를 누가 어떤 방식으로 하느냐가 신냉전이라는 거대한 체스판 게임의 결론이 될 것 같고...