기술혁신, 그 뒤의 빛과 그림자

카이스트 미래전략 2026 (1)

2021년부터 카이스트 미래전략을 읽는 것 같다. 그간 경제 관련 미래 보고서를 보다 코로나를 지나며 선택이 변화하는 것은 스스로 그것이 필요하다고 느끼기 때문이다. 아날로그와 하드웨어의 발전은 눈으로 확인하기 쉽다. 소프트웨어의 변화도 만만치 않으나 쉽게 익숙해지고 폄하되기 쉽다. 기업들만 봐도 소프트웨어 기업들은 아직 물리적으로 생산하는 기업보다 규모가 작다는 익숙함이 있다. 하지만 우수한 기업은 영업이익이나 매출원가를 보면 아마 신용평가회사를 제외하면 상당히 높고, 그렇지 못하면 막대한 투자로 빚이 엄청난 속도로 쌓이기도 한다. 그런데 이 소프트웨어라고 할 수 있는 AI가 확장되고, 소프트웨어사 물리적 하드웨어와 결합해 현실에 존재하기 시작하자 다양한 반응이 나타나고 있는 시대가 되었다.

증기기관이 발명되고 엄청난 산업혁명이 물질문명의 발전을 이룩했다. 반면 100년쯤 지나 화끈하게 1/2차 세계대전으로 엄청난 사람이 죽는 현실을 목도한 것도 사실이다. 컴퓨터가 그 무력 발명되고 베트남, 걸프전증 소도한 지역 전쟁이 있었다. 컴퓨터가 발명되고 10여 년 뒤에 AI에 대한 개념이 시작되었다. 그 후로 80년여 년이 흐르는데 AI에 관련된 모든 것들이 발전을 지향하는 동시에 경쟁과 패권다툼이 되고 있다. 마치 청동기를 철기가 밀어내듯 신구석기처럼 대전환의 시대임에 틀림없다. 기술발전에 반대하지 않지만, 인류의 문명에서 압도적 기술발전은 권력 재편과 구닥다리의 소멸을 이끈다. 그 속에서 인간은 또 변화에 대책을 마련하면 생존해갈뿐이다. 지금 시대를 사는 사람들이 singularity를 읽으며 말했듯, 경이와 현타의 혼돈 속에서 살아가는 것이 아닐까? 누군가 장밋빛 미래를, 누군가는 매트릭스 터미네이터와 같은 혼란을 보면 상상한다. 하여튼 분명한 건 걱정이 늘어난다는 점이다.

1부를 읽으며 AI는 인간이 인간을 위해 만든 도구임에 틀림없는 사실이다. 많은 데이터와 사람이 만들어낸 데이터를 처리함으로 경향을 데이터 사실에 기반해서 연산처리한다. 그 결과 확률적으로 보다 정확하고 정교한 결과를 도출하고, 그 결과는 인간들이 전문가라고 말하던 수준에 육박한다. 익숙한 ChatGPT를 통해서 확인하면 아직은 특정 분야의 전문가 그 분야에서는 기존의 컴퓨터와 네트워크로 얻던 결과에 비해 혁신적 보조도구 수준이고, 일반인에겐 아마 다방면에서 준전문가 수준의 정보를 획득하기 쉬운 만능툴과 같은 느낌을 준다. Hallucination(할루시네이션)이란 트랩이 존재하지만 그렇다.

이런 AI가 추론을 하면, 인간처럼 맥락(context)을 처리하게 되며 인간과 비슷한 수준인 튜링 테스트를 넘어설 수 있다. 그 뒤에는 자율 AI (Autonomous AI)로 갈 것으로 예상한다. 이러면 지식노동자라고 주장하던 인간은 속절없이 현타가 올 것이다. 그럴까? 상당 부분 전화점과 특이점이 올 것은 사실 같아 보인다. 미래는 인간도 모르고, AI도 모른다. AI의 학습된 데이터는 과거의 사실이고, 인간은 현재 진행형으로 데이터를 만들고 있다. 그럼 예측모델 함수를 만들고, 합성데이터(synthetic data)를 만들어 넣는다면 이것이 천지창조인지 왜곡인지 알 수가 없다. 사람이 꼭 그렇게만 행동하리라는 보장도 없다. 어차피 AI가 처리하는 방식을 사람이 다 이해하지 못한다. 다만 인간의 고유한 무엇이 어떤 가치를 창조할 수 있을까? 이런 부분이 다방면에서 요구될지 모르겠다. 이 정도면 마블의 자비스 수준이라고 봐야하지 않을까?

이후 혁신적인 AI가 나와 인간을 뛰어넘는다면? 인간이 갖고 있는 물리적인 한계는 넘어설 것이라고 생각한다. 그럼 사람은 무엇을 해야 할까? 땅 파먹고 사는 사람(뭐든 파야 광물도 나오고, 석유도 나오고, 곡식도 심고, 건물도 짓고 하니 삽질은 기본)은 뭘 해야 할까? 게다가 AI가 로봇으로 총칭되는 인간 카피캣과 조우로 아이언맨 급이 나오면 신기하기도 하겠지만 세상이 어떻게 될까 궁금하다. 생각하는 인간, 호모 사피엔스의 종말인가 아니면 호모 사피엔스는 또 다른 창의적 사고를 이끌어 낼 것인가? 이 과정이 순탄하기만 하지는 않을 듯하다. 요즘 미국, 중국 유럽, 우리나라 모두 요란한 것은 입에 풀칠을 못해서가 아니다. 한참 뒤에 입에 풀칠하기 곤란할 것 같아서 그런 것 아닌가? 미국은 이 전화점이 제국의 망조가 되지 않기 위해서, 중국은 제국의 굴기를 위해서 난리다. 이러단 신 조공시대가 나올지도 모르겠다. 국가정책, 기업정책이 사회의 방향성을 점검하고 잡아가기 위해 중요한 시대다.

컴퓨터가 나오고, 서버가 나오고, 서버를 연동한 federation을 통해 연결된 네트워크처럼 Organizational AI란 개념이 나온다. 어디에서나 AI가 사람의 안전을 보호하는 세상보다, 조지오웰의 빅브라더인지, 매트릭스에서 매일 쫓아다니는 피곤한 스미스인지가 떠오른다. 도끼 찾아주던 산신령이면 딱 좋겠는데 말이다. 후자를 기대하며 전자로 갈 확률이 올라가는 것은 아닐까? 많은 미래소설이 디스토피아를 그리는 것은 인간의 하자를 인간이 잘 아는 것이다. 최근에 본 전지적 독자시점만 봐도 그렇지 않나?

기술은 인간의 감성과 이해가 아니라 상황과 현상의 최적화를 추구한다. 자판기를 두드리거나 발로 차듯 전원 코드 뽑는 현상이 아예 없다고 보기도 힘들다. 물리적 발전은 큰 기대가 되고, 새롭게 인간보다 뛰어난 정확성을 유발하는 소프트웨어와 하드웨어의 융합이 만든 특이점에 발생하고 있다. 그러나 인간은 이것을 운영할 운영체제(Operating System)를 아직 구축했다고 보긴 힘든다. 현상은 예상을 뛰어넘고, 그 결과를 보고 대책 추가할 수밖에 없기 때문이다. 그것에 패권이 있다고 요즘 관세 떼리고, 수출규제하고, 삥 뜯고 난리 아닌가? 뭐가 나오긴 할 듯한데, 인류의 역사를 보면 대판 큰 싸움을 하고, 코피 나고 갈비대가 몇 대 부러져야 이건 아닌가 벼 할까 봐 그게 걱정이다. 한두 번이냐고.

책에서도 공존의 시대를 말하고 있다. 그러나 공존의 방식이 어떻게 될지는 잘 모르겠다. AI가 인간을 돕고, 인간은 AI를 돕고, AI가 인간을 통제하고, 인간은 AI를 계속 변경, 수리, 부수기를 할지 알 수가 없다. 인간의 가치는 이 부분에서 현명함으로 위대함을 구축할지, 초강력 AI를 올라탄 개망나니 히틀러가 나올지 사실 장담할 수가 없긴 하다. 문명의 발전도 항상 기대 그 이상이고, 이 발전에 대책을 만드는 인간의 방식도 항상 기대 그 이상이었으니까?

변화를 사람들이 인지할 때는 가속도가 붙기 시작한 상태라고 생각한다. 이 변화를 회피하는 것은 위험을 키우기 쉽다. 날아오는 어뢰를 피하기 위해 움직일수록 어뢰 맞을 범위가 커진다. 정면으로 마주할 때가 가장 위험이 작을 수도 있다. 그렇다고 모두가 이런 것은 아니니 소란스러울 수밖에 없다. 그럼에도 인간중심 문명을 벗어나지 않기 위해 사고하고, 그 인간중심의 문명에서 스스로 어떤 가치를 확보할 것인지 고민해 볼 부분이다.

#미래전략 #카이스트 #2026 #독서 #khori