인공지능 서버, 현대판 모노리스 혹은 오벨리스크
오늘 랩 세미나를 듣다가 갑자기 든 생각이 하나 있는데
이 이야기를 그냥 냅다 여기 적어 두려 한다.
이 글에서 내가 무언가 말하고자 하는 것은
없다. 목적 없는 글이라는 것이다.
우선 이번 세미나에서 주로 다룬 내용은
Edge 환경에서의 LLM의 Offloading 이었다.
엄밀히 말하자면 Offloading이 정확히 이런(앞으로 말할) 기술은 아니지만
Offloading의 컨셉을 활용하는 내용이다.
chatGPT 같은 똑똑하지만 스마트폰에서 작동하기엔 너무 무거운 LLM(Large Language Model)과
작아서 스마트폰에서 작동 가능하지만 성능은 떨어지는 SLM(Small Language Model) 을 적절히 섞는 방식으로
서버와 스마트폰이 잘 통신하여
적은 연산으로 좋은 NLP(자연어 처리) 성능을 내놓는다는 아이디어다.
중앙화된 서버, 그리고 인터넷
이렇게 하면 필수적인 게
스마트폰과 서버의 통신이다.
즉 인터넷이 없으면 스마트폰의 LLM은 거의 아무것도 할 수 없다.
ChatGPT와 같은 LLM 서비스뿐만 아니라 모든 웹, SNS의 기술은 인터넷이 필요하다.
이렇게 스마트폰과 멀리 떨어진 서버와의 통신에서 중요한 것은
지연 속도(Latency)이다.
그래서 우리 주변에는 사실 (Caching) Proxy라는 서버가 존재한다.
이 Proxy 서버의 역할은 이러하다.
우리가 구글에 접속하면 미국에 있는 구글 서버에 접속하는가?
아니다, 한국에도 구글 서버가 있다.
사실 예전에는 구글에 접속하면 진짜 미국에 있는 서버까지 접속했어야 했다.
우리의 모든 데이터가 KT를 거쳐, 태평양 해저 광케이블을 지나 미국 서버까지 갔다.
덕분에 구글 접속은 네이버 접속에 비해 몇 초나 더 걸렸다.
지금 이런 일이 없는 이유는
구글 서버가 복사되고 실시간으로 동기화되는 서버가 한국을 포함에 여러 나라에 퍼져있기 때문이다.
이렇게 여러 서버가 전 세계에서 몰려오는 요청을 분담하여 처리하기 때문에
우리는 꽤나 쾌적한 인터넷 환경을 누리고 있다.
아무튼 중요한 것은
중앙화된 서버와 곁가지 서버들이 우리의 지식과 연산을 담당해 주고 있다는 사실이다.
인터넷(서버)에 의존하는 우리
어느 날 이러한 서버가 모두 죽었다고 생각하면 어떻겠는가?
꽤나 골치 아픈 일이다.
카카오톡 서버가 화재로 멈추었을 때,
몇 해 전 구글의 (인증) 서버가 멈추었을 때
우리는 일상생활에서조차 큰 불편함을 느꼈다.
나와 같은 개발자들은 무수한 함수를 기억하고 살지는 않기 때문에
빈번하게 함수를 검색하고 소스를 찾는다.
아이러니하게도 카카오가 운영하는 Tistory라는 블로그에 이러한 기술 정보가 많은데
당시 카카오톡 서버 화재로 많은 개발사들의 업무 효율이 크게 떨어졌다.
이렇듯,
우리는 이미 서버로 만들어진 인터넷에 상당히 의존하고 있다.
여기에 우리는 이제
단순히 '정보'만이 아닌 '지식'과 'Insight'를 인터넷에 또 한 번 담아내고 있다.
바로 LLM을 말하는 것이다.
이렇게 기술의 의존도를 높이면 인류의 업무 효율은 가파르게 상승한다.
이 기술이 죽어버리지만 않는다면 말이다.
지성의 상징, 모노리스
출처: Space Odyssey:2001영화 Space Odyssey:2001을 보면
'모노리스'라는 육면체 기둥이 나온다.
영화 속에서
이 기둥의 출현으로 침팬지는 지식을 습득하고 나날이 발전하게 된다.
사실 모노리스는 어떠한 목적을 달성하고자 하는 의지는 없다.
다만 이 모노리스의 출현으로 어떤 생물은 파괴되며, 어떤 생물은 진화한다.
뭔가 우리의 '서버'같지 않나?
권력의 상징, 오벨리스크
출처: 위키백과, "오벨리스크"또 서버는 어마어마한 비용이 들어가는 장치다.
수 천억 원을 들여 건설하게 되고, 유지 비용도 어마 무시하다.
최근 LLM과 같이 인공지능 열풍이 불며
인공지능 학습 서버에 대한 전 세계의 관심도가 높아졌다.
하지만 이러한 환경을 구축할 수 있는 국가는 몇 안 된다.
이러한 인공지능 학습 서버는
수 조원에 달한다.
미국과 중국이 사실상 유의미한 환경을 갖추었다고 평가된다.
여담으로 한국이 세계 4위의 AI 강국이라 한다 (와?)
현대판 모노리스이자 오벨리스크를 비관적 관점으로 보고자 한다면...
'테크노라이즈'라는 영화가 있다.
미래 사회의 디스토피아적인 영화이다.
본문과의 맥락을 맞추기 위해 줄거리의 일부만 잘라 이야기하겠다.
이 영화에는
'테크노라이즈'라는 기술로 사람들이 신체 일부를 기계화하는 '사이보그'가 일종의 유행처럼 번지고 있다.
그런데 이 기술은 연산량이 너무 많아
인간의 뇌로는 처리가 불가하다고 한다.
그래서 중앙화된 서버 '오벨리스크'(작중의 이름)가
사람들의 테크노라이즈의 연산을 대신해 주어 편하게 사용할 수 있도록 한다.
영화의 후미에 가면
이 오벨리스크 서버가 죽어버리면서
생명은 붙어있지만 사람의 행동이 멈추어 버리고 죽음만을 기다리는 장면이 나온다.
지식 저장 기능의 일부를 인터넷에 맡겨버린 우리
그리고 지식을 넘어선 Insight의 기능(LLM) 또한 인터넷에 맡기고 있는 우리에게
갑자기 인터넷(작중의 오벨리스크)이 사라진다면 어떨까?
