구글이 초당 수천만 건의 검색을 버티는 방법

서버도 도로도 막히지 않는 게 중요하다

1.

로드밸런싱은 인기 가수의 티켓팅이나 명절 기차표 예매처럼 접속자가 갑자기 폭주하여 사이트가 느려질 때 가장 먼저 언급되는 개념인데요. 시스템 장애 보고서에서 "특정 서버에만 트래픽이 쏠려 과부하가 발생했습니다"라는 내용을 보게 되거나, 개발팀에서 "서버 대수를 늘리고 로드밸런서 설정을 조절해서 부하를 분산시키겠습니다"라고 제안할 때 이 기술이 등판합니다.

2.

로드밸런싱은 몰려드는 손님들을 비어 있는 테이블로 착착 안내하는 '베테랑 호텔 지배인'이자 '디지털 교통경찰'과 비슷합니다. 한 명의 요리사(서버)에게만 모든 주문이 쏟아져 쓰러지지 않도록, 뒤에서 대기 중인 여러 명의 요리사에게 일감을 공평하게 나누어주는 영리한 배분 기술을 말하죠.

3.

우주 대스타 강아지(?) '쵸파'의 사인회 상황을 예로 들어볼까요. 만약 입구가 하나뿐이라면 수만 명의 팬이 동시에 돌진하다가 문이 부서지는 대참사가 일어나겠지만, 로드밸런싱이 있다면 상황이 달라집니다. 입구에 선 안내원(로드밸런서)이 입구를 여러 개로 늘리고 "1번 문 비어있네요!", "3번은 쵸파가 쉬는 중이니 4번 문으로 가세요!"라고 지휘하며 팬들을 골고루 입장시킵니다. 덕분에 쵸파는 지치지 않고 모든 팬에게 사인을 해줄 수 있게 되죠.

4.

구글(Google)은 초당 수천만 건의 검색 요청을 처리하기 위해 '마그레브(Maglev)'라는 자체 로드밸런싱 시스템을 사용합니다. 전 세계 인터넷 트래픽의 엄청난 양을 감당하기 위해 하드웨어 장비 하나에 의존하는 대신, 일반 서버에서도 엄청난 속도로 작동하는 소프트웨어형 지휘자를 만든 거죠. 이 시스템은 들어오는 신호를 단 0.00001초 만에 분석하여 전 세계 수천 대의 서버 중 가장 한가한 곳으로 업무를 던져줍니다.

5.

로드밸런싱은 사용자에게 '보이지 않는 든든함'을 제공하는 전략입니다. 사용자는 서버가 몇 대인지 알 필요가 없지만, 어떤 상황에서도 일정한 속도로 반응하는 서비스는 사용자에게 무의식적인 신뢰를 심어주고요. 단순히 "성능 좋은 컴퓨터를 사자"고 하기보다 "작은 서버 여러 대를 효율적으로 나눠 쓰자"는 제안을 할 수 있다면, 로드밸런싱을 이해한 접근입니다. 서버 하나가 고장 나도 전체 서비스는 멈추지 않는 '무정지 시스템'이 중요하죠.

6.

구글 엔지니어링 논문에 따르면 마그레브 덕분에 구글은 단 한 번의 중단 없이 전 세계의 검색 요청을 24시간 분산 처리하고 있습니다. 이처럼 로드밸런싱은 단순한 트래픽 분산을 넘어 비즈니스의 연속성을 지켜주는 핵심적인 기술이랍니다.

[세 줄 이해]

- 로드밸런싱은 몰려드는 접속자를 여러 서버로 골고루 나눠주는 디지털 지휘자 기술입니다.

- 구글은 Maglev라는 자체 기술로 전 세계 수천만 건의 검색 요청을 눈 깜짝할 새 분산 처리합니다.

- 로드밸런싱을 잘 쓰면 서버 한 대가 고장 나도 전체 서비스는 멈추지 않는 안정성을 확보할 수 있습니다.