0과 1의 세계를 연 괴짜: 클로드 섀넌과 정보 이론
AI시대를 만든 거인의 어깨
1948년 여름, 벨 연구소의 긴 복도.
타이어 하나가 바닥을 긁는 소리가 들렸다.
저글링 공 세 개를 공중으로 띄우며 외발자전거를 타는 남자.
클로드 섀넌.
서른두 살의 이 괴짜 수학자가 그해 7월에 내놓은 논문 한 편이, 인류의 소통 방식을 송두리째 바꿔놓는다.
5,000km, 목소리가 흩어지는 거리
1940년대 벨 연구소 엔지니어들의 '공공의 적'은 거리.
뉴욕에서 샌프란시스코까지 5,000km. 구리선을 타고 흐르는 목소리는 거리가 멀어질수록 희미해졌다.
증폭기를 쓰면 잡음까지 같이 커지는 탓에 그들은 더 굵은 전선, 더 진공도가 높은 튜브를 고민했다.
"우리가 보내려는 것의 본질은 무엇인가?"
섀넌만은 전혀 다른 곳을 바라보기 시작한다.
1941년 벨 연구소에 합류한 섀넌은 전쟁 중에는 암호학을, 전쟁이 끝나자마자 정보의 근원을 탐구했다.
미시간주의 시골 마을에서 철조망 사이로 모스 부호를 주고받던 소년은 이제 어른이 되어, 보이지 않는 세계를 잇는 방법에 겁없이 도전하려 한다.
충격적일 만큼 단순한 섀넌의 결론.
"모든 정보는 '선택'의 문제다."
혁신은 의외로 단순하고, 동시에 난해함을 내재한다.
결국 우리가 하는 일의 귀결은, 수많은 가능성 중 하나를 고르는 것.
- 앞면 아니면 뒷면.
- 예 아니면 아니오.
- 0 아니면 1.
섀넌은 이 가장 작은 선택의 단위에 이름을 붙였다.
이진수(Binary Digit)의 약자, 비트(Bit).
인류 역사상 처음으로 정보를 '물리적 실체'가 아닌 '수학적 양'으로 정의한 순간이었다.
클로드 섀넌 (1916-2001) [출처: Tekniska Museet / CC BY 2.0]소음을 잠재우는 가장 완벽한 언어
1948년 7월, <벨 시스템 기술 저널>에 실린 논문 '통신의 수학적 이론(A Mathematical Theory of Communication)'.
원문 PDF (Harvard University)
https://people.math.harvard.edu/~ctm/home/text/others/shannon/entropy/entropy.pdf
섀넌은 선언했다.
아무리 잡음이 심한 채널이라도, 수학적으로 계산된 속도 이하로만 전송하면 완벽하게 오류 없는 통신이 가능하다고.
그리고 엔지니어들은 비웃었다.
잡음이 있는데 어떻게 오류가 0이 된단 말인가?
하지만 섀넌은 증명했다.
정보를 잘게 쪼개고(압축), 중복을 넣어 보호하면(오류 정정), 어떤 악조건에서도 원본을 살려낼 수 있다.
세상 반대편에서 전송되는 음악을 듣고, 선명한 영상과 사진을 보는 건 모두 이 수학적 "언어" 덕분이다.
좌: 노이즈로 열화된 이미지 / 우: 오류가 정정된 이미지 [출처: Xiaoli Sun / Public Domain]우리는 다시 '잡음'을 사랑하기로 했다
2026년 현재, 우리는 섀넌이 설계한 세상의 가장 깊은 곳을 유영하고 있다.
특히 지금의 생성형 AI는 섀넌 정보 이론의 거대한, 그리고 아이러니한 주석과도 같다.
가장 흥미로운 구조적 평행이론은 '컨텍스트 윈도우(Context Window)'.
섀넌이 전선이라는 물리적 채널의 한계를 '채널 용량(Channel Capacity)'으로 규정했듯, 2026년의 LLM은 '토큰'이라는 정보 단위로 사고의 한계를 규정받는다.
예컨대 앤스로픽(Anthropic)의 클로드(Claude)가 20만 토큰을 다룬다는 사실은, 70년 전 섀넌이 고민했던 "제한된 대역폭에 얼마나 많은 의미를 압축해 넣을 것인가"라는 질문의 현대적 변주다.
여기서 재미있는 반전이 일어난다.
섀넌은 통신의 정확성을 위해 '잡음(Noise)'을 제거해야 할 적으로 규정했다. 하지만 2026년의 AI는 정반대.
우리는 LLM의 'Temperature' 파라미터를 높여 의도적으로 잡음을 주입하고, 이 무작위성이 기계적 답변을 창의적 통찰로 바꾼다.
섀넌이 그토록 없애려 했던 잡음이, 이제는 인공지능의 '창의성'이라는 이름으로 재탄생한 셈이다.
앤스로픽이 자신들의 AI 모델명을 '클로드'라고 지은 이유가 무엇이든, 이 이름이 던지는 상징만큼은 분명하다.
정보를 비트로 쪼개고 정의했던 20세기의 천재를, 21세기의 AI가 다시 한번 호출하고 있다는 것.
오늘 당신이 무심코 보낸 메시지 한 줄.
그 0과 1의 행렬 속에, 당신의 진심만은 온전히 전해지는 하루가 되기를.
최대한 신중하게 조사하고 팩트 체크를 거쳤지만, 역사를 다루다 보니 놓친 부분이 있을 수 있습니다.
혹시 옥에 티를 발견하신다면 너그럽게 댓글로 알려주세요. 여러분의 조언이 모여 더 좋은 글이 됩니다.
