brunch

You can make anything
by writing

C.S.Lewis

by 로빈 Aug 25. 2017

논란의 역사 –에니그마 암호

절대 해독이 불가능하다 믿어진 암호의 약점 


2차 세계 대전에서 독일이 패전한 이유에 대해서는 수 없이 많은 이유들이 있다. 하지만 독일이 영국과의 전쟁에서 질 수 밖에 없었던 가장 큰 이유중에 하나는 독일이 자랑하는 암호 코드였던 [에니그마 Enigma Code]가 영국군에 의해 해독되었기 때문이었다.(당시 다른 연합군이였던 소련군은 영국군 암호 해독반에 침투한 스파이를 통해 독일군의 움직임을 미리 알고 있었던 것으로 최근 밝혀졌다.)  에니그마 암호와 관련해서는 이미 많은 이야기들이 있고, 영화에서도 많이 다루어졌기 때문에 이 존재에 대해 알고 있는 사람들이 많을 것으로 생각된다. 하지만 2차 세계 대전 기간 동안 유럽과 태평양 전역에서 벌어졌던 암호를 둘러싼 전쟁의 실상과 그 효과에 대해 제대로 알려지고 있지는 않다. 결론적으로 영국이 독일의 에니그마를 해독하고, 미국이 일본군의 암호를 해독함으로써 전쟁은 연합군에게 유리하게 전개 될 수 있었고, 독일과 일본은 전쟁이 끝날 때까지 자신들의 암호가 해독되었다는 사실을 모르고 전장으로 뛰어들어 패전을 가속화 시켰다. 이번 논란의 역사는 전쟁의 참혹함 뒤에서 이를 종결 시키기 위해 노력한 사람들과 자신들이 만들어 놓은 완벽한 (?) 기계에 매료되어 어떤 일이 발생했는지를 생각하지 못했던 사람들의 이야기를 다루어 본다.

(애니그마 암호 생성기의 핵심이라 할 수  있는 로터 장치의 구조. 사이퍼라는 고전 암호 생성 기계에서 파생된 형태로 글자 조합 (예를들어 그림과 같이 맨 오른쪽에 A라고 넣으면 톱니의 조합에 따라  단어가 왼쪽에는 R로 표시되는 방식으로 문장에서 A가 R로 바뀌어 써져 있음을 의미한다)을 이용해서 암호를 생성하는 기능이 있다. 각 톱니 바퀴의 회전 수와 회전이 연동되는 방식에 따라 엄청난 규모의 글자 조합이 가능하다. 하지만 독일군은 이를 단순한 알파벳의 조합으로 활용 함으로써 해독이 쉬워졌다. )    



에니그마라는 기계는 맨 처음 독일의 발명가인 아서 세르비우스가 1차 세계대전 말에 개발하였다. 이 기계의 특허는 영국 런던에 제출되었고, 이후 유럽의 여러 국가에서 활용 되었다. 이 기계가 가장 많이 사용된 곳은 은행과 철도로 특히 독일 은행과 철도 회사들이 에니그마를 많이 활용 하였는데, 이후 독일 군부가 그 가능성에 주목을 하면서 독일 군부를 위한 더욱 복잡한 기계로 탄생하게 되었다. 에니그마의 기본 구조는 3개의 회전 로터와 전자 기판, 그리고 타자기처럼 생긴 자판과 글자가 표시되는 화면으로 구성되어있다. 로터는 총 3개로 구성되어 있었고, 각 로터는 알파벳 26개로 연결되는 톱니로 구성되어 있었다. 각 톱니는 서로 연동되어 움직이고, 이런 연동 움직임은 바꿀 수 있도록 구성되어 매일 변경이 가능했다. 여기에 톱니와 연결되어 있는 전기 기판의 연결을 통해 알파벳의 구성이 바뀌도록 되어있었다. 에니그마 기계를 통해 생산 할 수 있는 암호의 구성 조합의 가능성은 1개 알파벳당 158경 (158,962,555,217,826,360,000)으로 최신의 슈퍼 컴퓨터를 이용해서 10개의 단어로 만들어진 문장을 해독하려 할 경우 약 1년의 시간이 걸리는 것으로 알려진다. 이와 같은 구성에 1933년에 기존에 사용하던 에니그마 기계에 로터가 한 개 더 추가된 신형 에니그마와 8시간마다 로터의 구성을 바꾸도록 하는 지침이 내려짐으로써 에니그마가 생산하는 암호는 해독이 불가능하다고 믿어 졌다. 특히 독일군의 에니그마에 대한 믿음은 절대적이었다.

(영국 정보국이 에니그마 암호를 해독하기 위해 개발한 Bombe이라 불리는 장치. 에니그마의 특허 기술 정보와 폴란드 암호 해독팀이 개발한 장비를 바탕으로 만들어진 장비로 에니그마의 핵심 기술인 로터를 조합이 가능한 만큼 배열하고 이를 계속 계산하는 방법을 통해서 매일 매일 변경되는 독일군의 에니그마 장비 로터 조합을 찾아 내도록 고안 됐다. 전후 영국 정부는 기술의 유출과 비밀을 유지하기 위해 이 장비 전체를 파괴했으나, 영국 학자들이 당시 정보국에서 일했던 사람들의 증언과 수학 이론에 기초해서 이를 복원했다.)



하지만 독일군의 믿음과 달리 에니그마는 해독이 되었다. 1932년 폴란드 암호 해독국이 이를 맨처음 달성했다. 폴란드 암호 해독국은 수학 이론을 이용하여 독일군이 사용하는 에니그마 기계의 복사본을 제작 할 수 있었고, 해독 매뉴얼도 제작했다. 하지만 1933년 독일군이 에니그마 로터의 셋팅을 하루 3번 하도록 지시하고 에니그마에 1개의 로터를 추가시킨 모델을 사용함으로써 폴란드군의 암호 해독 기능은 무력화 되었다. 이에 따라 폴란드는 동맹국인 프랑스와 영국에 자신들이 가지고 있는 정보를 공유하고 같이 해독을 하도록 했다. 폴란드와 프랑스, 그리고 영국의 암호 해독 전문가들의 미팅은 1939년 1월에 이루어졌다. 7월에는 프랑스와 영국의 암호 해독 전문가들이 폴란드 암호해독 본부를 방문해서 폴란드가 얻은 정보를 얻어 갔다. 하지만 1939년 9월 히틀러가 폴란드를 침공하자 폴란드 암호 해독국의 주요 인사들은 주요 자료를 모두 파괴하고 프랑스로 피신했다가 다시 영국으로 피신하게 된다. 영국 정보국 (MI6)은 이들과 영국 최고의 수학자들과 공학자들로 구성된 암호 해독국을 구성한다. 영국 정보국은 폴란드 정보국이 해독한 독일군의 암호 해독 방법에 기안하여 암호 해독에 들어가게 된다. 정보국은 블래처리 파크에 위치한 본부에서 암호 해독을 위한 인원들로 채워졌다. 여기에 정보국이 독일군의 암호를 해독하려고 한다는 시도 또는 암호를 해독하고 있다는 정보가 독일군에게 전달되지 않도록 하는 노력이 필요했다. 영국군은 에니그마와 관련된 정보는 [얼트라 Ultra]라 명명하고 최고 사령부 이상의 사람들에게 공유되지 않도록 했고, 무선을 통해 이와 같은 정보가 이용되지 않도록 최대한의 노력을 가했다. 또한 독일군의 움직임을 계속 살피면서 에니그마 암호의 해독에 대한 정보가 빠져나가지 않고 있는지를 주시했다. 이런 영국군과 정부의 보호 노력은 전쟁이 끝나고 30년이 지나도록 얼트라의 존재와 에니그마 암호가 해독되었다는 사실 자체가 비밀로 부쳐지도록 했고, 당시 사용된 모든 장비과 기록 역시 전쟁 이후 파괴 되었다.  

(독일군의 최고 사령부의 히틀러간의 통신 수단인 로렌츠 사이퍼가 생성하는 암호를 해독하기 위해 개발된 콜라수스. 세계 최초의 전자식 컴퓨터에 기능을 가지고 있는 기계였고,  프로그램을 입력 할 수 있도록 개발된 기계로 컴퓨터 기술의 혁신적인 진보를 가지고 올 수 있는 연산 기능을 가지고 있었지만 전쟁후 역시 설계도를 비롯한 모든 기록이 파괴 되었다. 콜라수스와 Bombe의 개발자였던 알렌 튜어링은 이들 기계의 개발에 대한 공로와 전쟁에 기여한 공로도 인정 받지 못하고 전쟁 이후 자살했다.)



하지만 에니그마의 해독 불 가능성에 대한 독일군 최고 사령부의 확신은 더욱 높아져갔고. 지속되는 기계의 성능 향상과 끊임없는 로터의 셋팅을 통해서 어떤 암호 해석 시도도 무산 시킬 수 있다는 확신이 있었고, 독일군 최고 사령부와 히틀러간의 직통 라인을 위한 별도의 암호 기계 로렌트 사이퍼도 개발 돼었다. 하지만 영국의 수학자인 알런 튜어링과 고든 웰치먼은 1939년 이니그마의 로터의 셋팅을 예상 할 수 있는 기계인 Bombe를 개발했다. 이는 폴란드의 암호 해독국이 개발한 기계에 기안하여 만들었지만 더 많은 가능성을 계산할 수 있도록 했다. 또한 1941년 히틀러와 최고 사령부간의 무선 통신을 위한 로랜츠 사이퍼 가 개발되자 이를 해독 할 수 있는 최초의 전자 계산기 콜라수스가 개발되었다. 이와같은 노력을 통해 1944년 노르망디 상륙 작전 이전에 연합군은 독일군의 일간 이동과 병력, 지휘관, 물자 공급량도 확인할 수 있었으며, 모든 작전에 대한 사전 정보까지도 확인 할 수 있었다. 연합군은 또한 에니그마 해독을 통해 확보한 정보를 역으로 이용하기 위해 독일이 침투 시킨 스파이의 대부분을 자기 진영으로 전향 시키는데 성공 했고, 이를 통해 독일 정보국은 연합군이 에니그마에 대해 알고 있다는 사실조차 까맣게 인식하지 못하고 있었다. 에니그마의 해독은 특히 1940년부터 1944년까지 지속된 대서양 전투에서 그 위력을 발휘했는데, 대서양을 항해중인 연합군 상선들을 공격하기 위해 모여드는 독일군 잠수함의 위치를 에니그마를 통해 확인한 연합군은 독일 잠수함을 기다렸다고 공격하는 방식으로 독일군 잠수함을 무력화 시켜나갔다. 이후 1943년 독일군 잠수함 함대가 새로운 신형 에니그마를 활용하고, 새로운 셋팅 기준을 마련함으로써 이와 같은 활동은 어려워졌지만 그 무렵에는 이미 대서양 전역을 24시간 감시하는 항공 편대가 미군에 의해 마련됨으로써 에니그마 해독을 활용할 필요성이 현저하게 줄어든 후였다.

(에니그마 암호 해독 기술이 가장 큰 영향을 미친 대서양 전투. 연합군과 독일군 잠수함 함대간의 전투였던 이 전투에서 에니그마 암호를 해독한 연합군은 독일군 잠수함의 이동 위치를 미리 파악하고 공격함으로써 독일군에게 큰 타격을 입히게 된다.)



또한 에니그마의 해독은 북 아프리카 전선에서 롬멜의 공격을 막아내는데 현저한 역할을 함과 동시에 엘알아메인 전투 이전에 영국군이 롬멜이 심각한 보급 문제에 처해 있다는 중요한 정보를 확보하는데 결정적인 역할을 하게 된다. 또한 롬멜의 북아프리카 군단을 지원하기 위해 지중해를 건너오던 이탈리아와 독일군 수송선단을 파괴하는데도 에니그마의 해독은 결정적인 역할을 했다. 또한 노르망디 상륙 작전 이후 히틀러의 지시에 의해 해변에서 뒤로 물러나 있었던 독일군 기갑 사단들의 투입 시간과 경로를 정확하게 알려줌으로써 해안 지역에서 교두보를 확보하고 있던 연합군의 보병들을 공격하기 위해 출동한 독일군 기갑군이 해변에 다다르기도 전에 연합군의 공중 폭격으로 괴멸되게 하는데 결정적인 역할을 하기도 했다. 영국 정보국의 에니그마 해독의 공로는 전쟁을 최소한 3년 이상 빠르게 종결 시키는 역할을 했다고알려지고 있으며, 연합국의 승리를 확신하게 할 수 있는 장치로 활용 되었다. 하지만 자신들의 움직임을 완벽하게 꽤 뚤어보고 있는 연합군의 움직임에 불구하고 독일군은 왜 에니그마가 해독되었다는 사실을 전쟁이 끝난 뒤에도 모르고 있었을까?

(2차 세계 대전 당시 영국 정보부인 MI6가 위치 해있었던 블래처리 파크의 모습. 전쟁 기간 내내 이곳에서 약 1만명의 인원들이 독일군의 암호인 에니그마를 매일 매일 해독하여 윈스턴 처칠과 연합군 사령부에 전달했다.)



가장 큰 이유는 우리가 흔히 말하는 “개발자의 오류”라는 맹신에 빠진 것이 아닌가 하는 생각이 든다. 개발자의 오류란 어떤 장비가 기술, 또는 프로그램을 개발한 사람이 해당 기술에 대해 완벽하다는 신조를 유지함으로써 기술이나 장비가 가질 수 있었던 문제점이나 비판을 수용하지 않는 현상을 말한다. 이는 자신이 개발한 기술에 대한 맹목적인 맹신이 불러오는 심리적인 편향 증상으로 다른 가능성이나 심지어 비판 조차도 받아 들일 수 없는 심리 상태가 유지된다. 많은 경우에 벤처 기업이나 신기술을 개발하는 기업들, 또는 경영자들이 간혹 빠질 수 있는 현상으로 이런 심리 상태에 빠지게 되면 정작 문제가 발생하여 자신이 통제 할 수 없는 상황까지 발전해도 이에 대한 적절한 대처를 할 수 없게 만든다. 독일군의 경우도 이러한 심리적인 오류에 빠져들어 수 없이 많은 실수를 하게 되는데, 에니그마의 암호 해독이 불가능하다고 믿은 나머지 너무 많이 이를 사용함으로써 연합군에게 기회를 제공했다는 것이 가장 큰 실수로 볼 수 있다. 쉽게 설명하자면 “일일 기상 상황”과 같은 전문을 에니그마로 매일 잠수함 함대나 독일 공군 비행장에 무선으로 보내는 것과 같은 실수로 암호를 해독하는데 있어서 가장 중요한 것이 반복되는 패턴을 찾아내는 것에 있다는 것을 독일군도 알고 있었음에 불구하고 매일 특정 시간에 보내지는 같은 제목으로 보내지는 기상 정보는 연합군 암호 해독가들에게 너무나 중요한 정보였다. 또한 독일군은 두번이나 연합군이 에니그마를 해독하고 있다고 생각 할 수 있는 기회를 가졌음에 불구하고 이를 간과했는데 이 역시 “그럴리 없어”라고 너무 깊숙하게 믿고 있었기에 발생한 일이라 생각 된다. 가장 대표적인 사건은 영국군 군함이 1941년 독일군에 나포되었을 때 독일군의 프랑스 해안 지역에 배치 해 놓은 기뢰의 위치가 자세하게 적혀 있는 정보가 이 배에서 발견되었음에도 불구하고 독일군은 이를 간과했다. 이 정보는 독일군의 에니그마 암호로만 교환하고 있었는데도 말이다. 이렇듯 자신이 가지고 있는 기술이나 정보에 대한 지나친 확신이 가지고 올 수 있는 결과는 우리가 생각하는 것보다 엄청나다. 현대 사회와 같이 정보의 시대로 불리는 시대에서는 더더군다나 그렇다.

(2차 세계 대전 당시 독일의 기술력의 집약체로 불리는 타이거 탱크. 연합군의 주력 탱크를 상대로 압도적인 전력을 자랑한 타이거 탱크 였지만 충분한 수가 생산되지 못했다.)



또 다른 이유로는 독일군이 연합군에 대해 가지고 있었던 우월감에서 존재한다. 기술적으로 월등하게 우월함을 자랑하던 독일군으로써는 자신들의 개발한 절대 해독 할 수 없는 암호를 연합국이 해독 했다고는 상상을 할 수도 없었다. 다음번에 독일군의 이와 같은 우월한 기술력에 대한 맹신에 대해 다시 한번 다루겠지만 히틀러를 비롯해서 전장의 최고 지휘관과 병사들까지도 연합군의 기술력에 비해 월등하게 앞서 있는 자신들의 무기에 대한 자부심은 실로 대단했다. 아직까지 개발된 모든 기관총중에서 가장 빠른 분당 발사 속도를 자랑하는 MG 42 (분당 1200발 발사 – 최신형 기관총의 발사 속도는 약 600발 수준), 압도적인 전력을 자랑하는 타이거 탱크, 연합군은 공포에 떨게 했던 88mm 대포와 같이 독일군의 무기는 미국이나 소련의 대량 생산 능력에 밀리고 있었지만 1:1의 기술력에서는 압도적인 전력을 자랑하고 있었다. 그런 상황에서 독일의 최고의 기술자들이 개발해낸 암호 생성기의 암호를 연합군이 해독한다는 사실은 생각도 할 수 없었을 것이다. 하지만 전쟁사를 보면 수 없이 많은 강대한 국가들이 자신보다 월등하게 약하다고 생각되는 국가들과의 전쟁에서 패배하는 경우를 볼 수 있다. 이는 그들이 적을 얕잡아 보았기 때문이 가장 크다. 상대방의 능력에 대한 적절한 정보와 준비 없이, 그리고 항상 최악의 상황을 대비하는 노력 없이 상대방의 능력을 얕잡아 보는 행동의 대가는 패배로 귀결될 수 있다. 점점 격해져 가는 경쟁의 시대에서도 자신의 능력을 과신하고 경쟁자의 능력을 보지 못할 경우 그 결과는 독일의 패망과 같을 수 있다. 상대방에 대한 최선의 준비와 예의를 갖추는 것은 도리가 아니라 승리를 위해 필수적인 것이기 때문이다.

작가의 이전글 논란의 역사 -게티스버그 전투
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari