brunch

You can make anything
by writing

C.S.Lewis

by 루나 May 05. 2020

디지털 시대를 열다, 클로드 섀넌

[야만인] 인공지능 탄생의 뒷이야기

1937년 MIT에서 석사과정의 클로드 섀넌 Claude Elwood Shannon은

어느날 바네바 부시 Vannevar Bush 교수 연구실에서 아날로그 컴퓨터의 전기회로를 만지고 있었습니다.

그런데 가만 살펴보니

자신이 미시건대학 수학시간에 배웠던

조지 불의 부울대수와 다를 바가 없다는 것을 깨닫습니다.


그렇다면 굳이 스위치를 만드느라 시간을 허비할 필요가 없다는 생각을 합니다.

이 놀라운 착상으로

전기회로가 논리식과 다를 바가 없다는 사실이 밝혀지고,

이는 디지털 회로의 탄생으로,

더 나아가 디지털 컴퓨터의 발명으로 발전하게 됩니다.


섀넌은 그 아이디어로 < A Symbolic Analysis of Relay and Switching Circuits >라는 논문을 씁니다. 하워드 가드너 Howard Earl Gardner 하버드대 교수가 역사상 가장 위대한 석사논문으로 평가를 했던 논문입니다.

이후 유전학 분야 연구로 박사학위를 받고,

프린스턴 고등과학 연구소에서 근무를 했는데

이 때 알베르트 아인슈타인 Albert Einstein, 존 폰 노이만 John von Neumann, 쿠르트 괴델 Kurt Gödel, 리차드 파인만 Richard Phillips Feynman 등 대가들과의 만남은

후에 그의 정보이론 Information Theory의 밑거름이 됩니다.

2차 세계대전이 발발하면서 클로드 섀넌은 벨 연구소에서 암호학을 연구하게 되는데

그곳에서 영국군 암호학을 책임지던 앨런 튜링 Alan Mathison Turing과 두 번 마주치게 됩니다.

전쟁이 끝나고 1948년 클로드 섀넌은 < 통신의 수학적 이론 Mathematical Theory of Communication >라는 논문을 발표하여 정보이론의 토대를 마련합니다.


오늘날 디지털 통신은 모두 클로드 섀넌의 이 연구에 바탕을 두고 있습니다.

이 논문에서 그는 확률론을 이용하여 정보를 전송하는 가장 효율적인 방법에 대해 연구했습니다.


메시지의 정보량이 소통채널의 용량보다 작거나 같다면 그 메시지는 온전히 전달이 가능합니다.

메시지의 정보량이 소통채널의 용량보다 크다면 그 메시지는 온전히 전달이 불가합니다. 또한 오류를 (H-C) 이하로 줄일 수 없습니다.


그러면서 'bit'라는 정보 엔트로피의 단위를 정의합니다.

이는 하나의 확률이 1/2일 때 발생하는 메시지의 정보내용입니다.

이듬해인 1949년 클로드 섀넌은 세계 최초로 체스 프로그램을 만듭니다.


아서 사뮤엘은 여기에 머신러닝의 개념을 적용했고(1958년),

이것은 계속 발전하여 체스 챔피언 카스파로프를 이긴 IBM의 딥블루(1997년),

이세돌 9단을 이긴 구글의 알파고(2017년)로 이어집니다.

32세의 나이에 정보이론 Information Theory을 완성한 클로드 섀넌은 1956년에 MIT 교수로 부임합니다.

그리고 오토마타 연구에 대한 수학 학술지 34권을 공동편집하면서 존 매카시 John McCarthy와 인연을 맺습니다.

그러던 어느날 다트머스 대학 존 매카시 John McCarthy와 마빈 민스키 Marvin Lee Minsky가 찾아와

인공지능에 대한 여름워크샵에 대해 선배의 조언을 구합니다.


섀넌은 IBM에 근무하던 나다니엘 로체스터 Nathaniel Rochester과 상의를 하고,

< A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence >를 작성하여 록펠러 재단 Rockefeller Foundation에 지원을 요청합니다.

이리하여 역사적인 1956년 여름 다트머스 워크샵이 열리게 되었고,

인공지능이라는 분야가 역사에 등장하게 됩니다.

(출처)

https://en.wikipedia.org/wiki/Claude_Shannon

https://en.wikipedia.org/wiki/Vannevar_Bush

https://youtu.be/2LWknQ-FkGI

YouTube에서 'SNUON_컴퓨터과학이 여는 세계_21.3 샤논의 정보이론_이광근' 보기

https://youtu.be/UwUR7vl4VgQ

https://en.wikipedia.org/wiki/A_Symbolic_Analysis_of_Relay_and_Switching_Circuits

https://book.naver.com/bookdb/book_detail.nhn?bid=16270503

https://www.youtube.com/watch?v=CUaBhSOEosw&feature=youtu.be

http://www.aitimes.com/news/articleView.html?idxno=119328


적송 권건우 redpine71@wedatalab.com
http://blog.naver.com/redpine71

공무원을 꿈꾸며 대학에 들어갔으나 동서양문화에 심취하여 수많은 사부님들을 찾아다녔고 기나긴 갈구끝에 서울 인사동과 중국 하남성 황토벌판 그리고 실리콘밸리에서 스승을 만났다. 지금은 산에서 내려와 많은 친구들과 동서문명을 융합시키는 새로운 도전의 여정에 있다.

前 삼성SDS technical architect
現 위데이터랩 대표이사
現 디랩아카데미 원장
現 성균관대, 한양대 겸임교수
現 세계진소왕태극권총회 서울분회장
#야만인 #동서양문화연구 #위데이터랩 #서예 #진소왕태극권

루나 허령
https://brunch.co.kr/@hvnpoet

컴퓨터과학과 소프트웨어공학을 전공하고, 지금은 금융회사의 상품과 서비스를 분석, 설계, 구현하는 일을 하고 있다. 대학 초년생 시절 마인드맵을 접한 이후 즐겁게 생각하는 방법을 깨달았고, 소프트웨어공학의 모델링 사상을 이해하고부터는 마인드맵과 모델링을 아우르는 마인드맵모델링을 연구 중이다. 세상에 대한 공학적인 접근 이외에도 마음공부와 서예, 태극권 등으로 자신과 세상의 경계를 넘어 진리를 탐구하고 있다.

#야만인 #마음공부 #마인드맵 #모델링 #서예 #진소왕태극권 #천상병

매거진의 이전글 추가정보로 확률을 업데이트하다, 나이브베이지언

작품 선택

키워드 선택 0 / 3 0

댓글여부

afliean
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari