by
Feb 07. 2019
홉필드 네트워크 톺아보기
[야만인] 인공지능 탄생의 뒷이야기
1982년 물리학자 존 홉필드 John J. Hopfield 가 제안한
홉필드 네트워크는
신경망의 물리적 모델로서
최적화나 연상기억 등에 사용되는 모델입니다.
홉필드 네트워크는
모든 뉴런이 양방향으로 연결된
신경회로망의 동작모델로서
이진 입력(0, 1)을 받아
양(+)과 음(-)의 에너지 상태를 출력합니다.
이 모델은 다음과 같은 알고리즘으로 구성됩니다.
(1) 학습패턴에 양극화 연산 적용
(2) 학습패턴에 대한 가중치 행렬 계산
(3) 계산된 가중치 행렬 저장
(4) 입력패턴에 대한 학습패턴을 연상
사례를 들어보겠습니다.
먼저 학습패턴이 주어집니다.
이 학습패턴은 이미 이전의 학습으로 주어진 패턴입니다.
홉필드 네트워크 알고리즘의 첫번째 단계는
기존의 학습패턴을 양극화(특징을 증폭)하는 것입니다.
이것은 중요한 특징을 중심으로 일치하는지 보기 위함입니다.
다음 단계로 가중치 행렬을 구합니다.
가중치 행렬을 저장합니다.
이 글에서는 '그냥 기억해두겠습니다'가 더 어울릴 듯 합니다.
아래서 써먹을 예정이거든요.
이제 새로운 입력패턴이 들어옵니다.
보다 정확히는 새로운 입력패턴이 제시된다고 봐야겠습니다.
우리는 이것이
우리가 알고 있던 어떤 학습패턴과 일치하는지를
파악하고자 합니다.
먼저 임계값을 구합니다.
이 임계값은 정확한 답이 안나왔을 때(일치하는 학습패턴이 없을 때) 조정하게 됩니다.
이제 최종적으로 뉴런이 동작할 차례입니다.
이런 뉴런의 기능은 활성함수가 담당합니다.
이로써 입력패턴의 홉필드 네트워크를 통한 변형된 입력패턴이 구해졌습니다.
이 입력패턴을 보니 기존 학습패턴 중 하나와 일치하는군요.
그러면 반복없이 '일치하는 학습패턴으로 연상'합니다.
용어가 어렵습니다. 쉽게 풀어쓰면 '일치하는 학습패턴과 같다고 판단'합니다.
