brunch

You can make anything
by writing

C.S.Lewis

by 알바트로스 Aug 10. 2023

딥러닝과 인지과학

기호체계가설과 병렬분산처리(PDP)

  인공지능과 딥러닝에 관한 연구가 흥미로운 이유는 이것이 결코 컴퓨터 과학이나 기계만을 다루는 단순한 분야가 아니기 때문이다. 사람들은 인공지능을 단순히 IT 기술의 하나로 치부하지만, 사실 인공지능의 핵심은 궁극적으로 '인간이란 무엇인가?'라는 질문에 답하기 위한 것이다. 따라서 우리의 삶을 편하게 해주고 있는 강화학습(reinforcement learning)과 알파고(Alphago) 그리고 초거대언어모델(LLM)과 챗GPT를 비롯한 다양한 인공지능의 성과들은 아직 완성형이 아니며, 과도기적 부산물에 불과하다.


  여기 사람의 뇌를 컴퓨터에 옮겨 놓으려는 다소 거친 생각을 직접 실행으로 옮기고 있는 사람들이 있다. 바로 뇌 과학자와 심리학자 그리고 인지과학자를 비롯한 각 분야의 호기심 많은 학자들이다. 아직은 뇌가 작동하는 복잡한 메커니즘을 컴퓨터에 구현해 내기까지는 갈길이 멀어 보이지만, 병렬 분산 처리(PDP) 혹은 연결주의(connectionism) 자들은 그것이 불가능하지 않다고 말한다. 이번 시간에는 인공지능과 매우 밀접한 연관을 가지고 있는 인지과학과 딥러닝의 작동방식에 대해 알아보자.


인지과학이란?


  인지과학(認知科學, 영어: cognitive science)은 인간의 마음과 동물 및 인공적 지적 시스템(artificial intelligent systems)에서 정보처리가 어떻게 일어나는가를 연구하는 학문이다.(출처 : wikipedia) 즉 인지과학은 인간의 마음이 작동하는 과정 및 내용과, 동물 및 인공적 지적 시스템에서의 지능(Intelligence)의 정보적 표상(표현)과 그 작동 과정을 연구하는 과학이다.


  인지과학은 다양한 학문 분야가 결합되어 인간의 마음과 지능을 연구하는 학문이다. 인지과학은 심리학, 철학, 신경과학, 언어학, 인류학, 전산학, 학습과학, 교육학, 사회학, 생물학, 로보틱스 등의 여러 학문과 연관되어 있다. 인지과학은 단순히 이러한 학문들을 모아 놓은 것이 아니라, 이 분야들 사이의 연결고리를 찾아내어 어떻게 정보처리가 일어나는지에 대한 종합적인 이해를 목표로 한다.


  예를 들어, 어떻게 우리는 언어를 이해하고 생성하는지 연구하기 위해 심리학에서는 언어 처리의 인지 과정에 관한 이론을 제시하며, 신경과학에서는 뇌 내 언어 처리 관련 영역을 탐색한다. 언어학에서는 언어의 구조와 기능에 관한 지식을 제공하며, 전산학에서는 이러한 지식을 기반으로 언어 처리 알고리즘을 개발한다. 이렇게 다양한 학문들이 서로 협력하면서 인지과학은 우리의 인지 과정을 더 깊이 이해하려고 노력한다. 이는 또한 인간의 지능과 그 작동 원리를 인공지능 분야에 적용하는 데도 큰 도움을 제공한다.


딥러닝이란?


  딥러닝은 신경망과 시냅스를 통해 전기 신호를 주고받는 인간 뇌의 신경망의 작동 원리에서 영감을 받아 만들어졌다. 실제로 딥러닝은 인간의 신경세포에 해당하는 퍼셉트론(perceptron)의 연결로 이루어진 인공 신경망(Artificial Neural Network, ANN)으로 구성되어 있으며, 초기값에 대해 활성화 함수(activation function)와 가중치(weight)를 업데이트하는 방식으로 뇌가 활성화 혹은 비활성화되는 메커니즘을 단순화시켜 구현해 낸 것으로 볼 수 있다.


병렬 분산 처리(PDP)와 기호체계가설


  딥러닝은 인지 과학의 측면에서도 기존의 머신러닝 알고리즘과는 결정적인 차이가 있다. 딥러닝이 인간의 뇌가 신경세포를 통해 정보를 전달하는 메커니즘을 구현하고자 하는 병렬 분산 처리(Parallel Distributed Processing, PDP)라는 접근법을 사용하고 있기 때문이다. 이는 인간의 사고를 비롯한 컴퓨터의 작동 원리가 근본적으로 기호와 규칙으로 이루어져 있다고 주장하는 기존의 기호체계가설(symbol system hypothesis)과 대립되는 완전히 새로운 개념이다.


PDP (출처 : 캐임브릿지 대학교)

  기호체계가설은 이론적으로는 사람들이 세상을 이해하는 방식이 기호와 규칙에 기반한 체계적인 접근을 통해 이루어진다고 주장한다. 이 접근법은 전통적인 인공 지능 연구에서 주로 사용되었다. 기호체계가설의 연장선에는 계산주의라는 개념이 있는데,  이는 인간의 두뇌가 복잡한 계산 기계로 볼 수 있으며, 인간의 인지 과정을 계산으로 설명할 수 있다는 관점이다. 폰 노이만으로 대표되는 계산주의자들은 컴퓨터가 0과 1이라는 이진수를 통해 신호를 전달하는 방식으로 표상(symbol)을 구현해 낸다고 믿었다.


기호체계가설(출처: ScienceDirect)

  반면 PDP 모델은 1980년대 초기에 등장한 인지 모델로, 복잡한 인지 과정이 뉴런 네트워크의 간단한 상호 작용에 의해 발생할 수 있다는 아이디어를 제시했다. PDP는 단일 규칙 또는 알고리즘이 아니라 네트워크의 각 뉴런이 조금씩 기여하는 방식으로 정보를 처리한다. 즉 딥러닝은 PDP의 영향을 받아 인간의 인지 과정을 모사하려는 시도이다. PDP는 기본적으로 정보 처리가 뉴런의 네트워크 전체에 분산되어 일어난다는 개념을 기반으로 하는데, 이 접근법은 딥러닝, 특히 인공 신경망의 구조와 매우 유사하다.  


인간은 컴퓨터일까?


  기호체계가설과 병렬분산처리 중 어떤 것이 정답인지를 놓고 각기 다른 주장을 펼치는 학자들은 여전히 논쟁 중이다. 수많은 뉴런의 네트워크로 이루어진 우리 뇌는 컴퓨터라고 볼 수 있을까? 인간 뇌의 작동 원리를 완벽히 구현해 낸다면 우리는 인간과 똑같이 생각하고 행동하는 인공 구조물을 만들어낼 수 있을까? 한 발 나아가 우리 인간은 시뮬레이션 우주의 일부라고 볼 수 있지 않을까? 이 모든 판타지 같은 질문들이 인공지능과 관련되어 있다. 이처럼 인공지능은 다양한 학문 분야와 시너지 효과를 내며 지금도 스스로 발전 중인 상상력의 원천이다.


매거진의 이전글 LLM과 자연어처리의 역사(3)
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari