brunch

You can make anything
by writing

C.S.Lewis

by chorong May 15. 2023

GPT4의 등장, AI챗봇의 변화_#2. 챗봇의 변천사

5년차 AI대화디자이너가 말합니다.

챗봇의 가장 기초를 다룬 지난 글에 이어 오늘은 AI챗봇이 어떻게 변화해 왔는지에 대한 흐름과 현 시점에서의 챗봇의 한계는 무엇인지에 대해 다루겠습니다.


1. 챗봇의 역사

챗봇의 역사는 1950년부터 시작합니다. Alan Turing이 문자로 대화를 했을 때, 기계인지 사람인지 구분할 수 없다면 기계가 지능적이라고 말했는데요, 여기서 많은 이들이 스마트 챗봇의 기원이라고 합니다.


이후 1966년, 미국MIT AI연구소에서 패턴매칭과 치환법을 사용해 대화를 할 수 있는 'ELIZA'를 개발해 챗봇으로는 최초로 유명세를 타게 되었습니다. 'ELIZA'는 초기 자연어처리 컴퓨터 프로그램으로, 사람의 대화를 모방하는 방식으로 설계되었습니다.

가장 유명한 대화로는, 엘리자는 의사역할, 사용자는 환자역할이 되어 의사인 엘리자에게 찾아와 간단한 질문을 하면 답을 하는 'DOCTOR'가 있습니다.


이후, 챗봇의 발전은 꾸준히 이루어졌는데요.

2010년, Apple사의 'Siri'가 등장하게 됩니다. 지금은 아주 당연시된 시리는 음성과 챗봇이 결합된 형태로, 사용자가 말을 하면 애플의 서버로 전송한 뒤 텍스트로 변환시킵니다. 이후 그 내용을 AI로 분석해 사용자에게 응답을 하거나 앱을 실행시켜 주는 등의 처리를 합니다.


이후, 2016년 페이스북은 개발자용 메신저 플랫폼을 출시했는데요. 이때 챗봇이 또 한 번 크게 부상하며, 많은 사람들은 챗봇의 사용사례에 대한 많은 기대를 하게 되고, 엄청난 투자가 이루어지기 시작합니다.


2017년, 여러 자연어처리 모델에서 개선이 이루어지면서 자연어처리에 이어 자연어이해까지 많은 변화가 일어났습니다. 인간의 집중을 모방해 만들어진 신경망 구조, 즉 어텐션 신경망으로 이루어진 Transformer, Transformer의 한계를 개선한 Transformer XL, 위키피디아와 같은 대량의 텍스트 소스를 사전에 학습하는 방법인 BERT 등 다양한 NLP(Natural Language Processing) 모델이 등장했습니다.


그렇게 지난 2022년 11월, OpenAI의 chatGPT가 등장하기까지. 약 70여 년간 이루어져 온 챗봇의 발전을 되돌아보면 지금의 자연어생성까지 그리 놀랍지만은 않은 것 같기도 합니다.



2. 챗봇의 단계

챗봇의 발전단계는 크게 3단계로 나눌 수 있습니다.


(1단계 챗봇)

1개의 채널, 1개의 언어, 간단한 대화 수행_주로 메뉴방식으로 처리하는 챗봇.

→ 보통 룰 베이스 챗봇을 생각하면 될 것 같습니다.

    *rule-base chatbot: 단순히 정해진 규칙에 따라 응답하는 챗봇.


(2단계 챗봇)
멀티채널, 감성파악, 자연어처리 기술을 이용해 훈련한 챗봇.

→ 사용자의 예상발화를 학습 데이터로 구축해 매 순간 머신러닝을 활용하여 학습하는 챗봇이라고 생각하시면 될 것 같습니다.


(3단계 챗봇) 
다자간 채팅, 과거담화의 기억, 자체적인 학습 능력, 주도적인 챗봇 대화, 외부정보망과의 연결을 하는 챗봇.

→ 지난 대화를 어느 정도 기억하고, 문맥을 이어갈 수 있으며 스스로 학습할 수 있는 챗봇, 바로 GPT3.5 이상의 모델이 이 단계에 해당한다고 볼 수 있습니다.



수십 년 간 인공지능에 대한 연구는 끊임없이 이루어졌는데요, 실제로 인공지능과 관련된 많은 이론들을 보면 오래전부터 거론되어 오고 있었습니다. 그러나, 그 이론들을 증명할 수 없었던 이유는 하드웨어의 발전이 더뎠기 때문인데요. 이렇게 인공지능이 폭발적으로 발전할 수 있었던 건 빠르게 학습을 돌려볼 수 있는 그래픽 카드 등 하드웨어의 발전이 뒷받침되어 가능할 수 있었습니다.



3. GPT4의 한계

그렇다면 현재의 챗봇, 가장 대표적으로 꼽을 수 있는 GPT4모델이 지닌 한계는 무엇일까요?

사용해 보신 분들은 아시겠지만, 거짓정보를 사실처럼 답하는 할루시네이션과 사람처럼 유머러스한, 위트 있는 답을 하기 어렵다는 것이 GPT4모델의 한계라고 볼 수 있을 것 같습니다.


단, 구글의 람다의 경우 GPT4모델과는 다르게 '위트 있는' 챗봇에 포커싱이 되어 학습되었기에 유머러스한 스몰톡이 가능하지만요.


앞으로 인공지능의 3대 분야인 이미지를 포함한 영상, 음성, 텍스트의 비약적인 발전이 어떻게 버무려져 더 발전할 수 있을지에 대한 기대(혹은 걱정이)됩니다.





[참고자료]

1. 대화형 챗봇의 작동원리, 2020년 11월 12일, 코트악동, 네이버블로그.

https://m.blog.naver.com/cjc07/222142317670


2. 챗봇의 역사, eliza에서 GPT까지, 2023년 2월 28일, OpsNow.

https://www.opsnow.com/%EC%B1%97%EB%B4%87%EC%9D%98-%EC%97%AD%EC%82%ACeliza%EC%97%90%EC%84%9C-chatgpt%EA%B9%8C%EC%A7%80/


3. 인공지능 챗봇(chatbot), 챗봇 역사의 모든 것, 2020년 2월 6일, Saeed Shodavlat, PERFOMARS.

https://blog.performars.com/ko/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5-%EC%B1%97%EB%B4%87chatbot-%EC%B1%97%EB%B4%87-%EC%97%AD%EC%82%AC%EC%9D%98-%EB%AA%A8%EB%93%A0-%EA%B2%83


4. [NLP][논문리뷰] Transformer-XL:Attentive Language Models Beyond a Fixed-Length Context, 2021년 6월 9일, Hyen4110.

https://hyen4110.tistory.com/48


5. [10초면OK] 트랜스포머 딥러닝 신경망 모델 알아보기, 2022년 8월 3일, 텐초, GOLDEN RABBIT.

https://goldenrabbit.co.kr/2022/08/03/10%EC%B4%88%EB%A9%B4-ok-%ED%8A%B8%EB%9E%9C%EC%8A%A4%ED%8F%AC%EB%A8%B8-%EB%94%A5%EB%9F%AC%EB%8B%9D-%EC%8B%A0%EA%B2%BD%EB%A7%9D-%EB%AA%A8%EB%8D%B8-%EC%95%8C%EC%95%84%EB%B3%B4%EA%B8%B0/


6.기본제공 BERT 알고리즘 시작하기, Google Cloud.

https://cloud.google.com/ai-platform/training/docs/algorithms/bert-start?hl=ko


7. 전이학습 기반 NLP(2): ULMfiT, 2019년 4월 12일, 박성준, brunchstory.

https://brunch.co.kr/@learning/13


매거진의 이전글 GPT4의 등장, AI챗봇의 변화_#1. 챗봇의 이해
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari