아직도 검색하고 계신가요?
아직도 필요한 정보를 찾기 위해 검색만 하고 계신가요? 궁금한 것이 생기면 습관처럼 네이버나 구글에 검색어를 입력하게 됩니다. 하지만 원하는 답을 얻기 위해 수많은 링크를 하나하나 클릭하고, 페이지를 직접 확인하느라 시간을 많이 소모한 경험 있지 않으신가요? 반면, 챗지피티(Chat GPT)와 같은 생성형 AI에게 내가 궁금한 걸 물어보면 단 한 번의 클릭으로 바로 원하는 대답을 얻을 수 있습니다. 그럼, 생성형 AI vs. 구글 검색, 과연 무엇이 다를까요?
구글 검색의 원리
구글의 검색 원리는 ‘도서관 사서’에 비유할 수 있습니다. 우리가 검색창에 키워드를 입력하면, 관련된 웹페이지 목록이 순서대로 나열되는데요. 이런 결과물이 나오는 기본 작동 방식은 크게 클롤링(crawling)과 색인(indexing)으로 이루어집니다.
1) 크롤링(crawling)
구글은 크롤러(crawler) 등의 로봇 프로그램을 통해 전 세계 웹페이지를 돌아다니며 새로운 페이지를 발견하고, 기존 페이지의 업데이트된 내용도 확인하고, 각 페이지의 텍스트, 이미지, 동영상, 링크 등 다양한 데이터를 자동으로 수집합니다.
2) 색인(indexing)
이렇게 수집된 정보는 구글의 거대한 데이터베이스에 저장되는데요. 구글은 각 웹페이지의 내용을 분석하고 키워드를 추출하여 주제를 분류합니다. 이때 페이지의 품질, 관련성, 신뢰도 등을 평가하여 색인 작업을 진행합니다. 마치 도서관 사서가 책의 내용과 위치를 목록으로 정리해두는 색인 작업처럼요.
그럼, 생성형 AI는 어떤 방식으로 대답할까요?
생성형 AI의 답변 구조는 마치 레고 블록을 조립하는 과정과 같습니다.
1) 질문 이해: 자연어처리(NLP)
생성형 AI는 텍스트, 이미지, 오디오 등 다양한 데이터를 대량으로 학습하는데요. 데이터는 레고 블록 상자 속에 흩어져 있는 다양한 모양과 색깔의 블록에 해당하죠.
입력한 질문을 분석하기 위해서는 자연어처리(NLP Natural Language Processing) 기술이 필요한데요. 이는 질문을 문법적으로 더 이상 쪼갤 수 없는 최소 단위인 ‘토큰’으로 나누고, 이를 분석하여 단어의 의미와 질문의 의도를 파악하는 기술입니다. 레고 설명서에 적힌 기본적인 조립 방법을 파악하는 것과 비슷하죠.
2) 정보 탐색: 지식그래프, 데이터베이스
질문에 답하기 위해 지식그래프(개념, 개체, 사건 등 데이터 간 관계를 상호 연결한 프레임워크)와 방대한 양의 정보가 저장된 데이터베이스에서 필요한 정보를 추출합니다. 레고 조립에 필요한 블록을 상자에서 골라내는 과정과 같죠.
3) 응답 생성
찾아낸 정보를 바탕으로 질문 속의 각 단어들이 서로 어떤 관련을 맺고 있는지 파악하여 자연스런 문장을 생성하는데, 여기서 트랜스포머(transformer)라는 인공신경망 구조를 주로 사용합니다. 마치 어떤 레고 블록끼리 연결해야 튼튼한 구조를 만들 수 있는지 알아내는 것과 같은 과정이죠.
4) 평가 및 개선
마지막으로 생성된 답변에 대한 사용자의 피드백 등을 통해 품질을 평가 및 보완하여 모델의 성능을 지속적으로 향상시킵니다. 생성형 AI가 갈수록 스마트해지는 것이죠.
위와 같은 과정을 통해, 구글 검색은 거대한 정보 도서관의 사서처럼 사용자가 스스로 정보를 찾아볼 수 있도록 돕는 가이드 역할을 한다면, Chat GPT와 같은 생성형 AI는 개인 맞춤형 비서처럼 사용자의 질문에 바로 답을 할 수 있는 것이죠.
‘검색의 시대’에서 ‘답변의 시대’에 필요한 능력은?
AI가 정보 탐색에 혁신을 가져왔는데요. 이제 우리는 정보를 찾기 위해 수많은 링크를 헤매는 대신, 질문하면 곧바로 답을 얻을 수 있는 시대를 맞이했습니다. 즉, '검색의 시대'에서, AI가 주도하는 '답변의 시대'로 진화한 것이죠.
여기서 우리가 간과해서는 안 될 것이 있습니다. 질문의 질이 곧 답변의 질을 결정한다는 점인데요. 단순히 질문에 답을 찾는 능력이 아니라, 문제를 명확히 정의하고, 본질을 꿰뚫는 질문을 던질 수 있는 능력이 더 중요해지는 것이죠. AI를 더 잘 활용하기 위한 인간의 깊이 있는 생각과 질문, 그것이 새로운 AI 시대의 경쟁력 아닐까요?