인공지능 발전
딥러닝 확산 부터 생성형 AI 모델까지
딥러닝(Deep Learning)의 확산과 HW의 급격한 발전으로 인공지능(AI) 학습 능력과 정확도가 비약적으로 향상
최근 몇 년간, 인공지능 기술은 급속도로 발전해왔습니다. 특히 이미지 및 영상 인식, 음성 인식 및 음성 합성과 같은 영역에서의 발전은 주목할 만합니다. 이러한 기술들은 대량의 데이터 학습을 통해 생성된 모델들에 의해 구동되고 있으며, 이 중에서도 초대형 언어모델(LLM: Large Language Model) 의 등장은 특히 혁신적인 변화를 가져왔습니다.
예를 들어, OpenAI의 대형 언어 모델인 GPT 시리즈는 이러한 발전의 대표적인 사례입니다. GPT-2와 GPT-3의 비교를 통해 이러한 발전을 명백히 볼 수 있습니다. 2019년에 등장한 GPT-2는 약 15억 개의 파라미터를 가지고 있었으나, 이후에 출시된 GPT-3는 무려 1,750억 개의 파라미터로 발전했습니다. 이는 단 2년 만에 파라미터 수가 약 117배 증가한 것을 의미하며, 이는 기술 발전의 놀라운 속도를 보여줍니다.
인공지능은 무어의 법칙(Moore’s Law)을 넘어서는 속도로 빠르게 성장하고 있습니다. 무어의 법칙은 지난 50년 이상 동안 컴퓨터의 처리 능력이 약 2년마다 두 배로 증가한다고 예측했습니다. 그러나 최근 AI 분야에서는 이러한 추세를 훨씬 뛰어넘는 속도로 발전하고 있습니다. 특히, AI를 구현하는 데 필요한 연산 속도가 매년 약 10배씩 증가하고 있는 것으로 관측되고 있으며, 2018년 이후 AI 학습모델에 소요되는 컴퓨터 처리 능력은 급격히 증가되는 것을 확인할 수 있습니다.
이러한 현상은 기술 발전이 단순히 하드웨어의 물리적 한계를 넘어서는 것뿐만 아니라, 소프트웨어, 알고리즘, 그리고 데이터 처리 방식의 혁신을 통해 이루어지고 있음을 시사합니다.
지금까지 대부분의 AI 엔지니어는 기존 CPU와 GPU를 사용하여 AI를 훈련해 왔습니다.
그런데, 앞으로 인공지능 맞춤형 프로세서인 구글의 TPU(Tensor Processing Unit) 와 같은 장비가 더욱 발전되어서 개인들도 쉽게 쓸 수 있도록 활성화된다면, AI는 지금보다 더 빠른 속도로 발전할 것입니다.
이는 또한 미래에 인공지능이 우리 사회와 일상에 더욱 깊숙이 통합될 가능성이 크다는 것을 의미합니다.
결론적으로, 인공지능 분야의 눈부신 기술적 발전은 우리가 상상할 수 있는 것 이상의 가능성을 열어주고 있습니다. 이러한 발전은 우리의 삶을 어떻게 변화시킬지, 앞으로 어떤 새로운 혁신을 가져올지 기대되는 부분입니다.
대형언어모델 기반 생성형 인공지능과 멀티모달의 등장
최근 인공지능(AI) 분야에서 주목받는 가장 큰 흐름은 생성형 인공지능의 부상입니다. 이는 사용자의 입력을 바탕으로 텍스트, 이미지, 그리고 다른 미디어 형식을 창출할 수 있는 AI의 능력을 말합니다. 이러한 생성형 인공지능은 사회 및 산업 전반에 걸쳐 활용되며, 혁신의 촉매제로서 중요한 역할을 하고 있습니다.
초기 딥러닝 모델들은 지금기준으로 상대적으로 작은 파라메터를 가지고 있었습니다.
하지만 시간이 흐르면서 컴퓨팅 하드웨어의 발전은 더 크고 복잡한 모델을 구현할 수 있게 되었습니다. 이로 인해 더 많은 데이터를 처리하고, 더 정교한 패턴을 학습할 수 있는 대형 파라메터 모델들이 개발되었습니다. 이러한 발전은 AI의 능력을 크게 향상시켰으며, 특히 이미지 처리와 자연어 처리 분야에서 혁신적인 성과를 이루어냈습니다.
파라메터의 증가(출처 : KDI 경제정보센터 자료연구팀2023년 02호)위의 그림과 같이 초거대 AI 경쟁이 본격화된 시점은, 2020년 OpenAI가 1,750억 개에 달하는 파라미터를 가진 GPT-3를 선보이면서 시작되었습니다.
GPT-3의 등장으로 파라미터가 많을수록 성능이 뛰어나다는 실험적 결과가 보여지면서, 빅테크 기업들은 점차 파라미터의 크기 경쟁에 불이 붙게 되었습니다. GPT-3에서 "175B"는 175 Billion, 여기서 'B'는 'billion'의 약자로 사용되며, 이는 모델의 파라미터 개수를 나타냅니다. 즉 1,750억 개의 파라미터를 사용했음을 의미합니다.
그리고, 또 다른 한편으로, 파라미터 증가 뿐만 아니라, 모델 자체의 변화도 있었습니다. 초기에는 이미지 영역과 자연어 처리 영역이 서로 분리되어 별개의 모델이 필요했습니다.
그러나 최근에는 '멀티모달'이라는 개념이 등장하면서, 이 두 영역 사이의 경계가 점점 허물어지고 있습니다. 멀티모달 모델은 이미지, 텍스트, 비디오 등 다양한 형태의 데이터를 동시에 처리할 수 있는 능력을 가지고 있습니다. 이러한 모델들은 서로 다른 유형의 데이터 간의 상호작용을 이해하고, 이를 통합적으로 분석하는 데 탁월한 능력을 보여줍니다.
멀티모달 모델의 발전은 'Text2Image'(텍스트에서 이미지로), 'Image2Text'(이미지에서 텍스트로), 'Video2Text'(비디오에서 텍스트로)와 같은 새로운 형태의 AI 애플리케이션을 가능하게 했습니다.
예를 들어, Text2Image 모델은 사용자가 제공한 텍스트 설명을 바탕으로 이미지를 생성할 수 있으며, Image2Text 모델은 이미지를 분석하여 그 내용을 텍스트로 설명할 수 있습니다.
Video2Text 모델은 비디오의 내용을 자동으로 텍스트로 변환하여 요약하는 데 사용됩니다.
이러한 모델들은 AI가 주어진 데이터안에서 단순한 패턴 인식을 넘어서서, 다양한 형태의 데이터 간의 복잡한 상호작용을 이해하고 추론하는 방향으로 발전하고 있음을 보여줍니다.
20년대에 등장한 대형 언어 모델은 생성 능력에 초점을 맞춘 혁신적인 모델로, 인공지능 분야에 새로운 장을 열었습니다. 이러한 모델들은 사용자의 입력을 토대로 고도화된 텍스트, 이미지, 그리고 다른 미디어 형식을 생성함으로써, AI 기술의 적용 범위를 대폭 확장시켰습니다. 생성형 AI는 단순히 정보를 처리하고 분석하는 것을 넘어서, 창의적이고 예술적인 영역까지도 AI의 영향력을 확장시키고 있습니다. 예를 들어, 사용자의 입력(prompt)을 기반으로 한 이미지 생성은 예술, 디자인, 교육 및 엔터테인먼트 등 다양한 분야에서 새로운 가능성을 검증 받고 있습니다.
예술가들은 AI를 활용하여 새로운 형태의 예술 작품을 창출하고 있으며, 기업들은 AI를 통해 제품 디자인과 마케팅 전략을 혁신하고 있습니다. 또한, 교육 분야에서는 학습 자료의 개발과 개인화된 교육 경험 제공에 AI가 중요한 역할을 하고 있습니다.
결론적으로, 생성형 인공지능은 기술의 한계를 뛰어넘어, 우리의 창의력과 상상력을 새롭게 확장시키는 동력이 되고 있습니다. 이는 기술이 인류의 삶을 풍요롭게 하는 방식에서 중요한 이정표를 제시하고 있으며, 앞으로도 지속적인 발전과 혁신을 기대하게 만듭니다.
