생성형AI를 무료로 공부하기
Deeplearning AI와 Cloud Skills Boosts의 활용
최근 회사에서 생성형 AI에 대한 개발자들의 Needs가 많아지면서, 외부 대형 LLM들을 사내에 안전하게 서비스 할 수 있는 방법에 대해 고민해 왔습니다. VPN부터 여러 보안적인 수단은 둘째치고, 오히려 압박으로 다가오는 부분은 비용이었습니다. 구독방식으로 제공되는 OpenAI와 여타 생성형AI 서비스는 ChatGPT를 예로 들면, Team Plan은 인당 $30/월을 내야하고, Enterprise Plan을 사용한다면 250명 기준으로 $180,000을 내야합니다. 일반 ChatGPT Plus를 $20을 내고 사용하는 것보다 최소 1.5배 이상의 비용이 필요해요.
그렇다면, 그 비용을 줄일 수 있는 방법은 없는 걸까요?
생성형AI를 잘 모른다면, 굳이 GPT-4를 고집하지 마세요.
개발자든, 개발자가 아니든 생성형 AI에 대해서 이제 초보 수준이라면 비싼 유료 LLM 서비스를 구독할 필요는 아직 없습니다. 우리에겐 다른 여러 방법들이 있으니까요.
가장 먼저 살펴볼 무료 AI 서비스는 뤼튼(http://wrtn.ai)이 있습니다. 뤼튼은 GPT-4 채팅까지 지원하고, 간단하고 손쉽게 채팅을 즐길 수 있는 앱과 플러그인 서비스를 제공하고 있습니다. 물론, OpenAI 수준의 서비스까지는 아니지만, GPT-3.5와 4를 이용한 ChatGPT와 PaLM2 모델 등도 이용이 가능합니다. 고급 설정을 통해 System Message를 간접적으로 설정해두고 사용할 수 있고, 다른 사람들이 작성한 프롬프트로 살펴볼 수 있습니다.
우주공간에서 인공위성을 수리하고 있는 우주비행사 사진을 만들어줘
무료 사용가능한 뤼튼, PaLM2에서 할루시네이션 테스트 해봤습니다. 이외에도 이미지 생성을 무료로 해볼 수 있는 Microsoft Studio나 다른 여러 서비스들이 있지만, 그렇게 대동소이한 기능을 제공하지는 않습니다. 이미지 생성은 미드저니와 DALL-E3, 스테이블디퓨젼을 제외하면 다른 부분은 마이너하면서, 매니아(?)적인 요소에 집중하고 있다고 해도 될 듯 해요.
전문적인 생성형 AI 활용을 준비하고 싶다면 교육부터
생성형 AI를 제대로 활용하려고 하면, 결국은 AI 기반의 애플리케이션을 만든다거나, GPTs에 등록해서 판매할 수 있는 챗봇을 만드는 프롬프트 엔지니어링이 필요하기 마련입니다. 이런 교육 프로그램들은 최근 불티나게 인프런과 Udemy 등을 통해 판매되고 있지만, 무료이면서 이런 교육들의 기초가 된 교육이 있습니다. 바로 Deeplearning.ai에서 제공하는 무료교육입니다. (https://www.deeplearning.ai/short-courses/)
OpenAI 창립에도 관여한 Andrew Ng 교수가 운영하는 딥러닝AI는 상당한 수준의 커리큘럼과 실습이 가능한 플랫폼을 제공합니다. 프롬프트 엔지니어링, LangChain, RAG, Vector Database부터 파인튜닝과 머신러닝까지 단기코스와 Coursera 등과 연계한 집중 프로그램 등 다양한 교육이 있습니다.
Deeplearning.ai는 상당한 수준의 무료 교육을 제공해 줍니다.딥러닝AI의 교육서비스는 기본적으로 Jupyter 노트북과 강의 영상이 같이 재생되도록 한 화면에 구성되어 있습니다. 따라서 강의 집중도가 높고, 영문이지만 Transcript가 제공되니 애매하면 한글번역 기능으로 읽으며 이해해도 됩니다. 교육에서 OPENAI_API_KEY가 기본 세팅되서 제공되니, 해당 노트북에서 실습하며 배우는데는 큰 문제가 없습니다. 심화 수준의 교육은 아니지만, 비개발자라고 해도 1주일이면 충분히 Short Courses는 전부 마무리 할 수 있습니다.
강의화면과 IDE가 한 화면에 있으니, 보면서 따라해보기만 해도 됩니다. (이해는 여러분의 몫)기본적인 이해가 아니라 심화 교육이 필요하다면 Cloud Skills Boosts
구글에서는 Cloud 관련 역량 강화를 위한 교육 프로그램으로 Cloud Skills Boosts (기존 Qwiklab)을 운영하고 있습니다. 여기서는 원래 GCP(Google Cloud Platform)에 대한 이론과 실습 교육을 할 수 있는데요. 여기서 생성형 AI와 관련된 실습도 할 수 있습니다.
우선 여기서 대부분의 교육은 무료로 진행 가능하지만, 자원이 많이 필요한 실습과정은 Credit을 별도로 구매해서 사용하셔야 합니다. 그렇지만, 이미 GCP를 사용중인 회사나 파트너사, 고객사를 대상으로는 파트너 전용의 Skills Boosts를 제공합니다. (https://partner.cloudskillsboost.google)
각 회사의 GCP 관련 담당자에게 문의하면 사용자 등록/인증 절차를 안내해드리니, 그걸 활용하시면 됩니다.
구글의 Cloud 관련 기술을 무료로 교육받을 수 있는Google Cloud Skills Boost이 서비스의 장점은 Google Cloud 자원을 교육에 필요한만큼 Provisioning해서 무료로 제공해준다는 겁니다. 예를 들어 구글의 새로운 생성형AI인 Gemini를 이용한 실습을 하고 싶다면, 아래처럼 1회용 실습을 위한 GCP ID와 자원을 생성해서 ID/PWD를 알려줍니다. 교과과정은 Google Colab Enterprise급 노트북이 지원되니, 별도의 환경 설정도 필요없습니다.
GCP에서 실습해 볼 수 있는 자원이 무료로 제공됩니다.만약 다른 Open AI의 API를 가지고 개발을 하려면, 무료 크레딧이 있어야만 한다던가, 아니면 APIKey가 없으면 실습을 해볼 수 없는데요. 딥러닝 AI 처럼 Gemini와 같은 최신 LLM을 사용해 볼 수 있으니 그만큼 가성비가 좋습니다. 다만, 실습에는 보시는 것처럼 시간 제한이 있습니다. 교육을 수강 완료하면 GCP 교육 배지도 획득 가능해요.
지금까지 무료로 생성형 AI를 도전해 볼 수 있는 몇가지 방법을 안내해 드렸습니다.
저는 ① 딥러닝 AI, ② Google Cloud Skills Boosts의 순서로 학습하시는 걸 권장드려요.
#Qwiklab #GCP #Gemini #Deeplearning #GenAI
