1
생성형 AI를 사용하기 전 VS 생성형 AI를 사용한 후
생성형 AI 사용 시 일부 공감, 매우 공감
생성형 AI를 도입했을 때
여러 언어를 사용, 파라미터 변경 도큐먼트, 단위테스트, 반영된 문서, 보안성 검토등 개발자가 할 일이 많다.
AI를 통해 쉽게 처리가 가능하다.
만족도 높아진다.
2
예전 머신러닝 모델을 만들기 위해서는?
라벨링 데이터, 학습등으로 여러 모델을 만듦.
파운데이션 모델은?
하나의 파운데션 모델을 사용함.
3
AWS 다양한 AI 서비스를 제공함.
파티락 - 생성형 AI를 간단하게 만들 수 있다.
아마존 Q - 비서 역할, 아키텍처 설계
Amazon Q developer = 코드 휘스프로, 코드 생성 도와줌.
CodeGrue - 코드에 대해 가이드해 줌
CodeGure Profiler - 전체적인 애플리케이션에 대해 성능치 분석, 머신러닝 기반으로 제안해 줌.
DevOps Gure - 서비스가 가용성이 적정한지 머신러닝 기반 서비스 제공함.
4
전반에 걸친 생성형 AI 사용하자!!!
개발이 단순히 코딩이 아니라 문서화등 모두 포함된 것이다.
아마존 Q , 베드락, 세이즈 메이커를 통해 해결이 가능하다.
목적은 혁신을 가져간다.
보안성 검토등 생성형 AI 가 대신해 준다면, 개발에 집중가능하다.
4
AWS AI/ML 스택을 이해해 보자~
1) 인프라 - EC2, GPU 제공한다. 데이터를 위한 DB , 스토리지 준비됨.
2) 머신러닝 기반 서비스 - 텍스트 추출, 이미지 인식 등 서비스 사용하면 된다.
3) 서비스 없는 경우, 머신러닝 기반 세이즈 메이커로 원하는 기반의 서비스를 만들면 된다.
4) 베드락을 통해 생성형 AI 서비스를 사용해도 된다.
5) 아마존 Q 디벨로퍼로 코딩 지원 가능하다.
1
생성형 AI 비서
사용?
콘솔에서 사용가능하다.
AWS에 대해 물어보는 것이다.
AWS로 어떻게 구축해야 하는지 등에 대해 묻는 것이다. 일반 질문/응답은 아니다.
https://console.aws.amazon.com/console/home
6
Amazon Q를 IDE로 사용하는 법?
코드를 복사해 Q에 물어보면 세부적으로 설명해 준다. 영어.
업무 인수인계 시 사용하면 좋다.
7
Amazon Q DEVELOPER ( 구) 코드 카탈리스트)?
개발 요구사항을 적는다.
어사인에 Q를 할당해 요청한다.
20분 정도 걸린다.
전체를 생성하지는 못한다. 일부분에 대해 생성해 준다. 시간을 아낄 수 있다.
8
에이전트를 통해 짧은 시간 내에 업그레이하는 툴이다.
아마존 디벨로퍼 에이전트를 사용한다.
1
준비 과정???
LLM 모델의 이해
LLM모델의 조정 및 실험.
어디에 사용할지 정하자. 반복 작업 자동화에 사용?
데이터 보안과 규정 준수, 새로운 위험 식별
LLM모델을 평가 - 업계 표준, 다른 LLM모델과 비교
도입~
2
기대 결과??
생산성 향상 - 개발 주기 단축
소프트웨어 품질 및 안정성 향상
3
사용사례?
요구사항 ~ 운용 등 모든 과정에서 사용한다.
4
사용 툴???
요구사항에서는 아마존 베드락을 사용하면 도움이 된다.
설계에서는 아마존 Q를 사용하자.
5
기본적으로 사용하는 것과 사용자 지정 프로세스 2가지로 사용가능하다.
Amazon Q DEVELOPER는 오픈소스를 기반으로 코드가 학습되어 있다.
6
사용자 지정 프로세스는 회사 내 프라이빗 코드 라이브러리를 코드를 작성할 수도 있다.
아마존 Q DEVELOPER 관리자가 있다.
코드를 올린다.
S3버킷이나 Code Connection을 통해 올린다.
개발자가 계정을 받고 계정을 연결한다.
앞에서 학습된 Q DEVELOPER를 사용한다.
데이터 암호화가 된다. 코드가 학습된 모델을 아무나 학습하지는 않는다. 외부 공유가 안 되는 장점.
7
아마존 Q DEVELOPER 사용자 지정 데모?
첫째, AWS SDK 사용 코드 완성 해보자.
1) IDE툴 설치
2) 확장 프로그램을 통해 아마존 Q DEVELOPER 확장프로그램을 설치한다.
3) 주석으로 필요한 부분에 대해 요청을 한다.
둘째, 도메인 SDK (기업 내 코드 )를 사용.
3) 주석으로 필요한 부분에 대해 요청을 한다.
8
도구에 대한 평가를 진행해 보자!!
다음 프로젝트에서 어떻게 사용할지 검토해 보자.
9
생성형 AI 성공 여부?
구체적인 성공 기준 정의
빠르게 실험하며 진행 상황 추적
조직에 도입하는 것이 핵심 - 개선
다음
https://brunch.co.kr/@topasvga/3987