brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Apr 27. 2024

6. 구글 클라우드-잭스로 잼마 파인튜닝




1

JAX?




2

사용 툴?


1등

파일토치


2등

텐서플로우

잭스








3

왜 리커런트가 나왔나?


 

단점

메모리 많아 씀.

약한 장거리 의존성


개선 작업 진행

그러나 새로운 아키텍처 연구




4

새로운 아키텍처 연구.

SSM




5

SSM 문제점




6

리니어스캔과 리니어 리커런트를 합쳐진 것 = 그리핀




7

파인튜닝 이후 결과는?


불어로 정상 결과 나옴.

'마이네임 이스 로라'로 결과 나옴.








감사합니다.

매거진의 이전글 5. 구글 AI -모델 머징
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari