ChatGPT를 워렌 버핏처럼 만들기
ChatGPT를 활용하여 두 가지 시도를 했다.
1. ChatGPT끼리 대화시키기
회사 슬랙에서 장난으로 동료 목소리를 녹음해서 TTS로 만들자(링크)는 이야기가 나왔는데, 장난스럽게 아이디어를 발산하다가 문득 생각났다. 처음엔 대화를 시작할 첫 문장만 치면 ChatGPT가 알아서 대화하는 모습을 지켜볼 수 있는 페이지를 만들려고 했다. 막무가내로 개발을 시작하고 얼마 후, 일단 내가 생각하는 것처럼 재미있는지부터 확인해 봐야겠다는 생각을 했다. ChatGPT 두 개를 띄어놓고 하나의 대답을 다른 쪽에 넣어봤는데, 막상 해보니 서로 의미 있는 대화를 하도록 만들기가 어려웠다.
2. ChatGPT를 튜닝해서 워렌 버핏처럼 만들기
첫 번째 시도를 중단하고 openai document를 봤더니 fine tuning이라는 기능이 있다는 것을 알게 되었다. openai가 이미 training 시켜놓은 모델에 기초해서 상황에 맞는 데이터를 추가로 학습시키는 것이다. 보자마자 특정 인물처럼 대답하도록 tuning 해봐야겠다고 생각했고, 그 즉시 워렌 버핏이 떠올랐다. 충분한 학습 데이터가 필요한데, 워렌 버핏이 수십 년간 작성한 주주서한과 이야기한 주주총회 자료가 있기 때문이다. 버핏과의 점심식사는 246억에 낙찰되었는데, 만약 공짜로 유사-워렌 버핏과 대화할 수 있다면 얼마나 멋진 일인가?!
그럴듯하게 모델을 학습시키고 간단한 인터페이스까지 달려있는 페이지를 만들어서 링크와 함께 이 글을 작성하고 싶었지만, 아쉽게도 지금까지 만든 모델이 잘 작동하지 않는다. 잘 만들어서 링크드인에 홈페이지 링크와 만든 방법을 공유하는 게 목표이다.
---
최근에 의도적으로 ChatGPT를 많이 써봤다. 구글에서 찾는 것보다 편할 때도 많다. 며칠 안 썼는데도 불구하고, ChatGPT에서 원하는 답이 안 나오면 구글에서 찾기가 귀찮다는 생각이 들었다. 의존적으로 쓰다보면 멍청해질 것 같다는 느낌이 들었다.
소크라테스는 독서를 부정적으로 생각했다. 보다 정확히는 문자로 지식을 전달하는 행위가 위험하게 생각했다고 한다. 문자는 죽은 지식이고, 독서는 지식을 이해하는 게 아니라 습득하게 함으로써 진리를 추구하는걸 방해한다고 생각했다. ChatGPT를 많이 쓰면 멍청해질 것 같다고 생각하는건 소크라테스가 책의 힘을 제대로 예상하지 못한 것과 비슷한걸까?
---
ChatGPT tmi
1. ChatGPT는 유료다. 우리가 가입하자마자 사용할 수 있는 이유는 처음 가입할 때 18달러어치 크레딧을 제공하기 때문이다. 비용은 1000 token에 0.02달러. token은 NLP(Natural Language Processing, 자연어처리)에서 사용하는 개념인데, 1 token은 약 0.75 단어 또는 알파벳 4글자정도 된다고 한다. 무료 크레딧을 다 사용하려면 약 675,000 단어를 주고받아야 하기 때문에, 다 쓰기는 쉽지 않다.
2. 웹페이지가 아니라 CLI(command-line interface)로 ChatGPT를 이용할 수 있다. CLI로 쓰면 웹페이지와 다르게 temperature라는 파라미터를 사용할 수 있다. 무작위성을 조절하는 파라미터로, 0부터 1 사이의 값으로 설정할 수 있다. 0으로 설정하면 무작위성을 없애서 같은 질문에 같은 대답을 하고, 1은 다양한 대답이 나올 수 있다. 일정한 대답이 나와야 할 때는 0으로 설정하면 되고, 이름을 추천받는 것처럼 창의성이 필요할 때는 크게 설정하면 된다. ChatGPT 웹페이지는 0.7로 세팅되어있다고 한다. (이것도 ChatGPT가 알려줬다.) CLI로 api를 사용하는 방법이 궁금한 분들은 openai document를 참고하세요 :)
3. GPT-3의 모델은 하나가 아니라 네 가지이다. 모델 이름은 각각 Ada, Babbage, Curie, Davinci인데, 뒤로 갈수록 더 정확한 대답을 내놓는 무거운 모델이다. 웹페이지는 Davinci를 사용하고 있다. 용도에 따라 더 싸고 빠른 다른 모델을 사용하는 게 적합할 수도 있다고 한다.
