Silver Bullet vs Occam's Razor

Step by step, nothing impossible

제가 요즘 GPT와 같은 LLM(Large Language Model)전단계에 새로운 메타레이어를 가지고 질문을 설계하는 AI모델을 개발중입니다. 일반개인들도 자신의 Device에서 직접 사용할 수 있도록 작은 sLLM(small Language Model)의 아키텍처를 설계해서 파이썬으로 직접 코드를 짜고 테스트버전까지 만든후, 현재 MVP개발중인데요.

우선은 범용모델을 먼저 만들고 산업별/서비스별 알고리즘을 따로 개발하려고 하는데, 저희같은 작은 스타트업 규모에서 개발로드맵상 마일스톤을 달성하기가 쉽지 않네요.

일을 하다가 어렵고 힘든 난제들이 생기면 뭔가 '한 방'에 해결하고 싶은 욕망이 굴뚝처럼 치솟습니다. 마법같은 Silver Bullet이나, 한 칼에 문제를 해결하는 '오컴의 면도날'을 본능처럼 찾게 되는데요.

곰곰이 생각해보니 Silver Bullet은 'How to act' 중심이고, Occam's Razor는 'How to think'가 중심이네요. 두 가지가 상충되지 않고 상호보완적이라 적절한 해법을 믹스하면 좋겠다는 생각이 들었습니다.

그러나, 쉽게 해법이 안보이는 현실에 직면하다보면, 이런 두 가지 방법들은 천재나 운좋은 사람들의 결과론적 해석이 아닐까 싶어, 그냥 한발 한발 마음을 다잡고 소처럼 우직하게 걸어야겠다는 다짐을 하면서 구조와 코드를 짜고 있습니다.

힘들고 어렵다고 느낄 때면 "Step by step, nothing impossible"이라는 주문을 외워봅니다 ~.~

더운 날씨, 다들 화이팅하시길 바랍니다.

-상처입은치유자 올림-