이제는 AI, GPU도 서버리스로
처음에는 반려동물 사진을 넣으면 캔버스 액자에 인쇄 수 있는 퀄리티의 그림으로 바꿔주는 서비스를 기획하고 개발했다. 반려동물의 사진을 각 잡고 스튜디오에서 찍는다면 아주 좋은 퀄리티를 인쇄 가능한 수준으로 찍을 수 있지만, 내 기준 아주 비싸다. 대부분의 사람들은 스마트폰으로 사진을 찍을 테지만 스마트폰에서 찍은 사진은 아무리 퀄리티가 좋아졌다고 하더라도 인쇄할 수준은 되지 않는다. 그래서 이용한 기술이 svg 최적화 기술이다. svg는 벡터그래픽으로 아무리 확대를 해도 깨지지 않는 특징이 있다. 인쇄에 매우 적합한 형식이다. 그래서 반려동물 사진의 배경을 먼저 AI로 날려주고 svg로 변환을 한 다음 인버스 렌더링 작업을 하는 AI를 통해 svg를 최적화해주었다. 너무 어렵다. 이렇게 기술개발을 하고 사용하는 기술이 많다 보니 서비스로 제공하기 위해 돌아가야 하는 최소 서버만 4대였다. 캔버스에 인쇄해 주는 서비스였기 때문에 캔버스를 제작해야 했다. 일반 업체에 맡기자니 내 성에 차지 않았다. 캔버스를 제작할 수 있는 설비도 갖췄다. 아득해졌다. 그러던 도중 스테이블 디퓨전이 등장했다.
스테이블 디퓨전은 일반 사용자용 컴퓨터에서도 돌아갈 수준으로 작은 AI 모델이지만 아주 좋은 성능으로 이미지 생성 AI의 판도를 바꿨다. 심지어 오픈소스로 공개되어 너도나도 수정할 수 있었다. 거기에 드림부스라고 하는 기술을 얹으니 커스텀도 가능해졌다. 거기에 이미지 업스케일링 AI를 더해주니 인쇄도 가능한 퀄리티가 되었다. 후... 좋다. 피벗이다.
아니나 다를까 발 빠르게 움직인 사람들이 드림부스를 이용한 AI 아바타 제작 서비스를 내놓았다. 나도 늦었지만 피벗을 통해 비슷한 서비스를 개발하고자 했다. 그래도 시작한 아이디어 끝맺음은 해야겠다는 생각이었다.
AI 기술이 어느 정도 이용할 정도로 개발이 되고 프론트, 백엔드가 어느 정도 됐을 때 AI 서버가 화두로 떠올랐다. 원래는 사무실에 있는 서버를 사용할 생각이었지만 전기가 생각보다 자주 끊겨 집에 갔다 오면 컴퓨터가 꺼져있는 경우가 허다했고 인터넷도 간헐적으로 끊겼다. 이는 치명적인 결함이기 때문에 클라우드를 사용하기로 했다.
어차피 확장성을 위해 컨테이너를 기반으로 개발을 해놓았기 때문에 클라우드로의 이주는 어렵지 않았다. 문제는 지갑사정이었다. 얼마나 많은 사람들이 이용할지 예측도 안되고 아무도 이용하지 않을 경우 월세처럼 고정비용이 나가기 때문이었다. 이미 구입한 서버는 전기비, 인터넷비만 내면 되지만 안정적이지 못했다. 에이 그 클라우드 고정비용 그냥 내면 되는 거 아니냐 물을 수 있다. 내 기준 상당히 비싸다. 아마존 웹서비스에서 가장 저렴한 GPU를 이용했을 때 아무것도 안 해도 최소 고정비용 80만원이 든다. 단 1대의 비용이다. WOW. 아마존 웹서비스 매출과 영업이익은 근거 없는 것이 아니었다. 대안을 찾아 떠나야 했다.
원래 사용자가 없을 수도 있는 서비스를 개발할 때 고정비용을 줄이기 위해 서버리스 기반으로 구축하는데, 서버리스는 고정적으로 내 전용 서버를 주는 것이 아니라 요청이 있을 때마다 컴퓨터를 켜서 해당 요청을 처리해 주고 다시 끄는 것으로 사용하지 않는다면 비용이 발생하지 않는다. 하지만 당시 GPU 서버리스는 들어보지도 못했다. 단순 AI 추론 같은 경우 아마존 웹서비스에서 비슷한 서비스를 제공하는 것을 찾긴 했지만 내가 제공하고자 하는 서비스는 단순 AI 추론이 아니었다. AI 모델을 학습시켜 커스텀으로 만들고 다양한 프롬프트로 이미지를 뽑아내서 파일서버에 저장을 해야 한다. 단순 추론보다는 약간 더 복잡하다. 그런데 더 깊게 찾아보니 GPU 서버리스 제공 업체가 있었다. 역시 수요가 있으면 서비스가 있다. 해당 플랫폼에 나의 서비스를 얹어 제공하기로 했다. 약간의 귀찮음과 약간의 시간이 소요되고 이제 서버리스로 AI 서비스를 만들게 되었다.
서버리스로 AI 서비스를 제공하게 되면 얻을 수 있는 아주 큰 장점이 있다. 바로 1번의 서비스를 제공할 때 드는 비용을 비교적 정확히 책정할 수 있다는 것이다. 쓸 때만 나가는 구조이다 보니 1번 제공할 때의 드는 시간에 시간당 비용을 곱하면 꽤나 정확하게 비용이 계산된다. 물론 사용자가 많고 서버를 구동할 때보다는 기본비용은 비싼 편이다. 하지만 아무도 안 쓴다면 비용이 0이라는 메리트가 나에게는 아주 크게 다가왔다. 물론 많이 사용하게 되어 서버를 호스팅 하게 되었으면 좋겠다.
서비스의 이름은 반려묘 레이와 반려견 몽순이를 따서 레이몽이다. 반려동물의 사진을 8~20장 정도 넣으면 AI가 다양한 스타일과 컨셉으로 200장의 그림을 그려준다.