AI 흐름에 따라가기
요즘 AI의 성장 속도가 엄청나다. AI 중에서도 LLM이라고 불리는 챗봇 형태의 언어 모델이 벌써 내가 하는 일의 많은 부분을 대체하기 시작했다. 어디를 가도 모두가 LLM에 대해서 이야기한다.
뒤처지지 않기 위해 계속해서 AI 도구들을 사용해보고 있다. 작년 초 정도만 해도 꽤 흥미롭다고는 생각했지만, AI가 생산하는 코드들을 전부 믿을 수가 없었다. 가끔 너무 큰 실수를 한다거나, 아니면 내가 원하는 대로 하지 않아서 계속 명령어를 바꿔보거나 하는 경우가 많았다. 그럴 때는 오히려 시간이 더 소모되는 경우가 많아서 잘 사용하지 않게 되었다. 그러다 보니 Cursor의 탭 기능 정도만 이용하면서 "좀 더 좋은 자동 완성" 정도로 사용했다. 이 정도만 해도 생산성의 20%는 상승한 느낌이었다.
그러다가 최근 몇 달간은 클로드 코드의 사용량이 상당히 증가했다. 사이드 프로젝트에서는 코드 작성 없이 프롬프트 만으로 코드 짜기를 해보고 있는데, 꽤 잘 된다. 돌려놓고 기다리는 시간이 아까워서, 두 가지 다른 성격의 프로젝트를 동시에 진행하고 있다.
업무에서도 작성하는 코드의 50%는 클로드가 작성하는 것 같고 (대신 업무용으로 사용할 때는 모든 코드를 꼼꼼히 리뷰한다), 모르는 코드가 있을 때는 클로드에게 분석을 시켜놓고 동시에 코드를 읽는다. 디버깅을 할 때도 클로드에게 동시에 시켜놓는다. 간단한 버그는 쉽게 고치고, 내가 못한 디버깅을 해내는 경우도 간혹 있다.
지금까지 느낌으로는 주니어 개발자 정도는 되는 것 같다. 정말 뛰어난 코드를 만들어내는지는 잘 모르겠어도, 얼추 돌아가는 정도의 코드는 만들어낸다. 특히나 테스트 코드같이 패턴이 있고 작성하기 귀찮은 코드를 위해 사용할 때 딱이다. 그리고, 역설적이게도 정말 평균적인 코드를 만들어내기 때문에, 코드 리뷰를 받을 때도 좀 더 편한 감이 있다. 누구나 이해할 법한 방법으로 구현하는 경우가 많아서 다른 사람들이 이해하기에도 좀 더 쉬운 코드를 만들어 내는 것 같다.
하지만 당연히 아직 완벽하지는 않다. 여전히 혼자 코드를 지워버리는 일이 간혹 있고, 고쳐지지 않은 버그를 고쳤다고 하기도 한다. 혹은, 프롬프트를 길게 자세히 작성해서 줘야 하거나, 보충 설명을 해주느라 시간을 너무 많이 잡아먹는 경우도 있다. 그 시간에 내가 직접 처리하는 게 더 빠른 경우도 많다.
그럼에도 계속 시도해보고 있는 건 AI가 무엇을 잘하고 어떤 한계점이 있는지 느껴보기 위해서다. 지나치게 비관적으로 바라보지도 않고, AI hype에 휩쓸리지 않기 위해서는 직접 해보는 수밖에 없다.
얼마 전 구글의 한 엔지니어가 링크드인에 올린 글이 화제가 된 적이 있었다. 구글에서 일 년 동안 진행한 프로젝트를 AI가 한 시간 만에 같은 결과를 냈다는 이야기. 이것만 들으면 마치 AI가 엄청 뛰어나서 구글 엔지니어를 능가한 것처럼 들린다. 하지만 실상은 구글 엔지니어들이 여러 가지 옵션과 레거시들을 고려하느라 1년 동안 수많은 디스커션을 했을 거고, 실제 구현은 길지 않았을 거다. 아마 AI는 그냥 가장 평범한 방법을 제시했을 거고, 구글 엔지니어들은 돌고 돌아 그 가장 평범한 방법을 채택했을 거다. AI도구들을 사용해 본 경험과 그동안 들려온 구글의 문화를 고려해 보면 후자일 가능성이 훨씬 높다. 그 이야기로 알 수 있는 건 AI의 대단함보다는 구글의 업무 방식이 옳은가에 대한 생각이다.
회사의 업무도 조금씩 바뀌어 가는 게 느껴진다. 가장 크게 느껴지는 부분은 TL의 코드 짜는 속도가 상당히 빨라졌다. 그로 인해서, 나한테 내려오는 업무가 점점 줄어들고 있다. 이전 같았으면, 일이 쌓여 있어서 팀원들한테 분배했어야 할 일들이, 그냥 TL이 혼자 LLM의 도움과 함께 후다닥 처리해 버린다.
내가 일을 할 때도 코드를 직접 짜는 시간이 많이 줄었다. 원래라면 한 가지씩 집중하면서 코드를 완성해 내고 다음 일로 넘어가는 식의 반복이었을 텐데, 요즘은 먼저 클로드 코드에게 초벌작업을 시켜놓고, 그동안 다른 일들을 쳐낸다. 그리고 동시에 클로드 코드를 잘 가이드해서 마무리하거나, 직접 코드를 작성해 마무리하기도 한다. 그러다 보니, 동시에 진행하는 일의 수가 너무 많아져서 산만하다. 원래라면 2-3개 정도의 일을 잡고 차근차근 쳐냈을 텐데, 요즘은 10가지 정도의 일이 동시에 돌아가고 있는 것 같다.
그러다 보니 자연스럽게 PR 리뷰 요청량이 많아지는 게 느껴진다. 요즘은 구현보다 리뷰를 받는 부분에서 병목이 훨씬 심해지는 것 같다. 이 부분도 AI를 통해 조금은 해소되고 있지만, 최종적인 승인은 사람이 하기 때문에 해결하기가 쉽지 않을 것 같다.
그래서 점점 "어떻게" 하는 것보다는 "무엇을" 할지가 중요해진다. 원래는 주니어에서 시니어로 가면서 차차 알게 되는 것들인데, 요즘은 같은 직급일지라도 일의 성격이 점점 바뀌고 있는 것 같다. 이제는 구현을 빠르고 정확하게 해내는 것보다는, 사람들을 설득하고 상황을 잘 판단하는 능력이 훨씬 더 중요해지고 있다.
하지만 나는 일을 빠르고 정확하게 하는 게 내 최대 장점이자, 내가 가장 즐겨하는 부분이었다. 원래는 승진 걱정도 별로 없었고, Planning보다는 Execution에 집중하고 싶었다. 왜냐하면 몇몇 회사의 Staff Archetype 중에 코드 머신이라는 게 있는데, 그냥 코드를 빠르고 정확하게 압도적으로 많이 커밋할 정도의 능력이 되면 승진시켜 주는 경우가 있었다. AI를 쓰기 전에도 수치상으로는 회사 상위 5-10% 정도에 들고 있었다. 그래서 이쪽 길을 향해 나아가고 있었는데, 아무리 봐도 코드 머신은 진짜 기계에게 대체될 것 같다.
10여 년 전 처음 접했던 딥러닝은 신기하고 재미있긴 했지만, 그저 통계적인 접근 방법이기 때문에 한계가 명확할 것이라고 생각했다. 과거에 반복되었던 패턴을 학습하고 그것을 따라 할 뿐, 어떤 새로운 무언가를 해내지는 못 할 것이라고 생각했다. 정확도 99%의 알고리즘은 만들 수 있겠지만, 정확도 100%는 영원히 만들어내지 못할 것이라고 봤다. 내가 컴퓨터에 빠졌던 것은 컴퓨터는 항상 정확한 답을 내놓는다고 믿는 환상 때문이었는데, 그 환상을 채워주지 못하는 딥러닝은 매력이 떨어졌다.
사실 지금의 LLM도 그때와 크게 다르지 않다. 그저 지금까지 주어진 단어들을 보고 다음 단어를 예측할 뿐이다. 트랜스포머가 세상에 처음 등장했을 때 신기해서 가지고 놀아봤다. 논문을 보고 다시 처음부터 차근차근 만들어보기도 하고, 작은 디테일도 모두 찾아내기 위해 노력했던 기억이 난다. 하지만, 그런 단순한 방식으로 이 세상의 지식을 모두 "이해" 할 수는 없을 거라고 생각했다. 그저 수많은 정보를 뉴럴 네트워크 안에 압축해 놓은 것뿐이라고 생각했다. 물론, 그건 그거대로 가치가 있었지만, 이걸 "이해" 하고 "추론" 한다고 할 수 있는가에 대한 의문이 있었다.
그러다 어느 날, ChatGPT라는 것이 등장했다. 놀랍지는 않았다. 이미 트랜스포머가 그 정도까지는 할 수 있다는 건 알았다. 그냥 "스케일만 키우면 잘 되는구나. 돈 많네." 정도의 생각이었다. 이런 방식은 내 자리를 위협하기에는 본질적인 한계가 있다고 생각했다. 결국 평균으로 수렴한다는 것. 그냥 대화의 패턴을 파악하고, 가장 많은 사람들이 할 법한 말들을 그럴듯하게 해낸다. 전문가의 데이터는 상대적으로 적을 것이기 때문에 따라 하기 힘들지 않을까 하는 생각이 있었다.
내가 한 가지 예상하지 못했던 것은, 코딩이나 수학처럼 정답을 검증 가능한 분야에서 강화학습을 통해 훨씬 더 논리적인 모델을 만들 수 있다는 것이었다. 물론 이론은 알았어도, RL 학습 과정이 많이 불안정 하기 때문에, 실제로 가능할지에 대해서는 의구심이 많았던 것 같다. 결국 Anthropic의 Opus 모델을 보면 어느 정도 특이점을 돌파한 것 같다.
이 정도까지 되면 이제 나와 딥러닝의 차이가 무엇인지 잘 모를 지경까지 왔다. 빠른 피드백 루프를 만들어서 빠르게 검증한 뒤 빠른 실행을 하는 것. 그게 나의 장점이었는데, 이제 조만간 다른 일을 찾아야 할 것 같다. 앞으로 컨텍스트를 잘 압축하는 기법과 장기기억만 잘 설계하면 나정도는 뛰어넘을 수 있을 것 같다.
아직 어느 방향을 향해 나아가야 할지는 찾지 못했다. 지금 당장은, AI에게 자리를 빼앗기기 전에 최대한 돈을 모아둬야겠다는 생각뿐이다. 그러고 나서는, 이제 정말 1인 창업이라도 해야 하나 생각하고 있다.
지금 당장은, 그저 AI의 발전이 느려지기를 기도하면서, 동시에 뒤처지지 않기 위해서 최대한 활용을 하려고 노력할 뿐이다.
