3년 다닌 회사를 그만둔 적이 있다.
나쁜 회사가 아니었다. 월급은 제때 나왔고, 동료는 괜찮았고, 업무도 못할 정도는 아니었다. 문제는 다른 데 있었다. 1년 차에 배운 것을 2년 차에도 하고 있었고, 2년 차에 한 것을 3년 차에도 하고 있었다. 성장 곡선이 평평해진 것이다.
그런데 그만두지 못했다. "3년 투자했는데."
3년이라는 시간이 무거웠다. 여기서 나가면 3년이 낭비가 된다는 공포. 조금만 더 버티면 뭔가 달라지지 않을까 하는 기대.
경제학에서 이걸 매몰비용(sunk cost)이라고 부른다. 이미 투자한 것이 아까워서 계속 투자한다. 영화가 재미없는데 "돈 내고 들어왔으니까" 끝까지 본다. 사업이 안 되는데 "여기까지 왔으니까" 접지 못한다.
AI는 이 실수를 하지 않는다.
조기 종료(Early Stopping)는 AI 학습에서 가장 중요한 기법 중 하나다.
AI 모델이 학습하면 처음에는 성능이 올라간다. 하지만 어느 시점이 지나면 더 이상 올라가지 않는다. 오히려 떨어진다. 과적합이 시작된 것이다.
조기 종료는 이 시점을 감지해서 학습을 멈춘다. "더 학습해봤자 나아지지 않는다"고 판단되면, 거기서 끊는다. 최종 결과가 아니라 최적의 시점을 선택하는 것이다.
사람은 왜 멈추지 못할까.
첫째, 매몰비용. 이미 투자한 시간이 아깝다. AI의 관점에서 보면, 과거에 100시간을 학습했든 1,000시간을 학습했든, 지금 성능이 정체되어 있으면 멈추는 게 맞다. 과거의 투자량은 미래의 판단에 영향을 주지 않는다.
둘째, "조금만 더" 증후군. AI에도 patience라는 파라미터가 있다. 성능이 안 올라가도 몇 번은 기다려본다. 하지만 patience가 다 소진되면 미련 없이 멈춘다. 인간에게 이 patience가 무한대로 설정되어 있는 게 문제다.
셋째, 멈추는 것을 실패로 인식한다. "끝까지 해봐야 한다" "포기하면 안 된다." AI에서 조기 종료는 포기가 아니다. 최적화다.
그만둘 때를 아는 기준이 있을까.
AI의 조기 종료가 쓰는 기준은 "검증 손실(validation loss)"이다. 훈련 데이터가 아니라 본 적 없는 데이터에서의 성능을 본다.
사람에게 "검증 손실"은 뭘까. 나는 이렇게 번역한다. "이 일을 계속했을 때, 나의 다른 영역에서 손해가 나고 있는가?"
연봉은 오르고 있지만 건강이 나빠지고 있다면? 훈련 성능은 올라가는데 검증 성능이 떨어지는 것이다. 매출은 늘고 있지만 가족과의 관계가 무너지고 있다면? 같은 구조다.
한 가지 지표만 보면 "계속해야 해"라는 결론이 나온다. 하지만 검증 데이터 — 내 삶의 다른 영역 — 를 동시에 보면, 멈춰야 할 시점이 보인다.
그만두는 것에도 기술이 있다.
AI의 조기 종료는 "지금까지의 최고 성능 모델을 저장"한 뒤에 멈춘다. 과적합 이전의 최적 상태를 보존한다.
사람에게 이건 이렇다. 그만두되, 거기서 배운 것은 가져간다. 3년 다닌 회사를 그만두는 건 3년을 버리는 게 아니다. 기술, 인맥, 판단력은 내 안에 저장되어 있다.
조기 종료의 핵심은 "모든 걸 잃는다"가 아니라 "최적의 상태를 보존한 채로 멈춘다"는 것이다.
타이밍이 가장 어렵다.
기준을 미리 정해두면 도움이 된다. "6개월 뒤에도 같은 상태라면 그만둔다." "3번 더 시도해서 안 되면 방향을 바꾼다." 이걸 감정이 개입하기 전에 정해놓는다. AI의 patience처럼.
감정적으로 지쳐 있을 때 내리는 판단은 정확하지 않다. 기준은 냉정할 때 세워두고, 판단은 기준에 맡긴다.
정리하면 이렇다.
하나. 더 한다고 더 좋아지지 않는다. 성장 곡선이 평평해졌으면, 그게 멈출 신호다.
둘. 매몰비용에 속지 마라. 중요한 건 "지금부터 더 해서 나아지는가"이다.
셋. 그만두는 건 실패가 아니라 최적화다. 최고의 상태를 저장한 채로 멈추는 것.
넷. 기준을 미리 정하라. patience를 설정해두고, 감정이 아니라 기준이 판단하게 하라.
AI가 끝까지 학습하면 과적합에 빠진다. 사람이 끝까지 매달리면 번아웃에 빠진다. 최적의 시점에 멈추는 것이 최적의 결과를 만든다.
그만둘 줄 아는 것은 나약함이 아니다. 가장 정교한 형태의 판단이다.