AI・ML 개발자가 되는 법

나는 AI엔지니어입니다

by 뭅즤

AI 개발자가 되는 법을 검색하면 공식처럼 등장하는 리스트들이 있다. 머신러닝의 기초, 선형대수와 통계학, 파이썬 숙련도, 논문 이해 및 구현 능력, 그리고 Kaggle 입상 경력까지. 최근에는 파운데이션 모델의 활용 능력이나 AI Agent 분야의 중요성도 급격히 커지고 있다.


하지만 AI/ML 분야는 더 이상 하나의 직무로 정의되지 않는다. 기술의 성숙도에 따라 직무는 더욱 세분화되고 있으며, 각 역할에 요구되는 역량 또한 상이하다.


1. AI/ML 직군의 스펙트럼

AI/ML 직군은 연구(Research)와 제품(Product/Engineering) 중 어디에 초점을 맞추느냐 따라 직무가 나뉜다. 물론 직무명 만으로 업무가 정해지는 것은 아니며, 각 직무별로 업무가 명확히 나뉘어 있는 것은 아니다.

Research Scientist (RS): 새로운 알고리즘 제안 및 논문 출판, 수학적 증명, 논문 작성 등 비교적 아카데믹한 업무 수행

Research Engineer (RE): 최신 논문 구현 및 대규모 모델 학습, 분산 학습 인프라, 효율적인 모델링 등의 업무 수행

ML Engineer (MLE): ML 모델 개발&서빙, 최적화 및 시스템 통합, 소프트웨어 엔지니어링, 추론 가속화

MLOps Engineer: ML 파이프라인 자동화 및 인프라 관리, CI/CD, 데이터 엔지니어링, 모니터링

AI Agent Engineer: LLM 기반의 자율적 워크플로우 설계, Prompt Engineering, API 연동, RAG


Research Scientist/Engineer가 연구 개발 분야에 집중한다면, MLE나 AI Agent Engineer는 모델을 실제 서비스에 녹여내어 가치를 창출하는 Product 중심의 역할을 수행한다. 또는 도메인에 따라 Computer Vision Engineer, LLM Engineer 와 같은 직무명을 사용하기도 한다.


2. 단계별 성장 로드맵

AI/ML 엔지니어가 되기 위한 과정을 조금 더 풀어서 살펴보자.


[1단계] Core Fundamentals

어떤 도메인이나 직무를 선택하든 변하지 않는 본질적인 역량이다. 이 단계에서 흔들리면 복잡한 논문이나 실무 코드의 로직을 이해하는 데 한계가 온다.

수학: 미적분, 선형대수, 확률 및 통계

CS 기초: 자료구조, 알고리즘, 운영체제(메모리 관리).

프로그래밍: Python, PyTorch/TensorFlow 등 딥러닝 프레임워크

ML/DL 기초: Gradient Descent, Backpropagation의 수식적 이해


[2단계] Domain Specialization

기초를 다진 후에는 특정 분야의 전문가가 되기 위한 도메인 지식을 쌓아야 한다. 각 도메인마다 사용하는 아키텍처와 평가지표가 상이하다.

Computer Vision: 이미지 분류, 객체 탐지, 생성 모델(Diffusion) 등

NLP: Transformer 기반 LLM, Multi-modal LLM 등

기타: Robotics(제어, 강화학습), Time Series(시계열 예측), RecSys(추천 시스템), Medical AI 등.


[3단계] Practical Experience

이론과 도메인 지식을 실제 결과물로 연결하는 단계이다. 단순히 코드를 실행해 보는 것을 넘어, 성능을 최적화하고 문제를 해결하는 과정이 포함된다.

토이 프로젝트: 간단한 문제를 해결하기 위한 AI/ML 모델 및 파이프라인 구현 경험

논문 구현: 최신 SOTA 논문을 직접 코드로 구현하여 베이스라인 성능 재현.

엔지니어링 최적화: 대규모 데이터 처리(Ray, Spark), 분산 학습, 모델 경량화 등


AI 엔지니어링은 기술 변화 속도가 가장 빠른 분야 중 하나이다. 따라서 무엇을 아는가보다 어떻게 스스로 학습하는가가 더 중요하다. 탄탄한 기초 공부를 바탕으로 본인만의 도메인을 선정한 뒤, 반복적인 실무 경험을 통해 엔지니어링 근육을 키워야 한다. 최근의 트렌드인 Foundation Model과 Agent 기술 또한 결국 이러한 기초 위에서 탄생한 응용 기술일 뿐이다. 본질에 집중하되 변화에 유연하게 대처하는 태도가 최고의 경쟁력이 된다.


3. 기술 스택 너머

많은 이들이 앞서 언급한 체크리스트를 하나씩 지워나가며 'AI/ML 엔지니어'라는 타이틀에 다가간다. 하지만 막상 현업의 문을 열고 들어선 이들은 곧 당혹감에 빠지곤 한다. 실제 필드에서는 튜토리얼이나 강의에서 가르쳐주지 않는 지극히 현실적인 문제들이 기다리고 있기 때문이다.


AI 공부와 '직업'으로서의 개발 사이의 간극

현재 AI/ML을 배우기 위한 자료는 이미 세상에 넘쳐난다. 최신 SOTA 알고리즘을 소개하는 유튜브와 유료 강의는 클릭 몇 번이면 만날 수 있다. 그러나 AI 기술을 개발하는 일을 '직업'으로 삼았을 때 어떤 경험을 하게 되는지, 어떤 고통스러운 고민의 과정을 거쳐야 하는지에 대한 정보는 상대적으로 부족하다.


모델의 성능을 향상시키는 방법은 알아도, 비즈니스 요구사항과 인프라의 기술적 한계 사이에서 어떻게 최선의 타협점을 찾아야 하는지 가르쳐주는 곳은 없다. 실제 업무에서는 정제되지 않은 데이터의 막막함, 공들여 만든 모델이 실제 서빙 환경에서 무용지물이 될 때의 허무함, 그리고 자고 일어나면 바뀌어 있는 기술 패러다임 속에서 느껴지는 소외감이 공존한다. 이것이 AI 엔지니어가 매일 마주하는 진짜 현실이다.


진짜 AI 개발자가 된다는 것의 의미

단순히 파이썬 코드를 짜고 GPU를 돌려 모델을 학습시키는 행위만으로는 'AI 엔지니어'라는 직무를 온전히 설명할 수 없다. 진정한 의미의 AI 개발자가 된다는 것은 기술과 비즈니스 사이의 회색 지대에서 문제를 정의하고 풀어가는 과정 그 자체를 즐기는 것을 의미한다.

실현 가능한 프로젝트를 선별하는 안목: 모든 비즈니스 문제가 AI로 풀리는 것은 아니다. 기술적 환상에 매몰되지 않고 현실적인 비즈니스 가치와 비용 대비 효율을 냉정하게 판단할 수 있어야 한다.

변화에 대응하는 유연한 태도: 어제의 정답이 오늘 오답이 되는 분야다. 새로운 파도를 두려워하지 않되, 유행에 휩쓸리지 않고 자신만의 기술적 뿌리를 단단히 내리는 중심이 필요하다.

커리어의 확장성과 자기 객관화: 단순히 연차가 쌓이는 것을 넘어, 내가 어떤 문제를 해결하는 전문가로 정의될 것인지 끊임없이 고민해야 한다. 이는 단순히 도구를 다루는 숙련도를 넘어선 문제이다.




『나는 AI 엔지니어입니다』

이런 갈증과 고민을 가진 이들에게 하나의 구체적인 참고서가 될 기록을 소개한다. 필자가 현업에서 직접 부딪히며 깨달은 경험과 고민을 담은 책,『나는 AI 엔지니어입니다』이다.


이 책은 단순히 알고리즘을 설명하는 기술서가 아니다. AI/ML 분야에 발을 들이려는 입문자부터, 이미 이 길 위에서 다음 방향을 고민하는 실무자들을 위한 현실적인 가이드북이다.


AI 기술을 기반으로 일하며 성장해 온 사람들의 이야기는, 지금 당신이 가진 막연함을 확신으로 바꿔줄 구체적인 힌트가 될 것이다. 넘쳐나는 강의 속에서 정작 '어떻게 살아야 할지' 고민이라면, 이 책이 조금이라도 도움이 되길 바란다.

매거진의 이전글AI/ML 입문자를 위한 학습 자료