실리콘밸리와 국내 기업과의 차이점?
구글(Google) 본사 유튜브(YouTube) 팀에서 소프트웨어 엔지니어로 일하고 있는 정종현 엔지니어와 함께 인터뷰를 진행했다. 정종현 엔지니어는 코넬대학교(Cornell University)에서 컴퓨터공학 학사와 석사 학위를 받았으며, 현재는 머신러닝 인프라(ML Infrastructure)와 대규모 데이터 처리(Large-scale Data Processing)를 전문으로 하고 있다.
그는 주로 거대 언어 모델(LLM)과 심층 신경망(DNN)을 활용해 유해 콘텐츠를 분류하고, 유튜브 플랫폼의 신뢰성과 안전성을 높이는 시스템을 구축하는 업무를 담당하고 있다. 아래는 정종현 엔지니어와 함께 진행한 인터뷰 내용이다.
Q. 정종현 엔지니어님께서는 코넬대학교 컴퓨터공학 학사, 석사를 졸업하신 후 어떤 과정들을 거쳐 이런 커리어를 만들어 나가게 되셨을까요? 자세한 설명 부탁드립니다.
사실 저는 처음부터 컴퓨터공학을 전공했던 것은 아닙니다. 코넬대학교에 처음 입학했을 때는 인류학으로 시작해 1학년 때 경제학으로 전공을 바꿨습니다. 이후 한국에서 군 복무를 마치고 학교로 돌아온 뒤에야 비로소 컴퓨터공학으로 전공을 변경하게 되었습니다.
남들보다 늦게 코딩을 시작했기 때문에 초기에는 적응하는 데 꽤 어려움을 겪었습니다. 첫해에는 전공 수업에서 좋은 학점을 받기 힘들 정도로 고전했지만, 이를 극복하기 위해 많은 남들보다 많은 시간을 매달리며 기본기를 다졌습니다.
학업 외에도 다양한 실무 경험을 쌓으려 노력했습니다. 삼성리서치에서는 자연어 처리(NLP) 기반 기계 번역 모델 연구에 참여했고, AI 에듀테크 스타트업 뤼이드(Riiid)에서는 사용자 점수 예측 모델을 경량화하고 최적화하는 업무를 수행하며 실무 역량을 키웠습니다. 또한, 대학 시절 여성 의류 이커머스 플랫폼인 'poner:se'를 직접 창업하여 운영하면서 웹사이트 구축뿐 아니라 트래픽 분석, A/B 테스트 등 데이터 기반의 비즈니스 감각을 익혔습니다.
구글 입사는 조금 독특한 경로로 이루어졌습니다. 취업 준비 당시, 오픈 채팅방에서 우연히 알게 된 현직자분께 연락을 드려 커피챗을 요청했고, 그 인연이 추천 채용(Referral)으로 이어져 인턴 기회를 얻게 되었습니다. 인턴십 과정에서 좋은 성과를 인정받아 정규직으로 전환되었고, 현재는 유튜브에서 엔지니어로서의 커리어를 이어가고 있습니다.
Q. 대규모 컨텐츠 분류를 위한 거대 언어 모델(LLM) 인프라를 개발했고 단순한 모델 및 프롬프트 튜닝을 넘어, 실제 서비스 환경에서 발생할 수 있는 대규모 트래픽과 데이터를 안정적으로 처리하는 엔드 투 엔드(End-to-End) 시스템을 설계했다고 들었는데 자세한 설명 부탁드립니다.
유튜브처럼 1분마다 500시간 이상의 영상이 업로드되는 거대한 플랫폼에서는 단순히 모델의 성능을 높이는 것만으로는 부족합니다. 하루 수억 건 이상의 트래픽을 처리해야 하는 초고용량 환경에서는 비용과 지연 시간(Latency)을 낮추는 것이 필수적입니다.
제가 구축한 시스템은 단순히 LLM에게 질문을 던지고 답을 받는 것에 그치지 않습니다. 비디오 데이터를 샘플링하는 단계부터, 효과적인 프롬프트 튜닝, 여러 모델에서 나온 라벨의 통합, 그리고 최종 점수 보정(Calibration)에 이르기까지 전체 파이프라인을 아우르는 '엔드 투 엔드(End-to-End)' 시스템입니다.
특히, 비정형 비디오 데이터를 분석하기 위해 구글의 Gemini 모델을 활용하면서도, Spanner 기반의 데이터 저장소와 맞춤형 집계 로직을 결합해 시스템의 안정성을 확보했습니다. 이를 통해 기존에는 사람이 수동으로 검증해야 했던 프로세스를 사람과 유사한 정확도를 가진 AI로 자동화하여 운영 효율성을 극대화할 수 있었습니다.
Q. 구글에서 LLM 기반 콘텐츠 분류 파이프라인을 구축하셨는데 어떠한 성과가 있었으며 만들게 된 계기와 과정에 대해 자세한 설명 부탁드립니다.
이 프로젝트를 시작하게 된 가장 큰 계기는 '확장성(Scalability)'과 '비용 효율성'이었습니다. 기존의 콘텐츠 검열 방식은 사람의 노동력에 크게 의존했기 때문에, 처리할 수 있는 데이터의 양에 한계가 있었고 운영 비용 또한 막대했습니다.
저는 이를 해결하기 위해 독립적인 LLM 기반 콘텐츠 분류 파이프라인을 설계했습니다. 가장 큰 기술적 도전은 실시간에 가까운 속도로 유해 콘텐츠를 걸러내면서도 비용을 절감하는 것이었습니다.
이를 위해 불필요한 연산을 사전에 차단하는 C++ 기반의 고성능 검증 로직을 도입하고, 빔 서치(Beam Search) 기반의 자동 프롬프트 최적화(APO) 기술을 적용해 분류의 정확도를 높였습니다.
그 결과, 이 시스템은 연간 많은 운영 비용 절감 효과를 내고 있으며, 기존 시스템 대비 유해 콘텐츠 탐지 속도를 100배 이상 단축시키는 성과를 거두었습니다.
Q. 실리콘밸리와 국내 기업과의 차이에 대한 설명 부탁드립니다. 일하는 방식에 있어서 어떤 부분이 다를까요?
제가 경험한 바로는 '커뮤니케이션 방식'과 '문제 해결에 대한 접근법'에서 차이가 있었습니다.
국내 대기업(삼성 리서치)에서 인턴으로 근무했을 때는 조직 문화가 다소 수직적이라는 느낌을 받았습니다. 체계적이지만, 인턴으로서 기술적인 성장을 주도적으로 이끌어내기에는 역할이 제한적이라고 느꼈습니다. 반면, 한국의 스타트업(뤼이드)은 굉장히 열정적이었고, 구성원들이 제품이 사용자에게 미칠 영향에 대해 깊이 고민하며 주도적으로 일하는 분위기였습니다.
실리콘밸리, 특히 구글에서의 업무 방식은 '수평적 협업'과 '명확한 의견 개진'을 매우 중요하게 생각합니다. 이곳에서는 단순히 주어진 업무를 수행하는 '예스맨(Yes Man)'이 되는 것은 환영받지 못합니다. 동료나 상사의 의견이라도 기술적으로 더 나은 방향이 있다면 정중하게 반대 의견을 제시하고, 투명하게 자신의 관점을 공유하는 것이 장려됩니다. 성공적인 업무란 단순히 기능을 구현하는 것이 아니라, 팀의 신뢰할 수 있는 파트너로서 우리가 '올바른 문제'를 효율적으로 풀고 있는지 끊임없이 질문하고 소통하는 과정이라고 생각합니다.
Q. 실리콘밸리에서 일하는 사람들은 어떤 특징을 가지고 있는지 궁금합니다.
실리콘밸리의 엔지니어들은 '호기심'과 '문제 해결 능력'을 가장 중요한 덕목으로 여깁니다. 생성형 AI의 발전으로 코딩 자체의 진입 장벽은 낮아졌기에, 단순히 코드를 짜는 능력보다는 시스템 전체를 설계하고 복잡한 문제를 논리적으로 풀어내는 능력이 더 중요해졌습니다.
또한, 소프트 스킬(Soft Skills)이 뛰어납니다. 많은 사람들이 엔지니어는 하루 종일 모니터만 보고 코딩을 하고 있을 거라 생각하지만, 실제로는 시스템 설계, 디버깅, 그리고 타 부서와의 커뮤니케이션에 상당한 시간을 쏟습니다. 따라서 자신의 기술적 결정을 논리적으로 설명하고, 다양한 직군의 동료들과 원활하게 협업할 수 있는 커뮤니케이션 능력을 갖춘 사람들이 많습니다.
Q. 향후 비전과 계획은 무엇입니까?
저의 엔지니어링 철학은 "Reactive to Proactive(사후 대응에서 사전 예방으로)"입니다. 문제가 터진 뒤 수습하는 것이 아니라, 시스템이 스스로 이상 징후를 예측하고 방어하는 능동형 인프라를 만드는 것이 목표입니다.
앞으로 AI 기술이 고도화될수록 'AI 안전성(AI Safety)'과 '데이터 거버넌스(Data Governance)'의 중요성은 더욱 커질 것입니다. 저는 단순히 성능 좋은 모델을 만드는 것을 넘어, 그 AI가 운영되는 플랫폼의 안전성과 신뢰도를 기술적으로 보장하는 리더가 되고 싶습니다. 누구나 안심하고 사용할 수 있는 안전한 디지털 생태계를 설계하는 데 기여하고 싶습니다.
Q. 브랜드뉴스 구독자분들은 경영자분들, 교수님들, 직장인들 등 각 분야 리더분들이십니다. 마지막으로 브랜드뉴스 구독자분들에게 인터뷰 소감 한마디 부탁드립니다.
오늘 저의 이야기를 나눌 수 있어 영광입니다. 불과 몇 년 전만 해도 저는 컴퓨터 공학의 기초를 배우기 위해 고군분투하던 학생이었는데, 지금은 세계 최고의 엔지니어들과 함께 일하며 성장하고 있다는 사실에 항상 감사함을 느끼고 있습니다.
기술은 빠르게 변하지만, 결국 그 기술이 향해야 할 곳은 '사람'이라고 생각합니다. 저 또한 기술을 통해 사람들에게 실질적인 도움을 주고, 더 나은 세상을 만드는 데 기여할 수 있도록 끊임없이 노력하겠습니다. 구독자 여러분께서도 각자의 자리에서 혁신을 통해 세상에 긍정적인 영향을 미치시길 응원하겠습니다. 감사합니다.
