반도체 ALD와 AI
데이터가 증착을 이끄는 시대
원자 단위 정밀도를 데이터로 제어하는 시대입니다
원자층 증착(Atomic Layer Deposition, ALD)은 오늘날 반도체 제조에서 가장 ‘미세한’ 공정 중 하나입니다. ALD의 본질은 두 가지 전구체를 교대로 주입해 표면에서만 일어나는 자기제한적 반응(self-limiting reaction) 으로 한 번에 원자층 수준의 박막을 성장시키는 데 있습니다. 이 방식은 고종횡비 구조의 측벽까지 균일한 막 두께와 조성을 확보할 수 있어, 핀펫(FinFET)에서 게이트올어라운드(GAA)로, 평면 낸드에서 300단 이상의 3D 낸드로 넘어가는 공정에서 사실상 필수 인프라로 자리잡았습니다. ALD의 원리·역사는 수많은 리뷰로 정리되어 있으며, ‘원자적 정확도’ ‘높은 피복성(conformality)’이 핵심 경쟁력으로 반복해서 강조되어 왔습니다.
ALD가 각광받는 이유는 단지 균일한 박막을 얻기 때문만이 아닙니다. 한 주기(cycle)마다 성장되는 두께(GPC: growth-per-cycle)를 nm(혹은 Å) 단위로 미세하게 제어할 수 있어 유전체 두께, 게이트 금속 조성, 배리어/라이너 층의 연속성 같은 민감한 파라미터를 정량 설계할 수 있습니다. 대표적으로 TMA–H₂O 공정을 통한 Al₂O₃, 하이-k(HfO₂·ZrO₂) 유전체, TiN·WN·Ru·Co 계열의 배리어/라이너, W·Al 계열 금속 충전 등은 공정과 재료 포트폴리오의 ‘표준 레퍼토리’가 되었습니다. 이러한 원자 단위의 예측가능성은 미세화로 갈수록 클수록 비싸지는 공정 윈도우에서 설계자·공정자 모두에게 강력한 안전장치가 됩니다.
최근 10년간 ALD의 두 번째 진화는 공간 분리형(spatial)·대기압형(sALD) 과 같은 변형 아키텍처의 확산입니다. 시간 분리형(pulsed) ALD가 갖는 처리량 한계를 줄이기 위해 전구체를 ‘시간’이 아니라 ‘공간’으로 분리해 기판을 연속적으로 이동시키는 방식이 연구·상용화되며, 대면적·고처리량 요구를 받는 디스플레이, 배터리, 패키징 분야에서 활용 폭이 넓어지고 있습니다. 본질은 동일한 ALD 화학이지만 장비·가스공급·시일(seal) 설계가 달라지면서 생산성 곡선이 개선되는 흐름입니다.
세 번째 진화는 선택적 증착(Area-Selective ALD, AS-ALD) 입니다. 패터닝이 더 어려워질수록 “증착을 하지 말아야 할 곳을 막는” 기술이 중요해집니다. 표면 화학의 차이를 이용해 특정 표면에는 성장하고, 다른 표면에는 성장을 억제하는 바텀업 패터닝은 식각·마스크 공정 부담을 줄이며 자기 정렬(self-aligned) 공정으로의 전환을 돕습니다. 억제제(inhibitor), 자기조립 단분자(SAM), 플라즈마 조성 제어 등 다양한 경로가 보고되었고, 2D 소재나 서브-10 nm 스케일에서의 정밀 제어도 빠르게 전개되고 있습니다. 선택성 상실(loss of selectivity) 을 막는 표면 안정화 전략과 억제 메커니즘 규명은 여전히 활발한 연구 주제입니다.
여기에 AI가 결합하면서 ALD는 ‘원자층 증착’에서 ‘데이터층 증착’ 시대로 넘어가고 있습니다. 장비 내부에는 이미 수백~수천 개의 센서가 탑재되어 있습니다. 압력·유량·온도·RF 전력·플라즈마 광방출(OES)·배기가스 질량분석(QMS)·인시투 타원율(SE) 등에서 초당 수만 개 이상의 신호가 생성됩니다. 과거에는 엔지니어의 경험과 통계적 공정제어(SPC)·EWMA 기반의 런-투-런(R2R) 제어로 해석하던 데이터를 이제 가상 계측(Virtual Metrology, VM) 과 설비 지능화가 실시간으로 흡수합니다. 예컨대 인시투 타원율 데이터만으로 ALD ZnO의 막 두께를 머신러닝으로 예측하거나, OES·상태변수에서 유전체 적층의 두께 편차를 추정해 바로 보정하는 연구들이 축적되고 있습니다. 이는 오프라인 계측(예: XRR, 4-PP) 의존도를 낮추고, 공정 윈도우 바깥으로 나가기 전에 선제적으로 recipe를 ‘미세 조향’하게 합니다.
최적화의 자동화도 가속화되고 있습니다. 전통적으로 ALD는 전구체 종류, 펄스 시간, 퍼지 시간, 기판·벽 온도, 플라즈마 조건, 챔버 포화 조건 등 조절 레버가 많아 개발 주기가 길었습니다. 최근에는 베이즈 최적화와 강화학습을 이용해 “최소 실험으로 최적 조합을 찾는” 접근이 공정 개발과 표면 패시베이션, 낮은 온도 증착, 새로운 전구체 검증 등에 적용되고 있습니다. 공정-장비-재료의 삼각형을 실험실의 작은 DOE가 아니라 ‘데이터 기반 탐색’으로 확장하는 흐름입니다.
현장에서는 이 모든 것을 플랫폼으로 엮고 있습니다. 장비-메트롤로지-인스펙션을 가로지르는 벤더들은 실시간 데이터를 모아 디지털 트윈 상에서 공정 동작을 예측·최적화하는 툴체인을 제시합니다. 예를 들어, Applied Materials는 여러 장비와 계측을 묶어 수백만 개의 측정값을 실시간으로 활용·최적화하는 AIx 플랫폼을 전개하고 있으며, Lam Research는 Semiverse® Solutions·Equipment Intelligence를 통해 디지털 트윈·가상 공정개발·예지정비·가상계측을 통합하고 있습니다. 이는 ALD 단위공정만이 아니라 에칭–세정–증착–어닐–계측의 통합 수율을 엔드-투-엔드로 끌어올리는 시도입니다.
ALD와 AI의 결합이 가치를 만드는 지점은 명확합니다.
첫째, 수율입니다. 고종횡비 채널의 불완전 피복, 라이너의 끊김(pin-hole), 금속 충전의 초기 핵생성 편차 등은 불량의 씨앗입니다. 인시투 신호에서 이상 패턴을 실시간 감지·차단하면 웨이퍼당 결함을 줄이고, 특정 스택(예: 3D 낸드 고주기 유전체·폴리머 멀티스택)의 누적 편차를 억제할 수 있습니다. 둘째, 처리량·원가입니다. VM가 신뢰 가능한 범위에서 실제 계측을 대체하면 샘플링률을 낮추고, 레시피 수렴속도가 빨라져 개발 TAT가 단축됩니다. 셋째, 에너지·환경입니다. 퍼지 시간 최적화, 플라즈마 파형 제어, 전구체 이용률 향상은 챔버당 가스 사용량과 펌프 부하를 줄여 Scope 1·2·3 배출 감소에 기여합니다. 장비 벤더들이 디지털 트윈을 ‘지속가능한 R&D’의 축으로 내세우는 배경입니다.
물론 과제가 없는 것은 아닙니다. 첫째, 데이터 품질·표준화입니다. 웨이퍼 레벨·칩 레벨·패턴 위치 의존성(PDW)과 같이 맥락이 다른 데이터를 묶어 학습하면, AI 모델이 ‘장비별クセ’를 배울 위험이 있습니다. 따라서 장비 캘리브레이션·센서 드리프트 보정·데이터 레이크의 스키마 표준화가 전제되어야 합니다. 둘째, 설명가능성(XAI) 입니다. 공정 조건–결과 간 인과가 명확해야 레시피 변경에 대한 공정 책임이 확보됩니다. 최근 VM/XAI 연구들은 OES·상태변수에서 두께 편차에 기여도가 높은 피처를 해석해 제어 포인트를 제시하는 방향으로 진화하고 있습니다. 셋째, 스케일링입니다. 한 챔버에서 학습한 모델을 다른 챔버·라인·팹으로 이전하는 전이학습과 도메인 적응이 필요합니다.
재료·패터닝의 프런티어에서도 AI의 역할이 커집니다. AS-ALD의 선택성 상실은 대개 억제 표면의 화학상이 ALD 화학에 의해 변질되면서 시작됩니다. 따라서 억제제의 결합 에너지·탈착 동역학·표면 자유에너지 변화를 계산과학+ML 로 스크리닝하고, 억제제–전구체–표면의 상호작용을 자유에너지 관점에서 설계하는 이론 연구가 확산됩니다. 2D 소재 기반의 초미세 템플릿 위에서 AS-ALD를 구현해 서브-10 nm 선택성을 달성하려는 시도처럼, 소재–표면–공정의 동시 최적화가 진행되고 있습니다.
현업 엔지니어의 관점에서 정리하면 다음과 같습니다.
개발 단계에서는 베이즈 최적화/능동학습으로 DOE 횟수를 줄이고, 인시투 타원율·OES·QMS를 묶은 VM로 ‘두께–조성–저항’의 프록시를 빠르게 만들면 초도 레시피 수렴이 빨라집니다. AIP PublishingPMC
양산 단계에서는 R2R 제어 루프에 VM를 얹어 목표 두께와 균일도를 유지하면서 퍼지/펄스 시간을 줄이는 미세 조정을 수행합니다. 설비 레벨에서는 디지털 트윈과 예지정비 모델로 다운타임을 줄이고, 챔버간 캐리오버/메모리 효과를 조기 탐지합니다.
통합 단계에서는 ALD–에칭–세정–어닐–메트롤로지 데이터를 수율 지표와 연결해 라인-레벨 최적화로 끌어올리는 것이 포인트입니다. 벤더 플랫폼(AMAT AIx, Lam Semiverse®/Equipment Intelligence)을 활용하면 공정별 튜닝이 아니라 ‘플로우’의 안정화가 쉬워집니다. Applied MaterialsLam Research
향후 로드맵에서 주목할 축은 세 가지입니다. 첫째, 저온 ALD 입니다. 후공정/백사이드 전력 전달(BSPD)·하이브리드 본딩·고밀도 패키징에서는 200℃ 이하에서의 고품질 금속/유전체 증착이 요구됩니다. 둘째, 신규 전구체·플라즈마 공학 입니다. 리간드 공학과 플라즈마 표면활성 제어를 ML로 가속해 핵생성 지연-없는 저저항 금속 라이너, 저유전 유전체를 확보하는 방향입니다. 셋째, AS-ALD의 양산화 입니다. 억제제/활성화제의 내구성과 공정 윈도우가 확보되면 식각 공정 일부를 대체하거나, 최소한 공정 복잡도를 낮추는 카드가 됩니다. 관련 이론·실증의 진척 속도는 이미 상당합니다.
ALD는 원자 단위 제어가 가능한 증착 기술이고, AI는 그 제어를 현장에서, 실시간으로, 공장 전체 스케일에서 가능하게 만드는 도구입니다. 미세화·고집적·저전력의 요구가 커질수록 ALD의 역할은 커지고, 공정 복잡성이 높아질수록 AI의 레버리지는 더 강력해집니다. 핵심은 데이터 품질과 공정 물리를 기반으로 AI를 설계하는 일입니다. 그 균형만 지킨다면, ALD+AI는 더 적은 실험으로 더 높은 수율, 더 낮은 에너지·가스 사용, 더 빠른 개발 주기를 동시에 달성하는 가장 현실적인 길이 될 것입니다. 이는 단순한 자동화가 아니라, 원자층 단위의 산업 운영체제를 구축하는 일입니다. 지금, 그 운영체제가 빠르게 깔리고 있습니다.
