White Noise & Diffusion Model 그리고 백
미디어 아트에 대해 글을 쓰려다가, 갑작스런 사건과 조우하게 되었다. 그냥 지나치기엔 아쉬운 마음에, 애초 기획 방향을 틀었다. 애둘러 쓸데없는 잡설은 집어 치우고, 바로 본론으로 들어가야겠다.
2032년에 내가 여전히 살아있다면 나는 백 살이 될 것이다.
3032년에 내가 여전히 살아있다면 나는 천 살이 될 것이다.
11932년에 내가 여전히 살아있다면 나는 십만 살이 될 것이다.
백남준, <자서전>
백남준은 앞으로 최소 십만년은 더 살 것이다. 이것은 농담이 아니다. 그는 이미 십만년, 아니, 무한대의 시간을 살았고, 여전히 살아 있다. 마치 그를 종교로 추종하는 것 같지만, 이것은 과장이 아니다. 그의 사유는 신석기~과거 만년부터 앞으로의 만년을 관통한다. 그리고 이만년의 시간은 앞뒤가 닮아 있다. 그것은 인간 종 차원의 통찰이 작동한 까닭일 것이다. 내가 이렇게 설레발을 치는 이유는, 최근 무서운 속도 발전하는 생성형 Ai에서의 주요 개념이 백남준의 아이디어와 너무나 유사했기 때문이다.
최근 주목받는 딥러닝과 생성 모델링 분야의 Diffusion Model의 기본 아이디어는 데이터를 점차적으로 무작위 소음으로 변환하는 과정과 그 반대 과정을 학습한다. 이 과정에서 모델은 원본 데이터를 노이즈로부터 재구성하는 방법을 배운다.
이 모델은 다단계로 나뉘는데, 첫번째 단계는 '순방향 확산(forward process-diffusion)'과정으로, 원본 데이터에 점진적으로 노이즈를 추가하여 데이터를 소음으로 변환한다. 두번째 단계는 '역방향 확산(Rverse process-Denoising) 과정으로, 노이즈가 추가된 데이터를 원래 형태로 되돌리는 역할을 한다.
이 과정을 통해 모델은 데이터의 복잡한 분포를 학습하고, 새로운 데이터를 생성할 수 있게 된다. 이미지, 음성, 텍스트 생성 등 다양한 분야에서 응용되고 있으며, 기존 생성 모델보다 더 높은 품질의 결과물을 생성하는것으로 알려져 있다.
특히, Diffusion 모델은 노버트 위너의 정보이론에서의 White noise 개념과 흥미로운 유사점을 갖고 있다. 두 개념 모두 정보와 노이즈 관계에 초점을 맞추고 있다.
노버트 위너의 정보이론에서, White noise는 일반적으로 N(0,σ2)에 따른다. 여기서 N은 정규 분포를 나타내고, 0은 평균(mean), σ^2는 분산(variance)을 나타낸다. 이 분포는 모든 주파수에서 동일한 강도를 가진 무작위 신호를 나타내며, 이는 통신이론에서 신화와 잡음을 분리하는데 사용된다. 즉, white noise의 이러한 특성은 신호 처리에서 필터 설계의 기초가 되어주었다.
Diffusion 모델의 경우, 생성 과정은 일련의 확률적 단계를 따른다. 모델의 핵심은 x0에서 시작하여 점차적으로 노이즈를 추가하여 xT까지 도달하는 과정이다. 이는 다음과 같은 식으로 표현된다.
xt+1 = √1−βtxt + √βtϵ
여기서 βt는 각 단계에서의 노이즈 수준을 조절하는 매개변수이고, ϵ는 표준 정규 분포에서 추출된 무작위 노이즈다. 이 과정은 데이터에 점진적으로 노이즈를 추가하며, 이는 데이터의 복잡한 분포를 모델링한는데 사용된다.
역방향 확산에서는 반대로 노이즈를 제거하는 과정이 이루어진다. 이 과정은 주어진 노이즈가 첨가된 데이터 xt로부터 원본데이터 x0를 추정하는 것을 목표로 한다. 이는 노이즈 제거 네트워크를 통해 이루어지며, 노이즈를 제거함으로써 원본 데이터의 특성을 재구성한다.
이처럼, 노이즈는 데이터의 핵심 특성을 추출하고, 이해하는데 중요한 역할을 하며, 이는 정보이론과 딥러닝 모델에서 중요한 통찰을 제공해주었다.
그렇다면 백남준과 이 어려운 공학적 지식은 어떻게 연결이 되는가?
white noise는 예측 불가능한 무작위 신호를 나타내며, 이러한 무작위성은 정보의 부재로 여겨질 수 있지만, 백남준은 무작위성이 바로 정보의 최대치를 품고 있음을 간파해내었다. 그의 예술적 시각에서 white noise는 모든 가능성을 내포하고 있으며, 이는 무한한 창조적 잠재력을 상징한다.
Diffusion 모델의 맥락에서 이를 해석하다면, 데이터에 노이즈를 추가하고 제거하는 과정을 통해, 데이터의 근본적인 특성을 밝혀내려는 시도는 백남준의 이러한 사상과 상통하는 측면이 있다. Diffusion 모델에서 노이즈는 단순 잡음이 아니라, 복잡한 데이터 구조를 이해하고 새로운 형태를 생성하는데 필수적인 역할을 한다. 따라서 노이즈 자체가 정보의 원천이 된다.
이러한 관점에서 white noise는 단순히 신호의 장애가 아닌 정보의 근원으로서 역할을 하며, 백남준의 예술적 시각과 위너의 정보이론, Diffusion 모델의 기술적 접근은 노이즈와 정보 사이의 복잡한 관계를 탐구하며, 예술과 과학, 그리고 시루이 어떻게 서로에게 영감을 주고 받는지를 잘 보여주는 사례라 할 수 있다.
노버트 위너의 정보이론, 혁신적인 확산 모델의 메커니즘, 그리고 백남준의 통찰적 시각을 견지하며, 우리는 노이즈와 정보에 대한 이해르 통해 매혹적인 서사를 발견할 수 있다. 위너가 개념화환 White noise의 무작위 패턴과 Diffusion 모델의 Noise를 통한 학습 및 창조의 구조화된 접근 방식은 백남준의 예술 사상이 얼마나 치밀하고 촘촘하게 직조된 것인지를 알 수 있다.
Paik to the Future!, 미래를 향한 백!
앞으로의 그의 행보에 기대를 건다.