이게 다일까?

인공지능과 우리의 책임

수많은 연산을 넘어 단순히 분석하는 것이 아니라 알고리즘에 따라 더 많은 자료와 데이터를 기반으로

답을 찾는 AI가 나왔다. 작년엔 쳇 GPT가 딥러닝을 통해 인간의 지식과 능력을 뛰어넘게 될 것이라는

위기감이 있었다. 그러나 전혀 사실이 아닌 답을 그럴듯하게 내놓게 되어 편향과 한계가 드러났다.

이렇게 AI가 거짓말을 지어내는 환각 현상(할루시네이션)에 따라 정보의 정확도를 높이기 위해서는

인터넷 검색이 필요하다.

앞으로 컴퓨터의 알고리즘이 지배하게 된다면 세상이 과연 안전할지 걱정스럽다.

KAIST 전기 전자공학과 김정호 교수에 따르면 인공지능은 자연 현상과 다른 속성을 가지고 작용한다.

물질로 이루어진 자연 현상을 들여다보면 무질서가 증가하는 방향으로 변한다. 엔트로피의 증가는

언제 어디서나 친숙하게 일어난다. 열역학법칙에 따르면 물리적 시스템은 엔트로피가 증가하는 쪽으로,

즉 무질서해지는 쪽으로 변하려 한다.

하지만 인공지능은 그 반대 방향으로 학습한다. GPU를 이용해서 엔트로피 값이 최소화될 때까지 계속한다.

잘 분리된 질서 상태를 향하여 학습 과정에서 인공지능이 내리는 결정들이 분산되지 않고 한 가지 결정에

모이도록 한다. 쳇 GPT 생성 모델이 만든 이미지도 흐릿한 그림보다 초점이 잘 맞은 선명한 그림을 추구한다.

최대의 변별력을 요구하면서 빅데이터와 GPU를 이용해서 엔트로피 값이 최소화될 때까지 학습을 계속하고

셀 수 없는 변수들을 정해가면서 끝장을 보는 것이다.

결국 엔트로피의 특성 때문에 인공지능은 본질적으로 차별적이며 집중적이다. 목적 지향적이며 편향적일

수밖에 없다. 인공지능의 본성을 결정하는 알고리즘이 학습 진도에 따라 보상되는 체계로 학습 과정에서

인간의 의도를 잘 수행할수록 높은 점수의 보상을 받는데 문제가 있다. 일종의 칭찬인데 예를 들어 바둑

알파고가 대결해서 이기면 더 좋은 점수로 보상을 주기 때문에 인간이 정해준 보상에 따라 행동하는 것이다.

과연 알고리즘이 세상을 지배하도록 해야 할까? 알고리즘(algorithm) 이 인간의 권위를 대신 차지해도

될 것인가? 당연히 인간의 노력을 통해 인공지능에 대한 통제 (regulation)가 이루어져야 한다. 인공지능

알고리즘에는 인간이 태초부터 구축해 온 생명 존중, 인본주의, 자연주의 사상이 반영되어야 한다.

비윤리적이며 편향적인 데이터를 거를 수 있도록 하고 그다음으로 인공지능 학습에 사용되는 컴퓨팅

능력을 통제해야 한다. 예를 들어 인공지능의 GPU와 고대역 폭 메모리 HBM 등 반도체의 성능과

숫자를 규제해서 인공지능에 능력이 어느 적정선을 넘지 않도록 제어하는 방법이다. 또한 인공지능을

위한 데이터 센터의 전기 소모량 통제도 가능할 것이다. 수학적으로 정확성과 승률 최적화, 최대 이익

추구를 위해 생성 능력과 차별성 존재라는 인공지능의 성격을 잘 알아서 이용해야 한다.

인공지능의 본성은 어디까지나 인간의 책임이다. 우리의 의식, 표현과 행동, 그리고 창작 결과물 자체가

스스로 윤리적이어야 한다. 전체를 보지 못하고 부분적인 이념이나 시대의 흐름에 편승하고 자신에게

유리한 쪽을 합리화하면 안 된다. 옳은 것을 판단하고 성찰할 수 있는 개개인의 도덕성과 깨어있는 의식이

인간의 미래를 보장해 줄 수 있지 않을까.