Explainability

20250328

XAI(Explainable AI)는 가능성의 문제가 아니라 필요성의 문제.

인간이 이해할 수 있도록 설명이 되지 않으면, 쓰면 안되는 영역이 있다고 생각한다. (예를 들어, 고위험 AI라고 하는 부분 - 군사, 의료..)

하지만, 머리로는 ’쓰면 안돼’라고 생각하지만, 아마 유혹을 이기기 어려울 거다. 쉽고, 편하고, 비교적 싸고, 또 대부분 잘 맞으니까.

(게다가, 안쓰려고 해도 어떤 프로세스 체인 사이에 모델이 끼어있는지 알기 힘들기 때문에 나도 모르게 쓰게 될 가능성도)

하지만 이해없이 쓰면, 추후 큰 화로 돌아오는 경우가 있을 것.

그래서 (A)XAI 는 시급한, 해야만하는 아젠다라고 생각한다. 만약 설명이 불가하다면, 그런 용도로는 쓰이지 않게 (B)제약/제어하는 방법이라도 찾아야 한다.

그러나 (B)도 (A) 못지 않게 어려운 숙제.

XAI 에 한해서는 규제를 줄이고 적극 진흥을 하면 어떨지...

(구별이 가능한가가 또한 숙제..)