XAI, 설명 가능한 인공지능에 대하여
책을 썼습니다
제가 쓴 책이 예판을 시작했습니다.
책을 쓰겠다고 계약한 지 정확히 1년이 지났고, 책을 쓰고 싶다고 달려든 지는 12년이 지났습니다. 그 사이 번역도 하고, 큰 책의 일부를 맡기도 했습니다. 그렇지만 제 이름을 앞으로 책이 나오는 것은 이번이 처음입니다.
처음에는 흩어져있는 연구 노트만 잘 조합하면 되는 줄 알았습니다. 그런데 책을 쓴다는 건 그렇게 간단한 일이 아니었습니다. 내 저작물이 다른 사람의 길잡이가 될 수 있고, 그것이 제가 종사하고 있는 분야라고 생각하니 시간이 갈수록 손가락이 무거워졌습니다.
예전에 읽었던 논문을 다시 읽고, 귀한 분들의 자문을 구했습니다. Kwanghee Choi 님과 Hwanhee Kim, Emil Namju Kwak, 박진언 님께서 도와주셨습니다. 이 분들은 출장 가는 비행기 안에서, 새벽에 일어나, 매일 몇 시간씩 할당하며 책을 리뷰해 주셨습니다. 박찬규 대표님께 감사드립니다. 일면식 없던 저를 믿어주시고 일이 되도록 만들어주셨습니다.
제가 존경해 마잖는 분들께서 두 팔 걷어 도와주셨습니다. 이 분들과 함께 책을 만든다는 생각이 드니 더욱 열심히 해야겠단 생각뿐이었습니다. 저와 전화, 이메일, 스카이프, 심지어 오프라인 미팅도 가지며 독자들을 위해 조언을 아까지 않았습니다. 그렇게 1년의 시간이 흘렀고 오늘부터 책 예판을 시작했습니다. 행여 모자란 부분이 있다면 모두 제 부족함입니다.
저는 대전에 사는, 과학책을 좋아하는 한 어린이였습니다.
과학의 도시에서 할 수 있는 몇 안 되는 유희는 책더미에 파묻혀 시간을 보내는 일이었습니다.
저는 양서를 쓴 저자들 손에서 자랐습니다.
이들의 이름을 제가 모두 기억할 순 없을 것입니다. 그렇지만 이들은 제가 의식하지 않는 제 유년기를 책임져 주었고, 바른말을 해 주었습니다. 제가 학문의 꿈을 키우고 계속 정진할 수 있었던 이유는 도서관에서 아무렇게나 집어 든 책이 제게 바른말을 해 주었기 때문입니다. 이분들께서 양심을 지키고, 약속을 말하고, 계속 꿈을 심어주었기 때문입니다.
책이 제가 가보지도 못했던 곳, 이름 모를 독자분 손에 들려있을 것을 생각합니다. 독자분의 갈증을 다 채워드리지 못할 수도 있다는 걱정이 앞섭니다. 그렇지만 저는 제 일을 오래 하고 싶고, 양심을 지키고 싶습니다. 책이 제가 방금 말한 모든 선언을 다 지키지 못하더라도 저는 이곳에 있겠습니다. 계속 이 분야에 종사하며 수정하고, 자리를 지키겠습니다.
책이 나옵니다.
감사합니다.
아래는 도서 설명 페이지에 있는 책 설명입니다.
“AI는 왜 이런 결정을 할까?”
인공지능 기술이 점점 더 중요해지고 있습니다. 더불어 ‘인공지능을 신뢰할 수 있는가 ‘하는 목소리도 커지고 있습니다.
인간은 점점 더 중요한 일을 인공지능에 의존하고 있습니다. 그런데 우리는 인공지능의 의사 결정 과정을 알 수 없습니다. 심지어 인공지능을 만드는 공학자조차 AI 의사결정 이유를 설명하지 못합니다.
XAI는 이러한 한계를 극복하기 위해 등장한 분야입니다. ‘설명 가능한 AI(eXplainable AI)’라는 이름에서 알 수 있듯이, 이 기술은 블랙박스 인공지능을 해부하여 인공지능의 의사 결정 이유를 밝히는 학문입니다.
오늘날 인터넷의 전신을 만든 DARPA(미국 방위 고등 연구 계획국)는 XAI를 주요 개발 과제 중 하나로 선정했습니다. XAI는 새로운 분야이지만 그 중요성이 빠르게 확산되고 있습니다. 이 책은 XAI의 전통적 이론부터, 딥러닝 XAI 기법을 망라합니다. XAI는 인공지능의 불확실한 의사 결정을 해소하여 인공지능의 신뢰성을 높여 줍니다.
https://wikibook.co.kr/xai/
