에필로그. AI가 악(惡)하다고 누가 그래?
질문이 아닌 화두
한국에서 AI에 대한 담론은 기대와 흥분으로 가득 차 있다. 오랜만에 등장한 성장동력으로, 막대한 부를 가져다줄 새로운 투자 영역으로, 또는 전에 없던 프로덕트와 사업을 가능하게 할 신기술로 주목을 받는다. 걱정과 우려는 외면받는다. 빛나는 미래를 가로막을 선비질 정도로 인식되고, 후발주자로서 지금 당장은 신경 쓸 여유가 없는 나중의 문제로 치부된다.
정작 AI의 산실인 실리콘밸리에서는 다르다. 정부나 정책전문가뿐 아니라 산업 현장에 있는 기업 리더들도 우려를 표한다. 우려에서 그치는 게 아니라 많은 투자를 쏟고 있다. AI 신뢰 및 안전 확보를 위해 조직을 구성하고 막대한 자원을 인재유치와 기술개발에 적극적으로 할애한다. 아무리 약화되고 있다 할지언정 여전히 국내 기업들보다 전문 조직이나 자원 투입량 차원에서 규모가 다르다. 나 스스로도 실리콘밸리 빅테크에서 일하며 이를 목격하고 있다. 모자란 점이 아직 많을지언정 적극적으로 AI의 위협을 인지하고, 연구하고 또 대응하는 치열한 노력이 이뤄지고 있다. 그 덕에 AI 위협에 대응할 다양한 전문가들도 빅테크 기업들로 몰려들고 있다.
‘AI라는 악에 대하여’는 AI의 어두운 면에 주목하여 이곳에서 주워듣고 어깨너머 배운 것들을 정리하고 공부하면서 나누기 위해 쓰기 시작했다. 처음에는 주로 AI의 악용과 오용, 부작용을 막을 구체적인 기술들을 하나 둘 찾아 공유하려고 시작했으나, 애초에 그 기술들이 왜 필요 해졌는지에 대해 이야기하는 것만 해도 상당한 논의가 필요함을 깨닫게 되었다. 해답을 제시하기 전에 맞는 물음을 찾는 게 필요했다. 이런 물음들이 한국의 AI 생태계를 더 유익하고 공공선을 훼손하지 않는 형태로 잡아나가는 데 도움을 주길 바라는 마음이다.
우리는 하루하루 다양한 구석에서 크고 작은 악을 마주하며 지낸다. 원산지를 속여 팔거나 가격을 부풀리는 상행위처럼 의도된 악행이 있기도 하고, 딱히 누구의 잘못이라 탓하기 어렵지만 누적된 모순이 커져 모두가 피해를 입는 사회적 병폐도 있다. AI는 이 모든 크고 작은 악에 스며들 수 있다. AI는 악한가 라는 질문은 사실 ‘그렇다, ‘아니다’라는 답을 하기 위한 질문이 아니라 우리 삶에 녹아들고 있는 AI의 위험성에 대해 늘 경계할 수 있게 늘 떠올려야 하는 화두에 가깝다.
1화에 인트로에서는 이 답 없는 질문을 시작하게 된 배경과 흥미로운 일화들을 소개했다.
2화와 3화는 의도를 가지고 악의적으로 AI를 사용할 때 초래될 위험과 문제들을 다뤄보았다. 무엇이 다른 기술과 AI를 다르게 만드는지에 대해서도 이야기했다.
4화, 5화, 6화는 악의적인 의도 없이도 AI가 우리에게 해악을 미치는 경로와 그 이유를 다뤄보았다. 4화는 AI라는 기술 자체의 한계라는 내재적 측면에, 5화는 AI에 투입되는 막대한 자원과 환경적 영향이라는 외부적 측면에, 6화는 사용자 측면에 초점을 두었다.
7화, 8화, 9화는 규제 선진국 EU, 기술 선진국 미국, 양쪽 모두에서 후발주자인 한국의 규제 동향을 살폈다.
10화부터 13화까지는 이러한 위험의 특성과 규제 흐름 속에서 AI의 신뢰성과 안정성을 확보하기 위해 어떤 점들을 고려해야 하는지 해결책과 접근법에 대해 다뤄보았다.
흥미롭게도 가장 인기가 많았던 글은 AI야 다 “해줘” - AI 과의존성 문제였다. 압도적으로 많은 조회가 있었고, 벌써 ChatGPT 없이는 간단한 과제나 업무도 수행하기 어려워진 우리들의 모습에 많은 사람들이 관심을 갖게 된 게 아닌가 추측해 본다. 생성형 AI가 초래할 독특한 위협들이 그다음 순위를 차지한 것도 요즘 들어 급격히 사용량이 늘고 사회적으로 관심이 폭증한 기술이 ChatGPT 같은 생성형 AI이기 때문이 아닌가 싶다. 위험 자체를 다룬 글들이 대응책을 다룬 글들보다 인기가 많았다. 덜 자극적인 면도 있지만 일종의 숙제 같은 글이라 마음이 무거워져 그런 건 아닐까 하고 생각해 본다. 스스로도 쓰면서 덜 재밌고 머리는 아프고 그랬다. 그럼에도 Safety by Design과 AI 거버넌스는 이 문제를 헤쳐나가는 작업에 실제로 나선다면 실용성이 가장 높은 내용들이 담겨있다고 생각한다.
미국 규제를 다룬 글에서는 해리스로 민주당 후보가 바뀌기 전에 트럼프가 당선될 것 같다고 과감히(?) 예언하고, 그 이후로도 여전히 트럼프 당선 가능성이 높다는 데 베팅하여 글의 기조를 바꾸지 않았는데 결과적으로 대선 결과를 맞추는 신들린 게으름이 되었다. 물론 그렇다고 그 대선결과를 반기는 것은 아니다.
공부 중에 가장 중요하다고 느낀 점은 AI 신뢰와 안전은 전체론적 접근이 필요하고 일부 전문가나 규제당국에 아웃소싱할 문제가 아니라는 점이다. 기업은 스스로의 경쟁력과 사업 존립 가능성 확보를 위해 투자가 필요하다. AI에 대해 깊은 식견이 없는 평범한, 한 명 한 명의 사용자도 목소리를 높여 잘못 만들어졌거나, 못되게 만들어진 AI 기술에 대해 목청 높여 프로 불편러로 역할해야 한다. 자신들의 AI 기술이 얼마나 신뢰와 안전을 확보하고 있는지 투명하게 공개하고 충분히 설명하지 않는 기업들의 프로덕트나 서비스는 이용하지 않겠다 압박해야 한다.
처음 생각보다 많은 사람들이 아직까지는 틈새 이슈에 머물고 있는 주제를 다룬 이 글들을 읽어주었고 귀한 응원을 받기도 했다. 공부를 하는 단계에서 과감하게 글쓰기에 나섰다. 모자람이 많은 글에 인내심을 갖고 관심을 가져준 모든 분들에게 감사함을 느낀다.
글을 쓰면서 더 많은 물음을 품게 되었고 심화해 다룰 이슈들이 무궁무진하게 눈에 들어오게 되었다. 조금 더 구체적인 기술적 측면을 파고들 수도 있고, AI와 사회윤리에 대한 철학적인 문제를 들여다볼 수도 있겠다. 얼마나 먼 미래일지 모르나 AI 자체가 인간과 유사한 영향력을 지니는 준행위자나 행위자로서 악행을 저지르거나 악행에 책임을 물어야 할 날도 도래할지 모르기 때문이다. 외교관 시절을 떠올리며 AI를 둘러싼 패권경쟁을 더 깊이 다루는 것도 흥미로울 듯하다. 적은 수의 독자라도 관심이 갈만한 부분에 대해 함께 연구하고 머리를 맞대고 싶다.
여담 - AI에 대한 글을 쓰며 AI의 도움을 많이 받았다. 특히 이미지 생성 면에서 이 글의 커버들은 모두 다양한 생성형 AI를 통해 제작했다. 기술의 놀라운 성능을 눈으로 직접 확인하며 글을 써나갈 수 있었다.
