KBS시사기획 창 출연 후기 - AI비서
나의 완벽한 AI비서 - 새로운 기회와 동시에 찾아오는 위험요소
운 좋게 KBS 시사기획 창 3월 19일 방영된 「나의 완벽한 AI 비서」 제작 과정에 참여하고, 출연까지 하게 되는 기회를 얻었습니다.
본방 사수 기념 인공지능을 진지하게 연구하고 활동해오다 보니 이런 기회를 마주하게 된 건 개인적으로 꽤 뜻깊었습니다.
요즘은 AI 수준이 빠르게 올라가면서, 개인이 직접 비서를 만들고 활용하는 단계까지 왔습니다. 그런데 그만큼 위험도 함께 커지고 있다는 점도 자연스럽게 느끼게 됩니다. 이번 제작 과정에서 경험했던 것들을 조금 정리해보려고 합니다.
AI 방송 콘텐츠를 준비하며
스튜디오에서 직접 만든 결과물로 촬영을 진행할 때는 살짝 민망하기도 했지만, AI의 위험을 구체적으로 짚어보는 과정은 꽤 재미있었습니다.
기자님, 작가님, 여러 감독님과 AI의 가능성과 위험성 중 적절한 "메시지"를 고르는 건 꽤나 어려운 작업이었습니다.
단순히 “AI가 뛰어나다”, “위험하다”는 수준이 아니라
→ 어떤 가능성이 있고, 어떤 지점이 실제로 위험한지
하나씩 짚어보는 과정이었어요.
AI를 마주하는 입장이 사람마다 다르니,
훨씬 다양한 관점이 필요하더군요.
특히 OpenClaw 같은 자동화 AI를 중심으로 여러 테스트를 진행했는데, AI가 사용자와 외부인을 제대로 구분하지 못하는 문제, 개인정보나 비밀을 비교적 쉽게 노출하는 문제 등을 직접 확인할 수 있었습니다.
음성으로 대화하고, 카메라로 상황을 인식시키면서 AI를 조작해보니 단순 기능 문제가 아니라 해킹이나 보안 문제 쪽이 더 본질적일 수 있겠다는 생각이 들었습니다.
연구실에서 계속 연구만 하다 보면, 내가 보고 있는 문제가 사회에서 얼마나 직접적인 영향을 가지는지 체감하기 어려울 때가 많습니다. 특히 AI 안전 분야는 더 그렇습니다.
연구자 입장에서는 “위험하다 / 아니다”로 판단하기 쉽지만, 현실에서는 AI 때문에 개인의 자산이 한순간에 피해를 입는 일이 실제로 발생합니다.
AI는 가능성인가, 위험 요소인가?
요즘 광고나 짧은 영상에서 보이는 AI를 보면 정말 뭐든지 가능할 것처럼 느껴집니다. 투자를 대신해주는 AI, 건강을 관리해주는 AI 등 거의 모든 영역에 AI를 붙일 수 있는 것처럼 보이죠.
개인이 자신의 필요에 맞게 서비스를 직접 만들어 쓸 수 있다는 점은 분명 긍정적인 변화입니다. 3D 프린터로 원하는 물건을 직접 만들어 쓰는 것과 비슷한 흐름이니까요. 하지만 문제는 검증입니다. 3D 프린터로 물건을 만들 때도 소재나 환경호르몬 같은 요소를 제대로 알지 못하면 위험할 수 있는 것처럼, AI 역시
→ “쓸 수 있다”와
→ “안전하게 쓸 수 있다”는
전혀 다른 이야기입니다.
예를 들어 저는 AI를 꽤 오래 연구해왔지만, AI가 주식 투자를 완전히 대신해주는 시스템은 몇 년 이내에 어렵다고 봅니다. 종목 추천이나 리스크 분석을 도와주는 수준은 가능하겠지만요.
마찬가지로 혈당 측정을 AI에 맡기지는 않을 것 같습니다. 그건 그냥 측정기를 쓰는 게 맞다고 생각합니다. 대신 식습관을 관리해주는 AI라면 적극적으로 사용할 것 같습니다.
결국
> 어디까지는 활용하고
> 어디부터는 조심해야 하는지
그 경계는 우리 삶에 맞춰서 분명하게 존재합니다.
방송에서 보이는 많은 가능성들은 실제로 가능한 일들이지만, 대부분은 리스크를 감수한 상태에서의 가능성이라는 점도 함께 봐야 한다고 생각합니다.
물론, 요즘 변화를 보면, 그냥 리스크를 감수하고 해보는 게, 안하는 것보다 나은 경우가 많습니다.
AI 위험성 테스트 하는 장면도 찍어주셨습니다. "나의 완벽한 AI 비서"는 어떻게 만들 수 있을까?
이번 제작과 촬영을 통해 가장 인상 깊었던 건
"완벽한"이라는 단어였습니다.
저는 원래 불안정한 시스템이 어떻게 안정적으로 유지되는지에 관심이 많은데, 예를 들어 수천억 개의 뉴런이 상호작용하는 인간의 뇌는 굉장히 불안정한 구조임에도 불구하고 안정적인 결과를 만들어냅니다. AI도 비슷합니다. 엄청난 양의 데이터를 기반으로 가능한 한 일관된 답변을 하려고 노력합니다.
하지만 지금의 AI는 아직 "완벽한 비서"라고 부르기에는 부족한 점이 많습니다. 그래서 오히려 "어떻게 하면 완벽에 가까워질 수 있을까?" 라는 질문이 더 흥미롭게 느껴집니다.
개인적으로는 브런치에 글을 쓰면서 생각을 정리하는 과정이 이번 방송 제작 과정에서도 꽤 큰 도움이 되었습니다. 영상이 궁금하신 분들을 위해 Youtube 링크를 참조해주세요!
https://www.youtube.com/watch?v=qFwumv7__Ao&t=1840s