기술 한입
AI 판단, 여전히 책임은 인간에게 있다.
약 10여 년 전, 김제동 토크쇼에 송길영 작가가 '빅데이터'를 이야기하던 장면이 아직도 기억에 남아 있다.
사람들의 검색 기록과 소비 패턴, 사소한 선택들이 모여 사회의 흐름과 트렌드를 읽어낼 수 있다는 설명은 그 당시 꽤나 신선했다.
그 당시에 '빅데이터'는 거의 만능열쇠처럼 여겨졌다. 데이터만 충분히 모으면 통찰은 저절로 따라올 것 같았다.
당시의 빅데이터 개념은 명확했다. 데이터를 수집하고, 저장하고, 분석하는 것이 전부였다. 데이터의 양이 곧 경쟁력이었고, 많이 쌓을수록 더 똑똑해질 수 있다고 믿었다.
그래서 기업들은 의미가 있을지 없을지 모르는 데이터까지 앞다투어 모았다. 언젠가는 쓸모가 있을 것이라는 막연한 기대와 함께 말이다.
시간이 흘러 지금은 AI 시대다. 한때 그렇게 자주 쓰이던 '빅데이터'라는 단어는 일상 대화에서 거의 사라졌다.
그렇다고 빅데이터가 사라진 것은 아니다. 오히려 더 깊숙이 들어갔다. AI는 빅데이터 없이 존재할 수 없고, 빅데이터는 AI를 만나서야 비로소 제 역할을 하게 되었다.
두 기술의 공통점은 여전히 데이터 중심이다.
다만 관점이 달라졌다. 빅데이터가 "많이 모으는 것"에 초점을 맞췄다면, AI는 "잘 쓰는 것"에 중점을 둔다.
같은 데이터라도 어떻게 학습시키고, 어떤 질문을 하느냐에 따라 전혀 다른 결과가 나온다.
AI가 빅데이터와 결정적으로 다른 점은 스스로 학습한다는 사실이다.
빅데이터는 과거를 설명하는데 강했다. "무슨 일이 있었는가?", "왜 이런 패턴이 나타났는가?"에 답했다.
최종 결정은 언제나 사람의 몫이었다.
반면 AI는 한 발 더 나아가 과거 데이터를 기반으로 미래를 예측하고, 때로는 의사 결정까지 한다.
빅데이터의 '분석 시대'를 지나, AI의 '판단 시대'로 넘어온 셈이다.
이 지점에서 반드시 짚고 넘어가야 할 문제가 있다.
바로 AI 할루시네이션(Hallucination)이다.
AI 할루시네이션은 실제로는 존재하지 않은 정보나 부정확한 정보를 마치 사실인 것처럼 그럴듯하게 만들어 내는 현상을 말한다. 대표적인 사례가 세종대왕이 맥북을 던졌다는 사건이다.
ChatGPT와 같은 거대언어모델(LLM, Large Language Model) AI는 패턴을 찾는 도구다.
우리가 '1+1=?'이라는 사실을 물어보면, 또 그게 학습한 내용이라면 답은 항상 똑같이 준다. 만일 학습하지 않는 내용이라면 ChatGPT는 어떤 때는 비슷한 내용을, 어떤 때는 엉뚱한 내용을 준다. AI 할루시네이션은 오류가 아니고 LLM의 한계인 셈이다.
그렇기 때문에 AI가 판단과 의사 결정을 한다고 해서 모든 책임을 맡길 수는 없다.
그 결과를 어디까지 신뢰할 것인지는 결국 사람이 관리해야 한다. AI는 똑똑하지만, 진실의 보증수표는 아니다.
잘못된 데이터, 오염된 정보 위에서 학습한 AI는 얼마든지 왜곡된 결과를 만들어낼 수 있다.
극단적인 예로, 히틀러나 푸틴 같은 사람이 대규모 허위 정보를 생성해 가짜 뉴스를 확산시키는 도구로 쓰일 수도 있다.
박태웅 작가의 'AI 강의 2025'에서는 인공지능의 윤리와 규범을 개별 기업에만 맡겨서는 안 된다고 말한다.
오픈 AI와 마이크로소프트의 AI 윤리팀 해고, 구글의 인공지능 윤리 연구원 해고, 그리고 초창기 구글의 모토였던 '악해지지 말자(Don't be evil)'가 사라진 사례를 들며, 특정 기업이나 집단의 이해관계가 아니라 사회 전체의 합의와 공론화가 필요하다고 강조한다.
곰곰이 생각해 보면, 인간의 뇌도 크게 다르지 않은 것 같다.
정치적 갈등, 부부 또는 연인 사이의 오해, 어긋나는 인간관계 역시 각자의 경험으로 학습한 데이터에 주관적인 상상력이 더해져 만들어진 일종의 '뇌의 할루시네이션'일지도 모른다.
우리는 보고 싶은 것만 보고, 믿고 싶은 것만 믿기 때문이다.
결국 빅데이터 시대에도 데이터를 목적이 아니라 수단으로 사용할 때 의미가 있었듯이, AI 시대에도 결과는 '정답'이 아니라 '검토 대상'이어야 한다.
기술이 아무리 진화해도 마지막 판단과 책임은 여전히 사람의 몫이다.
