입양 전에 알아야 할 것들
좋은 질문이 좋은 답을 만든다고 합니다.
그런데 그 전에 알아야 할 것이 있습니다. 누구에게 묻느냐입니다.
아무리 좋은 질문도 답할 수 없는 상대에게 던지면 의미가 없습니다. 아니, 더 위험합니다. 답할 수 없는 상대가 아는 척 답을 만들어내면, 그 답을 믿는 사람이 생기니까요.
AI가 정확히 그렇습니다.
AI에게 물어볼 수 있는 것과 물어봐서는 안 되는 것이 있습니다.
물어볼 수 있는 것은 과거에 충분한 데이터가 쌓인 것들입니다. 역사적 사실, 과학적 원리, 언어 번역, 코드 작성, 문서 요약. 이런 것들은 AI가 잘 합니다. 수많은 데이터를 학습했고, 패턴이 명확하고, 정답이 존재합니다.
물어봐서는 안 되는 것은 전례가 없는 것들입니다.
전례가 없다는 것은 데이터가 없다는 것입니다. 데이터가 없다는 것은 AI가 학습한 것이 없다는 것입니다. 학습한 것이 없는데 답을 내놓는다면 그것은 추측입니다. 그것도 매우 자신 있는 추측입니다.
이것이 할루시네이션입니다.
구체적으로 생각해봅시다.
어떤 아파트 단지가 있습니다. 20년이 넘은 오래된 단지입니다. 바로 옆에 대규모 도시개발사업이 진행되고 있습니다. 주민들은 재건축 대신 도시개발 방식으로 사업을 추진하려 합니다. 그것도 입체환지라는 매우 특수한 방식으로요.
누군가 AI에게 묻습니다. 이런 방식이 가능하냐고.
AI는 답을 내놓습니다. 전례가 없으니 불가능하다고 답합니다.
그럴듯합니다. 논리도 있고 근거도 있습니다. 그런데 그 답이 정확할 수 있을까요.
그 단지와 똑같은 조건의 사례가 과거에 없었다면, AI가 참고할 데이터 자체가 없습니다. 데이터가 없으니 정확한 답도 없습니다. 하지만 AI는 비슷해 보이는 사례들을 조합해서 그럴듯한 답을 만들어냅니다. 그 답이 틀렸는지 맞았는지 AI 자신도 모릅니다.
사람들은 그 답을 들고 싸웁니다.
이것이 지금 수많은 단톡방에서 매일 일어나고 있는 일입니다.
법리 해석, 법적 조언도 마찬가지입니다.
한국의 판례는 공개되지 않은 것이 많습니다. AI는 공개된 정보를 학습합니다. 공개되지 않은 판례는 AI도 모릅니다. 그런데 법률 문제를 AI에게 물어보면 AI는 답을 내놓습니다. 자신 있게, 구체적으로, 조항까지 들어가면서.
그 답이 실제 법정에서 통할 것이라는 보장은 없습니다.
AI의 법률 답변은 참고일 뿐입니다. 하지만 많은 사람들이 그것을 확정된 해석으로 받아들입니다. 전문가가 된 것처럼 말합니다. 그리고 그것이 사회적 비용이 됩니다. 잘못된 정보를 바탕으로 한 결정, 불필요한 갈등, 되돌리기 어려운 선택들.
그렇다면 AI를 쓰지 말아야 합니까.
그것도 답이 아닙니다.
AI를 제대로 쓰면 됩니다. AI가 잘 아는 것을 물어보고, AI가 모를 수 있는 것은 전문가에게 확인하면 됩니다. 칼이 유용한 도구인 것은 맞지만 칼로 물을 벨 수는 없습니다. 도구의 용도를 아는 것이 도구를 잘 쓰는 것입니다.
AI가 모른다는 것을 아는 것. 이것이 AI를 제대로 쓰는 첫 번째 조건입니다.
전례가 없는 미래는 AI가 만들지 않습니다. 전례가 없는 미래는 그것을 상상하는 인간이 만듭니다. AI는 그 상상을 구현하는 것을 도울 뿐입니다.
당신이 AI에게 물어봤다가 나중에 틀렸다는 것을 알게 된 경험이 있습니까. 그때 어떻게 했습니까.