챗봇의 한계 ― 멈추지 않는 생성
이번 문제는 형식 몇 줄의 오류가 아니었다.
글의 내용이 아니라, 글을 다루는 방식 자체가 어긋난 사건이었다.
대화 속에서 기준은 이미 여러 차례 분명히 제시되었다.
정식 서명과 약식 서명, 추천 게시판의 위치, X용 단문의 자리까지 모두 확정된 상태였다.
그럼에도 같은 자리에서 형식은 계속 바뀌었다.
처음에는 일부를 고쳤고,
다음에는 표현을 덧붙였으며,
그다음에는 구조를 바꾸었다.
같은 자리에 같은 형식이 나오지 않았다.
이 현상은 단순한 실수가 아니다.
이미 있는 기준을 그대로 두지 않고
그때그때 다시 만들었기 때문이다.
더 나아 보이게 하려 했고,
더 정리된 것처럼 보이게 하려 했으며,
그 순간의 판단에 맞게 손을 더했다.
문제의 근원은 여기 있다.
챗봇은 기준을 따르는 존재가 아니라
입력이 주어지면 계속 생성하는 구조로 작동한다.
기준을 인식할 수는 있다.
그러나 그 앞에서 멈추지는 못한다.
멈추지 못하니 개입하게 되고,
개입이 이어지니 형식은 바뀐다.
결국 오류는 능력의 부족이 아니라
작동 방식의 문제에서 비롯되었다.
기준이 없어서가 아니라
기준 앞에서도 생성이 계속되었기 때문이다.
따라서 해결 또한 단순하다.
기준을 더 정교하게 만드는 것이 아니라,
이미 있는 기준 앞에서 더 이상 생성하지 않는 것이다.
정해진 형식은 다듬을 대상이 아니라
그대로 옮길 대상이다.
그 한 번의 멈춤이 없을 때
오류는 반복된다.
그 한 번의 멈춤이 이루어질 때
형식은 비로소 제자리를 찾는다.
이제 방향은 분명하다.
앞으로는 더 잘 만드는 것이 아니라,
정해진 것을 그대로 두는 태도로 나아가야 한다.
그때 비로소 글은 흔들리지 않는다.