안전萬평 : 가상과 현실

가상세계(World-as-imagined),

현실세계(World-as-done),

두 세계는 다르다.

가상일(Work-as-imagined),

실제일(Work-as-done),

두 일도 다르므로, 규정과 매뉴얼만으로 시스템사회의 안전은 지켜질 수 없으며, 인간이기에 변동성이 항상 공존한다.

가상 AI(AI-as-imagined),

실제 AI(AI-as-done),

두 AI도 다르므로, AI가 실행한 결과는 인간의 의도와 다를 수 있다. 따라서, 제어대책 없는 AI의 변동성은 재난이다.