쓸모 있는 책입니다
똑똑한 기계는 똑똑한 사람이 필요하다
오늘날 우리가 똑똑한 기계에 의존하는 듯 보일지 모르나, 실제로는 똑똑한 기계들이 우리에게 더 의존한다.
스스로 가정을 제안하고 검사하고 증명할 수 있는 알고리즘은 아직 발명되지 않았다. 오늘날 알고리즘은 지시받은 내용만 수행할 뿐이다.
이런 알고리즘들은 자신들이 내릴 의사결정의 중요성이나 애초에 자신들이 제작된 사업적 맥락을 인식하지 못했다. 나쁜 가정을 세운 사람들이 프로그래밍한 대로만 했을 뿐이다.
영리한 AI가 존재한다고 해서 결코 가정이 덜 중요한 건 아니다. 오히려 가정이 더욱 중요하다. 잘못된 가정이 단 하나만 들어가도 기계는 잘못된 결정을 거듭 되풀이하고, 그 결과가 수백만 배 확산될 수 있기 때문이다.
"수학 기호 하나에 3,000명의 독자가 떨어져 나가고 그리스 문자 하나에 5,000명의 독자가 떨어져 나갑니다"