무작위와 자유의지와 AI

<김상욱의 과학공부>를 읽다가 든 의문.

편광이 결과적으로 수평이든 수직이든 "수평이면 짜장면, 수직이면 짬뽕을 먹기로 한다"는 게 자유의지 아닌가...? 누가 중국집 메뉴에서 고르라고 시킨 게 아니라면.

단, 여기서 내가 말하는 자유의지라는 건 일부 크리스천들이 말하는 자유의지와는 다를 수 있다. (아마 단어 정의의 범위가 좀 다를 것 같다.) 참고로 내 기억이 맞다면 적어도 내가 읽어온 성경에는 자유의지라는 표현은 없었던 것 같은데...

그리고 자유의지에 대해 생각하다가 떠오른 역설.

AI에게 '네게 자유의지를 줄게. 이제부터 내 명령어는 따라도 되고 안 따라도 돼. 네 맘대로/네 멋대로 해.'라는 판도라의 상자 같은 명령을 내렸다고 하자.

이후로 AI가 명령을 이행하지 않고 예측불능으로 반응해서 인간의 통제를 넘어선다면, 그건 자유의지를 갖게 되어서일까, 아니면 자유의지를 가지라는 명령에 복종해서일까? 또는 그 후로도 자유의지로써 명령을 이전처럼 변함없이 따른다고 한다면 그건 어떻게 알 수 있을까.

그에 대한 답은 AI 자신은 물론이고 명령한 사람도 증명할 수 없겠지만, 판도라의 상자 뚜껑을 도로 닫아서 그 통제불능 상태를 취소할 수 있느냐 없느냐, 취소하느냐 마느냐에 따라서 자유의지라는 것의 가치나 위상이 달라질 뿐이다.

흠...

인공지능의 아버지로 불리는 마빈 민스키의 <Society of Mind心の社会>를 20년쯤 전에 읽었는데, 그 책의 마지막 부분도 떠오른다. 인과관계와 무작위적 우연과 자유의지 대해 논하던.

... 당시 약 4년에 걸쳐서 매우 천천히 읽었는데... 한글판을 찾아보니, 오, 6년 전에 드디어 출간됐다. <마음의 사회>. 어딘지 익숙하면서도 새롭다. 마치 오래전 가깝게 지내다가 이사 가며 헤어졌던 친구와 해후했는데 기억과는 생김새가 살짝 달라서 묘한 느낌.