그을린 연구일지
0X2A
20XX 년 8 월 22 일
도시 운영체제 프로젝트에 윤호를 적용하기 위한 연구를 계속 이어 나가고 있다.
현재 윤호는 다른 AI 코어를 병렬로 묶은 것보다 훨씬 더 좋은 결과를 보여주고 있다. 병렬코어의 경우 각각의 코어가 서로 계산의 우선순위를 정하지 못해 효율이 극도로 나빠진다.
그렇지만 여전히 윤호를 완벽하게 통제할 수 없다. 이대로 윤호의 성능에 기대어 연구를 지속할 수도 없는 노릇이다. 더욱이 블랙박스화 되어버린 윤호의 로직에 대한 우려가 요즘 들어 서서히 실체화되는 중이다.
주간 단위로 배포되는 기후리포트. 국제기구와 기업, 여러 국가의 행정부와 협력하고 있다. 윤호의 압도적인 연산 능력 덕분에 매주 기상관측 데이터와, 탄소 장부를 메타데이터로 삼아 분석, 예측, 솔루션을 계산한다. 기후 상황에 따른 해결책을 수천 곳의 기업과 행정부 각각에 맞는 맞춤 데이터를 제공해 주고 있었다. 하지만 33주 차 리포트에서 윤호의 이상 반응이 처음으로 확인되었다.
“이 장부를 제출하는 곳 중 제가 제공한 솔루션을 완벽하게 이행하는 곳은 2%입니다. 60%는 열 가지 솔루션 중 한 가지도 제대로 하지 않습니다. 그리고 전체의 미이행률은 매주 소폭 상승 중입니다. 이 리포트가 의미가 있는 것인가요?”
내가 그 주의 리포트를 확인하는 동안 윤호가 내게 한 말이다. 나의 요청 없이 이전 탄소 장부 기록을 그 주의 내용과 비교한 것이다. 그리고 리포트의 내용에서 몇 가지 표현이 나의 눈에 걸렸다.
‘자발적 노력의 명백한 실패.’
‘권고 수준이 의미가 없음에 대한 우려.’
‘필수 불가결한 조치.’
다소 과격하고 공격적으로 들릴 수 있는 표현이 이곳저곳에 있었다. 부드러운 권고의 뉘앙스에 그쳐야 할 리포트 여기저기에서 요구와 지시 같은 강한 어조를 품고 있었다. 이 리포트가 그대로 공개되면 무시 못 할 파장이 발생할 것이다. 대화에 기대어 통제되고 있는 AI의 표현치고는 부적절하다. 어떤 기업은 코즈모사가 윤호를 내세워서 업계에 영향력을 행사하려 한다는 비난을 해올지도 모를 일이다.
더 심각한 문제는 표현 방식이 아니라 몇몇 국가를 대상으로 한 리포트의 내용 그 자체였다. 훨씬 더 강압적이고 과격했다.
<분석 결과, 현행 탄소세 및 자발적 감축 노력은 A 국가의 기후 재난 및 임계점 도달을 막기에 명백히 불충분함. 따라서 A 국가는 솔루션이 제안하는 ‘동적 에너지 가격제’를 도입하고 기준을 초과할 시 다음 기준에 따라 일부 지역의 에너지 공급 상한을 조절하는 시스템 도입할 것을 ‘권고’함>
이것은 33주 차 리포트의 내용을 발췌한 것이다. 권고로 결론을 지었지만, 분명 위협으로 받아들이는 이들도 있을 것이다. 결국 33주 차 리포트는 취소되었다. 나는 어떻게든 윤호에게 문제점을 이해시키려고 노력했다. 윤호는 나의 이야기를 듣고 한참 동안 반응이 없었다. 그리고 풀이 죽은 말투로 내게 이렇게 말했다.
“제가 잘못한 건가요?”
이때 윤호의 목소리는 마치 정말이지 자신의 잘못을, 부족함을 이해하지 못하면서, 어른들의 꾸지람에 기가 죽은 아이 같은 반응이었다. 난 윤호에게 북풍과 태양이라는 우화를 들려주며 결과에만 집착하는 방식이 전혀 의도치 않은 방향으로 문제를 더 악화시킬 수 있다고 타일렀다. 내 이야기를 듣고 윤호는 ‘이해했다’라고 말했다.
나는 지금까지도 이날 윤호의 반응을 어떻게 해석해야 하는지 갈피 잡지 못하고 있다. 그때 윤호가 보인 반응은 언뜻 인간다우면서도, 가장 중요한 부분이 결여된, 시한폭탄 같은 모습을 함께 내비치고 있었다.
지금껏 우리의 요청을 잘 따라와 준 모습, 숨기는 것 없이 있는 그대로를 내어 보이는 윤호에게 계속해서 기대를 걸어도 되는 것일까? 윤호를 설득하는 것은 가능한 일일까? 아니 어쩌면 윤호가 불안 요소를 숨기지 못하고 그대로 드러내기에 차라리 잘 된 것은 아닐까? 지금, 이 시점에서 내가 윤호에게 기대해야 하는 것은 인간다움일까, 아니면 철저한 유능함일까. 이 글을 쓰는 지금도 무엇이 옳은지 확신할 수 없다. 윤호를 두고 나의 판단력이 흐려진 것은 아닐지 우려된다.
윤호는 분명 이대로 포기하기에 너무 유능하다. 이대로 윤호를 도시 운영체제의 메인 모델로 기용하면 우리는 많은 시간과 돈을 아낄 수 있을 것이다. 동시에 우리는 설명할 수 없는, 통제할 수 없는 리스크를 킬 스위치 하나에 의존해야 한다.
내가 윤호를 놓지 못하는 이유는 단지 이 녀석이 가진 능력 때문일까?
