100-53
서울 강남구 한 아파트에서 NB-001 베타 테스트 23일 차 시행 중이었다. 생후 8개월 아기가 소파에서 기어 내려오려 했다. NB-001의 예측 알고리즘이 작동했다.
- 낙상 예측: 0.5초 후
- 예상 충격: 머리 부분
- 위험도: 중급
NB-001이 순간적으로 이동했다. 정확히 아기가 떨어질 위치에 실리콘 팔을 펼쳤다. 그런데 예상과 달랐다. 아기가 갑자기 방향을 틀었다. 알고리즘이 재계산했지만 0.2초 늦었다.
쿵-
아기가 바닥에 떨어졌다. 다행히 카펫 위였지만 이마에 가벼운 찰과상으로 빨간 자국이 생겼다. 아기가 울기 시작했다.
"사고 발생. 보호자를 호출합니다."
엄마가 부엌에서 뛰어왔다.
"어떻게 된 거예요? NB가 있었잖아요!"
"예측 실패했습니다. 0.2초 오차가 발생했습니다."
엄마가 아기를 안아 올렸다. 이마의 찰과상이 부어오르기 시작했다.
"병원 가야겠어요. 이게 무슨 천만원짜리..."
오후 2시에 로보코어 긴급회의가 열렸다.
"첫 사고입니다." 운영팀장이 보고했다. "경미한 찰과상. 병원 치료 완료."
CEO의 표정이 굳었다. "원인은 뭐죠?"
"8개월 아기의 갑작스러운 방향 전환을 예측하지 못했습니다. 성인이나 노인과 달리 아기의 움직임은 무작위성이 높습니다."
"알고리즘 수정 가능합니까?"
"가능하지만... 100% 예방은 불가능합니다."
법무팀장이 끼어들었다. "계약서에 면책 조항이 있습니다. 법적 책임은 없습니다."
"그게 문제가 아닙니다." 마케팅 팀장이 말했다. "언론에 알려지면..."
CEO가 손을 들어 제지했다.
"보상은 어떻게 했지요?"
"의료비 전액과 위로금 100만원을 제안했습니다."
"500만원 주십시오. 그리고 비밀 유지 계약에 서명을 받으십시오."
다음 날, 연구소.
"알고리즘을 수정했습니다." 연구원이 발표했다. "예측 불가 상황에서는 더 넓은 범위를 커버합니다."
"효율성이 떨어지겠군요."
"맞습니다. 과잉보호가 될 수 있습니다. 하지만..."
팀장이 끝맺었다. "안전이 최우선입니다."
새로운 프로토콜이 추가되었다.
- 아기가 높은 곳에 있으면 무조건 1미터 내 대기
- 예측 확률 80% 미만 시 보호자 즉시 호출
- 사고 발생 시 영상 자동 저장 및 본사 전송
"너무 보수적 아닙니까?" 한 연구원이 물었다.
"한 번의 사고가 회사를 크게 망칠 수 있습니다."
일주일 후, 로보코어에서 고객 면담을 시행했다.
"솔직히 불안해요." 첫 사고를 낸 아기 엄마가 말했다. "NB가 있어서 안심하고 다른 일을 했는데, 막상 사고가 나니..."
"개선했습니다만 불안하시면 베타 테스트를 중단하시겠습니까?"
아이의 엄마가 한참 고민했다.
"아니요. 불안하지만... 그래도 도움은 돼요. 혼자 24시간 볼 순 없으니까."
"월 천만원의 가치가 있다고 생각하십니까?"
"글쎄요... 정부 지원 없으면 힘들 것 같아요."
로보코어 CEO 집무실.
"베타 테스트 중간 평가입니다." CFO가 보고했다.
"구매 의향 87%에서 72%로 하락했습니다. 첫 사고의 영향입니다."
"정부 지원은 어떻게 되었습니까?"
"보건복지부가 신중해졌습니다. 안전성 추가 검증을 요구합니다."
CEO가 창밖을 바라보며 말했다.
"CB는 실패해도 노인이 다칠 뿐입니다. 하지만 NB는..."
"아이가 다칩니다."
"그게 차이입니다."
잠시 침묵이 흘렀다.
"출시 연기합니까?"
"아닙니다. 더 많은 데이터가 필요합니다. 베타 테스트를 확대하십시오."
"사고 위험도 늘어납니다."
"그래서 더 빨리 배워야 합니다."
CEO가 돌아보며 말했다.
"NB의 성공은 완벽함이 아닙니다. 부모가 우리를 얼마나 신뢰하느냐입니다."
"신뢰를 어떻게 얻습니까?"
"투명하게, 실패를 숨기지 말고 공개하십시오. 그리고 개선하는 모습을 보여주십시오."
그날 밤, 로보코어는 첫 사고를 공식 발표했다.
'NB-001 베타 테스트 중 경미한 사고 발생. 알고리즘 개선 중. 안전이 확보될 때까지 출시 3개월 연기.'
주가는 5% 하락했다. 하지만 언론의 반응은 의외로 호의적이었다.
'솔직한 기업'
'안전 우선'
'책임감 있는 개발'
첫 번째 사고가 오히려 전화위복이 되고 있었다.