인간의 개입이 전혀 없는 '완전자율주행차'

자율주행차에서 판단의 문제

자율주행차에서 판단의 문제

  많은 사람은 자율주행자동차가 교통 문제에 대한 완벽한 해결책이라고 믿고 자율주행차의 미래에 대해 장밋빛 전망을 내놓고 있지만 실제 상황은 다르다. 테슬라의 오토파일럿과 같은 시스템은 아직 자율주행 3단계에 근접했다고 할 뿐 실제로 3단계에도 아직 이르지 못했다고 평가되고 있으며 웨이모의 경우 시범 운행이 몇 년이나 되었지만, 아직 상용화는커녕 실패했다고까지 평가받는 실정이다. 그 외에도 많은 자율주행 시스템은 시범 운영 중인 것을 제외하면 사람의 선택과 판단을 개입하기를 필수적으로 요구하고 있다.

  왜 자율주행차 개발 자체가 어려울까? 단순히 인공지능의 성능이 낮아서일까? 본 글에서는 시스템이 주행을 완전히 제어할 수 있다는 자율주행자동차라는 개념이 얼마나 광범위하고 어려운 개념인지 논의해 보고 사람이 하는 선택과 판단이 자율주행차에서 어떤 의미가 있을 지에 대해서도 알아보고자 한다.

완전자율주행차가 필요한 이유

 

  일반적으로 운전할 때, 다양한 상황에 직면하게 된다. 앞에 장애물이 있다든지 사람이 갑자기 튀어나온다든지 옆에서 잘 달리던 자동차가 갑자기 끼어든다든지 등등. 그리고 운전자들은 이런 상황에 대응을 실패하는 경우가 많으며 이것은 교통사고로 이어지게 된다.

 그러면 이러한 문제를 하는 방법으로는 정보를 빠르게 얻을 수 있도록 표시를 해주거나 상황이 위험한 상황인지 아닌지 알려주거나 앞으로 어떻게 행동해야 할지 가이드라인을 주는 등 다양한 방법들이 있을 것이다. 그러면 이제 다들 의문이 드는 것이다. 그냥 모든 것을 시스템이 알아서 수행하면 되지 않을까? 아니 그걸 넘어서 시스템이 대응까지 하면 되지 않을까? 이러한 이유로 사람들은 자율주행차를 필요로 하게 된 것이다. 

  자율주행차에 대한 필요성은 다들 인식 했지만 자율주행차를 실제로 구현하기 위한 기술은 2000년 초반까지만 해도 굉장히 제한적이었다. 그러나 2010년경 딥러닝의 등장 그리고 강화 학습이라는 개념과 결합하면서 스스로 학습가능한 인공지능의 성능이 비약적으로 개선되게 되었다. 그 결과 10년도 안 되어 다양한 자율주행차 및 시스템이 개발되었고 완전자율주행자동차에 대한 기대도 높아졌던 것이다.

 

완전자율주행차가 개발되기 어려운 이유

  국제자동차기술자 협회(SAE International)의 완전자율주행자동차의 5단계 정의를 보면 1~2단계는 운전자를 보조하거나 약간 자동화하는 단계, 3단계는 예상치 못한 상황에서 인간이 개입하는 단계, 4단계에서는 제한된 환경에서 인간의 개입 없이 완전자율주행하는 단계, 그리고 마지막 5단계는 어떤 상황에서든 인간의 개입이 필요없는 단계라고 정의된다.

  다시 말하면 완전자율주행차의 의미는 시스템이 어떤 상황에서도 자율적으로 대응 가능한 자동차라는 의미다. 하지만 어떤 상황에서 어떻게 대응하는지에 대해서는 정해진 것이 없다. 이 굉장히 모호한 의미로 인해 실제로 완전자율주행 5단계에 대한 정의에 대해서 비판하는 사람들도 많다. 물론 그 상황들을 모두 정의하려는 시도가 있었지만 이것이 가능했다면 현재의 인공지능 기술이 없이도 자율주행이 이미 가능했을 것이다. 정의된 상황에 따라 대처를 모두 알고리즘으로 구현하면 되기 때문이다.

  딥러닝이라는 기술이 인공지능을 혁신적으로 개선했다고는 하지만 한계 또한 존재한다. 원래 딥러닝은 인공신경망이라는 것을 구현한 것에 기반하는데 이론상 신경망이 클수록 성능도 올라갈 것이라고 기대했지만 실상은 신경망 크기를 계속 키우면 학습하고 추론하는데 많은 시간을 요할 뿐더러 어느 순간 학습된 정보가 신경망 중간에서 사라져 버리는 문제들도 발생했다. (Gradient Vanishing) 이러한 문제를 해결하기 위해 다양한 방법들이 고안되어 왔지만 딥러닝의 성능을 마음대로 개선할 수 없게 된 것이다.

신경망을 늘린다고 무조건 성능을 높일 수 없다

인간의 판단을 반영하면 해결될 것인가?

결국 지금 기술로는 완전자율주행은 불가능하고 어떤 부분에서는 결국 사람의 판단을 요구하는 3단계 수준의 자율주행시스템만 만들수 밖에 없는 것이다. 그러나 3단계 자율주행시스템을 구현하는 것도 쉬운일이 아니다.

3단계 자율주행의 경우 평상시에는 운전자가 운전에 집중하고 있지 않아도 되어야 한다. 만약에 운전에 집중을 요구한다면 그것은 2단계 자율주행시스템이다. 그러나 운전에 집중하고 있지 않을 때 갑작스러운 상황이 발생한다면 사람은 제대로 판단하는 것이 가능할까?

사람이 어떠한 상황에 제대로 대처하기 위해서는 상황에 대해 잘 이해하고 있어야 한다. 이 상황을 이해하는 과정을 정의한 것이 상황 인지 모델(Situational Awareness)라는 이론이다. Mica Endsley라는 사람이 만든 이 이론의 핵심은 상황에 대해 이해하는 과정은 1) 주변의 정보를 수집하고 2) 그 정보를 바탕으로 현재의 상황을 이해하며 3) 그 이해를 바탕으로 미래의 상황을 예측하는 이 세가지 과정을 겪는다는 것이다. 자율주행차에서도 갑작스러운 상황이 발생했을 때, 운전자에게 이러한 과정을 주입시켜야 상황에 제대로 된 판단을 할 수 있을 것이다.

그러나 이를 위해서는 시스템이 먼저 상황에 대해 제대로 이해하고 이를 설명할 준비가 되어 있어야 한다. 그리고 운전자가 몇 초 이내에 심하면 1~2초 이내에 이해하기 쉬운 형태로 정보를 제공해야 하는데 이것은 결코 쉬운 일이 아니다. 심지어 상황을 이해시켰더라도 그에 대한 반응 속도가 늦어 상황에 대처하기 늦은 경우도 발생할 수 있다. 결국 상황에 따라서는 시스템이 운전자를 무시하고 스스로 판단을 내리는 것이 더 나을 수 있다는 모순에 빠지는 경우가 많다.

갑자기 이 상황을 주어지면 과연 제대로 반응할 수 있을까?

결론

결국 지금 현재는 완전한 자율주행은커녕 반쪽짜리 자율주행조차 구현하기 어려운 수준에 있는 것이다. 그렇다고 인간의 판단을 개입시키기에는 그것 또한 많은 문제가 있는 실정이다. 기술이 발전하면 해결될 수도 있겠지만 그 정도 수준의 성능을 가진 인공지능은 앞으로 몇 십년은 지나야 나올지도 모른다. 게다가 철학적인 질문에 대한 답까지 해야하는 상황이기에 자율주행 기술은 아직 완성되려면 멀었다라고 할 수 밖에 없는 것이다. 우리는 아래 질문에 답을 해야 한다. 우리가 원하는 자율주행자동차는 무엇인가?