언젠가 AI 또한 형사처벌을 받게 되겠지요
현재 인공지능의 발전 수준은 ANI(Artificial Narrow Intelligence)입니다. 인간과 같은 지능을 아직 가지고 있다고 보지 않는 것이지요. 그런데 연구자들은 나중에 AI가 인간과 동일한 수준의 지능인 AGI(Artificial General Intelligence) 또는 인간의 지능을 뛰어넘는 ASI(Artificial Super Intelligence) 수준까지 발전할 것으로 예상하기도 합니다. 그때가 되면 우리 삶은 또 어떻게 달라져 있을까요? 저는 '범죄'의 관점에서 잠시 접근해 보고자 합니다.
형법은 범죄를 저지른 인간을 처벌하는 조항들로 가득 차 있는데요. 다만 14세가 되지 아니한 자는 처벌하지 않는다고 규정하고 있습니다. 형법 제9조에 있는 이야기입니다. 이들을 처벌하지 않는 이유는 14세가 되지 아니한 자는 자신의 행위를 분별할 능력이 있다고 보지 않는다는 것이지요. 예를 들어 5세 아이가 칼을 사용해 누구를 다치게 해도 그것이 상해죄가 되지 않는 이유는 그 아이는 그 행위의 의미를 알지 못한다고 보는 것인데요. 다시 말해 책임을 물을 수 있는 자에게만 책임을 묻겠다는 것입니다. 지금 AI가 인간의 여러 범죄에 활용되고 있어도 AI에게 별도로 형사책임을 묻지 않는 것은 14세가 되지 아니한 아이처럼 AI에게 그러한 행위를 분별할 수 있는 행위능력이 없다고 보는 것이지요.
그런데 나중에 AI가 AGI나 ASI처럼 발전하면 어떨까요? 인간과 동등한 혹은 뛰어난 지능을 가지면서 독립적이고 자율적인 사고를 할 수 있다고 하면요? 과연 그때 AI가 저지른 범죄에 눈감아 줄 수 있을까요? 예를 들어 AGI 지능을 보유한 AI로봇이 사람을 살해했다고 합시다. 만일 ANI 정도였다면 그 로봇을 만든 제조사에 책임을 물을 겁니다. 그런데 이 로봇은 AGI 수준의 지능을 보유하고 있어 자율적인 사고가 가능하기 때문에 이 로봇의 행위에 제조사가 원인을 제공했다고 보기 어렵습니다. 결국 형사처벌은 발생된 결과에 원인이 있는 자에게 책임을 묻는데 AGI 로봇의 경우 제조사의 제조행위와 AGI의 살해행위 사이에 원인과 결과라는 인과관계를 인정하기가 쉽지 않습니다. 그렇다면 결국 그 책임은 AGI가 져야 할 텐데요. 과연 우리는 로봇에게 책임을 물을 준비가 되어 있나요? 그럼에도 누군가가 사망했다는 결과가 있는데 아무도 책임지는 사람이 없다면 이는 분명 사법정의에 반하는 일입니다. 그래서 저는 AI 또한 인간처럼 형사책임을 져야 할 시점이 곧 다가오고 있다고 생각합니다.
