사법부를 불신하는 많은 사람들은 현재의 법관을 불신하며 판사를 AI 판사로 대체해야 한다고 주장한다. 그러나 전쟁에 사용되는 무기에도 군인의 유의미한 통제가 있어야 하는 것과 같이, 인간의 생사여탈을 판단하는 법적 절차에 있어서도 법관이나 검사 사법경찰관의 유의미한 통제는 반드시 필요하다.

인간에 대해서는 인간이 판단해야 한다는 철학적 관점에서는 물론 생사여탈을 판단하는 행위를 기계에 전가한다면 세계는 결국 도덕적 무감각에 빠질 수밖에 없다는 윤리적 관점에서도 그러하다.

인간이 인간의 행동과 의도를 판단하는 재판 절차와 이를 위한 수사 절차를 인공지능에게 맡기고 법복을 입히는 것은 인류가 쌓아 온 인도주의적 규범과 인본주의적 철학을 버리고 인간의 운명을 기계에 맡기는 것이다. 전장에서 사람의 죽음을 결정하는 것이 인공지능이어서는 안 된다면, 법을 해석하고 집행하는 법률절차 역시 마찬가지기 때문이다.

많은 사람들은 인공지능이 직역을 침탈할 것을 우려하거나, 인공지능으로 인한 장밋빛 미래를 그리곤 한다. 인공지능의 문제는 효율성이나 경제의 문제를 떠나 현실적인 윤리와 도덕의 문제이고 인간 존엄의 문제다.

이제는 인간이 판단해야 할 영역을 인공지능에게 어디까지 열어줘야 할지 인간의 운명을 인공지능에게 맡길 수 있을지 인간의 내일을 진지하게 고민할 때다.