알고리즘 법정

왜 시작되는가

검찰, 공수처, 특사경 사이의 수십 년간 줄다리기가 인간 주도 형사사법에 대한 국민 신뢰를 침식한다. 매번의 구조 개편은 새로운 정치적 포획으로 귀결된다. 기술관료적 의원들과 법학자들의 연합이 한때 황당해 보였던 것을 제안한다: 머신러닝 시스템이 증거 평가, 혐의 결정, 기소 권고를 처리하게 하여 정치적 무기화를 가능케 하는 인간의 재량을 제거하자는 것이다. 시범 사업은 증거가 가장 정량화 가능한 금융범죄부터 시작된다. 초기 결과는 빠른 사건 처리와 일관된 양형 권고를 보여준다. 하지만 시스템의 학습 데이터는 과거 기소의 편향을 내포하고 있으며, 불투명성은 항소를 거의 불가능하게 만든다. 정의는 빨라지지만 이의를 제기하기 어려워진다.

어떻게 전개되는가

1. 대검찰청, 공수처, 특사경 사이의 세 차례 연속 검찰 개혁이 각각 18개월 이내에 정치 스캔들로 종결된다
2. 형사사법 시스템에 대한 국민 지지율이 역대 최저인 15% 미만으로 하락하며, 시민들은 모든 제도적 구성이 동일하게 타협되었다고 인식한다
3. 초당파 입법위원회가 KAIST와 서울대에 240만 건의 판례 기록으로 학습된 자율법률지능시스템 개발을 의뢰한다
4. 2031년 금융범죄를 대상으로 시범 운영이 시작되어 첫 6개월간 340건을 처리하고 기소 권고에 대한 사법부 수용률 94%를 기록한다
5. 변호인단이 시스템이 검찰 관용 시대의 학습 데이터와 유사한 패턴을 가진 정치적 연줄이 있는 피고인을 체계적으로 경미하게 기소하는 것을 발견하지만, 모델의 결정 논리는 국가안보 자산으로 분류되어 있다

사람이 체감하는 장면

최은지 변호사가 새벽 6시 서울중앙지방법원 복도에 앉아 의뢰인의 기소장을 네 번째 읽고 있다. 문서는 완벽하다 — 모든 법조문이 정확히 인용되고, 모든 증거 사슬이 인간 검사는 달성할 수 없는 타임스탬프 정밀도로 연결되어 있다. 횡령 혐의를 받는 중간 관리급 금융인인 의뢰인이 누가 자신을 기소하는지 묻는다. 그녀는 멈춘다. 검사는 없다. 수사 동기에 대해 반대심문할 대상이 없다. 시스템의 추론이 그녀가 이의를 제기할 자격이 없는 20페이지짜리 기술 부록으로 렌더링되어 있을 뿐이다.

반론

역사적 판례 데이터로 학습된 AI 시스템은 편향을 제거하지 않는다 — 화석화한다. 시스템이 일관된 결과를 내놓을 수는 있지만, 일관성은 정의가 아니다. 동기를 질문할 수 있고 판단에 항소할 수 있는 인간 검사 없이, 대심 시스템은 가장 근본적인 견제 장치를 잃는다. 정치화된 기소의 치료제가 질병보다 나쁠 수 있다: 중립의 법복을 입은 이의 제기 불가능한 블랙박스.