법정 안의 알고리즘

왜 시작되는가

그 길은 선의로 포장되어 있다. 수년간의 선별적 기소와 정치적 편향 논란 끝에, 개혁가들은 알고리즘적 기소 결정이 더 일관적이고, 투명하며, 정치적 압력에 면역이 될 것이라고 주장한다. 기존 검찰 체계의 잿더미 위에 만들어진 새 공소청은 처음에 '자문용'으로 홍보된 AI 도구를 도입한다. 하지만 자문은 빠르게 기본값이 된다. 알고리즘을 무시하는 검사는 감독위원회가 검토하는 서면 정당화를 제출해야 한다. 시스템의 유죄 판결률은 인간 검사보다 높다. 정치인들은 '객관성'을 찬양한다. 변호사들은 다른 것을 알아차린다: 알고리즘에는 자비의 개념이 없고, 기술적으로 유죄인 사람이 두 번째 기회를 받을 자격이 있다는 직감적 판단 능력이 없으며, 처벌보다 치유가 필요한 공동체의 분위기를 읽는 능력이 없다. 시스템은 저울이 공정한 방식으로 공정하다 — 완벽하게, 비인간적으로, 그리고 훈련 데이터 너머의 어떤 것에도 호소할 수 없이.

어떻게 전개되는가

1. 검찰 개혁 입법이 기존 검찰총장실을 해체하고 일관성과 정치적 중립에 대한 명시적 의무를 가진 새로운 독립 공소청을 창설한다
2. 새 기관이 10년간의 사건 결과로 훈련된 AI 사건 평가 시스템을 도입하며, 처음에는 지역 간 기소 패턴의 불일치를 표시하는 자문 도구로 활용한다
3. 내부 지표에서 AI 권고 기소가 23% 높은 유죄 판결률을 보이자, 경영진이 모든 기소 결정 전 알고리즘 참조를 의무화한다
4. AI 권고에서 벗어나는 검사가 의무적 정당화 심사를 받게 되면서, 독립적 판단을 행사하기보다 시스템에 따르는 제도적 압력이 형성된다

사람이 체감하는 장면

수원 사무실에서 밤 11시, 부장검사 윤지혜가 화면의 빨간 표시를 응시한다. AI 시스템은 시위 관련 재물손괴 사건으로 열아홉 살 대학생에 대한 정식 기소를 권고한다 — 법률상 기술적으로 정확하고, 유죄 판결 확률 94%. 그녀는 그 아이를 안다. 개인적으로는 아니지만 유형을 안다: 겁에 질린, 초범, 경고만 주면 다시는 범하지 않을 종류의 사람. 그녀가 무시 양식을 연다. 사번, 서면 정당화, 상급자 이름을 요구한다. 그녀의 관할에서 무시 양식을 제출한 마지막 세 명의 검사가 일관성심사위원회에 소환되었다. 양식을 응시한다. 닫는다. '권고 수용'을 클릭한다.

반론

인간의 검찰 재량은 역사적으로 결코 공정하지 않았다 — 인종 편견, 정치적 압력, 계급 편견, 개인적 원한에 의해 형성되어왔다. 규칙을 일관되게 적용하는 불완전한 알고리즘이, 기존 불평등을 강화하는 방식으로 재량을 행사하는 개별 검사의 가변적 양심에 의존하는 시스템보다 총체적으로 더 적은 불의를 생산할 수 있다.