알고리즘이 당신을 심판합니다

왜 시작되는가

대대적인 검찰 개혁 후 한국은 기존 검찰청과 분리된 공소청을 신설한다. 인력 부족과 객관성 입증에 대한 정치적 압박에 직면한 공소청은 20년치 사건 결과 데이터로 훈련된 AI 시스템을 도입해 기소 결정을 권고받는다. 처음에는 자문 역할이었지만, 이 시스템이 유죄 예측에서 인간 검사보다 통계적으로 더 일관된 결과를 보여준다. 언론이 인간의 번복 결정이 정치적 사건과 상관관계가 있다고 보도하자 여론은 알고리즘 쪽으로 결정적으로 기운다. 공소청은 AI 권고를 이탈하는 검사에 대해 의무적 소명 심사위원회를 도입한다. 변호사들은 이 시스템이 정황 증거를 체계적으로 과소평가하고 전과 기록을 과대 반영하여, 빈곤층과 재범자를 사실상 범죄화하면서 초범 화이트칼라 범죄자에게는 유리한 평가를 내린다는 사실을 발견한다.

어떻게 전개되는가

1. 검찰 개혁 법안이 투명하고 데이터 기반의 사건 평가를 의무화하는 독립 공소청을 설립한다.
2. 만성적 인력 부족과 정치적 중립성 압박으로 공소청이 과거 유죄판결 데이터로 훈련된 AI 사건평가 시스템을 시범 도입한다.
3. AI 시스템이 94%의 유죄 예측 정확도를 달성하고, 인간의 일관성 없는 번복에 대한 언론 보도가 검찰 재량에 대한 공공 신뢰를 잠식한다.
4. 의무적 번복 소명 심사위원회가 도입되어 검사가 알고리즘 권고를 이탈하는 것이 절차적으로 부담스러워진다.
5. 변호사들이 저소득 피고인과 재범자에게 불리한 훈련 데이터의 체계적 편향을 발견하고 위헌 소송을 제기한다.

사람이 체감하는 장면

이석환 검사가 화면 위 가정폭력 사건의 빨간색 '기소 불가' 권고를 응시한다. 직감으로는 재판에 넘겨야 할 사건이다. 피해자가 압박에 못 이겨 진술을 번복했고 — 알고리즘은 그것을 증거 미약으로 읽는다. 그에게는 한 번도 공판을 해본 적 없는 위원 셋이 포함된 5인 심사위원회에 제출할 번복 소명서를 작성할 40분이 남아 있다. 양식을 열었다가 닫는다. 다시 연다. 빈 페이지 위에서 커서가 깜빡인다.

반론

알고리즘의 일관성은 가장 극단적인 형태의 검찰 남용 — 정치적 수사, 개인적 보복, 기소 결정에서의 무의식적 편향 — 을 제거할 수 있다. 투명하고 감사 가능한 시스템이 개별 검사의 기분, 업무량, 정치적 야심에 의존하는 시스템보다 실제로 더 공정한 정의를 실현할 수 있다.