알고리즘이 법정에서 만나자고 합니다

왜 시작되는가

새 정부가 들어설 때마다 전 정권 인사를 처벌하고 자기 편을 보호하기 위해 검찰 권한을 재편한다. 수사, 기소, 재판의 경계가 흐려지면서 형사사법에 대한 국민 신뢰가 역대 최저치를 기록한다. 이 공백 속에서 대안이 없어 보일 때까지 황당해 보이던 제안이 등장한다 — 판례법으로 학습된 인공지능 기소 심사 시스템, 정치적 편향 없이 기소 요건 충족 여부를 평가하도록 설계된 것이다. 중립적 심판으로 홍보되지만, 인간이 코딩한 중립성은 그들의 사각지대를 물려받으며, 누가 모델을 훈련시키는가가 새로운 정치적 격전지가 된다.

어떻게 전개되는가

1. 세 차례 연속 정권이 각각 집권 첫 해에 검찰 수사 권한을 재편하며, 서로 모순되는 법적 체계가 진행 중인 사건들을 마비시킨다
2. 피고인이 현행 개혁안 하에서 수사 기관의 법적 지위가 없다고 주장한 부패 재판이 대법원의 의견 분열 판결로 무너진다
3. 법무부가 기소 과정의 탈정치화를 위해 금융범죄에 한정된 인공지능 기소 심사 시범 사업을 발주한다
4. 2년 내에 시스템이 전체 중범죄로 확대되지만, 야당이 훈련 데이터가 보수 정권 시기 기소 사례를 과대 대표했음을 발견하며 알고리즘 자체가 정치적 편향을 갖고 있다는 비난이 촉발된다

사람이 체감하는 장면

2032년 6월의 습한 목요일, 변호사 윤석민이 서울중앙지방법원 402호 법정에 서서 공소 기각 신청을 변론하고 있다. 그의 의뢰인인 전직 차관은 인공지능 심사 시스템에 의해 신뢰도 점수 0.73으로 기소되었다. 윤 변호사가 시스템의 추론 체인을 보여주는 태블릿을 들어 올린다 — 판례에 하이퍼링크된 일곱 개의 분석 노드. 그는 3인 재판부에게 기계가 11초 만에 의뢰인의 운명을 계산했다고 말한다. 30년간 직감과 경험으로 상당한 이유를 판단해온 재판장이 안경을 벗으며 한 번도 해본 적 없는 질문을 던진다 — 정의에 허용 가능한 오차 범위가 얼마입니까?

반론

인간 검사가 중립적이었던 적은 없다. 정치적 임명, 승진 동기, 개인적 야망이 항상 누가 기소되고 누가 풀려나는지를 좌우해왔다. 인공지능 시스템은 결함에도 불구하고 적어도 감사 가능한 추론 체인을 생산한다 — 어떤 인간 검사도 요구받지 않았던 것이다. 문제는 알고리즘이 편향되었느냐가 아니라, 대체하는 시스템보다 덜 편향되었느냐이다. 적대적 검토와 다양한 데이터셋을 통해 훈련 데이터 문제를 해결할 수 있다면, 기계 보조 심사는 한 세기 만에 가장 의미 있는 검찰 책임성 향상이 될 수 있다.