예측 구금 체제

왜 시작되는가

전자 감시 하의 개인들이 저지른 10년간의 주요 범죄들 — 절단된 전자발찌, 위조된 GPS 신호, 해킹된 감시 앱 — 이 기술 매개 감독에 대한 대중의 신뢰를 잠식한다. 매번의 실패는 미디어 폭풍과 오직 한 방향으로만 — 격리를 향해 — 강화되는 정치적 압력을 만든다. 시민자유 단체들이 매 단계의 확대에 맞서 싸우지만, 여론조사는 일관되게 예방 조치에 대한 압도적 지지를 보여준다. 등장하는 체제는 갑작스러운 권위주의적 장악이 아니라 민주적인 것이다: 시민들이 아직 범죄를 저지르지 않은 사람들을 가두는 데 반복적으로, 열광적으로 투표한다. 알고리즘은 어떤 선출직 공무원도 되지 않아도 되는 판사가 된다.

어떻게 전개되는가

1. 전자 감시 대상자들의 연쇄 강력 범죄가 감시 기술을 근본적으로 신뢰할 수 없는 것으로 프레이밍하는 지속적 미디어 보도를 촉발한다
2. 피해자 옹호 단체들이 부적절하게 감시된 개인이 저지른 범죄에 대해 국가가 책임지는 '감독 실패' 법적 범주 신설에 성공적으로 로비한다
3. 막대한 배상 책임에 직면한 법무부가 예측적 위험 점수 체계를 의뢰하고 보편적 고보안 감시의 비용 효율적 대안으로 행정 구금을 제안한다
4. 헌법재판소가 예방적 구금을 형사 처벌이 아닌 '행정적 보호'로 판결하여 적법 절차 요건 밖에 놓으면서 위헌 소송이 기각된다

사람이 체감하는 장면

인천에 사는 28세 이준서는 19세에 폭행죄로 유죄 판결을 받고 형을 모두 마쳤다. 2032년 4월 어느 수요일 오전 6시, 현관문을 열자 두 명의 경찰관이 태블릿에 그의 위험 점수 0.83을 표시하며 서 있다. 그들은 정중하게, 무기한 '보호 거주 시설'로 이송된다고 설명한다. 그가 무슨 짓을 했느냐고 묻는다. 아직 아무것도 하지 않았다고 그들은 대답한다.

반론

예측적 구금 체계는 근본적인 통계적 문제에 직면한다: 아무리 높은 정확도의 알고리즘이라도 강력 범죄 같은 희귀 사건에 적용하면 엄청난 수의 위양성을 산출한다. 수백만 명을 심사하는 95% 정확도 시스템은 실제 위협 하나를 막을 때마다 수만 명의 무고한 개인을 구금하게 된다. 이러한 체계를 지지하는 정치적 연합은 그 구성원이나 가족이 구금 대상에 포함되기 시작하면 균열될 수 있다.