예측의 족쇄

왜 시작되는가

전자발찌가 족쇄 역할을 해야 했다. 충분히 짧지 않았다. 감시 대상 범죄자들이 새로운 범죄 전에 체계적으로 장소를 답사하기 시작하자, 대중은 위치 추적 이상의 무언가를 요구한다. 정부는 이동 패턴, 속도 변화, 위치 체류 시간, 취약 시설 근접성을 분석하여 위험 점수를 생성하는 AI 'ARGOS'를 도입한다. 효과가 있다 — 감시 대상 범죄자의 재범률이 60% 감소한다. 성공이 너무 가시적이어서 지자체들이 접근을 요청한다. 먼저 가석방자 대상으로. 그다음 학교 주변으로. 그다음 대중교통 허브로. 사회 최악의 구성원을 위해 만들어진 시스템이 전체 사회를 바라보는 렌즈가 된다. 아무도 그것에 투표하지 않았다. 그것은 단지 하나의 합리적인 결정에서 다음 결정으로 전이되었을 뿐이다.

어떻게 전개되는가

1. 전자발찌 착용 범죄자의 세 번째 사전답사형 재범 사건이 지속적인 언론 보도와 법무부에 대한 공분을 촉발한다
2. 법무부가 이동 데이터와 위치 위험 프로필을 중첩하여 사전 범죄 경보를 생성하는 AI 행동 분석 시스템 조달을 신속 추진한다
3. ARGOS 시범 운영이 첫해에 감시 대상 범죄자 재범률을 60% 줄여 초당적 정치적 지지와 국제적 관심을 얻는다
4. 지자체들이 학교 구역과 대중교통 노선을 시작으로 일반 공공 안전을 위한 ARGOS 접근을 자발적 인프라로 포장하며 청원한다
5. 민간 보안업체가 주거 단지용 ARGOS 호환 센서를 라이선스하고, 보험사가 커버리지가 있는 건물에 보험료 할인을 제공하기 시작한다

사람이 체감하는 장면

42세 아버지 동수가 딸을 초등학교에 데려다주며 걷는 중 휴대폰으로 푸시 알림을 받는다: 'ARGOS 알림 — 한빛초등학교 200m 이내에서 행동 이상 징후 감지. 일반적 주의를 기울이십시오.' 조용한 아침 거리를 둘러보지만 이상한 것은 없다. 그래도 딸의 손을 더 꽉 잡는다. 나중에 그 경보가 주소를 확인하느라 너무 오래 멈춘 택배 기사 때문에 발생했다는 것을 알게 된다. 시스템은 그에게 이것을 말해줄 수 없고, 그는 그 불안을 잊을 수 없다.

반론

예측 시스템은 좁게 정의된 맥락에서 실제로 피해를 방지할 수 있다. 도덕적 질문은 기술이 작동하는지가 아니라, 사회가 그것을 제한된 형태로 배치하고 보편적 적용을 향한 중력에 저항할 수 있는지이다. 한국의 강한 시민 자유 전통과 활발한 헌법재판소가 다른 나라에는 없는 제도적 항체 역할을 할 수 있다.