의도 경보

왜 시작되는가

패턴은 역겹도록 익숙하다: 전자발찌를 착용한 범죄자가 법적으로 허용된 이동 구역 내에서 대상의 집, 직장, 일상 동선을 면밀히 사전답사한 뒤, 장치를 제거하고 한 시간 내에 강력 범죄를 저지른다. 2028년 네 번째 사건이 전국 뉴스에 보도된 후, 여론은 위치 추적을 넘어서는 무언가를 요구한다. 정부는 이동 패턴, 속도 변화, 체류 시간, 경로 이탈을 지속적으로 분석하여 '행동 이상 점수'를 생성하는 AI 시스템으로 대응한다. 점수가 임계값을 넘으면 보호관찰관이 경보를 받고 판사에게 긴급 예방적 보호수용을 청구할 수 있다. 첫 해에 시스템은 잠재적 가해자 두 명을 잡아낸다. 동시에 847건의 허위 양성도 발생한다 — 아픈 친척을 방문하거나 다른 학교에서 아이를 데려오느라 일상 루틴에서 벗어난 것이 유일한 '범죄'인 사람들. 법적 이의 제기가 즉시 시작된다. 2031년까지 헌법재판소는 수세기 동안 철학자들이 논쟁하고 이제 엔지니어들이 운용 가능하게 만든 질문에 판결을 내려야 한다: 국가가 아직 저지르지 않은 범죄를 이유로 사람을 구속할 수 있는가?

어떻게 전개되는가

1. 전자발찌 착용 범죄자가 허용 구역 내에서 사전답사 후 계획 범죄를 저지르는 고위 사건이 다수 발생하여, 위치 전용 추적의 근본적 부적절함이 드러난다.
2. 여론의 분노가 기술적 해결책을 향한 정치적 압력을 만들고, 정부는 이동 데이터에서 범죄 의도를 예측하기 위해 위치뿐 아니라 행동 패턴을 분석하는 AI 시스템에 자금을 지원한다.
3. 두 건의 공격 예방이라는 초기 성과가 정치적 지지를 만들지만, 400:1의 허위 양성 비율이 부당한 예방적 구금과 시민자유 소송의 물결을 촉발한다.
4. 헌법재판소가 '사전 행동적 보호수용'의 법적 근거에 이의를 제기하는 획기적 사건을 수리하여, 향후 수십 년간 예측과 처벌의 경계를 정의할 판결을 내려야 한다.

사람이 체감하는 장면

2030년 9월 수요일 오전 6시 15분, 수원의 원룸. 최동현(34세)이 편의점에 아침을 사러 가려고 신발을 신고 있을 때 사복 경찰관 세 명이 긴급 보호수용 영장을 들고 문 앞에 나타난다. 행동 이상 점수가 밤새 급등했다 — AI가 지난 일주일간 그가 전처의 아파트 건물 앞을 세 번 지나간 것을 감지했다. 실제로 그랬다. 새 심리 상담사 사무실로 가는 길목이기 때문이다. 이를 설명하려 하지만 경찰관들은 동정적이면서도 절차에 묶여 있다. 판사가 사건을 검토하고 석방할 때까지 11시간을 대기실에서 보낸다. 상담사는 나중에 이 구금이 그의 회복을 수개월 후퇴시켰다고 기록한다. 시스템은 이 결과를 '개입 성공 — 범죄 미발생'으로 기록했다.

반론

대안 — 범죄가 일어나기를 기다리는 것 — 에는 사망자 수가 따른다. 모든 허위 양성은 불편함을 의미하고, 모든 허위 음성은 피해자를 의미한다. 시스템이 연간 단 한 건의 살인이라도 예방한다면, 허위 감지된 이들을 보호하는 강력한 이의 제기 메커니즘이 갖춰진 한 공리주의적 계산은 시스템의 존재를 지지할 수 있다. 문제는 예측이 완벽한지가 아니라, 반복적으로 실패하는 현행 수동적 감시 시스템보다 나은지 여부다.