법정 시험 도시

왜 시작되는가

도시 조달 방식은 하룻밤 사이에 바뀐다. 공급업체들은 더 이상 블랙박스 속도를 팔지 않고, 변경 불가능한 기록, 모의 거울, 이의 신청 화면, 실패 격리 모드 같은 법정 내구성을 판다. 주민들이 빠르게 이의를 제기할 수 있어 일부 공공 서비스는 더 공정해지지만, 끊임없이 다툴 수 있다는 부담 때문에 도시 운영은 느려지고, 공무원들은 결과를 개선할 수도 있는 대담한 모델보다 검증을 견딜 수 있는 좁고 소심한 모델을 선호하게 된다.

어떻게 전개되는가

1. 눈에 보이는 공공 피해가 사후에 자동화된 지방 행정 판단을 설명하거나 되돌리는 일이 얼마나 어려운지 드러낸다.
2. 판사들은 다툼이 있는 결과 뒤의 정확한 상태, 입력값, 정책 규칙을 재구성할 수 있는 시스템을 요구한다.
3. 조달 부서는 순수한 모델 성능이 아니라 재현, 기록, 법적 대응 시간에 맞춰 계약서를 다시 쓴다.
4. 도시들은 더 안전하지만 더 보수적인 인공지능을 배치해 치명적 오류를 줄이는 대신 공공 혁신을 더 느리고 방어적으로 만든다.

사람이 체감하는 장면

마드리드의 한 시청 법무실에서 오후 2시 10분, 신입 변호사가 법정 화면에서 복지 모델이 다시 실행되는 모습을 바라본다. 세입자 한 명과 서기 두 명이 조용히 앉아 있는 가운데, 재현 화면은 여섯 달 전의 낡은 소득 항목에서 멈추고 방 안의 모두가 같은 순간에 오류를 본다.

반론

재현 가능성이 곧 정의를 보장하는 것은 아니다. 정부는 형식 요건을 충족하면서도 시민에게 빽빽한 기록, 비싼 이의 절차, 전문가만 읽을 수 있는 시스템을 들이밀 수 있다. 도시는 서류상 투명해지면서도 실제로는 여전히 접근하기 어려운 곳으로 남을 수 있다.