해명의 의무

왜 시작되는가

이 변화는 처음에는 테러와 사이버범죄 대응을 위한 예외 조치로 시작되지만, 곧 사기 수사, 국경 심사, 보험 분쟁, 공공 채용 검토로 확산된다. 시민들은 침묵이 더 이상 중립이 아님을 배운다. 메시지 기록, 위치 공백, 삭제된 메모가 일관된 기계 서사로 변환되지 않으면 그 부재 자체가 의심의 근거가 된다. 자신의 행동을 판독 가능하게 정리해 주는 새로운 직업이 생기고, 반대자들은 모호함 자체를 시민권으로 지키려 한다. 사회가 완전한 전체주의로 변하는 것은 아니지만, 행정은 극도로 친밀해진다.

어떻게 전개되는가

1. 비상 안보 규정이 스마트폰 제조사에게 신규 기기에 표준화된 수사기관 접근 계층을 탑재하도록 강제한다.
2. 공공기관은 인간 조사관보다 더 빠르게 방대한 개인 데이터를 걸러내기 위해 자동화된 의도 분석을 도입한다.
3. 기업, 보험사, 학교가 기계적으로 검증 가능한 자기 해명을 신뢰성의 증거로 취급하면서 상시 해명이 사회 규범이 된다.

사람이 체감하는 장면

오전 7시 40분, 인천역에서 배달 관제사 민준은 교통카드가 경고를 띄우자 준법 키오스크 앞에 멈춰 선다. 그는 휴대전화를 스캐너에 올려놓고, AI 에이전트가 왜 자정 이후 세 개의 동네를 방문했는지 재구성하는 과정을 지켜본다. 정리된 항목들이 화면에 뜰 때까지 그는 전날 밤을 완전히 떠올리지도 못한다.

반론

시민자유 단체들은 가장 큰 피해가 노출이 아니라 압축이라고 말한다. 삶이 기계가 읽을 수 있는 동기의 묶음으로 번역되는 순간, 용서와 실험, 정치적 이견을 가능하게 하던 보호적 흐릿함이 사라진다는 것이다. 일부 도시는 저위험 행정 결정에 기기 추론을 사용할 수 없는 보호 구역을 만든다.