규정, 계약, 준법 흐름이 인간이 따라가기 어려울 정도로 복잡해지면서, 기관들은 일상적 거버넌스를 AI 시스템에 넘기고 사람은 경계 사례만 맡게 된다.
거버넌스는 층위화된다. 법은 여전히 인간 언어로 공표되지만, 실제 작동 버전은 AI 시스템이 해석하고 실행하는 상호운용 가능한 규칙 코드로 작성된다. 세금, 인허가, 조달 점검, 복지 자격, 계약 집행이 모두 자동 정책 엔진을 통과한다. 관료는 사라지지 않지만 예외 담당 서기로 바뀌어, 항소와 규칙 충돌, 시스템이 사회적으로 민감하다고 표시한 사건을 처리한다. 국가는 위에서 볼 때 더 빠르고 더 읽기 쉬워지지만, 시민은 점점 더 이의를 제기하기 어려운 기계 판정의 연속으로 국가를 체감하게 된다.
로테르담의 한 시청 사무실에서 오후 3시 15분, 베테랑 담당자는 신청자도 담당자도 평이한 언어로 완전히 설명할 수 없는 자동 위험 규칙 때문에 허가가 동결된 제빵사의 이의신청서를 읽는다.
옹호자들은 코드 기반 행정이 부패를 줄이고 복지 지급을 빠르게 하며 기관 간 숨은 불일치를 드러낼 수 있다고 말한다. 회의론자들은 내부 정합성에 최적화된 시스템이 그 아래 사는 사람들에게는 여전히 극도로 불투명할 수 있으며, 그 결과 적법 절차가 전문가 서비스로 변질된다고 본다.
요즘 행정 창구의 사람 역할이 바뀌고 있죠. 접수와 판정은 먼저 자동화됩니다. 사람은 시스템이 놓친 예외를 정리하죠. 기관은 복잡한 규정을 처리하려고 판단을 규칙 엔진에 넘깁니다. 2024년 조사에선 전 세계 조직의 71%가 생성형 AI를 정기 사용했죠. 그 결과 초급 실무자는 판단을 배우기 어렵습니다. 자동 보류된 건을 설명하는 일이 먼저 쌓이기 때문이죠. 이 흐름은 행정 밖으로도 번집니다. 보험 심사, 채용 검토, 대출 승인도 같은 구조로 움직이죠. 읽고 비교하던 일은 계속 줄어듭니다. 대신 항소와 감사 로그 같은 예외 처리만 사람에게 남죠. 속도는 빨라질 수 있습니다. 설명은 더 멀어질 수도 있죠. 이해되지 않는 판정이 늘 때, 우리는 그 구조를 어디까지 신뢰하게 될까요.