위임 반사

왜 시작되는가

문화적 규범은 선택지를 함께 검토하는 데서 엔진의 권고에 이의를 제기할 수 있는지만 확인하는 쪽으로 이동한다. 교사들은 학생에게 가능성을 탐색하게 하기보다 항의 절차를 문서화하는 법을 가르친다. 관리자는 선택의 저자라기보다 상향 보고의 관리자에 가까워진다. 전문직의 책임 구조는 더 기묘해진다. 인간은 법적으로 남아 있지만, 주된 역할은 기계 결론을 수용하거나 비용이 큰 이탈을 정당화하는 일이다. 시간이 지나면 망설임 자체가 무능처럼 보이기 시작한다.

어떻게 전개되는가

1. 이용자들이 모호함을 길게 끄는 대화형 인터페이스보다 다음 행동을 명확히 내놓는 시스템을 선호하기 시작한다.
2. 조직들은 표준화된 판단 엔진이 일상적 결정에서 시간과 인력 압박, 법적 편차를 줄인다는 사실을 발견한다.
3. 규제기관은 예외 기록과 감사 추적을 남긴다는 조건 아래 제한된 영역에서 이러한 시스템 사용을 허용한다.
4. 행정에서 시작된 위임 습관이 교육과 전문직 문화로 확산되며 열린 탐색의 사회적 위신이 줄어든다.

사람이 체감하는 장면

맨체스터 외곽의 직업학교, 오전 8시 5분. 한 학생이 이미 프로젝트 주제와 학습 계획, 실습 진로까지 배정해 놓은 화면을 멍하니 바라본다. 교사는 수업 첫 10분을 그 결과에 이의 제기 티켓을 넣는 방법을 설명하는 데 쓴다.

반론

어떤 현장에서는 더 빠른 판단이 실제로 도움이 된다. 과부하에 시달리는 병원, 법원, 공공기관은 적체를 줄이고 제멋대로인 편차를 낮출 수 있다. 지친 관료제 속에서 늘 무시당하던 시민에게는, 무뚝뚝한 결정이 끝없는 지연보다 더 공정하게 느껴질 수 있다.