모델 정원사들

왜 시작되는가

현대의 사무실은 더 이상 책상마다 놓인 하나의 비서를 중심으로 돌아가지 않는다. 대신 각 부서는 송장 처리, 공급업체 분쟁, 임상 분류, 창고 경로, 계약 분류 같은 좁은 업무에 맞춘 모델 떼를 쌓아 올린다. 이들의 고장은 대개 극적인 지능 상실이 아니라 데이터와 규칙, 유인이 서로 어긋나며 생기는 느린 변질이다. 기업들은 약해진 가지를 다시 훈련시키고, 신뢰할 수 없는 모델을 퇴역시키고, 멀쩡하던 절차가 왜 갑자기 비틀리기 시작했는지 설명할 사람을 고용한다. 사무직의 위상은 모델을 쓰는 사람보다 그 군집을 건강하게 유지하는 사람에게 이동한다.

어떻게 전개되는가

1. 기업들은 내부 실시간 데이터에 반복적으로 미세조정하는 편이 범용 모델을 매일 다시 학습시키는 것보다 더 싸고 더 유용하다는 사실을 깨닫는다.
2. 부서들은 좁은 업무마다 특화 모델을 만들고, 조직은 어느새 수백 수천 개의 모델에 의존하게 된다.
3. 사업 환경이 변하면서 이 모델들은 조용히 빗나가기 시작하고, 규정 위반과 낭비, 상충된 결과가 쌓인다.
4. 감사인과 규제기관이 모델 상태를 공식적으로 추적하도록 강제하면서 관리자, 조정자, 퇴역 담당자의 노동시장이 열린다.

사람이 체감하는 장면

마닐라의 한 금융 빌딩, 오전 7시 10분. 루벤은 조달 모델 여든일곱 개가 떠 있는 대시보드를 훑다가, 포장재 공급업체를 다루는 모델이 사흘 전 운송 데이터 공급원이 바뀐 뒤 미묘하게 더 가혹해졌다는 사실을 알아차린다.

반론

이 새로운 일은 예전의 행정 노동보다 더 안정적이고 더 숙련된 역할이 될 수 있으며, 흐릿한 인간 책임 사슬보다 더 분명한 책임 구조를 만들 수도 있다. 그러나 동시에 이 질서는 끊임없이 늘어나는 비인간 동료들을 관리해야만 일자리가 유지되는 세상을 당연한 것으로 만든다. 각각은 너무 작아 보여도, 전체는 어느 순간 아무도 이해할 수 없게 된다.