보증 사무실

왜 시작되는가

현대의 사무실은 중심부에서는 더 작아지고 가장자리에서는 더 촘촘해진다. 소수의 고레버리지 지휘자가 에이전트 무리를 통솔하는 반면, 점점 넓어지는 보증인, 검토자, 책임 사무직 계층은 기계가 수행한 일을 승인한다. 임금도 그에 따라 양극화된다. 시스템을 지휘할 수 있는 사람은 막대한 상승 이익을 가져가고, 그렇지 못한 사람은 알고리즘 실수의 인간 완충재가 된다. 일은 사라지지 않고 위쪽의 지휘와 아래쪽의 책임으로 굳어진다.

어떻게 전개되는가

1. 에이전트형 소프트웨어는 한 명의 직원이 팀 규모의 분석, 코드, 마케팅, 보고서를 생성할 수 있게 만든다.
2. 기업들은 인력 감축을 서두르다가 기계가 만든 오류가 소송, 벌금, 계약 파기를 일으키는 موج동을 맞는다.
3. 보험사와 감사기관은 자동화 산출물에 대한 법적 책임을 식별 가능한 인간이 받아들여야만 보장이 가능하도록 약관을 다시 쓴다.
4. 기업들은 위쪽의 지휘와 아래쪽의 위험 흡수를 중심으로 조직도를 다시 짜며 새로운 사무직 분열을 만든다.

사람이 체감하는 장면

오후 11시 15분 싱가포르의 유리 외벽 사무실 타워에서 대니얼은 자신이 만들지 않은 시스템들이 밤새 올린 승인 요청 87건을 훑어본다. 새벽에 선적이 나가야 하고 보험 증권에는 소프트웨어가 아니라 그의 이름이 책임 당사자로 적혀 있기 때문에 그는 하나씩 서명한다.

반론

책임 계층은 무모한 자동화를 늦출 수 있고, 어떤 이들은 인간이 계속 답해야만 신뢰를 지킬 수 있다고 주장한다. 그러나 권한 없이 책임만 집중되면 책임성은 안전장치가 아니라 투기장이 된다.