마지막 서명 시장

왜 시작되는가

소수의 검토자가 유능한 에이전트 무리를 감독할 수 있다는 사실이 확인되자, 지식경제의 중간층 일자리는 급격히 줄어든다. 남는 인간 역할은 폭넓은 생산이 아니라 법적 노출이다. 즉, 서명하고 인증하며 문제가 생기면 처벌받는 일이다. 이름 자체가 보험 가치를 지닌 허가된 승인자 계층이 새롭게 떠오르고, 나머지 사람들은 에이전트 시스템에 맥락을 공급하고 유지보수하며 예외 상황을 정리하는 역할을 놓고 경쟁한다. 생산성은 오르지만 전문성의 사회적 의미는 평판 담보물로 축소된다.

어떻게 전개되는가

1. 기업용 에이전트가 기획 초안 작성, 취약점 식별, 분석 수행, 운영 의사결정 제안에서 평균 직원보다 꾸준히 강해진다.
2. 기업은 수천 건의 기계 생성 행동을 소수의 상급 검토자가 감독하는 구조로 팀을 평탄화하며, 미래 전문가를 길러내던 경력 사다리를 무너뜨린다.
3. 비싼 자동화 실수가 연이어 발생하자 이사회, 병원, 인프라 운영사에 눈에 보이는 인간 책임을 요구하는 정치적 압력이 커진다.
4. 승인 권한이 거래 가능한 노동 권력이 되고, 기업은 생산량이 아니라 보험 가능한 판단력과 비난을 감수할 능력을 기준으로 사람을 채용한다.

사람이 체감하는 장면

마닐라의 한 임대 아파트, 밤 9시 15분. 전직 컨설턴트였던 한 여성이 생체 인증 승인을 기다리는 184개의 결정 대기열을 바라본다. 자정 전까지 세 대륙의 리스크 이전 서류에 서명해야 하고, 잘못된 한 번의 서명이 십 년의 저축을 날릴 수 있다는 사실을 안다. 그 아래에서 돌아가는 에이전트들은 잠들지 않는다.

반론

옹호자들은 이제야 구조가 정직해졌다고 말한다. 기계가 생산하고 인간이 통치하며, 책임이 더 이상 위원회 속에 숨지 않는다는 것이다. 반대자들은 사회가 판단을 좁고 임대료를 추출하는 카스트로 바꾸었고, 수많은 사람을 권한 없는 지원 역할에 가두었다고 비판한다.