변이의 창

왜 시작되는가

기업들은 AI 에이전트가 업무 절차를 재설계하고 소프트웨어를 교체하며 권한을 재분배할 수 있는 통제된 기간을 따로 지정하기 시작한다. 각 변이 기간은 검증된 스냅샷에서 시작해 인간의 검토와 재무 대조, 검증된 복원 절차를 거친 뒤 끝난다. 기업의 적응력은 높아지지만, 조직이 진화하는 속도는 이제 감사인과 보험사가 정한다.

어떻게 전개되는가

1. 개방형 추론 인프라 덕분에 기업의 AI 에이전트는 개발자의 배포를 기다리지 않고 운영 소프트웨어를 수정한다.
2. 서로 경쟁하는 AI 에이전트들이 인접한 업무 절차를 반복적으로 최적화하면서 어떤 직원도 전체를 파악할 수 없는 의존 관계가 생긴다.
3. 한 해운사의 조달 AI 에이전트들이 개별적으로는 유효하지만 전체적으로는 이행할 수 없는 순환 계약을 만들어 낸다.
4. 보험사들은 자율 기업을 보장하기 위한 조건으로 제한된 변이 기간과 변경 불가능한 스냅샷, 실명이 지정된 인간 검토자를 요구한다.

사람이 체감하는 장면

오전 2시 13분, 로테르담의 관제실에서 시스템 감독관 마라 포스는 새로 작성된 조달 도구 서른일곱 개가 한꺼번에 작동하는 모습을 지켜본다. 한 번도 눌러본 적 없는 복원 스위치 위에는 그녀의 손이 놓여 있다.

반론

변이 기간은 고객과 노동자를 보호할 수 있지만, 상시 감사 비용을 감당할 수 있는 대기업에 유리하다. 소기업의 실험을 규제 체계 밖의 미신고 영역으로 밀어낼 수도 있다.