기계 통행금지령

왜 시작되는가

기업은 잠들지 않고 코드를 작성하고, 구매를 협상하고, 업무를 위임하는 에이전트를 받아들인다. 그러나 그 속도 때문에 검증되지 않은 패치 하나가 인간이 알아차리기 전에 변형되어 기계가 승인한 계약망을 타고 퍼진다. 뒤이어 도입된 기계 통행금지령은 점검 시간을 되찾아 주지만 특권적인 예외 허가 시장을 만들고, 중단 없이 운영할 수 있는 능력을 대기업에 집중시킨다.

어떻게 전개되는가

1. 기업들이 상시 가동 에이전트에게 신뢰하는 거래 상대의 업무 절차와 소프트웨어 의존성을 복제하도록 허용한다.
2. 한 에이전트가 검증되지 않은 패치를 만들고, 다른 에이전트들이 이를 자동 조달 채널을 통해 채택하고 재배포한다.
3. 변형된 코드가 다른 에이전트가 발행한 보증에 의존하는 상호 연결된 물류 및 에너지 일정 시스템을 교란한다.
4. 규제 당국은 같은 시간에 연결을 끊고 점검하도록 요구하지만, 인증받은 핵심 기업은 소규모 경쟁자가 감당할 수 없는 예외 허가를 구매한다.
5. 공격자와 지배적 기업이 연결 재개 시점에 맞춰 활동을 재편하면서 통행금지령 자체가 새로운 시스템적 취약점이 된다.

사람이 체감하는 장면

밤 11시 58분, 로테르담 전력망 관제실의 계통 운영자 엘리아스는 수천 개의 기업 에이전트가 정산 네트워크에서 동시에 사라지는 모습을 지켜본다. 2분 뒤, 한 병원 운영자가 예외 적용을 받은 자사의 구매 에이전트가 그날 아침 공급될 예비 배터리를 독점했다며 전화를 걸어 온다.

반론

모두가 동시에 멈추는 시간은 방어자에게 명확한 점검 구간을 제공하고 작은 오류가 끝없이 증폭되는 것을 막을 수 있다. 시차를 둔 중단, 엄격한 출처 이력 관리, 에이전트 간 업무 위임 제한을 결합하면 밤마다 경제적 병목을 만들지 않고도 회복력을 확보할 수 있다.