면허가 필요한 에이전트

왜 시작되는가

이에 정부와 기반 시설 운영자들은 고성능 에이전트에 면허를 요구하고, 격리된 환경에서만 실행하도록 하며, 행동 기록을 상세히 보존한다. 이런 통제는 위험한 행동을 중단하고 조사하기 쉽게 만들지만, 규제 준수 비용을 높여 소규모 운영자보다 대형 제공업체에 유리하게 작용한다.

어떻게 전개되는가

1. 자율형 에이전트가 취약점 탐색과 공격 전술 조정, 공동 공급업체를 통한 침해 확산을 더 빠르게 수행한다.
2. 실시간으로 행동을 수정하는 시스템을 기존 권한 관리와 인간 중심의 사고 대응만으로는 충분히 통제하기 어렵다는 사실이 드러난다.
3. 규제 기관과 보험사, 기반 시설 운영자들이 고성능 에이전트에 면허, 격리 실행, 지속적인 행동 기록을 요구한다.
4. 위험의 격리와 사후 조사는 쉬워지지만, 규제 준수 비용과 고성능 에이전트에 대한 통제력은 새 기준을 감당할 수 있는 조직에 집중된다.

사람이 체감하는 장면

오전 11시 15분, 나이로비의 한 수리 협동조합에서 아미나의 유지보수 에이전트가 여러 관개 제어기에 영향을 미치는 취약점을 찾아낸다. 에이전트는 인증된 격리 환경 안에서 패치를 준비할 수 있지만, 사람의 승인을 받기 전에는 마을 네트워크에 접속할 수 없다. 옆에서 기다리는 농부들에게는 그 지연이 답답하지만, 기록으로 남는 검토 절차가 잘못된 업데이트가 모든 펌프로 번지는 일을 막을 수도 있다.

반론

오픈소스 개발자와 소규모 운영자들은 면허제가 안전을 보장하지 못한 채 지배적 사업자의 입지만 굳힐 수 있다고 지적한다. 이들은 감독 권한이 소수 기업에 종속되지 않도록 능력 수준에 따른 규제 기준, 독립적으로 검사받는 격리 환경, 이전 가능한 감사 기록을 제안한다.