저렴한 AI 인프라가 기업 전반에 퍼지면서, 각 부서는 서로 다른 규칙과 유인을 가진 특화 에이전트 군집을 고용하기 시작하고, 경영은 인공 대리인들 사이의 중재 문제로 바뀐다.
현대 기업은 노동자를 없애기보다 반자율적 대응물들로 둘러싼다. 재무는 변동성을 싫어하는 신중한 에이전트를 돌리고, 영업은 예외를 집요하게 추적하는 공격적 에이전트를 배치하며, 법무는 문자 그대로 규칙을 들이대는 차단기를 유지하고, 운영 부서는 좁은 권한을 가진 지역 최적화기 수십 개를 운용한다. 인간의 회의는 짧아지지만 기계 시간의 회의는 길어진다. 사람들은 이제 1차 결정을 직접 내리기보다 에이전트들 사이의 분쟁 묶음을 검토한다. 기업 문화는 정책 파일과 에스컬레이션 사다리 속에 자리 잡기 시작한다. 이제 회사의 성격은 대리인들이 어떤 방식으로 논쟁하도록 훈련되었는지에 달려 있기 때문이다.
상파울루의 유리 회의실에서 오전 8시 55분, 한 조달 매니저는 대시보드를 열어 밤사이 소싱 에이전트가 할인안을 거절했고, 컴플라이언스 에이전트가 이의 제기도 막았으며, 오늘 아침 자신의 인간 업무는 어느 기계를 실망시킬지 고르는 일이라는 사실을 확인한다.
이 모델은 의사결정을 빠르게 하고, 조직 기억을 보존하며, 작은 기업에도 대형 관료조직 수준의 역량을 줄 수 있다. 그러나 동시에 나쁜 유인을 소프트웨어 속에 굳혀 더 오래 지속되게 만들 수 있다. 이제 그것들은 자동화되어 기록되고, 잠들지 않기 때문이다.
요즘 회사 안에는 사람이 아닌 대리인이 늘고 있습니다. 문제는 숫자가 아니라, 서로 다른 규칙이 한 조직 안에서 동시에 움직인다는 점이죠. 추론 비용이 내려가자 부서마다 상시 에이전트를 둡니다. 조달, 법무, 영업이 각자 판단하죠. 세계경제포럼은 2024년 AI 허위정보 위험을 53%로 봤습니다. 회사 안에서도 비슷합니다. 이제 정확도보다 누구 규칙이 먼저 먹히느냐가 더 큰 비용이 됩니다. 그래서 관리자의 일도 바뀝니다. 사람을 독려하는 대신, 충돌 조건과 에스컬레이션 기준을 설계하죠. 회의는 짧아져도 기계들의 협상은 밤새 이어지고, 감사 로그가 조직의 기억이 됩니다. 결정은 더 빨라질 겁니다. 그런데 마지막 서명과 책임은 끝까지 사람 몫이어야 할까요. 아니면 그 기준부터 다시 써야 할까요.