전문가들의 휴전

왜 시작되는가

비싸고 만능을 약속한 모델들에 대한 반복된 실망 이후, 조직들은 검증 가능하고 겸손한 전문 시스템으로 방향을 튼다. 한 병원은 약물 용량 충돌을 보는 모델, 영상 이상을 찾는 모델, 청구 사기를 잡는 모델, 그리고 그들 사이의 다툼을 조정하는 인간 친화적 중개기를 함께 쓴다. 학교, 법원, 항만, 농장도 비슷한 별자리를 만든다. 어느 한 기계도 전지적으로 보이지 않지만, 실패가 구획화되고 전문성이 명시되기 때문에 전체 체계는 더 탄력적이 된다. 사회는 제도 위에 군림하는 하나의 초지능을 꿈꾸기보다, 서로에게 정당화를 요구하는 제한된 지능들의 밀집 생태계를 통치하는 법을 배우게 된다.

어떻게 전개되는가

1. 세간의 주목을 받은 장애 사건들이 여러 핵심 부문이 소수의 비싼 범용 모델에 얼마나 깊게 의존하고 있는지 드러낸다.
2. 핵심 산업들이 개별적으로 시험, 교체, 인증할 수 있는 소형 도메인 모델 중심으로 업무 흐름을 다시 설계한다.
3. 새로운 프로토콜 표준이 전문 시스템들끼리 증거를 교환하고, 서로의 결과를 반박하고, 해결되지 않은 충돌을 인간 운영자에게 넘기도록 만든다.
4. 신뢰의 기준이 한 개의 뛰어난 시스템에 대한 믿음에서 여러 유능한 시스템 사이의 구조화된 이견에 대한 신뢰로 이동한다.

사람이 체감하는 장면

로테르담의 비 오는 오후, 한 항만 관제사는 지연된 화물 목록을 두고 다섯 개의 색깔 패널이 서로 다른 판단을 내리는 모습을 지켜본다. 세관 모델은 제재 위험을 경고하고, 날씨 모델은 안전한 하역이 가능하다고 말하고, 재무 모델은 벌금을 우려하며, 조정 에이전트는 크레인이 움직이기 전에 그녀에게 최종 결정을 요청한다.

반론

분산 지능은 그 나름의 관료주의가 될 수도 있다. 너무 많은 좁은 시스템이 서로에게 정당화를 요구하면 일상적인 행동이 느려지고, 기관들은 사람을 돕는 일보다 기계들 사이의 분쟁을 중재하는 데 더 많은 시간을 쓰게 될 수 있다.