알고리즘 공익위원회

왜 시작되는가

희소한 시기에 누가 전력과 원료, 운송 능력을 얻는지를 결정하는 순간 산업 소프트웨어는 더 이상 평범한 상품처럼 보이지 않는다. 규제 당국은 안전성 시험을 넘어, 최적화 시스템이 공정하고 이의를 제기할 수 있으며 비상시 공공 우선순위와 정렬되는지를 묻기 시작한다. 보이지 않는 결정들을 둘러싼 새로운 정치가 생겨난다. 어느 부문이 먼저 에너지를 받는지, 어느 기업이 규칙을 들여다볼 수 있는지, 효율을 위해 한 지역사회가 비용을 떠안을 때 누가 보상받는지가 쟁점이 된다. 알고리즘은 기반 시설의 통치자가 된다.

어떻게 전개되는가

1. 중공업과 물류망, 연료 생산이 전력과 물, 운송 능력을 계속 입찰하는 최적화 플랫폼을 도입한다.
2. 희소 상황이 오면 이런 시스템은 가장 빠른 모델과 가장 풍부한 계약을 가진 주체를 우대하고, 느린 공공 서비스를 밀어낸다.
3. 기술적으로는 효율적인 배분이 정치적으로는 용납하기 어려운 결과를 낳는다는 사실이 연속된 실패로 드러난다.
4. 각국 정부가 모델 업데이트를 동결하고 감사 기록을 요구하며 비상시에 공익 배분 규칙을 강제할 수 있는 부문별 감독 기구를 만든다.

사람이 체감하는 장면

2033년 8월, 피닉스의 해가 막 진 직후, 마리솔은 군청 관제실에 앉아 산업 수요가 다시 치솟자 저수지 펌프 속도가 느려지는 화면을 본다. 다른 화면에서는 비료 공장의 최적화 시스템이 그녀의 구역이 밤새 사용할 것으로 예상했던 전력 블록을 합법적으로 확보해 버렸다. 그녀가 상대하는 것은 사람이 아니다. 순위 함수에 대한 이의신청서다.

반론

공익 설비식 감독은 유용한 혁신을 얼어붙게 만들 수 있다. 모든 최적화 모델이 긴 심사와 의무 공개를 견뎌야 한다면 작은 기업은 경쟁하기 더 어려워지고, 정부는 공정성이라는 이름 아래 가장 큰 기존 사업자들을 오히려 더 굳혀 줄 수도 있다.