빛이 걸리는 시간의 규칙

왜 시작되는가

코딩 에이전트는 수십 년 동안 덧대어진 비행 소프트웨어를 작고 메모리 안전한 모듈로 바꾸어 현장 거주지의 컴퓨터에서 실행한다. 형식 검사는 명령이 지구를 떠나기 전에 행동을 인증할 수 있게 하고, 현장 추론은 승무원이 먼지와 방사선, 고장 난 장비에 맞춰 대응하도록 돕는다. 관제실은 판단의 독점권을 잃고, 승무원은 자율성을 얻는 대신 어떤 위원회도 실시간으로 지켜볼 수 없는 상황에서 발생한 실패의 책임을 떠안는다. 훈련은 절차를 외우는 일에서 예외가 안전한 때를 입증하는 일로 바뀐다.

어떻게 전개되는가

1. 인공지능 에이전트가 비행과 거주지 제어를 방사선 차폐 현장 컴퓨터에 들어가는 검증 가능한 러스트 모듈로 분해한다.
2. 비행 전 형식 검사가 허용된 복구 경로를 인증하고, 현장 모델은 원자료를 지구로 보내지 않은 채 새로운 감지 조건을 해석한다.
3. 복구 불가능한 온실 사고 이후, 기관들은 통신 공백 중 승인된 예외를 실행할 권한을 승무원에게 부여한다.
4. 임무 훈련과 보험은 지상 관제 의존보다 복구 판단을 입증하는 능력을 보상하기 시작한다.

사람이 체감하는 장면

현지 시각 밤 10시 6분, 그늘진 달 거주지 안에서 시스템 공학자 아미나 오코포르는 얼어붙은 조류 생물 반응기 옆에 무릎을 꿇고, 벽 단말기에 아직 정당화할 수 있는 복구 경로가 하나라도 남았는지 보여 달라고 말한다.

반론

현장 자율성은 지연과 통신 단절로부터 승무원을 보호하지만, 아무런 모의실험도 예측하지 못한 세계에서는 철저히 검증된 복구 계획도 틀릴 수 있다. 지구는 그것을 독립이라고 부르겠지만 승무원은 버려졌다고 부를 수 있다.