신뢰성 바자르

왜 시작되는가

신뢰할 수 있는 AI 시장은 더 이상 모델 카드와 감사, 실험 결과만으로 움직이지 않는다. 대신 초대형 공급업체들은 상시 법률-기술 조직을 구축해 모든 배제 조치를 다투고, 모든 안전 조항을 재해석하며, 분쟁이 진행되는 동안에도 공공 시스템에 임시 접근권을 확보한다. 정부는 여전히 위험 관리의 언어를 사용하지만, 실제로는 법정 공방을 견뎌낼 수 있는 기업에서 구매한다. AI 기업은 선출되지 않았음에도 사실상 준공공 행위자가 된다.

어떻게 전개되는가

1. 조달 기관들이 국방 및 인프라 사업에서 주요 AI 공급업체를 배제하려다 여러 차례 상징적 소송에서 패소한다.
2. 공급업체들은 법률 전략, 컴플라이언스 엔지니어링, 공공 부문 통합을 하나의 패키지 제안으로 묶어 일반 소프트웨어 계약보다 훨씬 떼어내기 어려운 구조를 만든다.
3. 공공기관들은 절차적 방어 가능성을 기준으로 계약을 표준화하고, 가장 두꺼운 법률 인프라를 가진 기업이 구조적 우위를 점한다.
4. 시민들은 불투명한 기술 평가보다 눈에 보이는 법원 판결을 통해 AI 안전성을 판단하기 시작한다.

사람이 체감하는 장면

오전 7시 40분, 서울시 재난 통제실에서 한 토목 엔지니어가 홍수 대응 대시보드가 다시 켜지는 장면을 바라본다. 불과 6주 전 퇴출됐던 공급업체가 돌아온 이유는 모델 개선이 아니라 그 복귀를 강제한 가처분 결정이었다.

반론

지배적 공급업체를 강화하는 그 같은 법적 감시는 동시에 자의적인 국가 행위를 드러내고, 기관들로 하여금 위험 판단 근거를 더 엄밀하게 기록하게 만들 수도 있다. 일부 분야에서는 그 압력이 더 나은 문서화와 더 명확한 기준, 정치적으로 편리한 블랙리스트의 감소로 이어진다.