한때 범용 인공지능을 수입하던 국가들이 현지 주도의 검증 체계를 수출하기 시작하면서, 책임성에 관한 전문 역량이 전략 산업으로 자리 잡는다.
공공 연구소들은 지역 언어와 비공식 노동, 과밀 교실, 지역마다 다른 의료 인프라를 반영한 시험을 개발한다. 조달 규정은 외국 공급업체가 이러한 조건을 충족하도록 요구하고, 현지 감사인과 평가자, 법적 책임 전문가를 위한 시장을 만든다. 이 방식은 오랫동안 소외된 환경에서 성능을 개선하고 참여국의 산업적 협상력을 높인다. 그러나 인증이 보호무역과 정치적 통제를 그럴듯하게 포장하는 수단으로 변질될 가능성도 있다.
오후 4시 40분, 아크라의 한 공공 평가 연구소. 간호사이자 감사인인 아마 멘사는 진단 보조 시스템이 트위어로 말하는 환자의 설명을 세 번째로 잘못 이해하는 모습을 지켜본다. 그녀는 자신의 서명으로 수백만 규모의 국가 계약이 지연될 것을 알면서도 부적합 판정을 내린다.
현지 평가가 공공 책임성을 저절로 보장하는 것은 아니다. 정부가 국내 우호 세력에 유리하도록 평가 기준을 조작하거나, 소수 공동체를 배제하고 경쟁자를 차단할 수 있다. 더 가난한 국가들은 동등하게 참여하는 데 필요한 연구소조차 갖추지 못할 수 있다.
오후 4시 40분, 아크라의 공공 평가실. 간호사 아마가 현지 말을 세 번 놓친 진단 기계를 멈춥니다. 부적합 서명 하나가 계약도 세웁니다. 병원과 학교의 실패 기록은 대학의 공개 시험지가 되죠. 개발은행도 현지 안전성과 이의 절차가 확인돼야 자금을 내줍니다. 2023년 확인된 국가 인공지능 전략은 89개로 집계됐습니다. 그중 최빈개도국의 전략은 6개뿐이었죠. 이제 규칙서가 기술 격차를 협상하는 수출품이 되는 겁니다. 외국 기업은 떠나는 대신 제품을 고치고 지역 감사인을 고용합니다. 현지 언어와 의료 기준을 아는 기업도 계약에 들어옵니다. 여러 정부가 같은 시험을 쓰면 결과가 국경을 넘죠. 신뢰의 기준 자체가 산업으로 이동하는 겁니다. 시험은 자국 기업에 유리하게 설계될 수 있죠. 소수자를 기준에서 지우는 일도 가능합니다. 그 권한은 정부, 시장, 시민 중 누구에게 갈까요?