검사의 세기

왜 시작되는가

최전선 AI는 더 이상 일반 소프트웨어처럼 유통되지 않는다. 그것은 면허, 검증된 시설, 수출 통제, 조약 감시가 겹겹이 얽힌 체제 안에 놓인다. 국가는 누가 누구를 검사할 수 있는지, 어떤 연구소가 더 높은 성능 접근권을 받을 수 있는지, 안전 주장과 비밀 유지가 어디까지 공존할 수 있는지를 두고 협상한다. 그 결과는 깔끔한 독점이 아니라, 가장 위험한 모델에 대한 접근이 국가술의 지렛대가 되는 촘촘한 외교 질서다.

어떻게 전개되는가

1. 승인된 채널 밖에서 사용된 고성능 모델이 국제적 파급이 뚜렷한 위기에 기여한다.
2. 정부들은 일정 기준 이상의 모델에 대해 등록된 학습 실행, 하드웨어 증명, 외부 감사를 의무화한다.
3. 조약은 공동 과학·안보 혜택에 대한 접근을 검사 규약 준수와 연결하며 대기업까지 준공공 감독 체계로 끌어들인다.
4. 합법적 역량과 금지된 역량의 경계를 관리하는 기술 검사관, 조약 변호사, 모델 수탁자의 상설 계층이 등장한다.

사람이 체감하는 장면

비 오는 10월 저녁의 제네바. 나이로비 출신 전기공학자는 금속 배지를 재킷에 단 채 보안 청문회장 밖에서 기다린다. 안에서는 지역 백신 연구에 필요한 화학 모델에 그녀의 연구소가 임시 접근권을 받을 수 있는지를 두고 대표단이 언쟁 중이다.

반론

엄격한 통제는 무모한 공개를 늦출 수 있지만, 과학적 권력을 부유한 국가와 기존 대기업 안에 가둘 수도 있다. 검사 체제가 신뢰가 아니라 배제의 도구가 되면, 안전의 언어는 새로운 기술 계급제로 굳어질 수 있다.