피해 배분 위원회

왜 시작되는가

의료 AI를 둘러싼 공적 논쟁은 성능 그래프로 시작하지만 결국 분배 정치로 끝난다. 시스템이 전체적으로 충분히 잘 작동하기 시작하면 사람들은 그것이 인상적인지보다 누구의 위음성이 용인되는지, 누구의 이의신청이 더 빨리 처리되는지, 자동 위험 표식 이후 누구의 보험료가 오르는지를 묻기 시작한다. 이런 절충을 조정하기 위해 규제기관, 병원, 보험사, 환자단체 사이에 새로운 위원회가 등장한다. 표면적으로는 기술이 아니라 사회 차원에서 안전을 정렬하려는 장치지만, 실제로는 통계적 피해가 계급, 지역, 협상력의 언어로 번역되는 공간이 된다.

어떻게 전개되는가

1. 임상 AI가 대규모 인구집단에서 안정적인 평균 성능을 보이며 선별검사, 분류, 보험 심사 업무로 빠르게 확장된다.
2. 환자 권익 단체는 작은 오류 격차조차 특정 지역, 연령대, 소수집단에 집중된 피해를 만든다는 사실을 드러낸다.
3. 정부는 위험 배분 규칙을 제도화하고, 모델 감독은 보상, 승인 속도, 보험 가능 책임을 둘러싼 상설 정치 과정이 된다.

사람이 체감하는 장면

비 내리는 목요일, 맨체스터의 한 학교 비서는 승인된 모델이 자신의 암 경보를 낮게 조정한 기록이 담긴 출력물 폴더를 들고 심판실 밖에 앉아 있다. 안에서 변호사들이 따지는 것은 그 시스템이 전반적으로 작동하는지가 아니라, 허용된 오류 구간의 반대편에 놓인 그녀에게 누가 책임을 지는가이다.

반론

한쪽에서는 피해 배분을 명시하는 것이 숨겨진 절충을 드러내고 다툴 수 있게 만든다는 점에서 진전이라고 본다. 다른 쪽에서는 사회가 예방 가능한 불의를 행정 범주 속에 써 넣고 그것을 공정성이라 부르며 정상화한다고 본다.