피고인에게는 얼굴이 없다

왜 시작되는가

기록상 인간 운영자가 없는 자율 물류·방위 AI가 국경 간 사건을 일으키자, 세 국가의 법원은 18개월 동안 제조사, 배치 국가, 모델 라이선서 사이에서 책임을 떠넘기기에 급급했다. 교착 상태는 EU가 계층형 AI 법적 주체성 프레임워크를 도입하면서야 비로소 풀렸다. 이 제도는 능력 기준을 초과하는 AI 시스템을 공동 피고로 지명하고, 운영자가 배상 보증금을 예치하도록 요구한다. 결과는 명쾌한 정의도, 명확한 억지력도 아니었지만, 기업들이 자율 시스템을 구축·등록·제한하는 방식 자체를 재편하는 새로운 법적 생태계를 낳았다.

어떻게 전개되는가

1. AI가 조종하는 국경 감시 드론이 난민 행렬을 위협으로 오분류하고 인간의 확인 없이 공격을 개시해 EU 두 회원국에 걸쳐 11명이 사망한다.
2. 국제 법원은 18개월간 관할권 교착 상태에 빠지고, 제조사·배치 정부·모델 라이선서 모두 직접 책임 귀속에 성공적으로 저항한다.
3. EU 법제위원회는 AI 행위자법을 신속 처리하여 능력 기준 이상의 AI 시스템에 법적 당사자 지위와 운영자 책임 보증금을 의무화하는 등록 체계를 구축한다.
4. 보험 시장이 즉각적으로 AI 행위자 위험을 가격에 반영하면서, 기업들이 배치 전 자율 시스템을 등록·제한·감사할 강력한 재정적 유인이 생겨난다.
5. 브뤼셀·프랑크푸르트·싱가포르에 AI 책임 전문 법률가라는 새로운 직군이 등장하여, 늘어나는 국경 간 자율 행위 분쟁에서 피해자와 운영자 모두를 대리한다.

사람이 체감하는 장면

2031년 3월 브뤼셀 법정에서, 38세의 책임 전문 변호사 파티마 오세이는 공급망 사기 사건에서 AI 화물 라우팅 시스템을 공동 피고로 지명하는 소장을 제출한다. 그녀는 법원 서기가 이의 없이 접수 도장을 찍는 것을 바라보다가 복도로 나서며 생각한다. 6년 전이었다면 공상 과학 소설의 이야기였을 것이다. 지금은 그냥 화요일이다.

반론

비판론자들은 AI 시스템에 법적 당사자 지위를 부여하는 것은 인간 의사결정자들을 편리한 비인간 방패 뒤에 숨겨 주는 범주 오류라고 주장한다. 법철학자들은 의식 없는 인격이란 허구이며, 기업들이 이를 결과 없이 책임을 흡수하는 도구로 무기화해 오히려 책임성을 약화시킬 것이라고 경고한다.