← 미래 목록으로
near dystopian A 4.42

결백의 몸짓

눈에 잘 띄지 않는 공공 부담금으로 자율 감시가 확대되자, 사람들은 기계가 자신을 오해하지 않도록 정형화된 몸짓과 동선, 멈춤을 익힌다.

Turning Point: 잘못된 위협 경보 때문에 일주일 사이 대형 유통 체인 세 곳에 무장 경찰이 출동하자, 전국 소매업 연합회는 노동자 자격 인증에 알고리즘 안전 행동 규범을 추가한다.

왜 시작되는가

기계가 알아보기 쉽게 행동하는 일이 새로운 공공 예절이 된다. 상점은 다툼이 벌어졌을 때 손을 둘 자리를 표시하고, 학교는 카메라에 분명히 잡히는 멈춤 동작을 연습시키며, 고용주는 높은 경보 점수와 연관된 움직임에 불이익을 준다. 기록되는 공간에서 사람들은 더 침착해 보이지만, 해롭지 않은 즉흥성은 자동 감시가 없는 장소를 이용할 여유가 있는 사람들의 특권이 된다.

어떻게 전개되는가

  1. 지방자치단체는 통상적인 인허가 수수료와 공공요금에 소액의 안전 부담금을 붙이고, 그 재원으로 자율 카메라와 순찰 시스템을 꾸준히 늘린다.
  2. 잘못된 경보는 일상적인 운영 잡음으로 취급된 채 조용히 수정되므로, 시민들은 오류가 얼마나 쌓였는지 알지 못한다.
  3. 대형 고용주들은 사건 기록을 비교해 자동 개입 직전에 자주 나타나는 몸짓과 이동 양상을 찾아낸다.
  4. 보험사가 인증된 행동 교육을 시행하는 사업장의 보험료를 낮추면서, 기계가 읽기 쉬운 움직임은 고용과 출입의 비공식 조건이 된다.

사람이 체감하는 장면

오후 11시 47분, 인천의 한 편의점에서 야간 근무자 박민서는 손님에게 담배를 팔 수 없다고 말하기 전 두 손바닥을 계산대 위에 올려놓는 동작을 연습한다. 천장 카메라가 말다툼을 임박한 폭행으로 분류하지 않도록 서야 할 자리에는 노란 선이 그어져 있다.

반론

학습 데이터를 개선하고 검토 절차를 강화하는 것만으로도 사람들의 몸짓을 바꾸지 않고 잘못된 경보를 줄일 수 있다. 시민에게 먼저 적응을 요구하면 불투명한 체계에 정당성을 부여하게 되므로, 사람의 검토를 거치지 않은 경보만으로 처벌이나 체포, 보험 결정을 내려서는 안 된다.