← 미래 목록으로
mid dystopian B 4.31

예외의 사다리

기업이 서로를 감사하는 전문 AI 에이전트들로 채워질수록, 인간 권한은 기계 워크플로에서 어떤 사례를 탈출시킬지 결정하는 좁지만 강한 기능으로 축소된다.

Turning Point: 채용, 보험, 고객지원에서 자율적 거절이 잇따라 스캔들로 번진 뒤, 대기업들은 모든 이의 제기 결정을 단계별 인간 승급 체계로 보내는 공식 예외 헌장을 채택한다.

왜 시작되는가

현대 기업은 더 이상 부서가 아니라 예외 경로로 읽히게 된다. 대부분의 일상 업무는 상호작용하는 에이전트들에 의해 생성되고, 점검되고, 상호 채점되고, 승인된다. 인간은 남지만 20세기식 관리가 예상한 자리에 있지 않다. 기획자는 줄고 중재자가 늘어난다. 시스템을 무너뜨리지 않고도 이를 뒤집을 수 있는 사람에게 위신이 이동한다. 초급 일자리는 사라지고 중간관리층은 얇아지며, 이의신청 권한, 재량 예산, 승급 타이밍을 둘러싼 새로운 직장 엘리트가 등장한다. 조직은 표면적으로는 더 차분해 보이지만, 모든 인간 개입이 비싸기 때문에 내부는 더 차갑고 배급적이 된다.

어떻게 전개되는가

  1. 기업들은 응답 시간과 인건비를 줄이기 위해 고객지원, 마케팅, 컴플라이언스, 내부 운영 전반에 좁은 기능의 AI 에이전트 떼를 배치한다.
  2. 에이전트들이 서로 상충되는 판단을 내리자, 기업들은 에이전트가 서로를 대규모로 검토하고 거부할 수 있게 하는 내부 점수 체계를 구축한다.
  3. 자동화된 불공정 결과에 대한 대중 반발이 커지면서 기업들은 인간 전용 승급 채널을 공식화하고, 예외 처리를 인간의 핵심 역할로 만든다.

사람이 체감하는 장면

서울의 한 보험사 31층에서 오후 2시 10분, 29세 예외 담당자는 843건의 이의신청 대기열을 바라보며 오늘 재량 예산이 잠기기 전에 손으로 구할 수 있는 건 고작 12건뿐임을 안다.

반론

예외 체계는 제도의 취약한 지점을 드러내는 도구가 되기도 한다. 이의신청이 기록되고 비교되기 시작하면 불공정의 패턴을 숨기기 어려워진다. 노동자 평의회와 소비자 단체는 그 가시성을 이용해 더 넓은 권리, 더 저렴한 심사 접근, 혹은 고위험 서비스에 대한 의무적 인간 접촉을 요구할 수 있다.

시나리오

요즘 보험사에서 예외 승인 권한이 더 비싸지고 있죠. 자동 판정이 늘수록, 마지막 서명 한 번의 값이 커집니다. 기업은 지원, 심사, 고객 안내에 좁은 인공지능을 먼저 넣습니다. 2024년 생성형 인공지능 정기 활용률은 65%였죠. 판정이 자주 충돌하자, 인공지능이 인공지능을 다시 채점합니다. 그 순간 직원은 심사자가 아니라 탈출구 관리자가 되죠. 여기서 줄어드는 건 인력만이 아닙니다. 신입이 배울 일감이 먼저 사라지죠. 초급 채용의 문도 같이 좁아집니다. 그러면 중간관리층도 얇아집니다. 예외를 승인하는 소수만 조직의 흐름을 바꾸게 됩니다. 효율은 올라가는데, 통제권은 더 좁아집니다. 앞으로 조직의 힘은 직급에서 나올까요. 아니면 예외를 열어주는 권한에서 나올까요.