인민의 판옵티콘

왜 시작되는가

AI 생성 정치 콘텐츠 — 자동 법안 요약, 실시간 팩트체킹, 입법 영향 시뮬레이션 — 가 시민 감시 비용을 거의 제로로 낮춘다. 시민들은 더 이상 자신의 대표자가 무엇을 하는지 이해하기 위해 언론인이나 시민단체가 필요하지 않다; AI가 실시간으로 알려준다. 책임성에 대한 초기 열광은 점차 어두운 결과로 이어진다. 입법자들은 끊임없는 감시에 마비되어, 알고리즘 성적표에 의해 위선자로 낙인찍히지 않고는 협상하거나 타협하거나 입장을 바꿀 수 없게 된다. 포퓰리스트 운동이 투명성 도구를 무기화하고, 거버넌스에 필요한 뉘앙스가 항구적 공적 판단의 무게에 짓눌린다. 민주주의는 더 많이 감시되지만 덜 기능하게 된다.

어떻게 전개되는가

1. AI 플랫폼이 법안을 자동 요약하고 본회의 발언을 팩트체킹하며 정책 결과를 시뮬레이션하는 실시간 입법 모니터링 도구를 배포하여, 스마트폰만 있으면 누구나 포괄적인 시민 감시를 할 수 있게 한다
2. 시민들이 AI 대시보드로 대표자를 점수화하고 순위를 매기면서 입법 과정에 대한 시민 참여가 급증하고, 의원들에 대한 압박이 극심해지며 소환 청원 비율이 극적으로 증가한다
3. 입법자들이 논쟁적 입장을 회피하고, 신중하게 각본된 언어로만 발언하며, 입법적 타협의 토대인 비공식 협상 참여를 거부하면서, 전례 없는 입법 교착 상태에 빠진다
4. 대의 민주주의가 실시간 AI 매개 공적 감시로부터 보호되는 숙의 공간을 필요로 하는지에 대한 헌법 개혁 운동이 등장한다
5. 완전한 알고리즘 감시를 요구하는 투명성 절대주의자와 효과적인 민주주의에는 불완전하게 숙의할 자유가 필요하다고 주장하는 거버넌스 실용주의자 사이에서 사회가 분열된다

사람이 체감하는 장면

2031년 여의도의 어느 목요일 밤. 박 의원이 홀로 사무실에 앉아 결코 하지 않을 연설문을 작성하고 있다. 그가 중재한 주택 법안 타협안은 200만 세입자에게 도움이 되지만, 지지 기반이 반대하는 세금 조항을 양보해야 한다. 그가 발언하는 순간, AI 모니터링 플랫폼이 양보를 표시하고, 그의 지지율이 실시간으로 하락하며, 아침이면 그 클립이 주석 달리고 점수 매겨져 천만 번 공유될 것임을 안다. 그는 연설문을 삭제한다. 대신 당론에 따라 투표할 것이다. 강 건너 마포에서 대학생 은지가 시민 대시보드를 새로고침하고, 교착 상태를 확인한 뒤 좌절한 글을 쓴다: 왜 아무것도 안 하는 거지? 그녀는 자신이 신뢰하는 바로 그 도구가 그들이 행동할 수 없는 이유라는 것을 모른다.

반론

투명성은 역사적으로 민주주의 제도를 약화시킨 것이 아니라 강화해왔다. 입법자들은 텔레비전 청문회와 소셜 미디어에 적응한 것처럼 AI 감시에도 적응할 수 있다 — 불편하지만 기능적으로. 더욱이 타협에 비밀이 필요하다는 가정은 더 나은 정보 도구가 주어질 때 대중의 뉘앙스 이해 역량을 과소평가하는 것이다.