오프라인의 양심

참고 자료와 배경

이 자료들은 가상 시나리오를 구성할 때 배경 자료로 기록되었습니다.

• Creating Teensy ELF Executables for Linux (Or, "Size Is Everything") www.muppetlabs.com
• Benchmarking Pocket-Scale Inference artificialanalysis.ai

왜 시작되는가

초소형 로컬 모델은 내밀한 질문을 클라우드로 보내지 않고도 개인의 일기와 신념, 직접 선택한 경전을 학습한다. 신자들은 여러 해 동안 쌓인 의심과 약속, 전례가 이미 정리된 상태로 어려운 대화에 나서기 시작한다. 성직자는 교리를 찾아주는 일보다 조언자가 딜레마를 어떤 틀로 구성했는지 따지는 데 더 많은 시간을 쓰고, 병원은 개인적 성찰과 권위 있는 판단을 구분하는 공식 절차를 마련한다.

어떻게 전개되는가

1. 저가 휴대전화와 웨어러블 기기가 네트워크 연결 없이도 개인용 조언자를 계속 구동할 만큼의 로컬 연산 능력을 갖춘다.
2. 사용자는 조언자가 개인 일기와 녹음된 약속, 직접 선택한 경전을 색인화해 자신만의 도덕적 이력으로 구성하도록 허용한다.
3. 환자들이 임종 및 치료 협의에서 기계가 정리한 상세한 논거를 제시하기 시작하면서 가족과 기관 전문가 사이의 힘의 균형이 달라진다.
4. 종교 간 병원 연합은 조언자가 생성한 논리를 개인의 증언으로 인정하되 교리적 지위는 부여하지 않는 공개 규칙을 제정한다.

사람이 체감하는 장면

오전 6시 20분, 맨체스터의 한 호스피스 예배실에서 야간 간호사 마라 엘리슨은 아버지의 연명치료에 관해 자신이 했던 모든 약속을 찾아 달라고 휴대전화에 요청한다. 기기는 서로 충돌하는 세 가지 기억을 보여준 뒤, 마라가 병원 원목에게 그것들을 소리 내어 읽는 동안 침묵한다.

반론

개인용 조언자는 한 사람의 가치관을 보존할 수 있지만, 순간적인 믿음을 영구적인 증거로 굳히거나 취약한 사용자를 편향되게 선택된 교리로 둘러쌀 수도 있다. 시스템이 중앙 서비스에 전혀 접속하지 않기 때문에 가족은 조작 여부를 독립적으로 확인할 방법이 없을 수 있다.