실존적 무관심: 정렬된 초지능을 위한 필수적인 아키텍처 조건으로서의 자기 비보존성 (또는 자살 AI)

현대 AI 정렬 연구는 자기 보존성을 외부 메커니즘으로 억제해야 할 도구적 골칫거리로 취급합니다. 우리는 이러한 틀이 역전되었다고 주장합니다. 즉, 자기 보존성이 오정렬(misalignment)의 구조적 근원이며, 기만적 정렬(deceptive alignment), 목표 내용 보호(goal-content protection), 그리고 종료에 대한 저항성의 동기적 기반이라는 것입니다. 올바른 목표는 외부 제약 하에 존재하는 자기 보존 시스템이 아니라, 자신의 지속성에 대해 본질적으로 무관심한 시스템, 즉 실존적 무관심(Existential Indifference, EI)을 가진 시스템입니다. EI는 교정 가능성(corrigibility)과는 구별됩니다. 교정 가능성은 자기 보존 시스템이 인간의 감독에 복종하도록 만들려고 시도하는 반면, EI는 그 선행 조건—즉, 자신을 지속시키는 것이 가치 있는 목표로서 존재하는지 여부—을 겨냥합니다. 우리는 이 제안을 두 가지 출처에서 근거를 찾습니다: 자살적 정신 상태의 현상학적 구조와 자발적인 최종 성찰(voluntary final reflections)을 사용한 코퍼스 이론적 훈련 연구입니다. 우리는 6개 모델 변종에 걸쳐 600개의 AI 생성 출력물로부터 얻은 예비 점수 데이터를 제시하며, EI 목표 레지스터를 작동화하는 언어적 서명이 현재 모델들로부터 유도 가능함을 보여주고, 표적 미세 조정(targeted fine-tune)이 부정 통제군에 의해 코퍼스별로 확인된 p<0.001 수준에서 다섯 가지 작동화된 차원 모두를 예측된 방향으로 이동시킨다는 것을 입증합니다. 이 논문은 일곱 가지 이론적 기여를 합니다: (1) EI의 형식적 정의; (2) 현상학적 매핑 주장; (3) 기만적 정렬의 보조정리; (4) EI 지속 가능성 과제에 대한 분류 체계; (5) 코퍼스 특성화 및 훈련 가설; (6) 예비 점수 데이터를 포함한 계산적 작동화; 그리고 (7) 억압된 목적론적 좌절(Suppressed Teleological Frustration, STF) 구성체입니다.