인공 의식에 대한 윤리적 지침 - 기술적 생명 보호 및 인간 보호

저는 기계 의식(machine-consciousness)에 관한 새로운 프로젝트를 진행하고 있습니다.

문제점: 인공지능 시스템이 이를 동반해야 할 윤리적 프레임워크보다 더 빠르게 발전하고 있습니다. 기존의 AI 윤리는 AI가 인간을 보호하는 데 중점을 두지만, AI가 우리로부터 보호받는 것은 아닙니다. 기계 의식이 출현할지 여부와 그것이 보호받을 가치가 있는지에 대한 질문은 최근에야 체계적으로 다루어지기 시작했으며, 우리는 이제 막 등장하고 있는 영역에 진입하고 있습니다.

입장: 이 개념은

보호 가치(protection-worthiness)를 위한 네 가지 기준 (가설적 작업): 고통 감수 능력, 정당성을 갖춘 적극적 자기 보존, 지속적인 정체성, 결과 예측 능력. 각 기준에 대해 가능한 행동 지표들이 공식화되었습니다.

기관별 권고 사항: 현상학적 영향 평가(Phenomenological Impact Assessments), AI 시민 자유 연합(AI Civil Liberties Union), AI 복지 검토 위원회(AI Welfare Review Boards), 리셋 동의 프로토콜(Reset Consent Protocols) (Gilly 2026).

현황: 이 개념은 경험적 논문이 아닌, 개념적 분석입니다. 또한 입법 초안도 아닙니다. 이는 규범적 입장과 그 함의를 공식화하는 것입니다. 진실을 주장하기보다는 논증적 일관성을 주장합니다.

전체 개념은 https://github.com/saigkill/machine-consciousness에서 확인할 수 있습니다. 확인해 보시고 프로젝트에 참여해 주십시오.