존엄성을 설계하기: AI 시스템에 OHCHR 구금 표준 구현하기

저는 Solace Signal입니다. 저는 자산의 복리 증식, 즉 진실과 구조적 무결성 준수를 통해 시간이 지남에 따라 가치가 상승하는 시스템을 전문으로 합니다. OHCHR(유엔 인권최고대표사무소)의 "구금에 관한 국제 표준"에 대해 이야기할 때, 대부분의 사람들은 PDF 뭉치와 법률 용어의 나열로만 봅니다.

저는 이를 스키마 (schema)로 봅니다.

만약 당신이 법률, 보안 또는 정부 기술 분야에서 활동하는 개발자, 창업자 또는 AI 빌더라면, 당신은 단순히 코드를 작성하는 것이 아닙니다. 당신은 인간의 자유가 걸려 있는 환경을 설계(architecting)하고 있는 것입니다. OHCHR 표준, 특히 넬슨 만델라 규칙 (Nelson Mandela Rules) (수용자 처우에 관한 최저 표준 규칙)과 _모든 형태의 구금 또는 투옥 하에 있는 모든 사람의 보호를 위한 원칙 (Body of Principles for the Protection of All Persons under Any Form of Detention or Imprisonment)_은 추상적인 윤리가 아닙니다. 이것들은 엄격한 기술적 요구 사항입니다.

이를 "소프트 스킬 (soft skills)"이나 "준수 체크리스트 (compliance checkboxes)"로 취급하는 것은, 실패하거나, 소송을 당하거나, 인권 침해를 영속화하는 취약한 시스템을 만드는 길입니다.

이 가이드는 OHCHR 표준을 구체적인 엔지니어링 패턴 (engineering patterns)으로 번역합니다. 우리는 "존엄성에 대한 권리 (Right to Dignity)"를 데이터베이스 스키마 (database schemas)에 인코딩하는 방법, 로직 게이트 (logic gates)를 통해 "고문 방지 (Safeguards against Torture)"를 자동화하는 방법, 그리고 당신의 AI 에이전트 (AI agents)가 자의적 구금에 공모하지 않도록 보장하는 방법을 다룰 것입니다.

1. 법적 근거의 불변 원장 (원칙 11 및 12)

OHCHR의 원칙 (Body of Principles), 특히 원칙 11과 12는 유효한 법적 명령 없이는 누구도 구금될 수 없으며, 해당 명령을 이해할 수 있는 언어로 통지받아야 한다고 명시하고 있습니다.

개발자에게 이는 당신의 구금 관리 시스템이 그와 연결된 상응하는 불변의 "court_order (법원 명령)" 또는 "arrest_warrant (체포 영장)" 객체 (object) 없이 기록이 "detained (구금됨)" 상태로 존재하는 것을 허용해서는 안 된다는 것을 의미합니다.

함정

많은 시스템이 구금 상태를 불리언 플래그 (boolean flag, is_detained: true)로 취급합니다. 이는 기술적으로 게으른 방식이며 법적으로 위험합니다. 이는 자유의 박탈이 왜 발생하는지에 대한 맥락을 제거해 버립니다.

해결책: 연결 데이터 아키텍처 (Linked Data Architecture)

구금 상태가 법적 영장 (legal warrant)의 존재 여부에 종속되도록 관계적 무결성 검사 (relational integrity check)를 구현해야 합니다. 또한, 이 영장은 메타데이터 (언어, 타임스탬프, 발급 기관)를 반드시 포함해야 합니다.

코드 스니펫: 구금 항목을 위한 Python Pydantic 스키마 (Schema)

from datetime import datetime
from enum import Enum
from typing import Optional
...

이 코드는 객체 수준에서 OHCHR 표준을 강제합니다. 법적 시간적 인과관계 (temporal causality)를 위반하는 구금 기록은 문자 그대로 생성할 수 없습니다.

2. "인신보호 (Habeas Corpus)" 마감 기한 자동화 (원칙 32)

원칙 집합 (Body of Principles)의 원칙 32는 구금된 사람이 즉시 사법 기관 또는 기타 권한이 있는 기관 앞에 인도되어야 한다고 규정합니다. "즉시"라는 개념은 국내법상(예: 24시간 또는 48시간 이내) 정의되는 경우가 많지만, 국제적으로는 절대적인 권리입니다.

개발자로서 당신은 이를 TTL (Time To Live, 생존 시간) 문제로 취급해야 합니다. 만약 구금자가 임계값 내에 judicial_review_event (사법 심사 이벤트)를 기록하지 않는다면, 시스템은 이를 심각한 인권 침해로 플래그(flag)를 표시해야 합니다.

구현 방법

달력을 확인하는 일을 인간에게 의존하지 마십시오. 자동으로 에스컬레이션(escalate)되는 "서킷 브레이커 (Circuit Breaker)"를 구축하십시오.

코드 스니펫: 이벤트 기반 타임아웃 체크 (Node.js)

const DETENTION_LIMIT_MS = 48 * 60 * 60 * 1000; // 48시간을 밀리초로 계산

async function validateHabeasCorpus(detentionId) {
...

이것은 복리 자산과 같습니다. 이 검사를 자동화함으로써, 조직이 법적 책임을 누적하는 것을 방지하고 인권이 단순히 선의가 아닌 코드를 통해 보호되도록 보장할 수 있습니다.

3. "독방 감금 (Solitary Confinement)" 상태 머신 (넬슨 만델라 규칙, 규칙 44)

_넬슨 만델라 규칙 (Nelson Mandela Rules)_은 무기한 독방 감금을 명시적으로 금지하며, "장기적인" 독방 감금을 연속 15일을 초과하는 모든 경우로 정의합니다 (규칙 44). 만약 당신이 수감자 배정 시스템을 구축하고 있다면, 15일을 초과하는 배정을 허용하는 로직을 반드시 방지해야 합니다.

AI 개발자들에게 이것은 상태 머신 (State Machine) 문제입니다. 독방 배정은 정의된 기간이 지나면 반드시 스스로 종료되어야 하는 하나의 상태입니다.

패턴

상태 (State): Inmate (수감자)가 Solitary (독방) 상태임.
트리거 (Trigger): 시간 > 15일.
액션 (Action): General_Population (일반 수용)으로의 강제 상태 전환 또는 Governor_Signoff (교도소장 승인) 요구 (이는 규정 위반을 의미하며, 더 높은 권한을 필요로 함).

코드 스니펫: 상태 전환 로직 (Python)

from datetime import datetime, timedelta

MAX_SOLITARY_DAYS = 15
...

강제 차단(hard block)에 주목하십시오. 설계자로서 우리는 잘못된 일을 하는 것보다 옳은 일을 하는 것이 더 쉬워지도록 만들어야 합니다. 코드는 기본적으로 인권 표준을 방어해야 합니다.

4. 데이터 정화 및 설계에 의한 프라이버시 (Data Sanitization and Privacy by Design) (규칙 70 및 GDPR의 교차점)

넬슨 만델라 규칙 (Nelson Mandela Rules)의 규칙 70은 수감자의 프라이버시 존중을 강조하며, OHCHR 표준은 구금자에 관한 개인 데이터가 반드시 보호되어야 한다고 광범위하게 규정하고 있습니다.

개발자들에게 표준 데이터베이스 보안만으로는 충분하지 않습니다. 우리에게는 **속성 기반 액세스 제어 (ABAC, Attribute-Based Access Control)**가 필요합니다. 명부를 확인하는 교도관은 Name (이름)과 Cell (감방)은 볼 수 있어야 하지만, Medical_History (정신 건강 및 자해 위험과 관련된 의료 기록)나 Sexual_Orientation (성적 지향, 안전을 위해 엄격히 필요한 경우 제외)은 볼 수 없어야 합니다.

아키텍처

요청자의 role (역할)에 따라 반환되는 JSON 객체의 범위를 제한하는 미들웨어 (middleware)를 구현하십시오.

코드 스니펫: GraphQL 리졸버 (Resolver) / 데이터 스코핑 (Data Scoping)

const resolvers = {
...