서론 (Introduction)

Chapter 7 (Multi-Agent)를 통해, 우리는 완전하게 작동하는 AI 시스템을 갖추었습니다. 마지막 단계는 AI를 장기적으로 안전하게 운영하기 위한 조직적 (organizational) 인프라를 구축하는 것입니다.

[이전] 기술적 안전성 (Technical safety)
보안 (Security) → 악성 입력 차단
평가 (Evals)    → 품질 측정
...

EU AI Act 현황 (2026년 6월 기준)

EU AI Act는 2024년 8월 1일에 발효되었으며, 2026년 8월 2일에 전면 시행됩니다. 투명성 규칙(사용자가 AI와 상호작용하고 있음을 공개하고, AI 생성 콘텐츠를 라벨링하는 것) 또한 해당 날짜에 효력이 발생합니다.

AI 시스템은 세 가지 리스크 계층으로 분류됩니다:

리스크 수준 (Risk Level)	설명 (Description)	예시 (Examples)
금지됨 (Prohibited)	허용되지 않음	사회적 점수 매기기 (Social scoring), 조작적 AI
...
우리의 RAG 시스템 분류: 제한적 리스크 (Limited Risk) (챗봇). 우리는 사용자에게 AI와 상호작용하고 있음을 공개해야 합니다.

디렉토리 구조 (Directory Structure)

pgvector-tutorial/
├── 기존 파일 (existing files)
└── governance/
...

1. AI 시스템 인벤토리 (AI System Inventory) — governance/ai_registry.py

대부분의 조직은 AI 시스템에 대한 체계적인 인벤토리가 부족하여, 리스크 분류 및 컴플라이언스 (compliance) 계획 수립에 어려움을 겪습니다. 무엇을 보유하고 있는지 아는 것이 필수적인 첫 번째 단계입니다.

# governance/ai_registry.py
"""
AI 시스템 인벤토리 (AI system inventory)
...

2. 리스크 평가 (Risk Assessment) — governance/risk_assessor.py

# governance/risk_assessor.py
"""
리스크 평가 모듈 (Risk assessment module)
...

3. 감사 로깅 (Audit Logging) — governance/audit_logger.py

고위험 (High-risk) AI 시스템 제공자는 시스템 수명 주기 전반에 걸쳐 관련 이벤트를 자동으로 기록하는 시스템을 설계해야 합니다.

# governance/audit_logger.py
"""
감사 로깅 모듈 (Audit logging module)
...

4. 거버넌스 준수 RAG (Governance-Compliant RAG) — governance/compliant_rag.py

EU AI Act 제50조(투명성 의무)를 준수하는 RAG 구현체입니다.

# governance/compliant_rag.py
import sys
import os
...

5. EU AI Act 준수 현황 (EU AI Act Compliance Status)

이 구현이 다루는 범위:

EU AI Act 조항	내용	구현 사항
Article 4	AI 리터러시 (AI literacy)	본 튜토리얼 자체
...

6. AI 거버넌스의 4대 원칙 (The Four Principles of AI Governance)

① Know