AgentTrail이 존재하는 이유: AI 에이전트를 위한 오픈 소스 감사 추적(Audit Trails) 구축

EU AI Act(유럽연합 AI 법)가 이제 발효되었으며, 고위험(high-risk) AI 시스템에 대한 준수 기한이 다가오고 있습니다. 많은 중견 기업들은 실무에서 "기록 보관(record-keeping)"이 실제로 무엇을 의미하는지 여전히 파악하는 중입니다. 이것이 바로 우리가 AgentTrail을 구축한 이유입니다. AgentTrail은 AI 의사결정 추적 가능성(traceability)을 실용적이고 투명하며 저렴하게 만들기 위해 설계된 오픈 소스 SDK입니다.

제12조(Article 12)가 실제로 요구하는 사항

유럽연합의 인공지능 법(EU AI Act, Regulation (EU) 2024/1689)은 2024년 8월 1일에 발효되었습니다. 제12조, _기록 보관(Record-Keeping)_은 고위험 AI 시스템의 제공자가 해당 시스템의 전체 수명 주기 동안 로그를 자동으로 생성하도록 설계할 것을 요구합니다.

이 로그는 **모니터링(monitoring), 사후 시장 감독(post-market oversight), 사고 조사(incident investigation) 및 규제 준수(regulatory compliance)**를 가능하게 할 만큼 충분해야 합니다. 또한 법안은 로그를 적절한 기간 동안 보관해야 하며, 요구 시 관할 당국이 사용할 수 있도록 제공할 것을 요구합니다.

고위험 AI 시스템은 주로 규정의 **부속서 III(Annex III)**에 정의되어 있으며 다음과 같은 사용 사례를 포함합니다:

• 채용 및 고용 결정 (HR Tech)
• 신용도 평가 (Fintech)
• 특정 보험 관련 위험 평가 (InsurTech)
• 필수 서비스에 대한 접근 및 기타 규제 대상 의사결정 프로세스

기한에 관한 중요한 맥락: 기존 프레임워크는 대부분의 고위험 AI 시스템에 대한 주요 준수 날짜를 2026년 8월 2일로 설정했습니다. 그러나 2026년 5월, EU 공동 입법자들은 특정 조항을 수정하고 집행 일정을 조정한 이른바 AI Omnibus(디지털 옴니버스 패키지)에 대해 정치적 합의에 도달했습니다. 일부 고위험 시스템 범주의 경우, 의무 사항이 더 늦은 일정에 맞춰 조정되었으며, 특정 구현 단계에 대해 2027년 12월 2일이 참조됩니다. 조직은 단일한 보편적 날짜를 가정하기보다 자신들의 특정 시스템 범주에 어떤 기한이 적용되는지 확인해야 합니다.

무결성에 대한 법적 요구사항: 제12조는 자동 로깅 및 보존을 의무화하지만, 특정 기술 형식이나 암호화 서명을 명시적으로 규정하지는 않습니다. 규제 요건은 시스템이 무엇을 했고 언제 했는지에 대한 증거입니다. 하지만 실제로는 전통적인 관측 가능성(observability) 도구(Splunk, Datadog, ELK)가 수정, 삭제 또는 재배열되어도 흔적을 남기지 않는 로그를 저장할 수 있습니다. 감사관이나 규제 기관에 무결성을 입증해야 하는 조직에게는 암호화된 변조 방지 증거(tamper-evidence)가 강력한 기술적 구현 방법입니다. 이는 법률이

결정론적 직렬화 (Deterministic serialization)는 플랫폼이나 환경에 관계없이 동일한 이벤트가 항상 동일한 해시 (hash)를 생성하도록 보장합니다.

설계에 의한 개인정보 보호 (Privacy by Design)

AgentTrail은 감사 데이터의 중앙 집중식 저장을 요구하지 않습니다. 영수증 (Receipts)은 Amazon S3, 로컬 파일 시스템 또는 기타 스토리지 백엔드에 저장되든 관계없이 귀하의 인프라 내에 유지됩니다. 검증은 CLI를 사용하여 오프라인으로 수행할 수 있습니다:

npx @aivoralabs/agenttrail-cli audit-receipt verify audit-log.jsonl

초기 검증 (내부 신호)

우리의 초기 접근은 아직 매우 초기 단계에 있습니다. 다음은 시장 검증이 아닌, 첫 대화에서 얻은 내부 지표입니다:

채널	지표
발송된 이메일 수	23
...

이 수치들은 작지만, 오픈율 (open rate)은 추적 가능성 (traceability)과 AI 컴플라이언스 (compliance)가 의사 결정권자들이 기꺼이 참여하고자 하는 주제임을 시사합니다. 우리의 즉각적인 목표는 이러한 관심을 고객 발견 인터뷰 (customer discovery interviews)와 구체적인 제품 피드백으로 전환하는 것이며, 시장 검증을 주장하는 것이 아닙니다.

향후 계획

로드맵은 명확하고 투명합니다:

• 오픈 소스 SDK 개선 지속
• 실무자 및 감사인(auditors)을 통한 컴플라이언스 요구사항 검증
• 고객 발견 인터뷰 수행
• 관리형 서비스로서 AgentTrail Cloud 출시 (현재 개발 중)

우리가 계획 중인 모델은 오픈 코어 (open-core) 방식입니다:

• AgentTrail SDK: 무료 및 오픈 소스 (MIT)
• AgentTrail Cloud: 에이전트당 월 $99부터 시작할 계획 (가격 및 가용성은 미정이며, 아직 결제 시스템은 활성화되지 않음)

AI 거버넌스 (governance)는 비즈니스 요구 사항이 되어가고 있습니다. 조직에는 감사 가능성 (auditability)이 필요하지만, 이를 기술적으로 구현하기 위해 6자릿수 예산이 필요해서는 안 됩니다.

GitHub: https://github.com/AIvoraLabs/AgentTrail

Landing Page: https://agenttrail.aivoralabs.org