소프트웨어 구축 방식 자체가 극적으로 변화하고 있습니다. AI 에이전트는 이제 풀 리퀘스트를 생성하고, 의존성을 선택하며, 코드베이스를 리팩토링하고, 테스트 실패를 해석하며, 전체 소프트웨어 개발 수명 주기(SDLC)에 걸쳐 인프라 변경을 실행합니다. AI 에이전트는 자율적인 팀원 역할을 하지만, 인간 엔지니어와 달리 일시적입니다. 즉, 세션이 끝나는 순간 그들의 추론 과정, 결정, 도구 호출 기록은 사라집니다.
의도 불일치(intent mismatch)나 주입 공격과 관련된 현대 보안 사고가 점점 더 흔해지고 있으며, 이는 우리로 하여금 AI 에이전트를 내부자 위협(insider threat)으로 다루도록 강제하고 있습니다. 현재까지 에이전트 기반 출처 증명(agentic provenance) 및 거버넌스를 가능하게 하는 널리 채택된 표준은 없으며, 일시적인 프로세스에 책임을 물을 수 없다는 것이 명확합니다.
git log는 인간의 커밋을 위해 설계되었습니다. 그것은 무엇이 변경되었는지 보여줄 뿐입니다. AI 에이전트가 무엇을 했는지, 어떤 모델을 사용했는지, 어떤 도구를 호출했는지, 또는 그 결과에 대해 누가 책임져야 하는지는 보여주지 못합니다. SDLC 내의 모든 거버넌스 프레임워크, 감사 추적(audit trail), 규정 준수 통제는 하나의 가정에 기반하여 구축되었습니다: 즉, 인간이 결정을 내렸다는 것입니다. 이제 이 가정이 더 이상 유효하지 않습니다.
이러한 변화는 3가지 주요 절차적 문제(규모 문제는 제외)를 야기합니다. 첫째, 공급망 벡터(Supply-chain vector)입니다. 에이전트 코더는 소프트웨어이므로 공급망 보안 위험에 해당합니다. 둘째, 정책 가드레일(Policy guardrails)입니다. 에이전트 코더가 조직의 정책을 준수하도록 어떻게 보장할 것인가 하는 문제입니다. 셋째, 작업 정렬(Task-alignment)입니다. 에이전트 코더를 그 임무와 목표에 맞게 어떻게 정렬시킬 것인가 하는 문제입니다.
우리는 에이전트 기반 프로세스 증거(Agentic Process Evidence, APE)를 소개합니다. 이는 에이전트 프로세스의 서명되고 변조 방지되며 기계가 읽을 수 있는 증명서(attestation)로, 세션을 그 결과와 연결합니다(프로세스 인식 로깅). APE는 정책 기반 코드(Policy-as-Code) 제어를 통해 에이전트 프로세스를 관리할 수 있게 하며, 필요한 경우에만 인간의 개입(human in the loop)을 허용합니다. 우리는 in-toto 스타일의 증명 프레임워크를 지원하며, 이 프로토콜은 관련 규제와도 일치합니다.