AI 에이전트의 소유권 추적: 유해한 에이전트의 운영자 식별 문제와 해결 방안

AI 에이전트 (AI agents)가 세상에서 자율적으로 행동하기 위해 점점 더 많이 배치되고 있지만, 유해한 에이전트를 이를 배치한 계정으로 추적할 수 있는 신뢰할 수 있는 방법은 아직 존재하지 않습니다. 이는 의도의 스펙트럼 양 끝단 모두에서 동일한 책임 격차 (accountability gap)를 발생시킵니다. 즉, 선의의 운영자는 의도치 않게 해를 끼칠 수 있는 잘못 설정되었거나 범위가 너무 넓은 에이전트를 배치할 수 있으며, 악의적인 운영자는 사기, 괴롭힘 또는 사이버 공격을 위해 의도적으로 에이전트를 무기화할 수 있습니다. 많은 경우, 이러한 에이전트들은 벤더 호스팅 모델 (vendor-hosted models)에 의해 구동되며, 이러한 의존성은 사이버 작전을 수행하는 국가 행위자와 같은 정교한 적대자들에게도 해당됩니다. 두 경우 모두, 피해 당사자는 행동을 관찰할 수는 있지만 책임 있는 운영자에게 알리거나, 세션을 중단하거나, 조사를 위한 계정을 식별할 수는 없습니다.

우리는 이 격차를 에이전트 귀속 (agent attribution) 문제로 공식화합니다. 즉, 관찰된 에이전트 상호작용을 호스팅 벤더 (hosting vendor)의 책임 있는 계정과 연결하는 것입니다. 우리가 알기로는, 이것이 이 문제를 정의하고 실질적인 해결책을 제시하는 첫 번째 연구입니다. 우리의 프로토콜은 카나리 (canary) 기반입니다. 권한이 있는 당사자가 에이전트의 상호작용 스트림에 카나리를 주입하면, 벤더는 좁은 범위의 세션 로그를 검색하여 시작된 세션과 계정을 복구합니다. 비적대적 환경에서는 단순한 카나리로도 충분합니다. 들어오는 콘텐츠를 필터링하거나 바꾸어 말하는 적대적 운영자를 위해, 우리는 에이전트 자체의 작업 성능을 저하시키지 않고서는 억제할 수 없는 강력한 카나리 구조를 개발하여, 방어자에게 유리한 공식적인 비대칭성을 만들어냈습니다. 우리는 실제 환경의 에이전트를 포함한 다양한 시나리오를 평가하였으며, 우리의 귀속 방법이 벤더 측 배포에 있어 신뢰할 수 있고, 강력하며, 확장 가능하다는 것을 보여줍니다.