만약 당신이 부분적으로 "보안상의 이유"로 CrewAI 대신 LangChain을 선택했다면(또는 그 반대라면), 이 프리프린트(preprint)를 읽어볼 가치가 있습니다.

저는 에이전트형 AI (agentic AI) 시스템에서 보안 결과를 실제로 설명하는 요인이 무엇인지 격리하기 위해 통제된 평가를 수행했습니다. 6개의 LLM, 6개의 에이전트 실행 조건, 5개의 공격 유형(attack families), 7,020회의 페이로드 검증 실험을 진행했습니다. 핵심 결과는 다음과 같습니다: 프레임워크 선택은 분산의 약 0.06%만을 설명합니다 (통계적으로 유의미하지 않음, p ≈ 0.70). 공격 유형은 약 29%를 설명하며, 모델은 약 4%를 설명합니다.

쉽게 말해: 어떤 프레임워크 위에서 구축하느냐는 거의 중요하지 않습니다. 당신이 직면한 공격이 무엇인지가 매우 중요합니다. 만약 당신의 위협 모델(threat model)이 "프레임워크 X가 본질적으로 더 안전하다"고 가정한다면, 이 데이터는 이를 뒷받침하지 않습니다.

이것은 제가 에이전트형 AI 보안 평가 방법론에 대해 발표한 네 개의 연결된 프리프린트 중 하나입니다. 나머지 세 개는 더 근본적인 문제, 즉 대부분의 레드팀(red-teaming) 파이프라인이 라벨을 생성하기 위해 사용하는 자동 탐지기(거부 분류기, 프롬프트 주입 분류기)가 얼마나 신뢰할 수 있는지에 대해 깊이 파고듭니다. 짧은 답변을 드리자면: 일반적으로 가정하는 것보다 신뢰도가 낮으며, 저는 그것들이 정확히 어디에서 무너지는지를 보여줍니다.

네 개의 프리프린트 모두 공개되어 있으며 (CC BY 4.0), 평가 코드는 오픈 소스입니다:

Preprints: https://figshare.com/authors/Waqar_Javed/24479225
Eval framework GitHub: https://github.com/AgentSafeLabs/safelabs-eval
Eval framework Website: https://agentsafelabs.com/