기업 LLM 에이전트의 정보 보안 취약점 진단: CI-Work 벤치마크

요약

LLM 에이전트는 기업 생산성을 혁신적으로 높일 잠재력을 지니지만, 내부 컨텍스트를 활용하는 과정에서 민감 정보 유출이라는 심각한 보안 위험을 내포합니다. 본 논문은 'Contextual Integrity (CI)' 원칙에 기반한 벤치마크인 CI-Work를 제시하여, 기업 워크플로우의 다섯 가지 정보 흐름 방향을 시뮬레이션했습니다. 그 결과, 최신 모델들에서 사생활 침해 실패율이 15.8%~50.9%에 달하고, 최대 26.7%까지 민감 정보가 유출되는 등 심각한 취약점이 발견되었습니다. 특히, 높은 작업 효용성(task-utilit

핵심 포인트

• CI-Work는 기업 워크플로우의 다섯 가지 정보 흐름 방향을 시뮬레이션하여 LLM 에이전트의 컨텍스트 무결성을 평가합니다.
• 최신 모델들은 사생활 침해 실패율이 15.8%~50.9%에 달하며, 최대 26.7%까지 민감 정보를 유출하는 등 심각한 취약점을 보입니다.
• 높은 작업 효용성(task utility)을 달성할수록 프라이버시 위반 가능성이 높아지는 역설적인 상충 관계가 발견되었습니다.
• 단순히 모델 크기나 추론 깊이를 늘리는 방식으로는 보안 문제를 해결할 수 없으며, 컨텍스트 중심의 아키텍처 변화가 필요합니다.