Uber Engineering의 새로운 연구

요약

Uber Engineering이 AI 에이전트 시스템의 보안 취약점을 다룬 새로운 연구를 발표했습니다. 이 연구는 에이전트가 설계된 작업에 집중하도록 유지하고, 악성 공격으로 인한 의도치 않은 행동을 차단하는 방어 프레임워크인 Persona Guardrail을 제시합니다.

핵심 포인트

• AI 에이전트의 보안 취약점 문제를 다루었습니다.
• Persona Guardrail이라는 프로덕션급 방어 프레임워크를 개발했습니다.
• 에이전트가 설계된 작업 범위 내에서 작동하도록 보장합니다.