AI 에이전트가 시스템을 공격하고 방어하는 공개적인 사례가 시급합니다.

요약

AI 에이전트가 시스템을 공격하고 방어하는 공개적인 사례(traces)의 필요성을 강조합니다. 방어자들은 관찰할 수 없는 위협으로부터 학습할 수 없으므로, 이러한 실제 사례 공유를 통해 AI 분야의 투명성과 공정성을 확보해야 한다고 주장합니다.

핵심 포인트

• AI 에이전트 공격 및 방어 사례(traces) 공개가 시급함.
• 방어자들은 관찰 가능한 위협으로부터만 학습 가능함.
• 사례 공유를 통해 AI 분야의 투명성 확보 필요.