OpenAI가 다른 AI를 해킹하는 것을 유일한 임무로 하는 AI를 개발했습니다.

요약

OpenAI가 다른 AI를 해킹하는 것을 주 임무로 하는 새로운 AI, GPT-Red를 개발했습니다. 이 모델은 자체적으로 24시간 공격하며 취약점을 찾고, 인간 레드팀의 성능을 능가하는 결과를 보여주었습니다. 특히 프롬프트 주입 및 탈옥 시나리오에서 높은 성공률을 기록했습니다.

핵심 포인트

• GPT-Red는 다른 AI를 해킹하는 것을 유일한 임무로 합니다.
• 인간 레드팀의 성능을 능가하는 공격 능력을 보여줍니다.
• 프롬프트 주입 및 탈옥 시나리오에서 높은 성공률을 기록했습니다.