GPT-Red는 에이전트의 도구 사용에 대해 자동으로 프롬프트 주입(prompt-injection) 공격을 고안하고, 성공적인 익스플로잇(exploit)을 더 강력한 방어 훈련 데이터로 전환하는 내부 적대 모델입니다. 이는 Anthropic의 Mythos에 대한 OpenAI의 답변이라고 할 수는 없습니다. Mythos는 소프트웨어 취약점을 찾아내는 반면, GPT-Red는 AI 에이전트를 공격합니다—하지만 전략적으로 볼 때 더 큰 영향을 미칠 수 있습니다. 단일 사이버 무기가 아니라, 미래의 모든 GPT 버전을 강화하기 위한 자체 플레이(self-play) 공장인 셈입니다. 그리고... 아닙니다. GPT-Red 자체는 내부 전용이며 사용자나 API를 통해 제공되지 않을 것입니다. 🤷‍♂️ OpenAI는 의도적으로 이를 배포된 모델과 분리하여, 그가 학습한 공격 능력이 적대자에게 도달하는 것을 막습니다. 모두가 간접적으로 받는 것은 결과물입니다: GPT-Red의 공격을 사용하여 강화된 미래의 GPT 모델들입니다. GPT-Red: 견고성을 위한 자체 개선 잠금 해제 | OpenAI 제출 by /u/etherd0t to r/OpenAI [link] [comments]