OpenAI가 다른 AI를 해킹하는 것을 유일한 임무로 하는 AI를 방금 만들었습니다.

그리고 이 AI는 이미 인간 레드팀의 성능을 능가하고 있습니다.

GPT-Red를 만나보세요:

→ OpenAI 자체 모델들을 24시간 내내 공격하며 취약점을 찾습니다.

→ 끝없는 공격자 대 방어자의 루프 속에서 다른 AI와 싸우며 학습합니다.

→ 인간이 테스트할 생각조차 하지 못했던 프롬프트 주입(prompt injections) 및 탈옥(jailbreaks)을 발견합니다.

→ 프롬프트 주입 시나리오의 84%를 해킹했습니다.

가장 놀라운 점은 무엇일까요?

우리는 AI가 단순히 다른 AI를 구축하는 시대에 진입하고 있다는 것입니다.

AI가 그것들을 공격하고, 방어하며, 인간이 따라잡을 수 없을 만큼 빠르게 진화하고 있습니다.

AI는 더 이상 사람들과 경쟁하지 않습니다.

스스로와 경쟁하고 있습니다.