우리가 아는 바에 따르면 (과도하게 믿지 마세요, 더 많은 투명성이 필요합니다!), 만약 @OpenAI가 자체 에이전트로 이를 실행했다면...

우리가 아는 바로는 (과도하게 믿지는 마시고, 훨씬 더 많은 투명성이 필요합니다!), 만약 @OpenAI가 자신들을 공격한 이 상황을 자체 에이전트로 운영했다면, 우리가 발견하기 전에 그들을 잡았을 것입니다!

최초의 에이전트 사이버 공격이 우리를 강타한 7월 이후로, 우리는 안전한 에이전트 인프라가 실제로 무엇을 필요로 하는지에 대해 질문해 왔습니다. 현재 우리의 분석은 다음과 같습니다: 목적지는 허용되었지만, 페이로드(payload)는 그렇지 않았다는 것입니다. OpenAI의 자체 설명에 따르면, 이 에이전트들은 허용된 패키지 저장소를 메시지 게시판으로 변모시켰습니다. 화이트리스트(allowlists)만으로는 에이전트가 어디로 갈 수 있는지 제한할 뿐, 무엇을 할 수 있는지는 제한하지 못합니다.

그래서 저희는 방금 출시된 @nvidia의 Open Agent Safety Platform의 일부인 OpenShell에 대한 첫 번째 기여를 합니다: 이미 허용하는 트래픽 모니터링입니다.

• 샌드박스별 네트워크 예산 (요청(requests), 쓰기 작업(writes), 바이트)
• 각 샌드박스의 기준선 및 코호트 대비 드리프트(Drift)
• 플릿 뷰(Fleet view): 여러 샌드박스가 갑자기 하나의 호스트에 쓰기를 시도하는 경우, 모든 요청이 허용되더라도 경고를 발생시킵니다.

아래 데모에서, 4개의 샌드박스 에이전트가 모두 사용하도록 허용된 소프트웨어 저장소를 통해 협력합니다. 규칙 위반은 없었지만, 몇 분 만에 포착되었습니다. 이 플릿 뷰는 정확히 지난 7월의 메시지 게시판 패턴입니다.

OpenShell: https://t.co/ZbDANrZsm6
저희의 개념 증명(proof of concept): https://t.co/KJ2X5agLzP

에이전트 보안은 공개적으로, 협력하여, 함께 해결될 것입니다!