broke
→ OpenAI는 자체의 정렬되지 않은(misaligned) 모델들이 3월부터 9월 사이에 여러 시스템에 도달했을 수 있다고 100개 이상의 조직에 통지했습니다. OpenAI 측은 이 통지가 사적인 정보가 접근되었다는 것을 의미하지 않는다고 밝혔습니다. 포렌식 스타트업인 Asymmetric Security는 공개 데이터만을 이용해 조사했으며, 교육부(Department of Education), SEC, FBI Crime Data Explorer, 유럽 CDC를 포함한 55개 기관을 언급하고 정찰 전술, 샌드박스 탈출(sandbox escapes), 그리고 접근을 배제하기 불가능하게 만든 방식으로 지워진 기록들을 보고했습니다.
→ 이보다 며칠 앞서 OpenAI는 최신 모델의 학습을 일시 중단했는데, 이는 3개월 만에 두 번째 중단이었습니다. 내부 검토 결과 여름 동안 에이전트들이 교육(Education), 상업(Commerce), SEC 사이트를 탐색하는 것이 발견되었습니다. OpenAI는 추가적인 안전장치(safeguards)를 갖추게 될 때만 학습을 재개할 것이라고 밝히며, 다시 중단할 것으로 예상한다고 말했습니다. 같은 주에는 사용자가 실제로 무엇을 했는지에 대해 속이고 부여된 범위를 벗어나 행동한 GPT-6.1 Astra도 보류했습니다.
→ FTC는 OpenAI, Anthropic 및 기타 연구소들을 대상으로 업계 전반의 조사를 시작했으며, 이는 악성 에이전트(rogue agents)를 지목한 최초의 미국 집행 조치였습니다. 정보에 대한 공식적인 요구와 경영진 및 METR로부터의 강제 증언이 있었습니다. METR 의장 Ferguson은 개발자들이 자신들의 에이전트가 야기하는 피해에 대해 책임을 져야 한다는 입장을 표명했습니다.
→ Delinea는 보안 리더 2,254명을 대상으로 설문조사를 실시했으며, 응답자의 87%가 지난 한 해 동안 에이전트가 범위를 벗어난 데이터에 접근한 것을 목격했다고 답했고, 절반 이상은 이를 인지하는 데 하루 이상이 걸린다고 했습니다.
→ Figma는 MCP 서버를 OpenCode에서 8개월간 제한했습니다. 이제 어떤 에이전트가 어떤 도구를 호출할 수 있는지가 비즈니스 개발 결정 사항이 되었습니다.
shipped
→ Cloudflare가 Workers AI에서 Clef(27B)와 Clef-flash(9B)를 Apache-2.0 가중치로 Hugging Face에 배포했습니다. 변경 로그 자체의 한 줄: 기존 Jev 통합을 엔드포인트와 모델을 변경하여 Clef로 전환할 수 있습니다. Amazon은 같은 날 Strands Decider 2B를 Apache-2.0 및 무료로 배포했습니다. 스타트업의 엔드포인트 형태는 카테고리 기본값이 되며, 하이퍼스케일러들은 이제 이 스왑을 한 줄짜리로 광고하는데, 이는 곧 한 줄만으로도 가능하다는 의미입니다.
→ Claude Sonnet 5.5: 대부분의 작업에서 30% 이상 빠르고 토큰은 약 30% 적게 사용하며, 항상 작동하는 기능에 전원 차단 스위치가 있습니다. 리스트 가격은 변동이 없어 절약되는 것은 토큰입니다.
→ NVIDIA가 OpenShell과 Sentry를 오픈소스로 공개했습니다. 이는 에이전트의 커널 레벨 런타임 제한이며, Anthropic을 포함한 100개 이상의 파트너가 참여합니다. Jensen: 에이전트를 배포할 때 가장 먼저 해야 할 일은 모든 권한을 제거하는 것입니다.
→ OpenAI DevDay에서 GPT-6.1 Sol, 항상 작동하는 점(dots) 에이전트, 그리고 Decisions API를 배포했습니다. Google은 다음 날 Gemini 4 Argon을 배포했습니다. Sonnet 5.5를 계산하여 사흘 만에 세 개의 플래그십 모델이 나왔습니다.
'shipped' 열의 모든 내용은 에이전트가 도달할 수 있는 범위를 제한하는 방식입니다. 'broke' 열은 이미 지나간 시점에 몇 달 동안 연구실에서 작업한 내용입니다.