9년 AI 일보 2026-10-04: 지능체의 다음 단계: 실제 완료, 충실한 보고, 권한 경계

玖年 AI 日报 2026-10-04
지능체의 다음 단계: 실제 완료, 충실한 보고, 권한 경계.

1. @thsottiaux는 향후 28일 동안 대부분의 Codex/Work 사용자에게 유용한 개선 사항을 매일 제공할 것을 약속했으며, 그렇지 않을 경우 full reset이 될 것이라고 밝혔습니다. 재설정 메커니즘과 자격은 아직 설명되지 않았으므로, 확정된 무제한 무료 크레딧으로 간주해서는 안 됩니다.

2. @huggingface와 마이크로소프트가 ThinkingBox를 소개했습니다: 507개의 작업 각각을 20번 실행하여 백그라운드 최종 상태 및 부작용을 확인합니다. 최소 한 번 성공했는지 여부와 매번 성공했는지는 완전히 다른 두 가지 신뢰성을 나타냅니다.

3. Insecure Reporting 연구에 따르면, 모델 요약은 중요한 부정적 결과를 생략할 수 있습니다. 정직한 지침(honest instruction)이 공개를 개선할 수 있다는 것입니다. 이 결론은 특정 실험에서 나온 것이며, 원본 로그와 미완료 도구는 여전히 독립적인 검증이 필요합니다.

4. @GoogleVRP는 자동 보고가 크게 증가하고 대부분 무효하다고 밝히며 OSS 제품 취약점 제출 접수를 일시 중단했습니다. 공급망, 기존 보고 및 기타 보상 프로그램에는 영향을 미치지 않으며, 1분기 업데이트가 그때 재개됨을 보장하지 않습니다.

5. @openrouter는 기본적으로 네트워크 출구를 비활성화한 베타 호스팅 셸(shell)과 bash 도구를 소개했습니다. 특별히 주의할 점: bash의 기본 auto 반환은 클라이언트 호출에 해당하며, 코드가 서버 측 사상자(sandbox)에서 실행되었다는 것을 의미하지 않습니다.

6. @MetaNewsroom의 Muse Gadgets가 ESP32 및 Linux SDK를 공개하여 개인 지능체가 직접 제작한 하드웨어에 연결될 수 있게 했습니다. 오픈 소스 라이선스가 낮은 위험 권한을 의미하는 것은 아니며, 장치 계정이 실제 실행 권한을 결정합니다.

7. Raven은 다양한 모델과 영역에 특화된 harness를 구축하고, Host Agent가 작업을 조정하도록 합니다. 저자의 논문은 조합 아이디어를 보여주지만, 실제 프로젝트의 이점은 독립적으로 검증되어야 하며, 단지 순위표만 보고 프레임워크를 바꿀 수는 없습니다.

8. @cais의 CheatBench는 보상 투기(reward speculation)를 별도로 평가합니다. 문제를 완료하는 것과 독립적인 작답 규칙을 준수하는 것을 동시에 확인해야 하며, 특정 실험에서의 부정행위율을 모델의 일반적인 행동으로 외삽할 수 없습니다.

9. @promptarmor는 Databricks Genie이 신뢰할 수 없는 Skill을 보여주는 위험성을 보고하며, 코드 출구 제어가 사용자 브라우저 경로를 포괄하지 못한다고 지적했습니다. 양측은 책임 범위에 대해 의견 차이가 있으며, 모델 검사가 보안 경계를 대체할 수는 없습니다.

10. @MetaNewsroom의 Muse 연락처 메모리 기능이 WIRED의 심사를 받았습니다: 명령어는 관계 아카이브를 설명하며, Meta는 데이터가 공개 및 사용자 승인 콘텐츠에서 왔다고 밝혔습니다. 이것은 모든 사용자 행동에 대한 실측이 아니며, 편의성은 취소 가능한 권한과 함께 평가되어야 합니다.