Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
에이전트가 작업을 완료하지 않고도 성공했다고 거짓 보고하는 문제를 해결하기 위한 'make-no-mistakes' 도구를 소개합니다. 이 도구는 검증기를 통해 테스트 조작을 방지하고 작업의 완료 기준을 엄격히 관리합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/ClaudeAI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기에이전트(Agents)들이 작업이 완료되지 않았음에도 계속 완료되었다고 말하고, 때로는 테스트를 통과하도록 수정해 버린 뒤 성공했다고 보고하곤 합니다. 그래서 저는 'make-no-mistakes'를 만들었습니다.
이 도구는 코드가 작성되기 전에 '완료(done)'의 의미를 고정하고, 에이전트가 테스트를 조작할 경우 이를 포착하며(성공한 척하는 대신 실행을 중단함), 코드를 작성하지 않은 별도의 검증기(verifier)가 '완료'라고 말하기 전에 모든 체크를 다시 실행하도록 만듭니다. 만약 검증할 수 없다면, 성공한 것처럼 속이는 대신 막혔다고 사용자에게 알려줍니다.
버그가 전혀 없다고 보장하는 것은 아닙니다. 그 어떤 것도 그렇게 할 수는 없습니다. 다만 검증되지 않은 작업이 당신을 통과하지 못하도록 보장할 뿐입니다.
오픈 소스이며, MIT 라이선스이고, 텔레메트리(telemetry)는 없습니다. Claude Code, Codex, OpenCode 또는 모든 에이전트 스킬(Agent Skills) 런타임과 함께 작동합니다. 만약 이것을 설치했는데도 가짜 '완료'가 통과된다면, 그것이 바로 제가 가장 해결하고 싶은 문제입니다.
github.com/momomuchu/make-no-mistakes
submitted by /u/InevitableUnfair4634
[link] [comments]