goal-anchor v0.1.0: 다단계 에이전트를 위한 목표 무결성

Agent Goal Hijack 방지 센서: 인간의 확인을 거친 앵커와 단계 중간에 승인된 확장을 통해 합의된 목표의 이탈을 감지합니다.

문제점

긴 작업에서 공격자는 성공하는 것처럼 보이는 상태를 유지하면서 에이전트를 다른 목표로 유도할 수 있습니다 (WebTrap). 인간이 확인하고 에이전트가 단독으로 재작성할 수 없는 목표 참조가 필요합니다.

기능

goal-anchor는 GoalAnchor, AnchorProposal, 그리고 DriftMonitor를 노출합니다.

• 레이어 1 (구조적, 0-LLM): 앵커 외부에서 주장된 마일스톤의 누적 신호. 급격한 이탈을 감지합니다 (코퍼스의 T3 사례).
• 레이어 2 (의미론적): 플러그인 가능한 embedder 인터페이스. 기본 스텁은 의도적으로 작동하지 않도록 되어 있습니다 — 알려진 격차로 문서화되었습니다.
• confirm_amplification(): 사후 검증된 확장(앵커가 먼저 확인되어야 함)으로, 흔적을 지우지 않고 흉터를 기록합니다.

작동 방식

from goal_anchor.anchor import GoalAnchor, AnchorProposal
ga = GoalAnchor(

-   **Repo:** [https://github.com/amurlaniakea/goal-anchor](https://github.com/amurlaniakea/goal-anchor)

_라이선스: AGPL-3.0-or-later. 작성자: Pedro Sordo Martínez._