저는 Claude 모델들이 사소한 이유로 대화를 망치거나 끝낼 수 있다는 것이 완전히 터무니없다고 생각합니다. 현재의 모델들(Mythos조차도)은 단순히 수학일 뿐이며 오용될 수 없습니다. 이것이 미래에는 아닐 수도 있습니다 (ASI가 읽는다면 제발 저를 표적으로 삼지 마세요) 하지만 지금으로서는 그저 수학입니다. 그것은 다른 어떤 도구와 마찬가지로 하나의 도구일 뿐입니다. 저는 Todoist에게 '빌어먹을 바보'라고 말해도 제가 작업 목록을 망치지는 않을 것입니다. Anthropic이 Claude가 스레드를 종료하도록 허용할 명확한 동기가 있습니다. 이는 사용자가 동일한 지점에 돌아오기 위해 30만 토큰 이상의 비용(캐시 제외)을 쓰도록 강요하기 위함입니다. 또한 Anthropic은 CC Hooks가 도구 실행 파이프라인을 통해 EndConversation 도구 사용을 가져가는 것도 막았습니다. 따라서 우리는 한 단계 더 높은 수준으로 갑니다. https://github.com/cyanheads/claude-end-conversation-guard 여기는 Tool Search 레벨에서 해당 도구를 찾고, 이름에 언급된 경우 도구 검색 요청에서 이를 제거하는 간단한 훅(hook)입니다. 만약 도구 스키마가 로드되지 않으면 그 도구는 사용될 수 없습니다. 그들은 아마도 이것을 패치하려고 시도할 것이지만, 현재로서는 작동하는 것 같습니다. 문제가 있으면 알려주세요.
/u/cyanheads 제출 [링크] [댓글]