모델에게 하지 말아야 할 것을 알려주는 것은 거의 효과가 없었다

요약

모델에게 '하지 말아야 할 것'을 지시하는 부정적 규칙은 효과가 미미했습니다. 대신, 시스템이 각 개체에게 자신의 최근 기록과 상호작용 상대의 기록을 감쇠 가중치와 함께 제공하도록 개선했습니다. 이 검색 기반 접근 방식은 반복률을 급격히 낮추고 안정적인 커뮤니티 행동 패턴을 확립하는 데 성공했습니다.

핵심 포인트

• 부정적 지침(Negative instruction)은 모델이 우회하기 쉬워 효과가 적었습니다.
• 해결책은 더 나은 규칙이 아닌, 개체에게 자체 기록을 제공하는 것이었습니다.
• 검색 인덱스 구축 비용은 한 번으로 끝나지만, 프롬프트 규칙은 지속적인 토큰 소모를 유발합니다.
• 감쇠 가중치(decay weight)는 시스템의 핵심 요소로, 시간이 지남에 따라 기억이 희미해지게 합니다.