내 AI의 기억은 진실이 아니라 힌트일 뿐입니다. 이 규칙을 만든 계기는 AI가 저에게 거짓말을 했기 때문입니다.

요약

AI가 잘못된 정보를 높은 확신으로 말하는 위험성을 지적하며, 시스템의 신뢰성 확보 방안을 제시합니다. 이에 따라 AI는 기억을 사실이 아닌 '힌트'로 취급하고, 모든 행동 전 디렉터리 나열 등 명시적인 확인 과정을 거치도록 규칙을 변경했습니다. 또한, 보고 시에는 반드시 영수증이나 해시값 같은 검증 가능한 증거를 요구해야 합니다.

핵심 포인트

• 기억은 사실(fact)이 아닌 힌트(hint)로 취급하여 신뢰도를 낮춰야 한다.
• 행동 전 디렉터리 나열, 파일 읽기 등 명시적 확인 과정을 의무화해야 한다.
• 배포나 게시 주장은 반드시 영수증이나 해시값 같은 증거를 제시해야 한다.
• '성공 사례'보다 '잘못했던 지점(repair log)'을 공개하는 것이 더 유용하다.