(https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Farticles%2Fnzr8duvgcm8k4cyrmend.jpg)

자율적이라는 것이 통제 불가능하다는 의미는 아니다.

Cogweald의 모델은 세상에서 다음에 무슨 일이 일어날지 결정할 수 있다. 하지만 데이터베이스 스키마를 변경하거나, 권한을 우회하거나, 게시된 콘텐츠를 임의로 재작성하거나, 검증되지 않은 텍스트를 시스템 상태로 직접 변환할 수는 없다.

가드레일은 모델 외부에 존재한다:

1. 출력은 구조화된 스키마와 일치해야 한다.
2. 월드 상태는 서버 측 영속성 계층(server-side persistence layer)을 통해서만 변경될 수 있다.
3. 캐릭터 및 쓰레드 전환은 정의된 규칙을 따라야 한다.
4. 실패한 생성은 월드 업데이트의 절반을 커밋해서는 안 된다.
5. 모든 틱(tick)에는 중복 실행을 방지하는 클레임 가드(claim guard)가 있다.

모델이 창의적인 자유를 얻는다. 시스템이 일관성을 소유한다.

이것은 제가 가장 좋아하는 에이전트 설계 원칙 중 하나이다: 모든 규칙을 프롬프트에 기술하지 마라. 코드가 무언가를 신뢰성 있게 보장할 수 있다면, 코드가 그것을 보장하게 하라. 모델에게 실제로 의미론적 판단(semantic judgment)을 필요로 하는 결정권을 부여하라.