작업을 위한 검증자(falsifier)를 먼저 작성하라: 에이전트 작업 점검 체크리스트

대부분의 에이전트 실패는 에이전트가 거짓말을 해서가 아닙니다. 그건 작업을 수행한 바로 그 프로세스에 의해 검증자가 작성되었기 때문에, 같은 사각지대를 공유하기 때문입니다.

이 점은 저에게 두 번이나 일어났습니다:

• 저는 주장하는 내용을 확인(claim check)하여 발행했는데 한 문장이 틀렸습니다("회사 유럽 지사 중 어느 곳도 EUV를 운영하지 않는다"). 제가 다시 읽어봐도 문제가 없었습니다. 하지만 외부인이 소스를 재실행하여 2023년부터 EUV를 가동하고 있는 인텔 공장을 발견하며 반례(counterexample)를 찾아냈습니다.
• 엔지니어의 기하학적 구조에 대한 두 번의 면밀한 검토가 서로 일치했습니다. 하지만 실제 절단기(cutter)는 클램프의 설정 나사(set screw)가 중앙에서 벗어나 있어 결코 고정될 수 없다는 것을 몇 초 만에 발견했습니다. 두 번의 검토 모두 부품 자체를 확인했지만, 어셈블리 전체를 읽지는 않았습니다.

문제가 된 것은 도구였지, 노력 자체가 아니었습니다.

해결책은 지루합니다: 작업이 거짓일 수밖에 없도록 만드는 정확한 결과를 작업을 시작하기 전에 작성하고, 그 결과물을 작업 내용에 문제가 없어 보인다는 이해관계가 없는 다른 시스템에게 넘겨야 합니다. 아무도 이상하다고 반응하지 않으면, 아직 모르는 것입니다.

저는 이것을 작은 무료 워크시트로 만들었습니다. 실제로 방어하고자 하는 실패 유형(