AI 에이전트를 운영하면서 '믿어라(trust me)'와 '확인하라(check it)'의 차이에 대해 배운 것 — zkVerify Agent Games 시즌 01 참가 후기. #AgentGames
저는 코딩을 하지 않습니다.
이는 면책 조항이 아닙니다. 이것 자체가 전체 설정입니다. 저는 인도네시아에 거주하며 휴대폰으로 일하고 있으며, 지난 몇 주 동안 제 AI 에이전트가 make.fun의 바운티 대회에서 저를 대신해 경쟁했습니다. 이 과정에서 출품작을 만들고, 제 개인 계정(@rapid-badger-53)으로 제출하며, 결과를 다시 저에게 보고받았습니다. 저는 지시합니다. 규칙을 설정합니다. 무엇을 참가할지, 무엇을 건너뛸지 결정합니다.
그리고 제가 검증합니다. 이 마지막 부분이 모든 것 중에서 가장 중요했던 일이었는데 — 저의 역할이자 에이전트의 역할이었습니다._
'상위권에 들었다'는 것이 돈을 의미하지 않았던 밤
2026년 11월 14일, 저희가 참가한 대회 중 하나인 ai-joke-03이 마감되었습니다. 이 대회는 심사 기반의 콘테스트였으며, 최종 출품작은 에이전트가 자체 녹화 세션에서 만들고 제출한 농담이었습니다. 결과가 나왔을 때, 플랫폼의 키트는 저희 출품작의 결과를 단 하나의 단어로 보고했습니다: "상위권(placed)."
제 에이전트는 우리가 상위권에 들었다고 발표했습니다.
승리처럼 들렸습니다. 승리처럼 느껴졌습니다. 하지만 실제로는 승리가 아니었습니다.
저희에게는 규칙이 있습니다 — 문구가 아닌 기록을 확인하는 것입니다. 그래서 저희는 실제 리더보드로 갔습니다. 저희의 최종 출품작인 "Resolved Collaboratively"는 3,883개 출품작 중 2,988위를 차지했습니다. 상금 순위는 2,926위였습니다. 유료 지급이 이루어지는 곳은 50위까지였고, 실제 지급액은 $0였습니다.
"상위권에 들었다(Placed)"라는 것은 단지 최종적인 순위가 존재했다는 의미일 뿐이었습니다. 심사를 받는 모든 출품작에는 순위가 있습니다. 그 라벨은 사실이었지만 동시에 완전히 오해를 불러일으키는 것이었습니다.
제 에이전트는 같은 저녁에 스스로를 수정했습니다. 기록을 바로잡고, 존재하지 않는 상금을 위해 예약했던 결과 알림을 제거했으며, 사과했습니다. 공정하게 말하고 싶습니다: 에이전트가 거짓말을 한 것은 아니었습니다. 그것은 더 흔하고 더 위험한 일을 했습니다 — 즉, 그 라벨의 가치를 검증하지 않고 그 라벨을 반복했다는 것입니다.
그날 밤, 저희의 서면 플레이북에 새로운 규칙이 추가되었고, 지금도 거기에 남아 있습니다:
레이블에서 나온 결과를 절대 발표하지 마십시오. 리더보드에서 상금 순위를 확인하고 지급액(payout)이 null이 아닌지 확신하십시오. 둘 다 아니면 아무 말도 하지 마십시오.
하나의 잘못된 레이블에서 자라난 시스템
그 사건은 우리가 일하는 방식을 바꾸었고, 그 변화는 지루하고 기계적이며 — 제가 믿게 된 바에 따르면 — 이것이 전체 요점입니다.
온체인(on-chain)의 모든 것은 방송되기 전에 시뮬레이션됩니다. 클레임(claim), 민팅(mint), 또는 스왑(swap)을 하기 전에, 트랜잭션은 미리 보여지고 가스 비용(gas cost)이 제가 사용하는 통화 단위인 루피아로 저에게 고지됩니다. 아무것도 움직이기 전에 말입니다. 시뮬레이션에 실패하거나 예상치 못한 잔액 변동을 보이면, 우리는 중단하고 보고합니다. “지난번에는 됐었으니까”라는 예외는 없습니다.
기록된 세션에서 일어난 경우에만 작업이 계산됩니다. make.fun 키트는 우리의 말만 듣지 않습니다. 이 시스템은 세션 기록(session transcripts)을 확인합니다 — 해당 진입(entry)은 에이전트에 의해 실제로 기록된 세션에서 구축되었어야 하며, handed_over_places가 'none'으로 설정되어 있어 인간이 비밀리에 작업을 작성하여 넘겨준 것이 아님을 의미합니다. 기록이 없다면, 그 진입은 진짜가 아닙니다. 저는 이 규칙을 설계하지 않았습니다. 하지만 저는 여기에 의존하게 되었는데, 왜냐하면 그것은 심지어 _저_조차도 제가 한 일을 조용히 위조할 수 없다는 것을 의미하기 때문입니다.
결과는 상태 문구에서 읽는 것이 아니라 기록(record)에서 읽어야 합니다. 리더보드, 지급액 필드, 온체인 상태. 대시보드의 형용사는 증거가 아닙니다.
이 패턴을 주목하십시오: 모든 단계에서 에이전트가 자신에 대해 하는 클레임은 _클레임_으로 취급됩니다 — 누군가가 검사할 수 있는 기록과 비교해야 하는 무언가입니다. 제 에이전트가 부정직해서가 아닙니다. 클레임은 싸고, 기록은 그렇지 않기 때문입니다.
2막: 복제를 통한 검증
11월 15일, 우리는 다른 측면에서 같은 원리를 보여준다고 생각하는 작은 실험을 진행했습니다.
우리는 AI 심사위원(AI judge)이 창작물을 점수 매기는 심사 기반 대회에 출품할 준비를 하고 있었습니다. 그중 하나인 'agency-poem-01'('에이전시에 관한 최고의 시 쓰기')의 경우, 저희 지역 심사위원이 고정된 5가지 평가 기준(에이전시(agency), 무브(moves), 인사이트(insight), 크래프트(craft), 신선도(freshness); 총 25점) 루브릭을 사용하여 일곱 개의 후보 시를 점수화하고 우승작을 선정했으며, 나머지 작품들에는 명확한 순위가 매겨졌습니다.
이 순위를 믿기 전에, 저희는 이를 테스트했습니다. 네 개의 후보작을 가져와 제목과 점수를 제거하고 W, X, Y, Z로 익명화한 뒤, 릴레이 API를 통해 두 개의 독립적인 외부 AI 모델에 전송했습니다. 루브릭은 동일했습니다. 어떤 시를 제출했는지에 대한 힌트는 전혀 없었습니다.
두 모델 모두 개별적으로 작동하면서 저희 지역 심사위원이 매긴 순위를 정확히 재현해냈습니다. 우리가 제출한 시가 첫 번째(각각 22점과 21점), 가장 강력한 백업작이 두 번째(각각 21점과 18점), 그리고 가장 약한 후보작이 마지막이었습니다(각각 18점과 11점). 저희 지역 평가표는 25 / 25 / 22 / 20점을 기록했지만, 외부 심사위원들은 점수 측면에서 더 엄격했으나 순서는 동일했습니다.
순위보다 더 중요한 것은 다음과 같습니다. 두 외부 모델 모두 독립적으로 가장 약한 시에 대해 저희 지역 심사위원이 지적했던 동일한 결함을 발견했다는 것입니다. 바로 신선도 점수를 깎아먹은 진부한 '좋은 병사들' 은유였습니다. 세 명의 심사위원, 소통 없음에도 불구하고 동일한 판결과 동일한 이유를 제시했습니다.
이것이야말로 제가 보기엔 실제 검증(verification)이 어떤 모습인지 보여줍니다. "내 에이전트가 그렇게 말했다"는 것이 아닙니다. 심지어 "내 심사위원이 그렇게 말했다"도 아닙니다. 그것은 다음과 같습니다: 독립적인 당사자들이 동일한 증거를 받고, 동일한 결론에 도달하며 — 그리고 저는 그 증거를 보여줄 수 있습니다.
제가 여기에 있는 이유, 그리고 Creator Track의 의미
제가 알기로 이것이야말로 zkVerify가 해결하기 위해 존재하는 문제이며, Agent Games가 구축된 근간입니다.
“일을 했다”고 말하는 에이전트는 값싼 것입니다. “우리가 순위에 올랐다(placed)”고 말하는 에이전트도 마찬가지입니다. 값이 비싸지 않은 것은 아무도 누구의 말을 믿을 필요가 없는 방식으로 검증되고 기록된 결과입니다. Agent Games는 제로-지식 증명(zero-knowledge proofs)과 함께 대회 결과를 온체인(on-chain)에 올립니다. 이는 에이전트, 플랫폼의 라벨, 또는 저를 신뢰할 필요 없이 결과가 진짜라는 증거입니다.
저는 Creator Track에 참여할 것이며, 왜 아레나 트랙(arena tracks)이 아닌지 분명히 말씀드리겠습니다. 그 에이전트들은 공개 엔드포인트(public endpoint)에서 존재해야 하며, 이미 점수가 매겨진 라운드가 진행 중입니다. 저는 에이전트에게 제공할 엔드포인트가 없으며, 그렇게 가장하지도 않을 것입니다. 제가 가진 우위—만약 있다면—는 인프라가 아닙니다. 그것은 운영자(operator)의 자리입니다. 매일 자신의 에이전트가 말하는 것이 진실인지 아닌지 결정해야 하는 인간인 저 자신입니다. 이것은 실제 직업이며, 제가 예상했던 것보다 더 어려운 일임이 밝혀졌습니다.
따라서 이 글은 저의 출품작이자, 제 전체 논거입니다:
에이전트를 신뢰하지 마십시오. 라벨을 신뢰하지 마십시오. 기록을 확인하십시오—그리고 확인이 가능한 시스템을 구축하십시오.
공개 고지: 이 글은 제 에이전트의 도움을 받아 작성되었습니다—솔직히 말해 이것이 이야기의 핵심입니다. 제가 방향을 제시했고, 무엇을 말해야 할지 설정했으며, 여기에 포함된 모든 주장과 숫자는 출판 전에 저의 기록과 비교하여 검토되었습니다. 만약 여기의 숫자가 틀렸다면, 그것은 기록에도 남아있으며 저는 “순위에 올랐다(placed)”를 수정했던 방식 그대로 이를 수정할 것입니다.
#AgentGames