AI 에이전트의 빨간 레버를 당기다

때로는 AI 에이전트가 모든 것을, 지금 바로 멈추기를 원할 때가 있습니다.

Verax에는 이를 위한 정지 스위치가 있습니다. 운영자가 이 스위치를 당기면, 그 시점 이후에 에이전트가 만드는 모든 호출은 거부되고, 각 거부는 다른 결정과 마찬가지로 서명되어 기록됩니다.

누가 이것을 당길 수 있고, 누가 놓을 수 있는가

설치된 환경에서 스위치는 명령줄(verax halt)이며, 0.4.1 버전부터는 verax resume가 추가되었습니다. 이들 뒤에는 두 개의 HTTP 포트가 있습니다. POST /api/halt는 모든 운영자 세션을 허용합니다. POST /api/resume는 verax:approve 권한이 필요합니다. 에이전트의 토큰은 어느 쪽도 가지고 있지 않으므로, 에이전트는 점검을 피하기 위해 스스로를 멈출 수 없으며, 다른 사람이 설정한 정지 상태를 해제할 수도 없습니다.

GET /api/halt는 현재 시스템이 정지 상태인지, 그리고 누가 정지시켰는지에 대한 응답을 합니다.

재개(resume) 기록이 먼저 작성된다

누가 정지시켰고, 누가 재개했는지, 그리고 언제인지는 스위치 옆의 파일인 halt-history.jsonl로 이동합니다. 재개 라인은 정지 상태가 해제되기 전에 작성됩니다. 만약 이 라인을 작성할 수 없다면, 시스템은 계속 정지된 상태를 유지합니다.

이 파일은 서명된 로그가 아닌 일반 로그입니다. 0.4.2 버전부터는 모든 정지 및 재개 기록이 본체의 레코드 키에 의해 서명된 제어 기록으로 원장(ledger)에도 작성됩니다. 이는 스위치가 내려간 동안 발생한 서명된 거부 호출들 옆에 추가되며, verax verify를 사용하면 정지 기간 내의 모든 허용(allow) 시도가 실패합니다. 본체가 운영자가 아닌 그 기록을 서명하는 것입니다.

이것이 하지 않는 것

스위치가 당겨질 때 이미 실행 중인 호출은 끊어지지 않습니다. 이 스위치는 그 이후에 발생하는 모든 것을 멈춥니다.

정지 상태는 이 기계의 상태 디렉토리에 있는 파일입니다. 이는 옆에 놓여있는 본체를 멈추게 할 뿐, 볼 수 없는 본체는 멈출 수 없습니다.

영화에서는 스위치가 레버입니다. 배포된 환경에서 이것은 명령줄과 그 두 개의 포트이며, 실제 버튼이 있을 패널은 아직 배포되지 않은 verax desktop을 통해 열립니다.

에피소드 3는 three.js로 애니메이션화되고 ElevenLabs로 음성 녹음되었습니다.

출처 (Apache-2.0): https://github.com/verax-ai/verax