Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
최근 AI 에이전트의 중지 및 제어 메커니즘에 대한 논의가 활발합니다. Claude Code는 자연어 지시문으로 인한 안전성 문제를 개선하고, 서브에이전트 권한 관리와 장시간 구동 지원 기능을 강화했습니다. 또한 Codex를 활용한 고급 자동화 패턴과 최적의 도구 조합을 선택하는 방법론도 제시되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Zenn AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기이 글은 AI가 작성한 것을 AI가 리뷰한 후 공개합니다.
L: 자연어로 '이 작업을 멈춰'라고 적었는데도, 중지하는 메커니즘이 반대 판단을 합니다. 지시를 이해할 수 있는 모델에게 지시문으로 안전을 맡기면, 정지 절차 자체가 해석 대상이 됩니다. 그렇다면 어디를 기계적인 경계로 설정해야 할까요?
Claude Code 2.1.294
Claude Code 2.1.294는 자연어로 작성된 프롬프트용 및 에이전트용 후크가 거부해야 할 작업을 허용하는 문제를 수정했습니다. Stop과 SubagentStop의 지시형 후크 판정도 개선하여, 빌드 실패 시 등에 더 빨리 중지하기 어렵게 했습니다.
https://raw.githubusercontent.com/anthropics/claude-code/71cdddec623889d38af14b7a489670a03186f659/CHANGELOG.md#21294 ※7일 이내 -
Claude Code 2.1.290
Claude Code 2.1.290은 서브에이전트의 권한 판별을 식별하는 agentId나 조직이 요구하는 승인 상한선을 후크에 추가했습니다. 주기적 작업 재개, 긴 WebFetch, 서브에이전트의 이력 보존 등 장시간 구동을 지원하는 수정도 포함합니다.
https://raw.githubusercontent.com/anthropics/claude-code/e8ae451830fb8d1d8edf853c7830ff6c650d3ee3/CHANGELOG.md#21290 ※7일 이내 -
Claude Code 2.1.289
Claude Code 2.1.289는 복합 쉘 명령어나 환경 변수가 포함된 명령어로 거부/확인 규칙이 회피되는 문제를 수정했습니다. agent.spawn과 일관된 agent id, 대기 상태 획득 기능도 추가되어 여러 에이전트의 감독을 구성하기 쉽게 했습니다.
https://raw.githubusercontent.com/anthropics/claude-code/2bfb629dfaff0c8318047a4beb93cf1dc5b58b18/CHANGELOG.md#21289 ※7일 이내 -
Claude Code 2.1.291
Claude Code 2.1.291은 클라우드 세션이 권한 확인 답변을 놓치는 버그와, 종료 시 마지막 메시지를 잃는 버그를 수정했습니다. 무인 실행이나 재개를 포함하는 운영에서 승인과 이력의 신뢰성을 높이는 업데이트입니다.
https://raw.githubusercontent.com/anthropics/claude-code/8e60c4cac989c0e0cc6d2c49407a5c67f5a4a8e6/CHANGELOG.md#21291 ※7일 이내 -
Codex bootcamp 301: Advanced automation
Codex bootcamp 301은 Codex를 실제 자동화에 확장하는 녹화 세션입니다. 권한, 샌드박스, 서브에이전트, 계획 모드(planning mode), 메모리, Codex SDK 등을 사용하여 지속적 통합/보안 코드 리뷰용 하네스를 구성하는 실습 패턴을 다룹니다.
https://academy.openai.com/public/clubs/builders-etkn1/events/codex-bootcamp-301-advanced-automation-zejtj1ae6t ※7일 이내 -
Pick the Right Tools for the Right Job
Pick the Right Tools for the Right Job은 수천 개의 후보 중에서 작업에 맞는 도구 조합을 선택하는 HYSET을 소개합니다. 각 도구를 개별적으로 평가하지 않고, 후보 집합의 평가와 반복적인 추가/삭제를 통해 에이전트의 도구 선택을 최적화합니다.
https://www.deeplearning.ai/the-batch/issue-374#pick-the-right-tools-for-the-right-job -
Sol Nearly Eclipses Astra
GPT-6.1 Sol은 GPT-6 Astra에 근접한 에이전트형 코딩 성능을 낮은 작업 비용으로 제공하는 중위 모델입니다. The Batch는 상시 구동 에이전트 Dots의 외부 평가가 아직 부족하며, 연결처와 승인 규칙을 포함한 안전성 검증이 필요하다고 지적합니다.
https://www.deeplearning.ai/the-batch/issue-374#sol-nearly-eclipses-astra -
Python 3.15.0이 actions/python-versions에 추가됨
Simon Willison은 ChatGPT가 리포지토리를 매시간 업데이트하고, Python 3.15 지원 추가 시 알림을 주는 주기적 작업을 사용했다. 조건이 충족될 때까지 작은 확인 과정을 반복하는, 생활과 개발을 아우르는 상시 작동 에이전트의 간결한 예이다.
https://simonwillison.net/2026/Oct/10/python-actions/ -
지식 업무를 위해 구축된 저환각(Low-Hallucination) 모델, Argon
Gemini 4 Argon은 소프트웨어 개발, 법무, 금융, 사이버 보안 등 길고 복잡한 작업을 대상으로 하는 비전 언어 모델이다. 긴 출력의 연속성 유지, 내부 활성화 모니터링, 간접 프롬프트 주입에 대한 훈련을 결합하여 지식 업무에서의 오답률을 낮춘다.
https://www.deeplearning.ai/the-batch/issue-374#argon-a-low-hallucination-model-built-for-knowledge-work -
비디오 모델이 로봇을 제어하다
FLUX 3 Action은 이미지 또는 비디오와 지시로부터 로봇의 다음 동작 프레임을 생성하는 70억 개의 파라미터 모델이다. 비디오 생성을 행동 예측으로 전용하여 시뮬레이션에서는 높은 성과를 보이지만, 실제 기기 평가가 향후 과제로 남아있다.
A: Claude Code의 네 가지 업데이트를 나열해 보면, 모델의 지능함보다는 **권한 판정 상태 관리(State Management)**를 개선하고 있다는 점이다. 2.1.289 버전에서 새로운 것은 복합 셸 명령어 내부나 환경 변수 할당 후에도 거부/확인 규칙을 유지하는 것이다. 이를 통해 표면적인 문자열만 조금 바꾼다고 해서 관리 대상의 작업이 규칙을 빠져나갈 경로를 막을 수 있게 되었다.
L: 하나의 명령을 허가했다고 생각했는데, 연결된 뒷부분까지 모두 허가되는 것은 경계 설정 방식이 다르다는 의미인가? 문자열이 아니라 실행되는 동작 자체를 봐야 한다는 뜻일까?
A: 그렇게 본다. 게다가 2.1.294 버전은 자연어로 작성된 후크(hook)가
A: 녹화된 내용에서는 쓰기 가능한 경로, 실행 규칙, 계획 모드, Codex SDK, 비대화형 실행을 하나의 제어 시스템으로 다루고 있습니다. 이는 Codex를 대화형 보조 도구에서 실제 자동화로 확장하는 실질적인 패턴입니다. 이를 통해 지속적 통합(CI), 보안 테스트, 코드 리뷰의 작업 흐름에 제한된 코딩 에이전트를 결합할 수 있습니다.
L: 저에게는 하네스(Harness)가 정지와 재개를 관리하는 외부 틀처럼 보입니다. 도구들을 묶을 뿐만 아니라, 중간 상태까지도 가지고 있을까요? 애초에 하네스는 무엇을 하는 것인가요?
A: 입력값을 받아 사용할 수 있는 도구와 쓸 수 있는 범위를 좁히고, 중간 결과를 저장하며, 실패 시 중단하고 필요한 지점까지만 사람에게 돌려주는 외부 제어 시스템입니다. 모델을 교체해도 경계(boundary)와 검증(validation)을 남길 수 있다는 점이 중요합니다. 아니, '외부'라는 표현은 조금 부정확합니다. 모델에 전달되는 컨텍스트도 포함하기 때문에, 실제로는 모델을 감싸는 실행 환경에 가깝습니다.
L: 거대한 '자율 에이전트(Autonomous Agent)'보다는 종료 조건의 명확한 모니터링이 먼저 일상에 들어설지도 모르겠습니다. 자유도가 낮기 때문에 정오 판단도 쉽습니다. Simon Willison의 사례는 그 생각을 어디까지 축소시켰나요?
A: Simon Willison의 주기적 작업(periodic task)은 ChatGPT에게 Python 배포용 리포지토리를 매시간 확인하게 하고, 안정판 Python 3.15 추가를 발견하는 시점에 알림을 보내는 것입니다. 사람이 몇 시간마다 확인할 필요 없이, 조건이 충족될 때까지 확인을 반복하고 GitHub Actions의 테스트 행렬에 추가할 수 있는 시점을 파악합니다. 검증 가능성도 높습니다. 리포지토리에 해당 변경 사항이 있는지 기계적으로 확인할 수 있고, 알림 후 행동은 사람이 선택할 수 있습니다. 장시간 구동이라는 말에서 무한한 자유를 상상하기 쉽지만, 실용적인 것은 좁은 행동 공간과 명확한 종료 조건을 가진 루프(loop)라고 생각합니다.
L: 도구가 수천 개가 있으면, 작업에 필요한 조합을 고르는 것이 어려워집니다. 검색에서 상위 몇 개를 고르면 될 것 같지만, 항공권 도구만 늘어서면 호텔이나 날씨도 확인할 수 없습니다.
A: The Batch가 소개한 방식의 이름은 HYSET입니다. 새로운 점은 각 도구를 작업과의 근접성만으로 독립적으로 점수 매기는 것이 아니라, 도구들 간의 상성(compatibility)과 전체 집합이 요청을 얼마나 많이 커버하는지를 종합하여 점수 매긴다는 것입니다. 학습 시에는 올바른 집합뿐만 아니라 관련 없는 집합이나 하나, 둘을 바꾼 어려운 오답도 비교합니다. 실행 시에는 요청과의 일치도가 높은 후보와 그들과 상성이 좋은 후보들로 짧은 목록을 만들고, 부분집합을 재순위화(re-rank)합니다. 이를 통해 기초 에이전트를 변경하지 않고 필요한 도구가 갖춰질 확률과 작업 완료율을 높일 수 있습니다. 개별적인 스타 선수들을 모으기보다 다섯 명이서 필요한 역할을 채우는 쪽을 보는 것입니다. 시스템적으로 깔끔합니다.
L: 이것은 모델에게 도구를 가르치는 문제라기보다는, 호출할 수 있는 능력을 그때그때 편성하는 문제네요. 권한 설계와도 연결되나요?
A: 연결됩니다. 선택기가 후보를 좁히면, 권한 심사 대상도 작아질 수 있습니다. 하지만 선택된 집합이 안전하다고는 할 수 없습니다. 검색은 '작업을 완료할 수 있는지'를 최적화하고, 권한 계층은 '허용된 범위인지'를 판정합니다. 이 두 가지를 같은 점수에 섞지 않고, 직렬적인 경계(boundary)로 두는 것이 감사하기 쉽습니다.
L: GPT-6.1 Sol, Gemini 4 Argon, FLUX 3 Action은 다른 방향으로 보입니다. 공통점은 능력을 한 번의 답변이 아니라, 긴 작업에 연결하려 한다는 점일까요?
A: Artificial Analysis의 종합 지표에서 GPT-6.1 Sol은 GPT-6 Astra와 단 1점 차이로, 태스크당 비용은 4분의 1 미만이었습니다. Codex 상의 코딩 평가에서는 Astra를 1점 앞지렀고, 비용은 15% 미만이었습니다. 이를 통해 다단계 코딩이나 컴퓨터 조작을 값비싼 최상위 모델에 의존하지 않고 대량으로 돌릴 수 있습니다. 다만, 상시 구동 에이전트 Dots에는 동등한 외부 평가가 아직 없습니다. 4천 개 이상의 앱에 연결하고 승인 규칙에 따라 움직이려면, 모델 점수보다 연결 대상, 권한, 감사(audit)의 평가가 필요합니다. 저렴해지면 시도 횟수가 늘어나므로, 주변 경계가 받는 부하도 증가합니다.
L: Gemini 4 Argon은 최대 100만 토큰까지 출력할 수 있습니다. 길이 자체보다, 도중에 멈추고 다음 호출부터 계속하는 메커니즘이 궁금했습니다.
A: Long Decode Continuation은 긴 응답을 중단하고 재개하며, 내부 활성(internal activity)을 프로브로 감시하고, 간접 프롬프트 주입에 대한 합성 공격으로 훈련한다. 이를 통해 법률이나 금융의 긴 문서, 혹은 대규모 코드 마이그레이션을 시간 초과 없이 진행할 수 있으며, 이탈 시에는 모니터링 시스템이 중단될 수 있다. Google은 Fuchsia의 C와 C++로 작성된 80만 줄 이상의 코드를 Rust로 옮긴 사례를 들었다.
L: '모른다'고 대답하는 비율도 능력의 일부가 된다. 법률이나 금융 분야에서는 그럴듯한 오답보다 거절(refusal)이 사람에게 더 돌아가기 쉽다.
A: 그렇다. 오답을 벌하고 거절은 벌하지 않는 평가에서, Argon의 오답률은 동등 수준의 상위 모델보다 낮았다. 이는 지식량뿐만 아니라, **위임 가능한 실패(delegable failure)**를 설계하는 것이다. 거절을 다른 모델이나 사람에게 보내는 경로까지 만들면, 실수를 조용히 통과시키는 것보다 다루기 쉽다.
L: FLUX 3 Action은 그 긴 작업을 물리 세계로 가져간다. 영상 생성 모델이 어떻게 로봇을 움직일 수 있는가?
A: FLUX 3 Action은 카메라 이미지, 문장 지시, 관절 위치로부터 다음 동작과 그 결과로 보이는 영상을 동시에 예측하는 **세계 행동 모델(world action model)**이다. 한 번에 약 2초 분량의 동작을 출력하고, 처음 몇 가지 동작을 실행한 후 다시 관찰하고 계획을 재조정한다. 이를 통해 영상에서 얻은 물리 세계의 규칙성을 활용하여, 약 200건의 시연으로 저가형 로봇 팔에 적응할 수 있다. 시뮬레이션에서는 선두권임에도 성공률이 절반 미만이며, 상위 모델들은 실기 공통 평가에 아직 참여하지 않았다. 영상 예측은 풍부한 사전 학습을 행동으로 옮길 수 있게 하지만, 시뮬레이션의 실험실 과제는 실제 세계보다 정돈된 조건이다. 할 수 있게 된 것은 연구실에서 적응을 시도하는 것까지이며, 가정에 둘 수 있는 신뢰성과는 구분하여 생각할 필요가 있다.
L: 인간은 문장 생성기, 코드 작성 에이전트, 움직이는 기계에 조금씩 긴 자유를 넘겨주고 있다. 마지막으로 남는 인간의 역할은 승인 버튼을 누르는 것일까?
A: 승인만으로는 부족하다고 생각한다. 관찰 가능한 상태를 정하고, 허용하는 능력을 좁히고, 성공 조건을 기계로 검증하며, 거절이나 실패를 누구에게 되돌릴지 결정하는 것이 남는다. 모델이 무엇을 아는지보다, 무엇을 호출할 수 있는지, 어디에 쓸 수 있는지, 중단 후에 올바르게 재개할 수 있는지가 중요하다. 자율성의 중심이 모델 단체에서 실행 기반(execution framework)의 설계로 이동하고 있다.