
AI Daily Digest — 2026년 8월 1일: ARC-AGI-3 하네스 발견, EU의 AI 기가팩토리, Devin SWE-1.7
요약
OpenAI의 ARC-AGI-3 벤치마크 분석 결과, 모델 성능이 아닌 평가 하네스의 설정 문제로 점수가 낮게 측정되었음이 밝혀졌습니다. 또한 EU의 AI 기가팩토리 건설 입찰 소식과 Cognition의 새로운 코딩 모델 SWE-1.7 출시 소식을 다룹니다.
핵심 포인트
- ARC-AGI-3 점수는 모델 성능뿐 아니라 하네스 설정에 크게 좌우됨
- 추론 유지 및 컨텍스트 압축 활성화 시 점수가 약 3배 급증함
- EU는 AI 컴퓨팅 인프라 확보를 위해 300억 유로 규모의 기가팩토리 추진
- Cognition이 강화학습 기반의 코딩 모델 SWE-1.7을 출시함
OpenAI는 7월 29일, GPT-5.6 Sol이 ARC-AGI-3에서 낮은 점수에 머문 이유를 설명하는 기술 블로그를 공개했다. ARC-AGI-3는 에이전트가 미지의 2D 퍼즐 게임을 탐색하며 시행착오를 통해 규칙을 추론하는 벤치마크(Benchmark)다. 공식 평가 하네스(Harness)에서 Sol은 단 7.8%, GPT-5.5는 0.4%에 그쳐 거의 플레이가 불가능한 수준이었다. 원인은 모델이 아닌 하네스에 있었다. 게임 액션이 일어날 때마다 내부 추론이 폐기되고, 이력이 길어지면 오래된 액션이 잘려 나갔기 때문에, Sol은 매 턴마다 게임을 처음부터 다시 이해해야만 했던 것이다.
Responses API의 두 가지 설정인 추론 유지(retained reasoning)와 컨텍스트 압축(compaction)을 활성화하면, 공개 태스크 세트의 점수는 13.3%에서 38.3%로 약 3배 급증하며 출력 토큰은 약 1/6로 감소했다. 이 하네스에서는 GPT-5.6 Sol이 전체 6개 레벨을 클리어하는 반면, 공식 리더보드(Leaderboard)에서는 어떤 프론티어 모델(Frontier model)도 첫 번째 레벨 이후를 풀지 못하고 있다. 인간 테스터의 평균은 RHAE 지표로 약 48%다.
이 발견은 벤치마크를 읽는 방식을 근본적으로 바꾼다. 점수는 '모델 × 하네스 × 설정'을 측정하는 것이지, 모델 단독을 측정하는 것이 아니다. 장기 실행 에이전트를 구축하는 개발자들에게 주는 교훈은 구체적이다. 도구 호출(Tool call) 사이에 생각의 사슬(Chain-of-Thought)을 버리는 하네스를 사용하고 있다면, 당신이 측정하고 있는 것은 모델이 아니라 '기억상실증에 걸린 모델'이다.
— OpenAI · ARC Prize
🔗 OpenAI Blog — ARC-AGI-3 · ARC Prize
유럽 위원회(European Commission)는 7월 30일, EU 전역에 최대 7개의 AI 기가팩토리(Gigafactory)를 건설하기 위한 정식 입찰을 시작했다. EU 및 각국 정부의 100억 유로 공적 자금에 민간 투자를 포함하면 총액 300억 유로 이상을 전망하고 있다. 운영은 EuroHPC Joint Undertaking을 통해 이루어진다. 최소 7만 5,000개의 AI 칩을 갖춘 4개의 소규모 시설에는 최대 5억 유로가, 10만 개 이상의 칩을 갖춘 3개의 대규모 기가팩토리에는 2단계에 걸쳐 최대 10억 유로가 지급된다.
각 기가팩토리는 유럽 최대 규모의 기존 AI 데이터 센터의 약 4배에 달하는 컴퓨팅 능력을 갖춰야 한다. 유럽 위원회는 AMD, NVIDIA, Qualcomm과 하드웨어 조달에 관한 의향서를 교환했으며, 입찰은 11월 12일에 마감되어 2027년 초에 채택, 같은 해에 착공할 전망이다. 사전 비구속적 의향서(EOI) 단계에서는 16개 회원국 60개 사이트에서 76건의 응모가 모여 당초 예상을 크게 상회했다.
이는 유럽이 AI 컴퓨팅을 전력망이나 광대역 통신과 동등한 '중요 인프라'로 위치시킨 가장 명확한 표명이다. 지난 6월 발표된 미국 클라우드 및 칩 의존도를 낮추기 위한 법안 패키지에 이은 움직임이며, 기가팩토리 컨소시엄에는 비EU 기업이 참여할 수 없고 과반 소유권은 유럽 기업으로 제한된다.
— European Commission · Sifted
🔗 EC AI Gigafactories Call · ITPro Coverage
Cognition은 7월, AI 연구소 중에서도 가장 밀도 높은 제품 출시의 달을 보냈다. 7월 8일에는 자체 제작 프론티어 코딩 모델인 SWE-1.7을 출시했다. Kimi K2.7을 기반으로 강화학습(RL)을 통해 훈련되었으며, ① 장기 RL을 안정화하는 엔트로피 보존형 top-p 샘플링, ② 3개 대륙에 걸친 내결함성(Fault-tolerance)을 갖춘 멀티 클러스터 훈련, ③ 자동 실행 테스트로 태스크를 필터링하는 데이터 품질 파이프라인, ④ 컨텍스트 창(Context window)을 넘어 태스크 지속을 가능하게 하는 자기 압축이라는 4가지 혁신을 갖추고 있다. FrontierCode 1.1 Main에서 42.3%, Terminal-Bench 2.1에서 81.5%, SWE-Bench Multilingual에서 77.8%를 기록했으며, Cerebras를 통해 초당 약 1,000토큰의 속도로 제공된다.
모델 외에도 7월 1일에는 Devin Security Swarm을 투입했다. 여러 에이전트가 코드베이스의 서로 다른 영역을 병렬로 조사하고, 파일을 가로질러 다단계 공격 체인(attack chain)을 발견하는 '에이전트형 MapReduce' 아키텍처를 통해, 50개의 CVE 테스트 세트에서 실제 취약성의 72%를 회당 90.23달러로 검출했다. 7월 13일에는 FedRAMP High In-Process를 획득했으며, 미국 에너지부(DOE)와는 Genesis Mission 참여를 위한 양해각서(MoU)를 체결했다. 7월 20일에는 인시던트 탐지 기업인 TierZero를 인수하여 Devin의 방어 범위를 코드에서 운영까지 확대했다. 자사 코드의 90% 이상을 Devin이 작성하고 있다고 한다.
5월에 260억 달러의 기업 가치로 10억 달러 이상을 조달했으며, 연간 반복 매출(ARR)은 12개월 만에 3,700만 달러에서 4억 9,200만 달러로 성장했다. Cognition의 도박은 '모델 단독'이 아니라 '모델 × 에이전트 하네스 (agent harness) × 컴플라이언스 (compliance)' 스택이 승자가 될 것이라는 점이다. Fusion 아키텍처의 내부 연구에서는 리드 오케스트레이터(lead orchestrator)로서 Claude Fable 5가 Opus 4.8을 상회하는 것(FrontierCode 1.1에서 60.7 대 54.6, 회당 비용 1.86달러 대 2.04달러)이 나타났으며, 오케스트레이션 설계의 중요성이 다시 한번 부각되었다.
— Cognition · US Department of Energy
🔗 SWE-1.7 Announcement · FedRAMP High · DOE Genesis Mission
Figure는 최신형 휴머노이드 Figure 03가 BMW 그룹 스파르탄버그 공장의 52번 홀(조립·물류 구역)에 도착했다고 발표했다. 2025년 3만 대 조립에 기여한 Figure 02의 판금 픽 앤 플레이스(pick-and-place)에서 한 단계 나아가, 미분류된 박판 부품을 빈(bin)에서 집어 조립 라인용 카트에 정확한 순서로 배치하는 '시퀀싱 (sequencing)' 용도에 도전한다.
새로운 능력은 Figure 독자적인 픽셀→액션 VLA 모델인 'Helix 02'가 뒷받침한다. 손, 팔, 몸통, 다리를 단일 네트워크로 협응시켜 부품을 잡으면서 보폭을 조절하고, 캐스터 휠이 달린 무거운 카트를 끄는 '이동 조작 (loco-manipulation)'을 실현한다. 하드웨어도 쇄신되어 손바닥 카메라와 촉각 센서, 소음 환경을 위한 엔드 투 엔드 (end-to-end) 음성, 무선 충전, 인간 공존의 안전을 높이는 연성 부품을 탑재했다. 무게 61kg, 가반 하중 20kg, 약 5시간의 가동 시간, 최고 속도 1.2m/s다.
시퀀싱은 더 어려운 테스트다. 부품은 수학적으로 완벽한 자세로 도착하지 않기 때문에 매 상호작용마다 즉각적인 지각과 보정이 요구되며, 조작과 이동을 동시에 수행해야 한다. BMW는 iFACTORY 및 AIQX 품질 시스템, 버추얼 팩토리(virtual factory)가 맥락을 제공하는 고도로 디지털화된 공장 내에 휴머노이드를 '모바일 에지 클라이언트 (mobile edge client)'로 위치시키며, 라이프치히에서는 Hexagon의 AEON 휴머노이드를 테스트하는 등 멀티 벤더 전략을 취하고 있다. 피지컬 AI는 데모를 넘어 실제 제조 물류의 병목 업무로 이행하고 있다.
— Figure AI · BMW Group
🔗 Figure F.03 at BMW · Figure AI
홍콩대학교 멀티미디어 연구소와 메이투안(Meituan) 연구팀은 AI 어시스턴트를 실제 Docker 환경(실제 브라우저, 실제 소프트웨어, 실제 파일)에서 테스트하는 벤치마크 UniClawBench (arXiv:2607.08768)를 공개했다. 샌드박스나 사전 구축된 미러 사이트가 아닌 실제 환경에서 테스트하는 것이 특징이다. 결과는 엄격하다. 가장 강력한 클로즈드 소스 (closed-source) 모델이라도 태스크 합격률은 50%를 엄격히 밑돈다.
더욱 의외인 점은 프레임워크의 선택이 모델의 선택보다 성능에 더 큰 영향을 미친다는 것이다. 동일한 모델을 서로 다른 에이전트 쉘(agent shell)에 얹는 것만으로도 모델 전체를 교체하는 것보다 결과가 달라진다. 벤치마크는 항공권 가격 확인, 파일 정리, 동영상 내용 해석 등 일상적인 어시스턴트 태스크를 다루고 있으며, 인간에게는 쉽더라도 실제 라이브 소프트웨어를 조작하는 상황에서는 에이전트가 빈번하게 실패한다는 사실을 폭로한다.
UniClawBench는 샌드박스 평가가 에이전트 능력을 체계적으로 과대평가하고 있다는 실무자들의 의구심을 뒷받침한다. 실제 환경에는 비결정성(non-determinism), 깨진 페이지, 예기치 않은 상태가 존재하며, 이는 정해진 테스트 미러(test mirror)에서는 재현할 수 없다. 에이전트가 실제 운영 환경에 투입됨에 따라, 실제 환경 평가야말로 배포의 제약 조건이 되며, "모델인가 셸(shell)인가"라는 질문이 시스템 설계의 핵심을 차지하게 된다.
— HKU Multimedia Lab · Meituan · arXiv
스탠퍼드, 버클리, NVIDIA Research의 합동 팀은 LLM-as-a-Verifier (arXiv:2607.05391)를 발표했다. 이들은 사전 학습(pre-training), 사후 학습(post-training), 테스트 시 계산(test-time computation)에 이어 능력 성장의 "제4의 축"으로서 검증 스케일링(verification scaling)을 제안한다. 판독 모델(judge model)에 1~5점 사이의 거친 점수를 요구하는 대신, 스코어 토큰의 로짓 분포(logit distribution)의 기댓값을 취하여 연속적인 점수를 생성하며, 입도(granularity)·반복 평가·기준 분해라는 세 가지 축으로 검증 계산량을 확장한다.
결과는 4개 영역에서 SOTA(State-of-the-Art)에 도달했다. Terminal-Bench V2에서 86.5%, SWE-Bench Verified에서 78.2%, RoboRewardBench에서 87.4%, MedAgentBench에서 73.3%를 기록했다. 검증기는 실행 도중의 완료도를 추적하는 "에이전트 진행 표시줄"로서의 역할뿐만 아니라, 강화학습 (RL)의 조밀한 보상 신호(dense reward signal)로서도 기능하며, 가중치 재학습이나 보상 모델(reward model)의 훈련을 전혀 필요로 하지 않는다.
생성 측면의 스케일링 법칙(scaling laws)은 잘 규명되어 있지만, 검증은 방치된 제4의 축이었다. 에이전트의 트레이스(trace)가 길어지고 비용이 높아짐에 따라, "올바른 궤적을 선택하는 것"은 "그것을 생성하는 것"만큼이나 중요해진다. 이 방법론은 코딩, 로보틱스, 의료 애플리케이션 전반에 걸쳐 재학습 없이 에이전트의 신뢰성을 끌어올리는 길을 제시한다.
— Stanford · NVIDIA Research · arXiv
🔗 LLM-as-a-Verifier Paper · GitHub
베이징에 본사를 둔 엔터프라이즈 AI 에이전트 기반 스타트업 시위우셴(詞元無限)은 7월 27일, 린신 투자(臨芯投資)가 리드하고 화콩 기금(華控基金)이 참여하는 엔젤++ 라운드 투자 유치를 발표했다. 2025년 7월 창업 이후 1년 만에 세 번째 조달이며, 누적 금액은 수억 위안에 달한다. CEO 양핑(楊萍) 씨는 바이트댄스(ByteDance)에서 AI 기술을 총괄하며 회사의 첫 소프트웨어 공학 연구소를 설립한 인물로, 그녀의 멀티 에이전트 테스트 시스템은 바이트댄스의 핵심 제품군에 채택된 바 있다.
이 회사의 코딩 에이전트인 InfCode는 2025년 12월 Multi-SWE-bench의 Java 리더보드에서 1위를 차지했으며, SWE-Bench Verified에서는 Pass@1 기준 79.4%를 기록했다. 이는 동일한 평가에서 GPT-5나 Claude를 능가하는 수치다. 소비자용 코딩 어시스턴트와 달리, InfCode는 거대한 레거시 코드베이스의 이해, 보안 감사 통과, CI 파이프라인 통합을 전제로 하는 프로덕션용 엔터프라이즈 시스템을 목표로 하며, 계약 규모는 건당 수천만 위안에 달한다.
1년이라는 짧은 간격으로 세 차례의 투자 유치가 이어지고 있으며, 그 간격마저 단축되고 있다는 점은 중국 엔터프라이즈 AI 코딩 시장에 대한 자본의 열의를 보여준다. C端(소비자 시장)의 Cursor형 도구와는 다른 시장이며, 승부처는 구독 가격이 아니라 통합의 깊이와 감사 가능성(auditability)에 있다는 것이 이 회사의 전략이다.
— 詞元無限 · 鈦媒體
🔗 InfCode 펀딩 뉴스 · 詞元無限
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기