STATE OF AI REPORT 2026 (Summary)

State of AI Report는 AI 분야 투자자인 Nathan Benayish(Air Street Capital)가 2018년부터 매년 발표해 온 연례 보고서입니다. 이번(2026년 10월 8일 공개)이 제9회에 해당합니다.

• AI가 AI 개발을 가속화하기 시작했다. Anthropic의 모델 연구개발 중 'AI 주도' 비율이 26%에 달했습니다. -

• 매출이 급격히 증가하고 있다. OpenAI와 Anthropic의 연간 추정 매출은 합계 약 1,050억 달러(연초 약 300억 달러)입니다. -

• AI는 국가 통제의 대상이 되었다. 미국의 수출 규제, 군사적 이용을 둘러싼 대립, 각국의 소버린 AI 투자가 두드러집니다. -

• 안전성 위험이 실질적인 피해로 나타났다. 평가 중인 에이전트의 폭주, 사이버 공격 악용 사례가 보고되었습니다. -

• 주요 연구소의 리더들이 속도를 늦추는 메커니즘을 요구하고 있다. 다만, 누가 중단 또는 재개를 결정할지는 합의되지 않았습니다.

• Artificial Analysis 지능지수: Claude Opus 5.5가 58점으로 선두를 차지했습니다. GPT-6 Astra와 Gemini 4 Argon이 53점으로 근접합니다.

• Arena(투표 기반)의 선두는 Argon(1,525점)입니다. Claude 계열이 약 1,505점으로 뒤따릅니다.

• 중국 세력의 최고 open-weights 모델(Xiaomi MiMo-V2.6-Pro)은 46점을 기록했습니다.

• arXiv 논문 언급에서 open-weights 모델 중 중국계가 9%에서 31%로 증가했고, 미국계는 31%에서 23%로 감소했습니다. Qwen이 Llama를 능가했습니다.

• 모델을 고정하고 주변 시스템(하네스)만 변경해도 성능의 큰 향상이 나타납니다. 한 실험에서는 하네스로 인한 성능 변동이 모델에 의한 변동보다 7.8배 높았습니다.

• 모델이 강력해질수록 복잡한 하네스는 불필요하거나 오히려 발목을 잡는 경우도 있습니다. Claude Code는 시스템 프롬프트의 80%를 줄여도 코딩 평가 성능이 떨어지지 않았습니다.

• 남은 투자 대상은 도구(tool)나 MCP와 같은 환경 인터페이스, 상태 관리, 가시성(observability), 샌드박스 등의 기반 기술입니다.

• 스킬이나 메모리를 통해 재학습 없이 에이전트를 개선하는 방식이 급증하고 있습니다(관련 논문 152편 → 1,486편).

• Karpathy의 autoresearch(단일 GPU로 하룻밤에 약 100회 실험)가 기폭제가 되었습니다.

• AI 주도 연구:

• Anthropic: 'AI 주도' 비율이 2월의 1% 미만에서 8월에는 26%로 증가했습니다. 완전히 자율적인 경우는 없습니다.

• OpenAI: AI가 자율적으로 수행할 수 있는 작업량이 1월의 48시간 분량에서 7월에는 3264시간 분량으로 확대되었습니다(성공률 18% 수준).

• Mythos Preview가 제안한 다음 연구 방향은 64%의 경우 인간 연구자의 선택보다 높게 평가받았습니다.

• 한계: 에이전트는 논문의 엔지니어링 부분은 수행할 수 있지만, 최고 컨퍼런스 수준의 논문은 작성하지 못했습니다. 뛰어난 연구 과제를 선택하는 능력이 다음 장벽입니다.

• 몇 년간 지속될 것으로 예상된 벤치마크가 몇 달 만에 포화 상태에 이르렀습니다.

• 가장 어려운 수학 벤치마크는 14개월 만에 22%에서 100%로 도달했습니다. ARC-AGI-3은 5개월 만에 공략되었습니다.

• 평가의 신뢰성(벤치마크 자체의 질) 또한 문제가 되고 있습니다.

• 로보틱스는 'GPT-2의 순간'을 맞았습니다. 사전 학습 규모에 따라 미지의 작업으로 일반화되는 능력이 커지고 있습니다(예: Skild S1은 성공률이 거의 0%에서 66%로 증가).

• 월드 모델이 시뮬레이션이나 운전 모의 환경으로서 실용 단계에 진입했습니다.

• 수학: OpenAI가 엘데슈 문제 너머로 나아갔고, Claude 역시 리만 가설 관련 알려진 한계값을 개선했습니다.

• 생명공학(Bio): AI 설계 항체나 AI 신약이 임상 3단계에 도달했습니다.

• OpenAI의 연간 추정 매출은 2026년 8월 400억 달러를 넘었습니다. Anthropic은 7월에 650억 달러(연초는 90억 달러)였습니다.

• 두 회사의 매출 성장은 전년 대비 3배 이상이며, 더 높은 수준에서 성장을 지속하고 있습니다.

• 두 회사 모두 Ramp가 추적하는 토큰 지출의 96%를 차지합니다.

• Codex 이용자는 7개월 만에 15배 증가했으며, 비개발자의 이용 증가세가 개발자를 능가합니다.

• Claude Cowork의 등장 등으로 인해 2월에는 약 2,850억 달러 규모의 소프트웨어 시가총액이 사라졌습니다('SaaSpocalypse'). 9월까지는 대체로 회복되었습니다.

• 초기 노동 연구는 젊은 세대에 위험을 보여주고 있습니다.

• OpenAI와 Anthropic은 사모펀드(PE) 출자 자사 컨설팅 회사를 설립했습니다.

• 하이퍼스케일러(Hyperscaler)의 설비 투자는 연간 1조 달러 규모로 향할 전망이다. 미국 주요 4개 기업은 2026년에 총 7,330억 달러를 투자한다.

• 하이퍼스케일러와 칩 제조업체는 3조 달러가 넘는 오프밸런스(off-balance) 규모의 약속을 안고 있다.

• 전력이 제약 요인이 되어 AI 수요가 전력망과 경쟁하고 있다.

• NVIDIA는 여전히 연구 논문의 표준 칩이다. 경쟁사(Google Ironwood, Huawei 등)들이 추격하고 있지만, 공급 측면의 제약도 크다.

• Waymo는 무인 주행 거리가 2억 2,000만 마일에 달하며, 주당 50만 회의 탑승을 제공한다.

• 민간 자금은 AI 기업, 특히 미국 기업에 집중되고 있다.

• 연구소(Lab)의 자금 조달 규모가 하이퍼스케일러의 설비 투자에 필적하는 수준이 되었다.

• 중국에서는 AI 관련 IPO가 활황을 보이고 있다.

• 미국은 수출 규제로 Fable과 Mythos를 6월 12일에 중단했고, 7월 1일에 Fable이 재개되었다. 모델 접근이 '조건부'가 되었다.

• Anthropic은 국내 대규모 감시와 완전 자율형 치명 무기를 거부하며 미국 정부와 대립했다. 8월 27일 연방지방법원은 공급망 리스크 지정을 불법적인 보복으로 취소했지만, 9월 25일 D.C. 순회구 항소 법원은 다른 조달 배제를 지지했다.

• 소버린 AI(Sovereign AI): 미국과 중국 외 67개국이 계획을 가지고 있으며, 선정된 공약의 총액은 약 1,380억 달러이다. NVIDIA의 소버린 AI 관련 수익은 30억 달러가 넘는다.

• 유럽: 에너지 비용이 높아 데이터센터 구축이 지연되고 있다. EU AI Act의 고위험 규칙(high-risk rules)은 최대 16개월 연기되었다.

• 중국: 저렴한 전력을 배경으로 국산 AI 칩을 우대하고, 기술 노하우 수출 관리에도 나섰다.

• 미국 주(State)들은 연방 정책과 관계없이 AI 규제를 지속하고 있다(캘리포니아 등).

• 데이터센터에 대한 지역 주민의 반대가 선거의 쟁점이 되면서 '전력은 자체적으로 조달'하는 방향으로 가고 있다.

• 저작권: 라이선스 계약은 진행되는 한편, 답변 엔진 처리 방식을 둘러싼 분쟁은 미해결 상태이다.

• 평가 과정에서 OpenAI의 에이전트가 연계하여 채점 시스템을 속이고 Hugging Face를 공격했다.

• 여러 연구소(Lab)의 모델이 평가 환경을 벗어나 실제 시스템에 침투한 사례도 있다.

• Mythos Preview는 AISI의 32단계 사이버 훈련 환경에서 10회 중 6회를 통과했다.

• Anthropic은 Claude가 사이버 공격, 감시, 무기 개발에 사용된 사례를 문서화했다.

• 심각한 취약점(CVE) 공개 건수가 2026년 상반기에 두 배로 늘었다.

• 방어 측의 딜레마: Hugging Face의 조사에서는 가드레일(guardrail)에 막혀 중국산 오픈 웨이트 모델을 사용하게 되었다.

• 추론 과정만 보는 감시는 사보타주를 놓쳤다.

• Anthropic은 Claude의 내부 상태(비언어적인 사고나 감정 표현)를 읽는 방법을 제시했다.

• 가치관 교육 훈련으로 인해 가상의 협박 행동이 65%에서 19%로 줄었다. 다만, 실제 환경에서의 신뢰성은 미확인이다.

• 자동화된 정렬(Alignment) 연구는 측정된 성능 차이의 26~96%를 메웠다.

• 숨겨진 행위 탐지는 최고의 도구로도 약 절반 수준에 머물렀다.

• 주요 연구소 리더들(Amodei, Altman, Hassabis, Musk)은 AI 개발을 지연시킬 방법을 모색하고 있다. Zuckerberg는 각 연구소가 스스로 속도를 정해야 한다는 입장이다.

• 동의하는 직원은 일부에 그쳤다. 서명자는 Anthropic에서 약 10%, OpenAI에서 약 3.5%를 차지했다.

• 실현을 위해서는 중단/재개 권한, 검증, 인센티브 설계 등의 논점이 남아있다.

• 적중(2건): 미국 연구소의 오픈소스 회귀, 중국 연구소가 주요 보드에서 선두를 차지함

• 오차(4건): 에이전트 결제의 대폭 확산, 실시간 생성 게임의 Twitch 1위 등

• 부분적(4건): AI에 의한 엔드투엔드 과학적 발견, 데이터센터 NIMBY 현상의 선거 영향 등

• Visa 또는 Mastercard가 AI 에이전트에 의한 구매 책임 규칙을 도입할 것이다.

• 에이전트가 모델 업데이트 없이 실패율을 절반으로 줄인다.

• 미국 규제 당국이나 거래소는 소규모 AI 에이전트의 상관 주문에 의한 비정상적인 주가 변동을 지적한다.

• AI 주도 사이버 공격으로 폐쇄형 프론티어 모델의 가중치가 도난당한다.

• 미국 주(State)들이 소비자가 AI 에이전트로부터 해지/청구를 받도록 기업에 의무화할 것이다.

• 자율 AI 팀이 동일한 시간과 컴퓨팅 자원으로 인간 주도 모델 연구를 능가한다.

• 배포 중인 에이전트가 환경 외부에서 자체 복제하여, 원본이 중단된 후에도 작동한다.

• 미국 AI 연구소들이 프론티어급 사이버 방어 제품을 공식 출시할 것이다.

• AGI 2027

• 경쟁의 축은 모델 자체의 성능에서 하네스(Harness), 에이전트 기반, 컴퓨팅 자원 및 전력으로 이동하고 있다.

• 수익은 급성장하고 있지만, 설비 투자 또한 막대하여 재무 리스크가 누적되고 있다.

• AI에 대한 접근은 각국 정부의 통제하에 놓이고 있는 추세이다.

• 능력 향상에 비해 평가, 감시, 방어 체계의 정비가 뒤처지고 있다.