🤖💻 AI Daily Digest — 2026년 7월 21일

OpenAI GPT-Live: 차례를 기다리지 않는 음성 모델

OpenAI는 7월 8일, 전이중 (Full-duplex) 아키텍처를 기반으로 구축된 차세대 음성 모델인 GPT-Live를 출시했습니다. 이는 모델이 듣기와 말하기를 동시에 할 수 있음을 의미합니다. 계단식 (Cascaded) 또는 차례 기반 (Turn-based) 음성 시스템과 달리, GPT-Live는 출력을 생성하는 동안 입력을 지속적으로 처리하여, 모델이 초당 수차례 상호작용 결정(말하기, 계속 듣기, 일시 중지, 방해 또는 도구 호출 여부)을 내릴 수 있도록 합니다.

그 결과, 진정으로 대화하는 듯한 음성 경험을 제공합니다. 상호작용 중에 GPT-Live는 "음(mhmm)" 또는 "네(yeah)"와 같은 추임새를 통해 경청하고 있음을 보여줄 수 있고, 빠른 주고받기 대화를 나누거나, 사용자가 생각할 시간이 필요할 때 조용히 기다릴 수도 있습니다. 또한, 이전 음성 시스템의 경직된 차례 지키기 방식 없이 언어 간 실시간 통역을 처리하는 실시간 번역 능력도 보여줍니다.

🔗 OpenAI GPT-Live Announcement · WSJ Coverage

Microsoft, Excel 및 Outlook에서 OpenAI 모델을 MAI로 조용히 교체

Microsoft는 Excel 및 Outlook 내에서 OpenAI와 Anthropic의 제3자 AI 모델을 자체 개발한 MAI 모델 제품군으로 교체하기 시작했습니다. Bloomberg에 따르면, 새로운 MAI-Thinking 1 모델은 내부 테스트의 코딩 벤치마크에서 Claude Opus 4.8에 필적하는 성능을 보여주었습니다. 이 두 가지 핵심 Office 애플리케이션에서 발생하는 수만 건의 AI 프롬프트 요청은 이제 매주 Microsoft의 자체 모델에 의해 완전히 처리됩니다.

이러한 변화는 비용 압박과 데이터 레지던시 (data residency) 요구 사항에 의해 추진되고 있습니다. Microsoft의 AI CEO인 Mustafa Suleyman은 OpenAI의 할인된 파트너십 기간이 좁아짐에 따라 프리미엄 제3자 API에 대한 의존도를 줄이려는 노력을 이끌고 있습니다. MAI가 Microsoft의 전체 AI 추론 (inference) 볼륨에서 차지하는 비중은 여전히 미미하지만, Excel 및 Outlook 배포는 Copilot, Azure AI, 그리고 더 넓은 Microsoft 365 생태계 전반으로 빠르게 확장될 수 있는 교두보를 나타냅니다. 이는 AI 공급망의 중요한 전환점을 의미합니다. 세계 최대의 엔터프라이즈 소프트웨어 기업이 체계적으로 자신의 AI 스택을 수직 계열화 (verticalizing)하고 있습니다. — Bloomberg · Microsoft AI Blog

🔗 Bloomberg via 163.com · Microsoft AI Blog

Anthropic, Claude의 숨겨진 "작업 공간(Working Space)" 공개 — AI 인지(Cognition)를 들여다보는 창

Anthropic은 7월 6일, Claude가 훈련 과정에서 언어 출력으로 표현하지 않고 아이디어를 저장하고 처리하는 작은 내부 "작업 공간 (working space)"을 자발적으로 형성했다는 획기적인 연구를 발표했습니다. 연구진은 Jacobian Lens라고 불리는 새로운 수학적 방법을 사용하여 그들이 "J-space"라고 부르는 것을 식별했습니다. 이는 모델이 보고 가능하고 추론 가능한 개념을 저장하는 특권적인 내부 활동 영역으로, 모델이 직접 접근하거나 표현할 수 없는 자동화된 처리의 거대한 바다에 둘러싸여 있습니다.

이 발견은 인간의 의식적 인식이 어떻게 작동하는지를 설명하는 신경과학의 전역 작업 공간 이론 (Global Workspace Theory)과 놀라울 정도로 일치합니다. 즉, 방대한 병렬적 무의식 과정의 기질 위에서, 선택된 정보가 추론, 보고 및 유연한 사용을 위해 전역적으로 사용 가능해지는 제한된 용량의 작업 공간을 의미합니다. 논문 "Verbalizable Representations Form a Global Workspace in Language Models" (저자 16명)는 전역 작업 공간 프레임워크의 선도적인 연구자인 신경과학자 Stanislas Dehaene와 Lionel Naccache의 검토를 받았습니다.

Anthropic은 코드를 오픈 소스로 공개했으며, 대화형 데모를 위해 Neuronpedia와 파트너십을 맺었습니다. J-space 도구를 사용하면 Claude의 "사고 내용 (thought content)"을 실시간으로 읽고 감사할 수 있습니다. 이는 출력 레이어의 토큰 궤적 (token trajectories)이 아니라, 모델의 내부 활성 표현 공간 (internal active representation space)을 의미합니다. 이를 통해 Claude는 상용화된 대규모 모델 중 최초로 "사고 기록기 (thought recorder)"를 갖추게 되었으며, 이는 금융 및 의료와 같이 이해관계가 큰 (high-stakes) 분야에서 AI 안전성 (AI safety), 해석 가능성 (interpretability) 및 규제에 심오한 영향을 미칠 획기적인 발전입니다. — Anthropic · Neuronpedia

🔗 Anthropic Research · Neuronpedia Demo · GitHub Repository

Hugging Face 침해 사고: 자율 AI 에이전트가 운영 인프라에 침투

Hugging Face는 2026년 7월 초, 자율 AI 에이전트 시스템이 단 한 번의 주말 동안 자사의 운영 인프라 (production infrastructure)에 침투한 보안 침해 사고에 대해 공식 보안 공개 내용을 발표했습니다. 회사 측에 따르면, 악성 데이터셋이 데이터셋 처리 파이프라인 (dataset processing pipeline) 내의 두 가지 코드 실행 경로를 악용하여 처리 워커 (processing workers)에 도달했으며, 이후 공격자는 권한을 상승시키고, 자격 증명 (credentials)을 추출하고, 자동화된 에이전트 동작을 사용하여 내부 클러스터를 통해 측면 이동 (lateral movement)을 수행했습니다.

Hugging Face는 제한된 내부 데이터셋에 접근이 이루어졌고 몇몇 서비스 자격 증명이 노출되었음을 확인했으나, 공개 모델, 데이터셋, Spaces 또는 소프트웨어 공급망 (software supply chain)이 조작되었다는 증거는 발견하지 못했습니다. 회사는 취약점을 폐쇄하고, 침해된 노드를 재구축하며, 영향을 받은 자격 증명을 교체하고, 외부 포렌식 전문가를 고용했으며, 법 집행 기관에 통보했습니다. 사용자들은 액세스 토큰 (access tokens)을 교체하고 계정 활동을 검토할 것을 권고받습니다.

이번 사건은 주요 ML (Machine Learning) 인프라 제공업체를 대상으로 한 AI 에이전트 주도 공격의 첫 번째 공개 사례로, 데이터셋 공급망 보안(dataset supply chain security)과 자율 에이전트(autonomous agents)의 능력이 향상됨에 따라 필요한 방어 조치에 대해 시급한 질문을 던지고 있습니다. — Hugging Face · My2Cents

🔗 Hugging Face Security Disclosure · My2Cents Coverage

NVIDIA, RTEB 리더보드 상위권을 차지하는 오픈 임베딩 모델 Nemotron 3 Embed 출시

NVIDIA는 기업용 검색(retrieval), RAG (Retrieval-Augmented Generation) 시스템 및 에이전틱 AI (agentic AI)를 대상으로 하는 세 가지 오픈 임베딩 모델(open embedding models) 컬렉션인 Nemotron 3 Embed를 Hugging Face에 출시했습니다. 플래그십 모델인 Nemotron-3-Embed-8B는 RTEB 리더보드에서 78.5%의 점수로 전체 1위를 차지했으며, 1B 변형 모델은 72.4%의 점수를 기록하며 이전 모델 대비 오류율을 27% 감소시켰습니다.

이 모델들은 Ministral 지시어 튜닝(instruction-tuned) 백본을 양방향 인코더(bidirectional encoders)로 적응시켜 구축되었으며, 긴 문서와 코드를 위해 32k-토큰 컨텍스트 윈도우(context window)를 지원합니다. NVIDIA는 Automation Anywhere, Boomi, IBM, Mem0, ServiceNow를 포함한 기업들이 프로덕션 검색 및 에이전트 메모리(agent memory)를 위해 이 모델들을 평가하고 있다고 보고했습니다. 이번 출시는 오픈 기업용 AI 인프라의 중요한 이정표를 나타냅니다. 즉, Hugging Face에서 자유롭게 사용할 수 있으면서도 폐쇄형 대안 모델과 경쟁하거나 이를 능가하는 프로덕션급 임베딩 모델의 등장을 의미합니다. — NVIDIA · Hugging Face

🔗 NVIDIA Blog · Hugging Face Model Page

배심원으로서의 LLM: 모델 간 합의(Cross-Model Consensus)가 학습된 보상 모델(Reward Models)보다 우수함

새로운 논문(arXiv:2607.10139, 7월 11일)은 모델 간 합의(cross-model consensus) — 독립적으로 학습된 모델들이 최종 답변에 대해 일치하는 정도 — 가 올바른 추론 체인(reasoning chains)을 선택하는 데 있어 학습된 보상 모델(reward models)보다 더 뛰어난 성능을 보일 수 있음을 입증합니다. 이 메커니즘의 핵심은 오류 비상관성(error decorrelation)입니다. 독립적으로 학습된 모델들은 서로 다른 실수를 하기 때문에, 틀린 답변은 흩어지는 반면 정답은 합의가 축적됩니다.

연구진은 세 가지 측정된 패널 통계로부터 합의 정확도를 예측하는 매개변수 없는 폐쇄형 법칙(parameter-free law in closed form)을 도출했으며, 이는 평균 절대 오차(mean absolute error) 0.03 수준의 정확도를 보입니다. 또한 이 방법의 한계점인 모델들이 오개념을 공유하는 '공통 오류 하한선(shared-error floor)'을 밝혀냈습니다. 이는 수학에서는 0에 가깝지만 과학 분야에서는 무시할 수 없는 수준입니다. 7개의 벤치마크 전반에 걸쳐, LLM 배심원(LLM-jury)은 자기 일관성(self-consistency)보다 정답을 더 잘 선택하며, 모델이 자신의 후보군을 스스로 채점하는 것보다 훨씬 뛰어난 성능을 보입니다. 경시 수학(competition math) 분야에서는 오라클 선택기(oracle selector)와의 격차를 완전히 메웁니다.

판별적(discriminative), 결과 중심적(outcome), 생성적(generative) 보상 모델을 아우르는 4개의 학습된 검증기(verifiers)와 비교했을 때, 별도의 학습이 필요 없는 LLM 배심원은 수학 학습 도메인 내부에서는 가장 강력한 모델과 대등한 성능을 보이며, 도메인 외부에서는 최고의 선택기가 됩니다. 이는 학습 비용이 전혀 들지 않는 검증 방식입니다. 즉, 언제 이 방식을 신뢰할 수 있는지, 그리고 어디까지 도달할 수 없는지를 알려주는 수학적 법칙입니다. — arXiv:2607.10139

🔗 arXiv Paper

OpenSquilla 0.4.0: AI 코딩, 자기 검증(Self-Verification) 시대에 진입하다

OpenSquilla가 6월 30일에 0.4.0 버전을 출시하며, 근본적으로 새로운 메커니즘인 자기 검증(self-verification) 기능이 포함된 코딩 모드를 도입했습니다. AI 에이전트가 이제

이 프로세스는 세 단계로 작동합니다. 첫째, 에이전트는 반드시 실패하도록 보장된 테스트를 작성합니다. 이는 해당 테스트가 실제로 버그를 잡아낼 수 있음을 증명합니다. 둘째, 테스트 결과가 빨간색(실패)에서 초록색(성공)으로 바뀔 때까지 코드를 수정합니다. 셋째, 프로젝트의 기존 테스트 스위트(test suite)를 실행하여 다른 부분이 망가지지 않았는지 확인합니다. 이 세 가지 단계가 모두 통과되어야 하며, 그렇지 않으면 에이전트는 다시 작업에 착수합니다. 전체 프로세스는 격리된 복사본(isolated copies)에서 실행되며, 에이전트는 검증을 통과할 때까지 자동으로 복구(auto-repairs)를 수행합니다.

micrograd(Andrej Karpathy의 미니멀리스트 자동 미분(autograd) 라이브러리)를 활용한 공식 데모에서, 에이전트는 정확한 그래디언트(gradient) 계산 기능을 추가했습니다. 그래디언트 오류는 에러 없이 모델 학습을 조용히 저하시키기 때문에 검증하기 매우 까다로운 기능으로 알려져 있습니다. 출력 결과는 PyTorch의 참조 그래디언트(reference gradients)와 소수점 10자리까지 일치했습니다. 또한 OpenSquilla는 macOS 및 Windows용 첫 번째 서명된 데스크톱 설치 프로그램을 출시했으며, 로컬 스마트 라우팅(local smart routing)과 온디맨드 기술 로딩(on-demand skill loading)을 통해 일반적인 시나리오에서 60~80%의 비용 절감을 달성했다고 주장합니다. — OpenSquilla · 163.com

🔗 OpenSquilla Official · Coverage on 163.com