오늘 AI 분야에서 세 가지 중요한 변화가 있었습니다. 업계에서 가장 비밀스러운 연구소가 마침내 데뷔 날짜를 정했고, xAI는 두 가지 모델의 출시 일정을 확정했으며, ByteDance는 소비자용 앱에 네이티브 Full-Duplex (전이중) 오디오-비디오 모델을 출시했습니다. 개발자들에게 실제로 중요한 내용은 다음과 같습니다.

1. Ilya Sutskever의 SSI가 이번 달 첫 모델을 출시할 예정이라고 보도됨

Ilya Sutskever가 2024년 6월 Daniel Gross, Daniel Levy와 함께 공동 설립한 연구소인 Safe Superintelligence (SSI)가 8월에 첫 모델을 출시할 준비를 하고 있다고 투자자 Gavin Baker가 Invest Like the Best 팟캐스트에서 밝혔습니다. SSI는 이를 공식적으로 확인하지 않았으며, 아직 기술적 세부 사항이나 벤치마크(Benchmarks)도 존재하지 않으므로 신뢰할 만하지만 확인되지 않은 정보로 취급하십시오.

이것이 중요한 이유: SSI는 업계에서 가장 순수한 스텔스(Stealth) 플레이였습니다. 이 연구소는 출시된 제품도, 발표된 논문도, 매출도 전혀 없는 상태에서 Andreessen Horowitz, Sequoia, Greenoaks, Alphabet, NVIDIA로부터 약 320억 달러의 기업 가치로 약 30억 달러를 조달했습니다. 이 회사의 공개적인 입장은 "직진" 방식의 베팅이었습니다. 즉, 안전한 초지능(Superintelligence)을 먼저 구축하고, 그 과정에서 아무것도 팔지 않는 것입니다.

기술적으로 흥미로운 부분은 모델 자체가 아니라 그 이면에 깔린 논리입니다. 같은 대화에서 Baker는 프런티어(Frontier) 문제를 지속적 학습 (Continual Learning) 및 **샘플 효율적 학습 (Sample-efficient Learning)**으로 정의했으며, 많은 연구소가 이 두 가지를 해결하기 직전에 와 있다고 언급했습니다. 그가 설명한 규모의 격차(Scale gap)는 숙지할 가치가 있습니다:

• 초기 LLM (Large Language Models)은 약 200억 (20 billion) 개의 토큰으로 학습되었습니다.
• 오늘날의 프런티어 모델은 최대 300조 (300 trillion) 개의 토큰으로 학습됩니다.
• 목표: 약 10조 (10 trillion) 개의 토큰으로 사전 학습(Pretrain)한 후, 모델이 실제 세상에서 효율적으로 계속 학습하도록 하는 것입니다.

그것이 성공한다면, 경제적 논리가 역전됩니다. 사전 학습 (Pretraining)이 지배적인 연산 소모처 (compute sink)가 아니게 되며, 거대 학습 클러스터에 대한 수요는 Baker가 말한 불연속점 (discontinuity)에 도달할 수 있습니다. 프론티어 API (frontier APIs)를 기반으로 구축하는 모든 이들에게, 이는 주기적인 정적 모델 출시의 세상과 배포 과정에서 모델이 계속 개선되는 세상 사이의 차이를 의미합니다.

회의적인 시각도 짚어볼 가치가 있습니다. 만약 SSI의 데뷔작이 SOTA (State-of-the-Art)에 도달하지 못하는, 가드레일만 잘 갖춰진 Transformer 모델이라면, 오픈 웨이트 (open-weight) 모델들이 가격 면에서 모두를 압도하고 있는 시장에서 "안전성" 하나만으로는 얇은 해자 (moat)에 불과할 것입니다. 주목해야 할 점은 아키텍처 (architectural) 측면입니다. 이것이 실제로 지속적 학습 (continual learning)을 수행하는지, 아니면 또 다른 정적 스냅샷 (static snapshot)인지 확인해야 합니다.

2. Grok 4.6, 8월 7일경 출시 예정, 몇 주 뒤 2.1T 모델 후속 출시

Elon Musk는 X를 통해 Grok 4.6이 8월 7일경 출시될 것임을 확인했습니다. 이 모델은 Grok 4.5의 1.5조 파라미터 (1.5-trillion-parameter) 아키텍처를 유지하며, 개선된 지도 미세 조정 (supervised fine-tuning) 및 강화 학습 (reinforcement learning)과 같은 사후 학습 (post-training)을 통해 성능 향상을 이끌어냈습니다. 2.1T 규모의 모델인 Grok 4.7은 몇 주 뒤에 뒤따를 예정입니다. Musk는 이 모델이 "서빙 속도는 약간 느려질 수 있지만, 훨씬 더 나은 토큰 효율성 (token efficiency)을 바탕으로 모든 면에서 4.6보다 나을 것"이라고 말했습니다.

4.6에 대한 벤치마크나 가격은 아직 발표되지 않았습니다. 참고로, Grok 4.5는 입력 토큰 100만 개당 $2 / 출력 토큰 100만 개당 $6로 구동되며, SpaceXAI 콘솔, VS Code의 GitHub Copilot, 그리고 Azure AI Foundry라는 세 가지 채널을 통해 개발자들에게 제공됩니다.

개발자를 위한 실질적인 해석은 다음과 같습니다:

• 사후 훈련(Post-training)을 통한 개선이 에이전트에게 가장 중요합니다. 더 나은 지침 준수, 합법적인 작업에 대한 거부(refusals) 감소, 그리고 더욱 신뢰할 수 있는 도구 사용 — 이 마지막 것이 다단계 에이전트 워크플로우가 완료될지 아니면 실패할지를 실제로 결정하는 요소입니다.
• 주기성(Cadence)이 핵심 이야기입니다. Grok 4.5는 7월 8일에 출시되었고, 4.6은 8월 7일경에 공개되며, 4.7은 8월 말에 예상됩니다. 4주 간격의 출시 주기는 6월에 표준화한 모델이 9월에는 두 세대(two generations) 뒤처진 것이 된다는 의미입니다.
• 버전 번호가 아닌 채널에 베팅해야 합니다. 만약 새로운 모델들이 GitHub Copilot과 Azure에 출시 후 며칠 내로 유입된다면, 어떤 체크포인트(checkpoint)를 고정했는지보다 통합 표면(integration surface)이 더 중요합니다.

이는 Anthropic의 Claude Opus 라인과 Moonshot의 Kimi K3가 코딩 에이전트 부문에서 직접적인 압박을 받게 하며, xAI는 개발자 친화적인 가격 정책을 유지하면서 역량을 끌어올리고 있습니다.

3. ByteDance의 SeedRealtime은 스티치된 것이 아닌 네이티브 풀-듀플렉스 오디오-비디오를 구현하다

ByteDance는 8월 5일, 네이티브 풀-듀플렉스(full-duplex) 오디오-비디오-텍스트 모델인 SeedRealtime을 출시하고 Doubao 앱 전반에 걸쳐 배포했습니다. 일반적으로 ASR → LLM → TTS가 연결되는 순차적 방식 대신, SeedRealtime은 오디오, 비디오, 텍스트를 단일 통합 아키텍처로 융합하여 지속적인 멀티모달 스트림으로 작동합니다. 핵심 콘셉트는 '보고, 듣고, 말하기'를 동시에 수행하는 것입니다.

이들이 주장하는 세 가지 기능은 다음과 같습니다:

1. 통합 오디오-비디오 이해(Joint audio-video understanding) — 시각적 맥락을 사용하여 동음이의어(homophones)를 명확히 하는 능력입니다. 이는 중국어뿐만 아니라 일반적으로 소음이 많은 도메인 전문 용어에서 실제 실패 모드(failure mode)로 나타납니다.
2. 능동적 상호작용(Proactive interaction) — 모델이 응답하는 것뿐만 아니라 주도적으로 시작할 수 있습니다.
3. 대화 리듬(Conversational rhythm) — 인간 평가에 따르면, 순차적 파이프라인 대비 턴 테이킹(turn-taking) 및 속도 조절 문제(pacing problems)가 약 절반 수준인 것으로 보고되었습니다.

세 번째 포인트가 바로 주목해야 할 부분입니다. 지연 시간(Latency)과 어색한 턴 테이킹(turn-taking)은 대부분의 음성 에이전트가 제대로 작동하지 않는 것처럼 느껴지게 만드는 원인이며, 이는 주로 세 개의 모델을 하나로 엮는 과정에서 발생하는 부산물입니다. 각 모델을 거칠 때마다 지연이 추가되고 신호가 손실되기 때문입니다. 스택을 통합(Collapsing the stack)하는 것이 구조적으로 올바른 해결책입니다. 독립적인 벤치마크(Benchmarks) 결과는 아직 나오지 않았지만, 만약 지연 시간이 절반으로 줄어든다는 결과가 유지된다면, 캐스케이드(Cascade) 기반의 음성 아키텍처는 구식(Legacy)처럼 보이기 시작할 것입니다.

또한 언급할 가치가 있는 소식은, Tencent Hunyuan이 8월 4일에 Hy ASR 3.0 preview를 출시했으며, DeepSeek은 5,000억 위안의 기업 가치(Pre-money valuation)를 기준으로 500억 위안 규모의 2차 펀딩 라운드를 재개한 것으로 알려졌으며, 8월 말에 서명이 완료될 것으로 예상됩니다. 중국의 모델 경쟁은 이제 벤치마크뿐만 아니라 자본과 개발자 생태계(Developer ecosystem)를 통해서도 치열하게 전개되고 있습니다.

관통하는 핵심 (The through-line)

세 가지 이야기 모두 동일한 방향을 가리키고 있습니다. 업계는 사전 학습(Pretraining) 스케일링을 통한 손쉬운 이득이 고갈되어 가고 있으며, 그 노력을 사후 학습(Post-training, xAI), 지속적 학습(Continual learning, SSI), 그리고 아키텍처 통합(Architectural consolidation, ByteDance)으로 재지향하고 있습니다. 파라미터(Parameter) 수는 조용히 헤드라인을 장식하는 핵심 지표에서 밀려나고 있습니다.

빌더(Builders)들에게 있어, 세 가지 사례 모두에서 공통적인 방어 전략은 동일합니다. 제품을 특정 모델 버전과 결합하지 마십시오. 추상화 계층(Abstraction layer)을 깔끔하게 유지하고, 평가(Evals) 프로세스를 자체 저장소(Repo)에서 관리하며, 모델 교체를 마이그레이션(Migration)이 아닌 일상적인 유지보수로 취급하십시오. 4주 단위로 새로운 기술이 등장하는 프런티어(Frontier) 속도에서는, 이것은 아키텍처의 순수주의가 아니라 생존의 문제입니다.

이 세 가지 중 어떤 것이 가장 오래 살아남을 것이라고 생각하시나요? 저는 SSI라고 주장하겠지만, 이는 지속적 학습(Continual-learning) 주장이 사실일 경우에만 해당합니다.