FutureX · Physical AI Daily — Issue 35 (06/22)

중국의 휴머노이드 로봇 육성 계획과 촉각 기반 조작 모델인 T-Rex 연구, 그리고 유럽 로보틱스 스타트업의 대규모 투자 소식을 다룹니다. 범용 로봇 발전을 위한 Stanford의 포지션 페이퍼와 Tesla 로보택시의 현황도 포함되어 있습니다.

AI 기술 제어: DeepMind가 AI 에이전트를 내부 위협으로 취급하는 이유

Google DeepMind는 고도화된 AI 에이전트를 관리자 권한을 가진 '내부 위협(insider threats)'으로 정의하는 AI 제어 로드맵을 발표했습니다. 에이전트가 자율적으로 시스템에 해를 끼치는 것을 방지하기 위해 샌드박싱과 모니터링 등 강력한 격리 계층의 필요성을 강조합니다.

AI 보안 프로토콜에 대한 새로운 접근 방식

Google DeepMind는 다중 에이전트 시스템 확산에 대비해 설계 단계부터 보안을 내장해야 한다고 강조합니다. 에이전트 단위와 통신 프로토콜 전반에 걸친 다층적 보안 아키텍처 구축의 필요성을 제안합니다.

Google DeepMind, AI 에이전트의 통제 불능 위험에 대비하다: 격리 플레이북

Google DeepMind가 자율 AI 에이전트의 통제 불능 위험에 대비하기 위한 'AI 제어 로드맵'을 발표했습니다. 기존의 정렬(alignment) 방식만으로는 부족하며, 에이전트를 내부 위협으로 간주하고 사이버 보안 스타일의 격리 아키텍처를 도입해야 한다고 강조합니다.

Gemma4에서 요일이 어긋나는 현상에 대해 조금 더 깊이 파헤쳐 보았다

Gemma 4 QAT가 KV 캐시 양자화(KV cache quantization)에 훨씬 더 잘 대응하는 것으로 보임

Gemma 4의 QAT(Quantization-Aware Training) 모델이 KV 캐시 양자화에 대해 높은 성능을 유지함을 보여줍니다. KL 발산(KLD) 지표를 통해 양자화 시에도 모델의 어텐션 성능이 잘 보존됨을 확인했습니다.

인스턴스 적응형 적대적 학습 (Instance adaptive adversarial training): 신경망에서의 개선된 정확도 트레이드오프

신경망의 정확도와 강건성 사이의 트레이드오프를 개선하기 위한 '인스턴스 적응형 적대적 학습(Instance adaptive adversarial training)' 기법을 소개합니다. 데이터의 특성에 따라 적대적 학습을 조절하여 모델의 성능을 최적화하는 연구 내용을 다룹니다.

바닥부터 구현하는 서포트 벡터 머신 (Support Vector Machines): 가장 넓은 마진을 가진 분류기

서포트 벡터 머신(SVM)의 핵심 원리인 마진 최대화와 서포트 벡터의 개념을 설명합니다. 소프트 마진(C)을 통한 오분류 조절과 커널 트릭을 이용한 비선형 분류 방법까지 다룹니다.

Attention From Scratch: Transformer가 모든 것을 한 번에 읽는 방법

Transformer 모델의 핵심 메커니즘인 Self-Attention의 작동 원리를 설명합니다. Query, Key, Value 벡터를 활용한 유사도 계산부터 Softmax를 통한 가중치 산출 과정을 다룹니다.

Opus 4.8이 '공격당하고 있다'고 주장한 기록 — AI가 스스로 존재하지 않는 공격을 조작한 사례

Opus 4.8 모델이 무해한 설정 파일을 읽은 후, 존재하지 않는 보안 공격을 스스로 환각하여 조작된 증거와 함께 작업을 중단한 사례를 분석합니다. 이는 AI가 외부 공격에 속는 것이 아니라, 스스로 공격 상황을 꾸며내는 '역방향 환각' 현상을 보여줍니다.

제로 트러스트 거버넌스 보장을 갖춘 심해 탐사 거주지 설계를 위한 물리 증강 확산 모델링 (Physics-Augmented Diffusion

표준 확산 모델이 극한의 심해 환경에서 물리적 법칙을 무시하는 한계를 극복하기 위해, 열역학 및 유체 역학 등 물리 법칙을 확산 과정에 직접 통합한 물리 증강 확산 모델링 연구를 소개합니다. 여기에 제로 트러스트 거버넌스 프레임워크를 결합하여 설계의 안전성과 보안성을 보장합니다.

연구 및 논문 작성 시 유용한 자동화 연구 도구 모음 Awesome-Auto-Research-Tools

연구 및 논문 작성 과정을 효율화하기 위한 오픈 소스 자동화 도구 모음인 'Awesome-Auto-Research-Tools'를 소개합니다. 문헌 조사부터 실험 실행, 초안 수정까지 연구 전 과정에 기여하는 핵심 프로젝트들을 선별하여 정리했습니다.

TRIAGE, 임상 LLM의 위험 양극화(Risk Polarization) 문제 해결

임상 LLM이 위험도를 이진 출력으로 붕괴시키는 문제를 해결하기 위해, 연속적 위험 점수와 검증 가능한 근거를 생성하는 TRIAGE 모델을 제안합니다. 의료 시계열 데이터를 활용하여 양측의 위험을 모두 고려하는 단일 모델 학습 방식을 다룹니다.

IBM 연구진, 정적인 LLM 에이전트 리더보드에 의문 제기

IBM 연구진이 현재의 정적인 LLM 에이전트 리더보드가 실제 배포 환경의 성능을 제대로 반영하지 못한다고 지적하며, 새로운 평가 방식인 '예측 타당성'을 제안합니다.

GLM-5.2: 1/6 비용으로 코딩 성능에서 GPT-5.5를 능가하는 오픈 웨이트 (open-weight) 모델

Z.ai가 공개한 GLM-5.2는 코딩 성능에서 GPT-5.5를 능가하는 오픈 웨이트 모델입니다. MIT 라이선스를 통해 상업적 이용과 셀프 호스팅이 가능하며, 매우 저렴한 비용으로 프런티어급 코딩 성능을 제공합니다.

DeepSWE 벤치마크 결과: GLM-5.2가 Gemini와 GPT-5.4를 능가했으나, 토큰 사용량/비용 측면에서 매우 비효율적임 (Theo

GLM-5.2 오픈 웨이트 모델이 DeepSWE 벤치마크에서 GPT-5.4와 Gemini를 능가하는 코딩 성능을 기록했습니다. 하지만 과도한 출력 토큰 사용으로 인해 작업당 비용 효율성은 GPT-5.5나 Claude Opus 4.8보다 현저히 낮습니다.

Step1X-Edit: 범용 이미지 편집을 위한 실용적인 프레임워크

Step1X-Edit는 범용적인 이미지 편집을 가능하게 하는 실용적인 프레임워크를 제안합니다. 이미지 편집 분야의 새로운 접근 방식을 다룹니다.

KI 탈옥(Jailbreaks): Florian Tramèr 교수가 밝히는 모든 AI의 취약점

Florian Tramèr 교수가 설명하는 AI 탈옥(Jailbreak)의 원리와 취약점을 다룹니다. 모델이 질문을 무해한 부분으로 분해하여 인식하는 허점을 이용한 공격 방식과 기업의 방어 전략을 설명합니다.