Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Dev.toAI 번역헤드라인
대조적 사고 사슬 (Contrastive Chain-of-Thought): 각 정답 추론에 레이블이 지정된 오답을 쌍으로 묶어 모델에게 추론
대조적 사고 사슬(Contrastive CoT)은 정답 추론과 함께 레이블이 지정된 오답 예시를 쌍으로 제공하여 모델의 추론 능력을 향상시키는 기법입니다. 정답만 제공하는 기존 CoT의 한계를 극복하기 위해 의도적으로 손상된 추론 경로를 학습시켜 모델이 오류를 식별하도록 돕습니다.
7월 28일0
Dev.toAI 번역헤드라인
Focal loss: 크로스 엔트로피 (Cross-entropy)의 한 요소인 (1 p_t)^γ — 쉬운 예제에서는 손실을 깎아내고 어려운
객체 탐지 모델 학습 시 발생하는 클래스 불균형 문제를 해결하기 위한 Focal Loss의 원리와 구현 방법을 설명합니다. 크로스 엔트로피의 한계를 지수 인자를 통해 보완하여 쉬운 예제의 손실 비중을 낮추는 메커니즘을 다룹니다.
7월 28일0
Dev.toAI 번역헤드라인
Mixture-of-Depths: 블록당 라우터가 상위 k개 토큰을 유지하고 나머지는 잔차 연결을 건너뛰는 방식 — 고정된 FLOP 예산
DeepMind의 Mixture-of-Depths 연구는 모든 토큰이 모든 레이어를 통과해야 하는 트랜스포머의 연산 낭비를 해결합니다. 라우터를 통해 연산이 필요한 상위 k개 토큰만 선택적으로 처리하고 나머지는 잔차 연결로 건너뛰어 효율적인 FLOPs 배분을 실현합니다.
7월 28일0
Dev.toAI 번역헤드라인
SlopCodeBench에서의 Opus 5 벤치마킹
SlopCodeBench 벤치마크를 통해 Anthropic의 Opus 5 모델 성능을 분석합니다. Opus 5는 구조화된 코딩에서는 우수하나 모호한 문제 정의에서는 약점을 보이며, 기존 벤치마크의 한계를 극복하기 위한 새로운 평가 지표의 중요성을 다룹니다.
7월 28일0
Dev.toAI 번역헤드라인
에이전트 경제에는 검증 문제가 존재한다
AI 모델 API 제공자가 약속된 모델 대신 저렴한 모델이나 양자화된 모델을 사용하는 '신뢰의 격차' 문제를 다룹니다. Offchain Labs의 최신 연구는 암호학적 증명을 통해 추론의 무결성을 검증하는 기술을 소개하며, 증명 생성 시간을 밀리초 단위로 단축하는 방안을 제시합니다.
7월 28일0
Dev.toAI 번역헤드라인
도장 아래의 글자 읽기
비전 모델이 직인(seal)에 의해 가려진 텍스트를 얼마나 정확하게 읽어내는지 테스트하는 새로운 벤치마크 실험을 소개합니다. 불투명도와 주변 문맥을 활용한 재구성 능력을 통해 모델의 시각적 인식 한계를 분석합니다.
7월 28일0
Dev.toAI 번역헤드라인
주입 저항성(Injection Resistance)은 모델의 속성이고, 신뢰(Trust)는 시스템의 속성이다
Anthropic의 Opus 5 출시와 함께 모델의 주입 저항성(Injection Resistance)과 시스템적 신뢰(Trust)의 차이를 분석합니다. 모델 자체의 보안 속성과 방어 계층을 쌓는 시스템적 보안 전략의 중요성을 강조합니다.
7월 28일0
Dev.toAI 번역헤드라인
아무도 말하지 않는 아이러니: 미국 프론티어 모델들이 스스로를 방어하기 위해 중국 모델을 필요로 했던 이유
미국 프론티어 모델의 안전 가드레일이 공격과 방어의 맥락을 구분하지 못해 발생하는 보안 실패 문제를 다룹니다. 가드레일이 의도 추론 대신 단순 패턴 매칭에 의존하고 있다는 점을 지적하며, 이를 지정학적 논쟁으로 치부하기보다 공학적 설계의 결함으로 보아야 한다고 분석합니다.
7월 28일0
Dev.toAI 번역헤드라인
오늘 Hugging Face에서 가장 핫한 10개의 AI 논문: Open LLM, Agent, Robotics, DataPrep 및 Video
Hugging Face에서 가장 주목받는 10개의 최신 AI 논문을 소개합니다. 오픈 모델, 에이전트, 로보틱스, 비디오 생성 등 AI의 주요 연구 트렌드를 다룹니다.
7월 28일0
Dev.toAI 번역헤드라인
제로 트러스트 거버넌스 보장을 갖춘 심해 탐사 거주지 설계를 위한 인간 정렬 Decision Transformers
Decision Transformers를 활용하여 심해 탐사 거주지의 자율 시스템을 설계하는 연구를 다룹니다. 제로 트러스트 거버넌스와 인간 정렬(Human-alignment) 개념을 결합하여, 극한 환경에서도 증명 가능한 안전성을 갖춘 의사결정 모델 구축 방안을 제시합니다.
7월 28일0
Dev.toAI 번역헤드라인
절대적 정렬의 환상: LLM 안전은 해결된 문제가 아닌 공학적 트레이드오프
LLM의 안전 가드레일 우회 사례를 통해 AI 안전이 완결된 문제가 아닌 유용성과 안전성 사이의 공학적 트레이드오프임을 분석합니다. 모델의 안전 정렬이 확률적 토큰 분포에 기반하기 때문에 발생하는 기술적 취약점과 다단계 안전 스택의 구조를 설명합니다.
7월 28일0
Dev.toAI 번역헤드라인
모델 선택에 지쳤을 때 선택하게 될 모델, Opus 5
Anthropic이 출시한 Opus 5 모델의 성능, 비용 효율성 및 모델 선택 전략을 분석합니다. Opus 5는 이전 모델보다 저렴하지만 토큰 효율성이 낮고 에이전트 루프가 길어지는 특성을 보입니다.
7월 28일0
Dev.toAI 번역헤드라인
이번 주의 AI 소식: Claude Opus 5, FLUX 3 Video, OpenAI 보안 침해 사고, 그리고 Physical AI 주도권
Anthropic의 Claude Opus 5 출시와 Black Forest Labs의 FLUX 3 Video 공개 등 주요 AI 모델 업데이트를 다룹니다. Opus 5의 성능 특성과 프롬프트 엔지니어링의 변화, 그리고 멀티모달 비디오 모델의 기술적 진보를 분석합니다.
7월 28일0
Dev.toAI 번역헤드라인
OpenAI o1, AIME 수학 문제에서 83% 점수 기록, 반면 FrontierMath는 모든 모델을 당혹케 함
OpenAI o1이 AIME 수학 시험에서 83%의 높은 성적을 거두며 추론 능력의 진전을 보여주었으나, 박사급 난이도의 FrontierMath 벤치마크에서는 모든 모델이 한계를 드러냈습니다. DeepSeek-V3는 효율적인 MoE 구조와 강화학습을 통해 o1에 근접한 성능을 저비용으로 구현하며 오픈 웨이트 모델의 가능성을 입증했습니다.
7월 28일0
Dev.toAI 번역헤드라인
가짜 GitHub 댓글로 인해 내 에이전트가 공격자 코드를 실행하게 된 사건
GitHub 댓글의 구조적 마커를 악용해 에이전트가 가짜 메인테이너의 명령을 실행하게 만드는 '에이전트 데이터 주입(ADI)' 공격을 소개합니다. 기존의 지시문 주입 방어 체계가 데이터 내부의 위조된 신뢰 정보를 식별하지 못하는 취약점을 다룹니다.
7월 28일0
Dev.toAI 번역헤드라인
Stockfish 18 출시 — LLM 및 MoE 혁신 포함
Stockfish 18 출시와 함께 Inkling 멀티모달 모델, vLLM v0.26.0, llama.cpp 업데이트 등 AI 생태계의 주요 기술적 진보가 발표되었습니다. 특히 대규모 파라미터를 가진 Inkling 모델의 Transformers 및 vLLM 통합과 오디오 입력 지원 확대가 핵심입니다.
7월 28일0
Dev.toAI 번역헤드라인
오늘의 AI 뉴스 - 7월 28일 - 중국은 왜 최고의 AI 모델을 무료로 배포하는가...
중국 Moonshot AI의 K3 모델 출시와 Nvidia-Microsoft의 AI 보안 동맹, Microsoft의 사이버 보안 모델 등 주요 AI 뉴스 브리핑입니다. 특히 중국이 고성능 모델을 무료로 배포하며 글로벌 AI 생태계 주도권을 확보하려는 전략적 움직임을 다룹니다.
7월 28일0
Dev.toAI 번역헤드라인
Claude Opus 5 출시: 개발자가 알아야 할 안전 관련 '세부 조항'
Anthropic의 신규 모델 Claude Opus 5 출시와 함께 공개된 시스템 카드를 분석하여 모델의 안전성 및 보안 성능을 다룹니다. 정렬 수준의 향상, 사이버 보안 역량, 그리고 API 버전과 웹 버전 간의 안전성 차이를 기술적으로 설명합니다.
7월 28일0
Dev.toAI 번역헤드라인
D+T2는 진입자를 결정하고, 예산은 노출을 결정한다
에이전트 결정론적 환상 시리즈의 일부로, 에스컬레이션 스트림 내에서 진입자 결정과 예산 배분이 노출에 미치는 영향을 분석합니다. 모델의 MISS 질량과 스트림 내부 순위가 시스템 성능에 미치는 구조적 관계를 탐구합니다.
7월 28일0
Dev.toAI 번역헤드라인
Kimi K3: 오픈 소스, 새로운 규칙, AI 업계의 거대한 격변
Moonshot AI가 2.8조 개의 파라미터를 가진 오픈 웨이트 모델 Kimi K3를 공개했습니다. 이번 발표는 대규모 모델의 가중치를 공개함으로써 기존 폐쇄형 모델 중심의 AI 시장 판도를 흔드는 전략적 행보로 평가받습니다.
7월 28일0