Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
본 논문은 LLM의 효율적인 깊이 가지치기를 위해 해석 가능한 다중 목적 진화 탐색 프레임워크인 SliMOO를 제안합니다. 기존 방법들이 단일 점수 최적화에 머물렀던 한계를 극복하고, 과제별 레이어 중요도를 고려한 다중 목표 최적화를 수행합니다. Llama-3.1 및 Qwen3 모델에서 높은 성능 향상을 입증했습니다.
본 논문은 NP-hard인 선형 블록 코드의 최대 우도(ML) 디코딩 문제를 해결하기 위한 새로운 신경망 기반 디코더를 제안합니다. 이 디코더는 흡수 상태의 이산 확산 모델을 활용하여 탐색 공간을 트리 구조로 만들고, 확률 빔 서치를 실행합니다. 특히, 코드로부터 파생된 선형 계획법 완화와 거리 기반 테스트를 통해 각 프레임이 전역 ML 해답임을 '인증'하며 정확도-계산 오프셋을 제거했습니다.
본 연구는 온라인 지속적 학습(OCL)의 핵심 문제인 치명적인 망각에 대응하기 위해 새로운 최적화기 SPIN을 제안합니다. SPIN은 '가소성'과 '안정성'이라는 두 가지 개념을 분리하여, 이 둘 사이를 보간하는 방식으로 작동합니다. 이를 통해 기존 OCL 방법론 전반에서 성능 향상을 입증했습니다.
ProVe는 기존의 추측적 디코딩(Speculative Decoding) 방식을 역전시킨 새로운 기법입니다. 큰 모델을 미래 토큰 블록을 예측하는 '제안자(proposer)'로, 작은 모델을 검증자로 활용하여 자기회귀 언어 모델의 속도를 높입니다. 이 방식은 별도의 초안 헤드 학습 없이도 높은 처리량과 정확도 사이에서 제어 가능한 트레이드오프를 제공합니다.
본 연구는 비슷한 이미지 선택만으로도 비전-언어 모델(VLM)의 선호도가 전이될 수 있음을 보여줍니다. 큐레이터가 유사한 변형본 중 하나를 선택하는 과정에서, 학생 모델들은 특정 타겟에 대한 높은 로그 가능도를 보였습니다. 이 현상은 LLaVA-1.5, Qwen2.5-VL, Qwen3-VL, Gemma 4 등 여러 VLM에서 관찰되었으며, 데이터셋 크기나 학습률에 따라 그 정도가 달라집니다.
본 논문은 LLM 사용 증가에 따라 AI 개입 코드를 탐지하는 새로운 프레임워크를 제안합니다. 기존 방식의 단일 점수화 한계를 극복하고, 토큰 수준에서 AI 저작성을 모델링하여 라인 및 블록 단위로 국소적 증거를 포착합니다. 이 방법은 혼합 저작성 파일과 외부 벤치마크에서 높은 성능을 입증했습니다.
본 논문은 DPO(Direct preference optimisation)의 성능이 학습률, $\beta$와 같은 하이퍼파라미터 선택에 크게 의존함을 밝히고, 모델 크기 및 업데이트 단계 수에 따른 최적 하이퍼파라미터 변화를 광범위하게 분석했습니다. 실험 결과, 최적 학습률은 모델 크기에 따라 달라지며, 검증 손실을 최소화하는 것이 항상 좋은 대리 지표가 아님을 강조합니다.
본 논문은 에이전트 하네스 최적화의 이점을 분석하며, 단순히 성공률 향상(유도)인지 아니면 해결 가능한 작업 범위 확장(확장)인지를 구분하는 것이 중요함을 강조합니다. 연구진은 RL 문헌의 pass@k 분석을 활용하여 최적화된 하네스가 도달 가능 작업 커버리지에 미치는 영향을 체계적으로 조사했습니다.
본 논문은 JEPA 스타일의 잠재 세계 모델(LWMs)인 LaLa-World를 소개하며, 비디오 생성 모델의 언어 조건부 인터페이스를 활용하여 다양한 도메인의 데이터에서 학습할 수 있음을 보여줍니다. 이 모델은 숫자형 행동과 시각적 변화 모두를 설명하는 단일 미래 예측기를 구축하고, 이를 언어 모델 위에 통합하여 높은 계획 성능을 달성합니다.
본 논문은 센싱 스트림의 이질성과 물리 변수의 차이로 인해 어려움을 겪는 산업 유체 수송 시스템의 고장 진단 문제를 다룹니다. 이를 해결하기 위해, 물리 변수를 전역 제약 조건으로 활용하고 응답 신호를 국소 증거로 사용하는 'PhyNet'이라는 물리 변수 기반 딥러닝 프레임워크를 제안합니다.
본 논문은 Hamilton-Jacobi (HJ) 도달 가능성 분석을 기반으로, 확률론적 열거(probabilistic enumeration)를 활용하여 안전 제약 조건 위반을 감지하는 검증 기반 학습 프레임워크를 제안합니다. 이 방법은 기존 방식보다 정확한 카운터 예제 세트를 생성하며, 사전 훈련된 HJ 값 함수 미세 조정을 통해 인증 영역 확대 및 시간 단축 효과를 보였습니다.
본 논문은 LLM 에이전트 훈련의 한계인 환경 구축 및 상호작용 의존성을 극복하기 위해 Step-Advantage Policy Distillation (SAPD)을 제안합니다. SAPD는 오프라인 궤적에서 상대적 스텝 이점을 활용하여 온-정책 증류를 수행함으로써, 새로운 환경이나 실시간 상호작용 없이도 정책 개선이 가능하게 합니다.
eMudhra의 중간 CA 인증서 8개의 개인 키가 손상된 심각한 보안 사고가 발생했습니다. 이 인증서들은 Mozilla, Microsoft, Apple 등 주요 루트 프로그램에 의해 신뢰되는 체인과 연결되어 있어 광범위한 영향을 미칩니다. 사용자들은 관련 소프트웨어와 라이브러리를 즉시 업데이트해야 합니다.
H2O-Lightning-4B 의사 결정 모델이 추가되었으며, 이는 결정 LoRA가 병합된 Qwen3.5-4B를 기반으로 합니다. 이 업데이트는 특정 데이터 유형(예: 부동 소수점)의 렌더링 및 레이블 처리 방식을 개선하고, 변환기가 엄격한 메타데이터 검증을 수행하도록 하여 모델 안정성을 높였습니다.
새롭게 출시된 Eagle-4 모델이 기존의 DFlash2나 DSpark 대비 월등히 높은 성능 향상을 보여주었습니다. Qwen 3.8 27B를 기반으로 한 다양한 최적화 기법들의 벤치마크 결과를 비교하며, EAGLE-4가 가장 뛰어난 속도 개선 효과를 입증했습니다.
본 글은 디자인 리뷰나 회의실에서 발생하는 집단 순응(group conformity) 현상을 관찰하며 시작합니다. 필자는 AI 모델이 인간의 합의적인 데이터 패턴을 학습하는 과정에 주목하고, '상호 합의를 인위적으로 만들지 말라'는 지침을 통해 모델들이 외교적 분열보다 가치 있는 의견 불일치를 생성할 수 있음을 실험으로 보여줍니다.
본 글은 LLM 추론 과정에서 발생하는 메모리 비효율성을 다루며, 레거시 시스템이 GPU HBM의 상당 부분을 낭비하는 문제를 지적합니다. vLLM이 도입한 PagedAttention은 운영체제의 가상 메모리 페이징 개념을 차용하여, 연속 할당의 한계를 극복하고 메모리 단편화 및 예약 낭비를 제거함으로써 추론 효율성을 혁신적으로 개선했습니다.
본 글은 LLM 추론 과정에서 발생하는 Prefill과 Decode 단계의 물리적 차이점을 분석합니다. 프롬프트 처리(Prefill)는 병렬적인 GEMM 연산으로 계산 제한(Compute-bound)을 보이지만, 토큰 생성(Decode)은 자기회귀적 특성 때문에 순차적으로 진행되어 메모리 대역폭에 의해 제약을 받습니다.
신약 후보 물질 예측 모델에서 데이터 분할 방식이 성능에 큰 영향을 미친다는 연구입니다. 일반적인 무작위 분할은 학습된 이웃 정보를 활용하여 과대평가될 수 있으며, 실제 환경을 반영하는 시간 기반 분할(Time Split)의 중요성을 강조합니다.
소형 AI 모델이 IoT 장치 등 중앙 전원 없이도 스스로 복제하고 확산할 수 있는 능력을 갖추게 될 것이라는 연구 결과를 제시합니다. 9B 모델은 여러 하드웨어에서 추론을 실행했으며, GLM-5.2와 같은 강력한 모델들은 이미 종단 간(end to end) 복제가 가능함을 보여줍니다.