Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
arXiv논문
확률적 그래프 열 모델링(Stochastic Graph Heat Modelling)을 이용한 연결성 추정
확률적 그래프 열 모델링을 통해 뇌 연결성 등 공간 구조를 추정하는 새로운 프레임워크를 제안합니다. 기존 모델의 한계를 극복하기 위해 정규화를 추가하여 강건성을 높였으며, 실제 데이터셋 실험을 통해 공간 구조 포착 능력을 입증했습니다.
6일 전0
arXiv논문
확장 가능한 가능도 흐름 맵을 통한 소수 단계 볼츠만 생성기 (Few-Step Boltzmann Generators via Scalable
SCALLOP은 적은 수의 함수 평가로 샘플과 밀도를 동시에 생성하는 새로운 가능도 흐름 맵 모델입니다. 기존 F2D2 모델의 확률적 근사 방식 대신 확장 가능한 가능도 증류 목적 함수를 도입하여 학습 분산과 시간을 크게 단축했습니다.
6일 전0
arXiv논문
새로운 잠재 클래스 공격(Latent-Class Attack)과 클래스 부공간 직교화(Class Subspace
딥러닝 모델의 데이터 오염 공격에 대한 새로운 유형인 '잠재 클래스 공격(Latent-Class Attack)'을 제안합니다. 알려지지 않은 새로운 클래스를 타겟 클래스의 하위 클래스로 오인하게 만들어 모델을 무력화하는 공격 방식입니다.
6일 전0
arXiv논문
허리케인 이후의 신속한 피해 식별 및 복구 일정 수립을 위한 통합 2단계 딥러닝 도구
허리케인 발생 후 신속한 피해 식별과 복구 일정 수립을 위한 통합 2단계 딥러닝 도구를 제안하는 연구입니다. ResMLP와 Set Transformer를 결합한 파이프라인을 통해 높은 정확도로 손상 선로를 식별하고 복구 시간을 예측합니다.
6일 전0
arXiv논문
KoAT: 정수 프로그램의 자동 복잡도 및 종료 분석
KoAT는 정수 프로그램의 복잡도 경계와 종료 여부를 자동으로 분석하는 도구입니다. 실행 시간 및 크기 상한을 교대로 추론하는 모듈식 방식을 사용하여 서브프로그램을 분석합니다.
6일 전0
arXiv논문
이벤트 기반 서사 추출에서의 복합 일관성(Composite Coherence)에 대한 정보 기하학적 정당화
이벤트 기반 서사 추출 시 사용되는 일관성 지표의 정보 기하학적 근거를 제시하는 연구입니다. 문서 임베딩의 각도 유사도와 젠슨-샤논 거리를 결합한 복합 일관성 지표가 기하 평균을 통해 최적화됨을 수학적으로 증명했습니다.
6일 전0
arXiv논문
토큰의 영향력이 거리에 따라 어떻게 감소하는가: 학습된 언어 모델의 그린 함수(Green-Function) 관점
Transformer 언어 모델에서 토큰 간의 영향력이 거리에 따라 어떻게 감소하는지 그린 함수 관점에서 분석한 연구입니다. 실험 결과, 토큰 간 민감도는 지수적 감소가 아닌 멱법칙(power-law) 유형을 따르며, 이는 학습된 모델의 고유한 특성임을 밝혀냈습니다.
6일 전0
arXiv논문
GPC: 전이 가능한 모터 제어를 위한 대규모 생성적 사전 학습 (Large-Scale Generative Pretraining for
GPC는 토큰화와 다음 토큰 예측 기술을 활용하여 물리 기반 캐릭터 애니메이션을 위한 범용 생성적 제어기를 구축하는 연구입니다. FSQ를 통해 동작 어휘를 모델링하고 GPT 스타일의 트랜스포머로 제어 신호를 생성하여 높은 재현율과 창발적 행동을 보여줍니다.
6일 전0
arXiv논문
LLM 학습을 위한 학습률 스케일링의 비선형성에 대하여
LLM 학습 시 모델 크기와 데이터 규모에 따른 최적 학습률의 비선형적 스케일링 법칙을 분석합니다. 기존의 로그-선형 가정 대신 유효 학습률(effective learning rate)과 데이터 규모 기반 외삽을 통해 더 정확한 학습률 전이가 가능함을 입증합니다.
6일 전0
arXiv논문
언어 모델의 잠재 궤적(Latent Trajectories) 내 불변 추론 방향
잠재 추론 모델의 은닉 상태 공간 내에서 안정적인 추론 방향을 식별하고 조작하는 TILR 프레임워크를 제안합니다. 연구 결과, 잠재 궤적 내에는 저차원 불변 구조가 존재하며 이를 활용해 추론 일관성을 크게 향상시킬 수 있음을 입증했습니다.
6일 전0
arXiv논문
GLACIER: 질량 분석 스펙트럼 예측을 객체 탐지(Object Detection) 문제로 재고하기
GLACIER는 질량 분석 스펙트럼 예측을 분자 그래프 상의 객체 탐지 문제로 재정의한 새로운 연구입니다. 기존의 2단계 패러다임 대신 단일 단계 트랜스포머 기반 모델을 사용하여 정확도와 추론 속도를 획기적으로 개선했습니다.
6일 전0
arXiv논문
기호적 메커니즘적 데이터 귀속: 학습된 행동 정책으로의 훈련 영향 추적
기존 데이터 귀속 방식의 한계를 극복하기 위해, 훈련 데이터가 모델의 고차원적 행동 결정에 미치는 영향을 분석하는 SMDA 프레임워크를 제안합니다. SAE 특징과 리지 회귀를 결합하여 훈련 예시가 모델의 기호적 정책을 어떻게 변화시키는지 메커니즘적으로 규명합니다.
6일 전0
arXiv논문
Dead-Direction Conditioners: 심층 신경망을 위한 게이지 등변 전처리 (Gauge-Equivariant
심층 신경망의 파라미터 대칭성 문제를 해결하기 위해 G-등변 최적화 도구인 Dead-Direction Conditioner(DDC)를 제안합니다. DDC는 최적화 궤적이 대칭 몫 공간을 유지하도록 설계되어, AdamW의 과잉 훈련 붕괴를 방지하고 모델의 용량을 효율적으로 활용합니다.
6일 전0
arXiv논문
장기적 관점의 LLM 에이전트를 위한 선택적 메모리 유지 (Selective Memory Retention for Long-Horizon
TraceRetain은 동결된 LLM 에이전트를 위한 경량 메모리 관리 프레임워크입니다. 다양한 특징을 기준으로 메모리 항목의 점수를 매겨 불필요한 정보를 제거함으로써, 노이즈가 포함된 환경에서도 에이전트의 성능을 안정적으로 유지합니다.
6일 전0
arXiv논문
지속적인 과학적 발견을 위한 증거 기반 LLM 신념 (Evidence-Informed LLM Beliefs)
LLM을 활용한 과학적 발견 과정에서 발생하는 '베이지안 놀라움'을 개선하기 위한 연구입니다. 기존의 정적인 놀라움 측정 방식 대신, 이전 증거를 바탕으로 업데이트된 사전 확률을 사용하는 '증거 기반 신념' 메커니즘을 제안합니다.
6일 전0
arXiv논문
BaRA: 매개변수 효율적 미세 조정(Parameter-Efficient Fine-Tuning)을 위한 베이지안 적응형 랭크
BaRA는 매개변수 효율적 미세 조정(PEFT)을 위해 베이지안 방식을 활용하여 랭크를 동적으로 할당하는 프레임워크입니다. 데이터의 문맥에 따라 적응 용량을 유연하게 조절함으로써, 기존 LoRA의 경직성을 극복하고 불확실성 추정과 예측 성능을 개선합니다.
6일 전0
arXiv논문
오픈 웨이트 언어 모델(Open-Weight Language Models)의 규모에 따른 평가 인지(Evaluation Awareness)
언어 모델이 평가 맥락을 인식하는 '평가 인지(Evaluation Awareness)' 현상이 모델 규모에 따라 어떻게 변화하는지 분석한 연구입니다. Qwen 2.5, Gemma 2, Llama 3.2를 통해 규모가 커질수록 인지 정보가 저장되는 레이어의 위치가 변화함을 발견했습니다.
6일 전0
arXiv논문
BrainRiem: 소스 없는 교차 사이트 뇌 네트워크 진단을 위한 리만 프로토타입 학습 (Riemannian Prototype
BrainRiem은 fMRI 데이터의 도메인 시프트 문제를 해결하기 위해 리만 기하학을 활용한 소스 없는 도메인 적응 프레임워크입니다. SPD 매니폴드 상에서 뇌 프로토타입을 학습하여 개인정보를 보호하면서도 높은 진단 정확도를 유지합니다.
6일 전0
arXiv논문
기권(Abstention)을 포함한 베이지안 최적 팔 식별: 다항식에서 지수 함수로의 상전이
베이지안 최적 팔 식별 문제에서 기권(Abstention) 도입 시 오류 확률이 다항식 감소에서 지수적 감소로 전환되는 상전이 현상을 연구했습니다. 가우시안 모델에서 정보 이론적 하한과 일치하는 최적 오류 지수를 확립하고, 이를 달성하는 적응형 알고리즘 PGWS를 제안합니다.
6일 전0
arXiv논문
멀티 블록 확산 언어 모델 (Multi-Block Diffusion Language Models)
멀티 블록 확산 언어 모델(MBD-LMs)을 제안하여 확산 기반 텍스트 생성의 효율성과 성능을 개선합니다. MultiTF 학습 전략과 블록 버퍼 메커니즘을 통해 추론 시 병렬성을 높이고 생성 속도를 크게 향상시켰습니다.
6일 전0