Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Deep Tech요약
WifiForge — WiFi 공격 실험실
WifiForge는 Mininet-wifi를 기반으로 구축된 가상의 WiFi 공격 실험실입니다. 이 도구는 실제 하드웨어 없이도 다양한 WiFi 네트워크와 공격 시나리오를 시뮬레이션할 수 있게 해줍니다. 따라서 사용자들은 안전하고 통제된 환경에서 WiFi 보안 취약점을 학습하고 테스트할 수 있습니다.
5월 4일9
arXivAI 번역논문
당신은 A-hole입니까? 논리적 일관성을 보장하는 공정한 다각도 윤리 추론 프레임워크
본 논문은 자연어 판단을 단순히 다수결로 취급할 때 발생하는 논리적 비일관성 문제를 해결하기 위해, Weighted Maximum Satisfiability (MaxSAT) 기반의 신경 기호적 집계 프레임워크를 제안합니다. 이 프레임워크는 언어 모델(LLM)을 사용하여 비구조화된 자연어 설명을 해석 가능한 논리 전제와 신뢰도 가중치로 변환하고, 이를 Z3 솔버 내 소프트 제약으로 인코딩하여 최대 일관성을 추구하는 최적화 문제로 집계합니다. Reddit의 r/AmItheAsshole 포럼 사례 연구를 통해, 이 방법은 기존 방식보다 높은 논리적 일관성과 인간 평가자 간의 높은 동의율을 달성함을 입증했습니다.
5월 4일6
arXivAI 번역논문
Zero-Shot 이진 비전-언어 안전 분류에서 프롬프트 유도 점수 분산
본 논문은 제로샷(zero-shot) 비전-언어 모델(VLM)의 안전 분류에서 단일 프롬프트 기반 첫 토큰 확률 점수가 신뢰할 수 없음을 보여줍니다. 의미적으로 동등한 프롬프트를 사용하더라도, 같은 샘플에 대해 크게 다른 '안전하지 않은' 확률을 유도할 수 있습니다. 이러한 크로스-프롬프트 분산(cross-prompt variance)은 모델의 취약성을 진단하는 유용한 지표가 됩니다. 연구진은 훈련 없이 평균화한 임베딩(mean ensemble) 기법이 단일 프롬프트 기반 방식보다 성능을 개선하며, 이를 VLM 안전성 평가를 위한 표준적인 레이블 프리(label-free) 신뢰성 기준으로 제안합니다.
5월 4일5
arXivAI 번역논문
AgentFloor: 소형 오픈 웨이트 모델이 도구 사용 계단에서 얼마나 높은 곳에 도달할 수 있는가?
본 논문은 생성형 에이전트 시스템의 실질적인 설계 문제를 다루며, 모든 작업을 거대 모델에 의존하는 것이 비효율적임을 지적한다. 연구진은 'AgentFloor'라는 30가지 작업으로 구성된 계단식 벤치마크를 개발하여, 소규모 오픈 웨이트 모델이 일상적이고 구조화된 도구 사용 작업에서 매우 강력한 성능을 보인다는 것을 입증했다. 그 결과, 에이전트 시스템은 대부분의 작업을 소형 모델로 처리하고, 장기 계획이나 복잡한 제어가 필요한 좁은 영역에만 대규모 프론티어 모델을 사용하는 하이브리드 접근 방식이 가장 효율적임을 시사한다.
5월 4일6
arXivAI 번역논문
비용 제약 조건을 리만 다양체로 보는 것
본 논문은 머신러닝 모델 최적화 과정에서 발생하는 복잡한 비용 제약 조건 문제를 리만 다양체(Riemannian manifold)의 기하학적 구조로 해석하고 이를 활용하는 새로운 프레임워크를 제시합니다. 기존 방법들이 대리 목표나 근사적인 예산 강제에 의존했던 것과 달리, 연구진은 소프트맥스 완화 하에서 비용 제약이 단순한 리만 다양체를 형성함을 발견했습니다. 이를 바탕으로 접선 투영 및 이진 검색 재traction을 포함하는 리만 제약 최적화(RCO)를 제안하며, 이는 정확한 예산 강제와 진정한 목표의 1차 최적화를 가능하게 하여 기존 방법들보다 월등히 높은 성능과 효율성을 입증했습니다.
5월 4일6
arXivAI 번역논문
예산 감지 라우팅: 긴 임상 텍스트를 위한 최적화 전략
본 논문은 긴 임상 텍스트를 처리하는 대형 언어 모델(LLM)의 비용 및 지연 시간 제약 문제를 해결하기 위해 '예산 감지 컨텍스트 선택(Budgeted Context Selection)' 전략을 제시합니다. 이 방법론은 문서 단위의 부분 집합을 선택하여, 고정된 토큰 예산 내에서 관련성, 커버리지, 다양성을 최적화하는 knapsack-constrained subset selection 문제로 재정의됩니다. 연구진은 RCD라는 모노톤 서브모듈러 목적 함수를 제안하고, 다양한 유니티제이션 및 라우팅 휴리스틱을 비교 분석하여 LLM 성능 향상에 기여합니다.
5월 4일8
arXivAI 번역논문
모든 검증된 토큰을 활용하는 방법: MoE 스펠루세티브 디코딩을 위한 적응형 검증
EVICT는 희소 혼합 전문가(MoE) 모델을 위한 적응형 검증 기법으로, 기존 트리 기반 스펠루세티브 디코딩의 높은 계산 비용 문제를 해결합니다. EVICT는 드래프트 트리를 효율적으로 절단하여 필수적인 접두사만 유지하고, 모든 검증된 토큰이 세분화된 신호를 활용해 후보를 평가함으로써 자원 낭비를 줄입니다. 이 방법은 MoE 백본과 결합되어 자기회귀 디코딩 대비 최대 2.35배의 속도 향상을 달성하며, 기존 최첨단 기법보다도 우수한 성능을 보여줍니다.
5월 4일9
arXivAI 번역논문
스파이크 시퀀스 머신과 트랜스포머
본 논문은 시퀀스 학습의 근본적인 특성을 분석하며, 스파이크 분산 기억(Liquid State Machine)과 트랜스포머 같은 다양한 시퀀스 모델들이 코사인 유사성 기반 검색 원리를 공유하여 동일한 5가지 기능적 연산을 수행함을 보여줍니다. 특히 '위상-지연 동형(Phase-Latency Isomorphism)'이라는 개념을 공식화하고, 사인파 위치 위상과 스파이크 타이밍 간의 선형 관계를 증명합니다. 연구 결과는 위치 표현의 핵심 속성이 단순히 거리 구별성보다는 사인파 형태 자체에 있음을 강조하며, 시간, 위상, 랭크가 동일한 계산 원리의 세 가지 인스턴스임을 제시합니다.
5월 4일6
arXivAI 번역논문
Odysseus: 게임 내 100 회 이상의 결정 작업을 위한 VLM 확장
본 논문은 시각-언어 모델(VLM)의 역량을 비디오 게임과 같은 장기적이고 상호작용적인 결정 작업으로 확장하기 위한 새로운 RL 기반 훈련 프레임워크인 Odysseus를 제안합니다. 기존 VLM 접근법이 짧은 지평이나 대규모 감독 데이터에 의존했던 한계를 극복하고, Super Mario Land와 같은 환경에서 100회 이상의 연속적인 상호작용을 성공적으로 수행하는 것을 목표로 합니다. 연구진은 PPO 변형과 경량화된 크리틱(critic) 적용을 통해 훈련 안정성과 샘플 효율성을 개선했으며, 사전 학습된 VLM이 제공하는 행동 선행 확률(action priors)의 활용을 통해 수동 설계 의존도를 낮추고 실질적인 성능 향상을 입증했습니다.
5월 4일4
arXivAI 번역논문
FedKPer: 의료 연방 학습의 일반화 및 개인화를 지식 개인화를 통해 해결하다
FedKPer는 의료 분야의 연방 학습(FL)에서 발생하는 통계적 이질성 문제를 해결하기 위해 지식 개인화(Knowledge Personalization)를 도입한 새로운 프레임워크입니다. 기존 FL 모델은 전역적인 일반화와 개별 병원의 특수한 데이터 분포에 대한 적응(개인화) 사이의 균형을 맞추는 데 어려움을 겪어 망각 현상을 초래했습니다. FedKPer는 로컬 학습 단계에 지식 개인화를 적용하고, 신뢰성 높은 업데이트를 강조하는 전역 집계 과정을 통해 이 두 목표 간의 트레이드오프를 개선하여 성능과 데이터 보존력을 동시에 높입니다.
5월 4일8
arXivAI 번역논문
다중 모달 EHR 데이터를 활용한 고안검 (Glaucoma) 진행 경로 분류를 위한 심층 커널 학습 (Deep Kernel Learning)
본 논문은 다중 모달 전자의 건강 기록(EHR) 데이터를 활용하여 녹내장(Glaucoma) 환자의 진행 경로를 분류하는 새로운 심층 커널 학습(DKL) 구조를 제안합니다. 이 방법은 트랜스포머 기반 특징 추출기와 가우시안 프로세스(GP) 백엔드를 결합하여, 단순히 현재 질병 상태가 아닌 미래의 진행 위험을 예측할 수 있습니다. 연구 결과, 모델은 임상적으로 의미 있는 세 가지 환자 하위 그룹을 성공적으로 식별했으며, 특히 시력은 양호하지만 진행 경향이 악화되는 고위험군을 구분해내는 능력을 입증했습니다.
5월 4일7
arXivAI 번역논문
혼합 모델 관점에서 LLM 앙상블 재고: Mixture-model-like Ensemble (ME)
본 논문은 LLM 앙상블의 성능 향상 잠재력을 인정하면서도, 전통적인 방식이 수반하는 높은 계산 비용 문제를 해결하기 위해 '혼합 모델과 유사한 앙상블(ME)'을 제안합니다. ME는 전체 앙상블 분포를 명시적으로 계산할 필요 없이, 토큰 생성 단계마다 확률적으로 단일 모델을 선택하여 사용하는 방식으로 작동합니다. 이 접근 방식은 기존 앙상블 방법과 수학적으로 동등하면서도 호출 비용을 크게 줄여 효율성을 높입니다.
5월 4일7
arXivAI 번역논문
RadLite: CPU 배포용 소형 언어 모델의 다중 작업 LoRA 파인튜닝
본 연구는 대규모 언어 모델(LLMs)의 높은 계산 요구 사항 문제를 해결하기 위해, 30억~40억 파라미터 규모의 소형 언어 모델(SLMs)을 활용하여 방사선학 분야의 다중 작업 성능을 개선하는 방법을 제시합니다. LoRA 파인튜닝 기법을 통해 다양한 임상 과제에 걸쳐 SLM들을 성공적으로 훈련시켰으며, 이를 GGUF 형식으로 양자화하여 소비자급 CPU 환경에서도 효율적으로 배포할 수 있음을 입증했습니다.
5월 4일5
arXivAI 번역논문
예측 불가능한 병원 재입원 예측을 위한 시간적 데이터 요구사항
본 연구는 골절 및 무릎 인플란트 후 30일 재입원 예측에 필요한 최적의 역사적 데이터 시간 창을 결정하는 것을 목표로 합니다. 다양한 관찰 기간(수술 전 최대 3년)과 여러 임베딩 기법(BOW, TF-IDF부터 BERT, BiLSTM 등)을 사용하여 구조화된 EHR 기록과 비구조화된 임상 노트를 결합한 모델의 성능을 평가했습니다. 그 결과, 비구조화된 임상 노트는 수술 전 3~6개월의 비교적 짧은 시간 창에서 최대 예측 성능을 보인 반면, 구조화된 데이터는 시간이 지남에 따라 성능이 점진적으로 개선되었으나 특정 시점 이후에는 포화되는 경향을 보여, 모달리티별로 최적의 데이터 사용 전략이 다름을 입증했습니다.
5월 4일5
arXivAI 번역논문
랜덤화된 서브스페이스 네스테로프 가속화 경사 하강법
본 논문은 랜덤화된 서브스페이스(Randomized-subspace) 정보만을 활용하여 일차 최적화 비용을 줄이는 새로운 네스테로프 가속화 경사 하강법을 개발했습니다. 이 방법은 특히 통신이 제한적이거나 포워드 모드 자동 미분이 필요한 환경에서 효율적입니다. 연구진은 행렬 매끄러움과 일반적인 스키치 모멘트 가정을 기반으로, 전체 차원 네스테로프 방법을 복원하는 세 가지 시퀀스 형성 기술을 도입하여 이론적으로 가속화된 오라클 복잡도 보장을 확립했습니다.
5월 4일7
arXivAI 번역논문
ReLay: 개인화된 LLM 생성 평이어 요약의 이해도 향상, 그러나 어떤 비용으로?
본 논문은 연구 결과를 일반 독자에게 전달하는 '평이어 요약(PLS)'의 한계를 지적하며, LLM 기반의 개인화된 PLS가 이 문제를 해결할 수 있는 대안임을 제시합니다. 저자들은 사용자 특성 및 이해도를 고려한 ReLay 데이터셋을 구축하고 이를 활용하여 5개의 LLM을 평가했습니다. 연구 결과, 개인화는 독자의 이해도와 품질 인식을 높이지만, 동시에 사용자의 편향 강화나 환각(hallucinations) 도입과 같은 안전성 위험을 증가시키는 트레이드오프가 있음을 보여줍니다.
5월 4일6
arXivAI 번역논문
양자 신경망의 인증된 학습을 위한 양자 구간 경계 전파
본 논문은 양자 머신러닝 모델의 인증된 학습을 위해 '양자 구간 경계 전파(QIBP)'를 제안합니다. QIBP는 고전적인 인증 학습 방법인 IBP를 양자 도메인에 적용하여, 훈련 과정에서 적대적 섭동이 발생하더라도 모델이 올바른 라벨 예측을 보장하는 강력한 결정 경계를 확립합니다. 연구진은 이 방법을 구간 산술과 선형 산술 두 가지 방식으로 구현하고 평가하여 그 효과를 입증했습니다.
5월 4일5
arXivAI 번역논문
AGoQ: 대규모 언어 모델 (LLM) 의 메모리 효율적 분산 훈련을 위한 활성화 및 경사 양자화
AGoQ는 대규모 언어 모델(LLM)의 메모리 효율적인 분산 훈련을 위해 활성화와 경사 양자화 기술을 결합한 새로운 프레임워크입니다. 이 방법은 레이어별로 최적의 비트 폭을 할당하여 활성화를 거의 4-bit 수준으로 저장하고, 통신 시간을 줄이는 8-bit 경사 및 All-Reduce를 사용합니다. 실험 결과, AGoQ는 기존 최고 수준의 분산 훈련 시스템 대비 메모리를 최대 52% 절감하고 훈련 속도를 크게 향상시키면서도 모델 정확도를 유지할 수 있음을 입증했습니다.
5월 4일8
arXivAI 번역논문
ML-Bench&Guard: 정책 기반 다국어 안전 벤치마크 및 대형 언어 모델용 방벽
본 기술 기사는 LLM의 글로벌 배포에 따른 안전성 확보 문제를 다루며, 14개 언어를 포괄하는 정책 기반 다국어 안전 벤치마크인 ML-Bench를 소개합니다. ML-Bench는 지역 규정 및 법적 텍스트에서 파생된 위험 범주와 세부 규칙을 사용하여 문화적/법적으로 정렬된 평가가 가능하게 합니다. 또한, 이를 기반으로 다국어 안전 판단과 정책 조건부 준수 평가를 지원하는 Diffusion LLM(dLLM) 기반 방벽 모델인 ML-Guard를 개발했으며, 기존 벤치마크 대비 우수한 성능을 입증했습니다.
5월 4일8
arXivAI 번역논문
SAVGO: 연속 제어에서 코사인 유사성을 활용한 상태-행동 가치 기하학 학습
SAVGO는 강화학습(RL)의 샘플 효율성을 높이기 위해 상태-행동 가치 기하학을 활용하는 새로운 알고리즘입니다. 이 방법은 유사한 행동-가치 추정을 가진 쌍이 높은 코사인 유사도를 갖도록 임베딩 공간을 학습하며, 이를 통해 정책 업데이트를 지역적 기울기 기반 방식에서 벗어나 더 넓고 높은 가치의 영역으로 직접 안내할 수 있습니다. SAVGO는 표현 학습, 가치 추정 및 정책 최적화를 단일 기하학 일관성 목표로 통합하여 오프-폴리시 훈련의 확장성을 유지하며, 연속 제어 과제에서 강력한 성능 개선을 입증했습니다.
5월 4일9