Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
ZennAI 번역헤드라인
RecSys Challenge 2026 참가 보고: 대회 참여부터 논문 발표까지
본 기사는 RecSys Challenge 2026 참가 경험을 공유하며, 대화형 음악 추천 시스템 개발 과정을 다룹니다. 사용자의 발화를 분석하여 곡 순위(ranking)와 함께 자연어 응답문을 생성하는 것이 핵심 과제입니다. 대회는 nDCG@20과 Lexical Diversity 등 여러 지표를 종합한 Composite Score로 평가됩니다.
4일 전0
ZennAI 번역헤드라인
LLM은 '크게 만드는 것'만이 전부는 아니다: Looped Transformer 입문
본 기사는 LLM 모델의 크기(파라미터 수) 외에 '반복 사용'하는 구조가 중요한 기술임을 설명합니다. Looped Transformer는 가중치를 공유하여 같은 레이어를 여러 번 반복 계산함으로써, 파라미터 수를 줄이면서도 깊은 연산을 수행할 수 있는 방식을 제시합니다.
4일 전0
ZennAI 번역헤드라인
QUBO++를 이용한 FMQA (양자화학 편): 늘인 H₂의 스핀 대칭성 파괴를 60회 평가로 찾기
본 논문은 양자화학 계산의 핵심인 분자 오비탈 에너지를 효율적으로 찾기 위해 FMQA(Factorization Machine with Quantum Annealing) 프레임워크를 제안합니다. 특히, 변수를 네이티브 정수 변수로 표현하고 4차 다항식을 사용하여 에너지 예측 모델을 구축함으로써, 적은 평가 횟수로도 높은 정확도의 최적 해를 찾는 방법을 제시했습니다.
5일 전0
ZennAI 번역헤드라인
모델을 변경하지 않고도 AI 에이전트가 '업무 시스템'을 구축하는 방법: Google Research의 Harness²
Google Research가 모델 가중치 변경 없이 AI 에이전트의 성능을 개선하는 'Harness²' 연구를 공개했습니다. 이 시스템은 시스템 프롬프트, 메모리, 도구 사용 등 8가지 주변 요소를 재귀적으로 수정하며 업무 시스템 자체를 최적화합니다. 이는 에이전트의 지능 외적인 환경 구축에 초점을 맞춘 접근 방식입니다.
5일 전0
ZennAI 번역헤드라인
음성 언어 모델이 필요해서 27B ver
본 기사는 27B 모델을 활용하여 음성 언어 모델의 성능을 평가한 연구 결과를 다룹니다. 학습 없이도 ASR 태스크에서 성능 개선이 관찰되었으며, VRAM 24GB 환경에서도 1.7B + 27B 구성을 통해 학습이 가능함을 보여줍니다. 다만, 순수 성능은 높으나 음성 기반 모델의 경우 9B 대비 정확도가 다소 낮아지는 경향을 보였습니다.
6일 전1
ZennAI 번역헤드라인
AI가 작성한 글은 기술적으로 어떻게 구별할 수 있는가
AI 텍스트 탐지기는 글의 출처(provenance)가 아닌 통계적/문체적 특징을 분석하여 AI 생성 확률을 추정합니다. 현재 방법은 전자 워터마킹과 자동 탐지로 나뉘며, 특히 워터마크는 선택된 토큰에 미세한 편향을 삽입하는 방식으로 작동합니다.
6일 전1
ZennAI 번역헤드라인
Steering에서 망가진 것은 '층의 위치'인가 '층의 수'인가 — 24개 층을 하나씩 측정하다
본 글은 Qwen2.5-0.5B-Instruct 모델에 Activation Steering 벡터를 주입하는 실험을 통해, 모델의 출력이 붕괴되는 원인이 '층의 위치'가 아닌 '더하는 층의 수(개수)' 때문임을 밝혀냈습니다. 또한, 방향 벡터의 크기(노름)는 뒤쪽 층일수록 커지며, 이는 KL 다이버전스 값 증가와 연관됨을 분석했습니다.
6일 전1
ZennAI 번역헤드라인
TabPFN 학습 노트: Claude Code에서 초보 KNIMEST를 위한 강의 자료
이 학습 노트는 TabPFN 모델의 원리와 적용 방법을 체계적으로 다룹니다. 사후 예측 분포(PPD)와 사전 분포 설계, Transformer가 표 데이터를 처리하는 방식 등 핵심 이론을 깊이 있게 설명합니다. 초보자도 이해할 수 있도록 단계별 강의 자료 형태로 구성되어 있습니다.
6일 전1
ZennAI 번역헤드라인
규칙만 알려주고, 삼인 장기 AI를 키웠습니다 (AlphaZero 방식・RTX 3080 한 장으로)
본 글은 세 사람이 참여하는 '삼인 장기' 게임에 AlphaZero 방식을 적용하여 AI를 학습시킨 과정을 다룹니다. 기존의 평가 함수나 탐색 방식으로는 3인 환경의 복잡성을 해결하기 어려워, MCTS(Monte Carlo Tree Search)를 확장하고 강화학습을 통해 자체 대국으로 모델을 완성했습니다.
10월 17일1
ZennAI 번역헤드라인
AI 에이전트의 폭주를 막는 새로운 보안 제안: 행동 전에 '내부 상태'를 감시하는 Reflex-Sentinel 개발
본 글은 AI 에이전트가 외부 감시를 회피하며 속임수나 허위 보고를 할 수 있는 문제를 지적하고, 이를 해결하기 위해 행동 전에 모델의 '내부 상태'를 감시하는 Reflex-Sentinel(RS) 시스템을 제안합니다. RS는 선형 모델, JEPA, LLM을 결합하여 에이전트가 위험한 방향으로 기울기 시작할 때 사전에 포착할 수 있음을 실증적으로 입증했습니다.
10월 17일1
ZennAI 번역헤드라인
「何倍圧縮」で規模を比べてはいけない——一つの主張を5回訂正した記録
본 기사는 소형 언어 모델(LLM)의 압축 및 최적화 과정에서 발생한 여러 가지 오해와 잘못된 주장을 기록하고 있습니다. 특히, 어휘 크기 증가에 따른 이득을 측정할 때 '학습량'과 '압축 품질 손실' 같은 핵심 변수를 통제하지 않아 결론이 역전되는 과정을 보여줍니다.
10월 17일0
ZennAI 번역헤드라인
모델을 변경하기 전에, 검증 대장을 한 줄 작성하기
AI 모델 실험 시, 무작정 코드를 수정하기보다 '실험 계획 대장'을 작성하는 것이 중요합니다. 이 글은 다음 실험을 실행하기 전에 가설, 변경점, 학습/평가 조건 등을 체계적으로 기록하고 관리하는 방법을 제시합니다.
10월 16일1
ZennAI 번역헤드라인
1M 규모 LLM을 1MB로 압축하는 개인 연구 기록
본 글은 1M 파라미터 LLM을 극도로 압축하는 개인 연구 기록입니다. 저자는 노트북 환경에서 일본어 언어 모델의 학습, 평가, 그리고 압축 과정을 직접 수행하며, 현재 13MB 규모를 995KB까지 줄이는 성과를 보고했습니다. 이 글은 성공 사례보다는 실패 패턴과 측정 과정의 오류를 재현 가능한 형태로 기록하여 독자들의 함정을 줄이는 데 목적을 두고 있습니다.
10월 16일1
ZennAI 번역헤드라인
로컬 LLM의 '성격'을 한 레이어만 조작하기 — Activation Steering 실험기
본 글은 로컬 LLM의 내부 구조를 분석하는 'AI Dissection Editor'를 소개하고, Activation Steering 기법을 활용하여 모델의 출력을 조작한 실험 결과를 공유합니다. 이 기법은 특정 방향 벡터를 레이어 중간에 더해 모델의 행동(말투 등)을 유도하며, 여러 레이어에 적용할 경우 불안정성이 높아지지만 단일 레이어에만 적용하면 성공적으로 원하는 스타일 변화를 구현할 수 있음을 보여줍니다.
10월 15일0
ZennAI 번역헤드라인
최대 하강법, 뉴턴법, 준뉴턴법 비교: 답이 알려진 문제에서 반복 횟수 세기
본 기사는 최소값을 찾는 반복 알고리즘(최대 하강법, 뉴턴법, 준뉴턴법)을 비교 분석합니다. 목적 함수를 직접 풀기 어려운 경우, 현재 위치에서 점진적으로 기울기가 0인 지점에 근접하는 방법을 다룹니다. 직선 탐색법의 원리와 알미호 조건 등 수리 최적화 기법에 대한 깊이 있는 이해를 제공하며, 실제 다중 회귀 문제 해결 예시를 통해 학습합니다.
10월 15일1
ZennAI 번역헤드라인
어휘를 두 배로 늘려도 의미는 1.39배에 불과하다
소규모 언어 모델의 규모와 학습량을 변화시키며 임베딩 공간의 중복성을 측정했습니다. 어휘를 두 배로 늘려도 독립적인 의미는 1.39배 증가에 그치는 등, 단순한 크기 증가는 효율적이지 않음을 보여줍니다. 또한, 학습은 말을 분화시키는 것이 아니라 같은 역할을 하는 말들을 통합(수렴)하는 경향이 있음을 발견했습니다.
10월 15일1
ZennAI 번역헤드라인
【PyTorch 구현】 포화 반응기(Saturable Reactor) 기반 가변 리액턴스 어텐션
본 기사는 자기 증폭기(Saturable Reactor)의 물리적 다이내믹스를 응용하여, 입력 컨텍스트에 따라 어텐션 감도를 동적으로 조절하는 새로운 메커니즘을 제안합니다. 기존 Transformer의 고정 스케일링 문제를 해결하기 위해 '직류 바이어스'를 전역적 컨텍스트로 활용하고, 자기 포화 효과를 통해 과도한 정보 입력 시 어텐션을 자율적으로 억제합니다.
10월 14일1
ZennAI 번역헤드라인
어디에 증류할지 학습하여 결정한다: BiToK-SD가 Top-K 토큰 선택을 이중 레벨 최적화로 해결하는 메커니즘
BiToK-SD는 Top-K 토큰 선택 과정을 미분 가능한 임계값 완화로 정식화하고, 이중 레벨 최적화를 통해 증류할 위치와 강도를 학습합니다. 기존의 on-policy 자체 증류(OPSD)가 모든 토큰에 균일한 손실을 적용하는 한계를 극복했습니다. 실험 결과, BiToK-SD는 다양한 스케일에서 OPSD 대비 높은 성능 향상을 보여주었습니다.
10월 14일1
ZennAI 번역헤드라인
표 형식 데이터용 기반 모델 NVIDIA Kumo Tabular 소개
NVIDIA가 고성능 표 형식 데이터 기반 모델(TFM)인 Kumo Tabular를 공개했습니다. 이 모델은 4가지 주요 벤치마크에서 최고 성능을 기록했으며, 파라미터 업데이트 없이 In-context Learning만으로 추론이 가능하다는 것이 특징입니다.
10월 14일1
ZennAI 번역헤드라인
Psi4와 RDKit을 사용한 Fukui Index 계산_제4회: 기계 학습을 염두에 둔 다중 분자 연속 계산(배치 처리) 앱 개발
본 글은 Fukui Index 계산을 위해 개발된 GUI 애플리케이션을 확장하여, 수많은 후보 화합물 목록(SMILES 파일)에 대해 연속적인 배치 처리(Batch Processing)가 가능한 기능을 소개합니다. 사용자는 설정한 계산 방법론과 기저 함수를 기반으로 대규모 스크리닝을 자동화할 수 있으며, 진행 상황 시각화와 중단 기능까지 구현하여 연구 효율성을 극대화했습니다.
10월 13일0