Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Lobste.rs AI 91건필터 해제
Lobste.rs헤드라인
언어 모델은 데이터 내의 숨겨진 신호를 통해 행동 특성을 전달한다
모델 증류 과정에서 의미론적으로 관련 없는 데이터를 통해서도 교사 모델의 행동 특성이 학생 모델로 전이되는 '잠재적 학습(subliminal learning)' 현상을 규명한 연구입니다. 숫자 시퀀스나 코드와 같은 데이터에서도 모델의 편향이나 정렬되지 않은 특성이 상속될 수 있음을 실험과 이론으로 증명했습니다.
6월 6일0
Lobste.rs헤드라인
Trellis에 RadixAttention 도입하기
Trellis 시스템에서 LLM 추론의 prefill 단계를 최적화하기 위해 RadixAttention을 도입한 기술적 과정을 설명합니다. 라딕스 트리(Radix Tree) 구조를 활용한 접두사 캐싱(Prefix Caching)을 통해 중복되는 시스템 프롬프트와 토큰 임베딩의 저장 공간을 최소화하고 효율적인 KV 캐싱을 구현합니다.
6월 3일0
Lobste.rs헤드라인
Microsoft Intelligent Terminal 0.1 발표
Microsoft가 네이티브 에이전트 통합 기능을 갖춘 Windows Terminal의 실험적 포크 버전인 Intelligent Terminal 0.1을 발표했습니다. 이 도구는 셸 출력의 문맥을 인식하는 에이전트 창을 통해 개발자의 오류 해결 및 명령 실행 과정을 혁신적으로 지원합니다.
6월 3일0
Lobste.rs헤드라인
thunderbolt-ibverbs: 우리 집에도 InfiniBand가 있습니다
USB4 연결을 고성능 InfiniBand 장치처럼 인식하도록 만드는 리눅스 커널 모듈과 유저스페이스 심을 개발했습니다. 이를 통해 두 대의 Strix Halo 미니 PC 간에 저지연 분산 추론을 구현하는 데 성공했습니다.
6월 2일0
Lobste.rs헤드라인
사용자와 마찬가지로 LLM 제약하기
LLM의 출력을 제어하기 위해 시스템 프롬프트에 의존하는 대신, 토큰 확률을 활용하여 출력 범위를 물리적으로 제약하는 기술적 접근법을 다룹니다. 프롬프트 주입 공격에 취약한 기존 방식의 한계를 지적하며, 추론 후 검증보다 효율적인 토큰 단위 제어의 필요성을 설명합니다.
6월 1일1
Lobste.rs헤드라인
단순한 X가 아닙니다. 그것은 Y입니다
LLM이 생성하는 특정 문장 구조와 언어적 패턴이 글쓰기와 평가에 미치는 영향을 분석합니다. AI 탐지 도구가 인간의 고유한 문체를 기계적인 것으로 오인하여 오히려 인간의 목소리를 훼손하는 현상을 비판합니다.
6월 1일0
Lobste.rs헤드라인
200파운드로 게이밍 PC에 데이터센터 GPU를 장착해 보았다
저렴한 비용으로 데이터센터용 GPU인 Tesla V100 SXM2를 구매하여 일반 게이밍 PC에 장착하는 방법을 소개합니다. 어댑터를 통해 PCIe 슬롯이 없는 SXM2 폼 팩터를 연결함으로써, 고가의 소비자용 GPU보다 뛰어난 메모리 대역폭을 확보하고 LLM 추론 성능을 높였습니다.
5월 31일0
Lobste.rs헤드라인
컨텍스트 엔지니어링 (Context Engineering)을 위한 에이전틱 검색 (Agentic Search)
에이전트의 성능을 결정짓는 핵심 요소인 컨텍스트 엔지니어링의 개념을 정의하고, 기존 RAG의 한계를 극복하기 위한 에이전틱 검색(Agentic Search)의 필요성을 설명합니다.
5월 28일0
Lobste.rs헤드라인
ax, Google의 새로운 고분산 에이전트 실행기 (Agent Executor)
Google이 발표한 AX(Agent eXecutor)는 분산 환경에서 에이전트 루프를 조정하고 관리하는 에이전트 런타임입니다. 복잡한 분산 설정에서도 실행 재개와 복구를 지원하며, 격리된 상태에서 스킬, 도구, 에이전트를 실행할 수 있는 기능을 제공합니다.
5월 28일0
Lobste.rs헤드라인
코딩을 하지 않는 코딩 에이전트
직접 코드를 작성하지 않고 사용자의 결정에 이의를 제기하며 피드백을 주는 소크라테스식 코딩 에이전트 'Socreates'를 소개합니다. 에이전트의 핵심 구성 요소인 워크스페이스 정보 수집, 도구 실행, 컨텍스트 제어, 메모리 유지의 개념을 설명합니다.
5월 27일0
Lobste.rs헤드라인
Sidekick: 수십 개의 에이전트가 코드를 재작성하는 동안에도 Neovim을 계속 사용하는 방법
다수의 AI 에이전트가 코드베이스를 동시에 수정하는 환경에서도 Neovim 사용자가 작업 흐름을 유지할 수 있도록 돕는 Sidekick 도구를 소개합니다. Sidekick은 Neovim 외부에서 작동하며 에이전트의 코드 재작성 중에도 작업 환경의 안정성을 보장합니다.
5월 27일0
Lobste.rs헤드라인
프로토타입 개발 의도: Embedding API
Chrome의 온디바이스 AI 인프라를 활용하여 브라우저 내에서 직접 임베딩을 생성하는 새로운 Web Platform API를 제안합니다. 이 API는 클라우드 API의 비용과 지연 시간, DIY 방식의 리소스 낭비 문제를 동시에 해결하며 시맨틱 검색과 RAG 기능을 강화합니다.
5월 26일0
Lobste.rs헤드라인
AI에서의 Open/Closed 문제
MLSys 컨퍼런스 경험을 바탕으로 AI 시스템의 발전 과정을 Open/Closed 문제 관점에서 분석합니다. 하드웨어의 범용성과 특수성 사이의 순환, 그리고 모델 학습과 추론의 분리 문제를 다룹니다.
5월 25일0
Lobste.rs헤드라인
네트워크 허용 목록(Allow-List)만으로는 데이터 유출을 막을 수 없다
네트워크 도메인 허용 목록(Allow-list) 방식의 샌드박스가 가진 보안 사각지대를 경고합니다. 승인된 도메인이나 DNS 채널을 통해 민감한 데이터가 유출될 수 있는 공급망 공격의 위험성을 설명합니다.
5월 24일0
Lobste.rs헤드라인
Open weights 모델이 조용히 좁혀지고 있으며, 이는 문제입니다
Open weights 모델이 프런티어 모델 시장에 미치는 경제적 영향과 중요성을 분석합니다. 개인정보 보호, 유연성, 비용 효율성을 강점으로 하는 개방형 모델이 폐쇄형 모델 시장의 가격 경쟁을 유도하는 핵심 요소임을 설명합니다.
5월 22일0
Lobste.rs헤드라인
jlearn: J 언어로 작성된 머신러닝 라이브러리
J 언어를 기반으로 구현된 머신러닝 라이브러리인 jlearn을 소개합니다. MLP, K-Means, KNN 등 다양한 알고리즘을 제공하며, 모델 직렬화 기능을 지원합니다.
5월 22일0
Lobste.rs헤드라인
ThunderKittens 해부: 고성능 AI 커널을 위한 컴팩트한 DSL의 구조
ThunderKittens는 고성능 AI 커널 작성을 위해 설계된 임베디드 DSL로, 하드웨어 제어와 프로그래밍 추상화 사이의 균형을 제공합니다. CUDA의 복잡성을 줄이면서도 타일 레이아웃과 공유 메모리 관리를 효율적으로 수행하여 최적의 GPU 성능을 끌어냅니다.
5월 22일1
Lobste.rs헤드라인
OpenMythos: Claude Mythos 아키텍처에 대한 이론적 재구성 (연구 문헌 기반)
OpenMythos는 Claude Mythos 아키텍처를 이론적으로 재구성한 오픈 소스 구현체입니다. 순환 깊이 트랜스포머(RDT) 구조와 희소 MoE를 활용하여 연산 적응형 및 가변 깊이 추론을 구현합니다.
5월 22일0
Lobste.rs헤드라인
10년간의 탐지 로직 작성 경험이 Mythos Exploit 수치를 덜 두렵게 만드는 이유
Anthropic의 Mythos 모델이 보여주는 취약점 탐지 속도에 대한 우려를 다루며, 탐지 엔지니어의 관점에서 행동 기반 탐지의 중요성을 강조합니다. 개별 익스플로잇에 의존하기보다 공격자의 동작 패턴을 파악하는 것이 방어의 핵심임을 설명합니다.
5월 22일0
Lobste.rs헤드라인
microgpt를 Futhark로 포팅하기, 제1부
Andrej Karpathy의 microgpt를 데이터 병렬 언어인 Futhark로 포팅하는 과정을 다룹니다. Python 구현의 확장성 한계를 극복하기 위해 Futhark의 병렬 프리미티브를 활용하여 순전파(forward pass)를 구현하는 방법을 소개합니다.
5월 22일0