Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Lobste.rsAI 번역헤드라인
LLM이 실제로 작동하는 방식
현대 LLM의 핵심인 Transformer 아키텍처의 작동 원리를 입문자 수준에서 설명합니다. 토큰화부터 임베딩, 어텐션 메커니즘, 다음 토큰 예측에 이르는 전체 파이프라인을 다룹니다.
6월 18일1
Lobste.rsAI 번역헤드라인
gzip이 언어 모델(Language Model)이 될 수 있을까?
압축-예측 등가성 원리를 바탕으로, 신경망 없이 gzip 압축 알고리즘만을 활용하여 언어 모델링을 구현하는 실험적 접근법을 다룹니다. 압축 효율이 높을수록 예측 확률이 높다는 점을 이용해 빔 서치 방식으로 텍스트를 생성하는 원리를 설명합니다.
6월 16일1
Lobste.rsAI 번역헤드라인
WeatherMesh-6의 새로운 기능
WeatherMesh-6(WM-6)는 ECMWF의 IFS 및 AIFS보다 뛰어난 정확도를 자랑하는 차세대 AI 기상 예보 모델입니다. 잠재 공간에서의 앙상블 모델링을 통해 예측 성능을 극대화했으며, 방대한 변수 카탈로그를 제공하여 다양한 산업 분야에서의 활용도를 높였습니다.
6월 15일2
Lobste.rsAI 번역헤드라인
우리의 내부 코딩 에이전트 오케스트레이션 도구인 Bottega를 오픈 소스로 공개합니다
에이전트 오케스트레이션 도구인 Bottega를 오픈 소스로 공개하며, 에이전트 중심 개발 사이클의 핵심인 '계획(plan)'의 중요성을 강조합니다. 단순 프롬프트가 아닌 수락 기준을 갖춘 지속적인 산출물로서의 요구사항 관리를 제안합니다.
6월 15일1
Lobste.rsAI 번역헤드라인
Claude Fable 5 및 Claude Mythos 5
Anthropic이 최첨단 성능을 갖춘 새로운 모델인 Claude Fable 5와 사이버 보안 특화 모델인 Claude Mythos 5를 출시했습니다. Fable 5는 소프트웨어 엔지니어링 및 과학 연구 등 다양한 분야에서 기존 모델을 능가하는 성능을 보여줍니다.
6월 15일2
Lobste.rsAI 번역헤드라인
Siri의 미래, 혹은 프라이빗 추론 (Private Inference)이 충분히 프라이빗하지 않은 이유
Apple이 Siri의 AI 역량 강화를 위해 Google Gemini와 자체 Private Cloud Compute(PCC)를 결합하는 전략을 분석합니다. 개인 데이터 보호를 위한 하드웨어 보안 모듈과 상태 비저장 설계의 기술적 구현과 보안성에 대한 논쟁을 다룹니다.
6월 15일1
Lobste.rsAI 번역헤드라인
OpenCL 및 CUDA C++ 대안은 어떠한가?
OpenCL, SYCL 등 CUDA의 대안으로 등장했던 GPU 프로그래밍 모델들이 왜 AI 컴퓨팅 시장을 지배하지 못했는지 분석합니다. 기술적 이식성에도 불구하고 위원회 주도 개발의 느린 속도와 산업계의 협력적 경쟁 구조가 한계로 작용했음을 설명합니다.
6월 9일0
Lobste.rsAI 번역헤드라인
Elixir와 OTP를 사용한 LLM 에이전트를 위한 영구적인 인지 아키텍처 구축
Elixir의 액터 모델과 OTP를 활용하여 LLM 에이전트의 기억 상실 문제를 해결하는 'Skynet' 아키텍처를 소개합니다. 신경과학적 메커니즘에서 영감을 얻은 계층화된 인지 스택을 통해 지속적이고 일관된 메모리를 제공하는 GenServer 기반의 에이전트 구현 방식을 다룹니다.
6월 9일1
Lobste.rsAI 번역헤드라인
Private Cloud Compute (PCC)의 확장 - Apple Security Research
Apple이 Private Cloud Compute(PCC)를 Google Cloud로 확장하며 Google 및 NVIDIA와 협력합니다. NVIDIA GPU와 Intel TDX, Google Titan 칩을 활용하여 온디바이스를 넘어선 강력한 보안 기반의 클라우드 AI 추론 인프라를 구축합니다.
6월 8일1
Lobste.rsAI 번역헤드라인
AI 에이전트를 통한 적응형 컴퓨터 웜 (Computer Worm) 구현
AI 에이전트가 대상 시스템에 맞춰 공격 전략을 실시간으로 생성하는 적응형 컴퓨터 웜의 위험성을 경고하는 연구입니다. 이 웜은 탈취한 자원으로 오픈 웨이트 LLM을 실행하여 중앙 통제 없이 자가 지속되는 특성을 가집니다.
6월 6일0
Lobste.rsAI 번역헤드라인
언어 모델은 데이터 내의 숨겨진 신호를 통해 행동 특성을 전달한다
모델 증류 과정에서 의미론적으로 관련 없는 데이터를 통해서도 교사 모델의 행동 특성이 학생 모델로 전이되는 '잠재적 학습(subliminal learning)' 현상을 규명한 연구입니다. 숫자 시퀀스나 코드와 같은 데이터에서도 모델의 편향이나 정렬되지 않은 특성이 상속될 수 있음을 실험과 이론으로 증명했습니다.
6월 6일1
Lobste.rsAI 번역헤드라인
Trellis에 RadixAttention 도입하기
Trellis 시스템에서 LLM 추론의 prefill 단계를 최적화하기 위해 RadixAttention을 도입한 기술적 과정을 설명합니다. 라딕스 트리(Radix Tree) 구조를 활용한 접두사 캐싱(Prefix Caching)을 통해 중복되는 시스템 프롬프트와 토큰 임베딩의 저장 공간을 최소화하고 효율적인 KV 캐싱을 구현합니다.
6월 3일1
Lobste.rsAI 번역헤드라인
Microsoft Intelligent Terminal 0.1 발표
Microsoft가 네이티브 에이전트 통합 기능을 갖춘 Windows Terminal의 실험적 포크 버전인 Intelligent Terminal 0.1을 발표했습니다. 이 도구는 셸 출력의 문맥을 인식하는 에이전트 창을 통해 개발자의 오류 해결 및 명령 실행 과정을 혁신적으로 지원합니다.
6월 3일1
Lobste.rsAI 번역헤드라인
thunderbolt-ibverbs: 우리 집에도 InfiniBand가 있습니다
USB4 연결을 고성능 InfiniBand 장치처럼 인식하도록 만드는 리눅스 커널 모듈과 유저스페이스 심을 개발했습니다. 이를 통해 두 대의 Strix Halo 미니 PC 간에 저지연 분산 추론을 구현하는 데 성공했습니다.
6월 2일2
Lobste.rsAI 번역헤드라인
사용자와 마찬가지로 LLM 제약하기
LLM의 출력을 제어하기 위해 시스템 프롬프트에 의존하는 대신, 토큰 확률을 활용하여 출력 범위를 물리적으로 제약하는 기술적 접근법을 다룹니다. 프롬프트 주입 공격에 취약한 기존 방식의 한계를 지적하며, 추론 후 검증보다 효율적인 토큰 단위 제어의 필요성을 설명합니다.
6월 1일2
Lobste.rsAI 번역헤드라인
단순한 X가 아닙니다. 그것은 Y입니다
LLM이 생성하는 특정 문장 구조와 언어적 패턴이 글쓰기와 평가에 미치는 영향을 분석합니다. AI 탐지 도구가 인간의 고유한 문체를 기계적인 것으로 오인하여 오히려 인간의 목소리를 훼손하는 현상을 비판합니다.
6월 1일1
Lobste.rsAI 번역헤드라인
200파운드로 게이밍 PC에 데이터센터 GPU를 장착해 보았다
저렴한 비용으로 데이터센터용 GPU인 Tesla V100 SXM2를 구매하여 일반 게이밍 PC에 장착하는 방법을 소개합니다. 어댑터를 통해 PCIe 슬롯이 없는 SXM2 폼 팩터를 연결함으로써, 고가의 소비자용 GPU보다 뛰어난 메모리 대역폭을 확보하고 LLM 추론 성능을 높였습니다.
5월 31일1
Lobste.rsAI 번역헤드라인
컨텍스트 엔지니어링 (Context Engineering)을 위한 에이전틱 검색 (Agentic Search)
에이전트의 성능을 결정짓는 핵심 요소인 컨텍스트 엔지니어링의 개념을 정의하고, 기존 RAG의 한계를 극복하기 위한 에이전틱 검색(Agentic Search)의 필요성을 설명합니다.
5월 28일0
Lobste.rsAI 번역헤드라인
ax, Google의 새로운 고분산 에이전트 실행기 (Agent Executor)
Google이 발표한 AX(Agent eXecutor)는 분산 환경에서 에이전트 루프를 조정하고 관리하는 에이전트 런타임입니다. 복잡한 분산 설정에서도 실행 재개와 복구를 지원하며, 격리된 상태에서 스킬, 도구, 에이전트를 실행할 수 있는 기능을 제공합니다.
5월 28일1
Lobste.rsAI 번역헤드라인
코딩을 하지 않는 코딩 에이전트
직접 코드를 작성하지 않고 사용자의 결정에 이의를 제기하며 피드백을 주는 소크라테스식 코딩 에이전트 'Socreates'를 소개합니다. 에이전트의 핵심 구성 요소인 워크스페이스 정보 수집, 도구 실행, 컨텍스트 제어, 메모리 유지의 개념을 설명합니다.
5월 27일0