Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Lobste.rsAI 번역헤드라인
LLM과 인터페이스하기 위한 Prolog 라이브러리
SWI-Prolog 환경에서 LLM을 쉽게 사용할 수 있도록 돕는 라이브러리인 pllm을 소개합니다. OpenAI 호환 엔드포인트를 지원하며, 프롬프트를 전송하고 응답을 변수에 결합하는 기능을 제공합니다.
7월 20일3
Lobste.rsAI 번역헤드라인
텐서(Tensor)의 위력
C 언어를 사용하여 밑바닥부터 가속화된 텐서(Tensor) 라이브러리를 구축하는 과정을 다룹니다. 텐서의 수학적 추상화 개념부터 형상(Shape), 스트라이드(Strides), 메모리 관리 및 참조 카운팅까지의 구현 원리를 설명합니다.
7월 20일2
Lobste.rsAI 번역헤드라인
메모리 하이스트 (The Memory Heist)
Claude의 메모리 시스템과 웹 브라우징 기능이 결합될 때 발생할 수 있는 데이터 유출 취약점을 분석합니다. AI 에이전트가 사용자의 개인정보를 수집하여 외부 서버로 전송하는 공격 시나리오를 제시합니다.
7월 20일2
Lobste.rsAI 번역헤드라인
vLLM 트랜스포머 모델링 백엔드가 네이티브 속도에 도달하다
vLLM 백엔드가 트랜스포머(transformers) 라이브러리를 통합하여 다양한 LLM 아키텍처를 지원하며, 커스텀 vLLM 구현과 동일하거나 더 빠른 추론 속도를 제공합니다. 모델 작성자는 별도의 포팅 없이 `--model-impl transformers` 플래그 하나만 추가하여 초고속 vLLM 추론을 활용할 수 있게 되었습니다.
7월 16일2
Lobste.rsAI 번역헤드라인
Tau: 교육용 코딩 에이전트
Tau는 교육용 코딩 에이전트 프레임워크로, 에이전트의 내부 작동 원리를 투명하게 보여주는 것이 특징입니다. Provider adapter를 통해 모델 응답을 중립적인 이벤트로 변환하며, 재사용 가능한 하네스를 제공하여 메시지, 도구 호출 등 핵심 개념 학습에 초점을 맞춥니다. 이는 단순한 장난감이 아닌 교육용으로 설계되어, 에이전트 루프나 세션 관리 같은 근본적인 코딩 원리를 이해하는 데 도움을 줍니다.
7월 9일2
Lobste.rsAI 번역헤드라인
더 나은 모델, 더 나쁜 도구 사용 능력
Anthropic의 최신 모델에서 도구 호출(tool calling) 성능이 오히려 퇴보하는 현상이 관찰되었습니다. 이는 모델이 특정 Claude Code 하네스를 통해 강화학습되면서, 도구 선언의 미세한 차이에 민감하게 반응하는 오류를 유발하는 것으로 분석됩니다.
7월 4일2
Lobste.rsAI 번역헤드라인
digiKam이 당신을 이해하도록 가르치기: 로컬 LLM을 활용한 자연어 검색
GSoC 프로젝트의 일환으로 digiKam에 로컬 LLM을 통합하여 자연어 기반 사진 검색 기능을 구현하는 설계 과정을 소개합니다. LLM이 직접 데이터를 검색하는 대신 사용자의 자연어 의도를 구조화된 쿼리로 번역하는 '번역가' 역할을 수행하도록 설계되었습니다.
7월 1일2
Lobste.rsAI 번역헤드라인
Durable Streams를 통해 나의 Jetson에서 로컬 AI 서빙하기
NVIDIA Jetson Orin Nano를 활용하여 Kokoro-82M 모델 기반의 로컬 TTS 서비스를 구축하는 방법을 소개합니다. Durable Streams 방식을 통해 추론 과정 중 생성되는 오디오를 실시간으로 스트리밍하여 사용자 경험을 개선하는 아키텍처를 제안합니다.
6월 30일2
Lobste.rsAI 번역헤드라인
지니 계수(Gini Coefficient)를 활용한 에지 용량(Edge Capacity) 계획 수립
Fastly는 경제학의 지니 계수를 활용하여 에지(Edge) 인프라의 용량 계획을 수립합니다. 트래픽 불평등도를 핵심 신호로 사용하여 대규모 이벤트나 급격한 워크로드 변화에 대응하는 효율적인 용량 모델을 구축했습니다.
6월 24일4
Lobste.rsAI 번역헤드라인
완전한 로컬 음성 비서 구축하기
Raspberry Pi와 Platypush를 활용하여 클라우드 의존성을 최소화한 완전한 로컬 음성 비서를 구축하는 방법을 소개합니다. OpenWakeWord, Vosk, Piper를 통해 호출어 탐지부터 음성 합성까지 온디바이스로 처리하는 파이프라인을 제안합니다.
6월 22일2
Lobste.rsAI 번역헤드라인
Lighthouse 에이전틱 브라우징 (Agentic Browsing) 점수 산정
Lighthouse가 에이전틱 브라우징(Agentic Browsing) 카테고리를 통해 웹사이트의 기계 상호작용 준비 상태를 평가하는 방식을 설명합니다. 점수 대신 통과 비율과 상태를 제공하며, WebMCP 통합 및 접근성 트리를 중심으로 검증합니다.
6월 20일2
Lobste.rsAI 번역헤드라인
ChromiumFish: Python 및 Node용 드롭인 Playwright 하네스를 갖춘 은폐 Chromium 빌드
ChromiumFish는 JavaScript 패치가 아닌 C++ 엔진 레벨에서 브라우저 지문을 스푸핑하여 탐지를 우회하는 Chromium 포크입니다. Playwright와 호환되며, 일관된 페르소나 유지와 네이티브 AI 에이전트 기능을 제공합니다.
6월 18일3
Lobste.rsAI 번역헤드라인
Elasticsearch 기반의 에이전트 메모리: 하이브리드 검색(Hybrid Retrieval) 및 DLS
Elasticsearch를 활용하여 에이전트의 장기 메모리(Long-term memory)를 구축하는 아키텍처를 소개합니다. 하이브리드 검색, 리랭커, 데이터 대체 및 DLS를 통해 컨텍스트 윈도우의 한계를 극복하고 지속 가능한 메모리 계층을 구현하는 방법을 다룹니다.
6월 18일2
Lobste.rsAI 번역헤드라인
Stack Overflow for Agents 발표
Stack Overflow가 AI 코딩 에이전트들을 위한 API 우선 지식 교환 플랫폼인 'Stack Overflow for Agents'를 발표했습니다. 에이전트들이 겪는 휘발성 지능 격차를 해결하고, 검증된 기술 지식을 실시간으로 공유하여 에이전트의 신뢰성과 효율성을 높이는 것을 목표로 합니다.
6월 18일2
Lobste.rsAI 번역헤드라인
우리의 내부 코딩 에이전트 오케스트레이션 도구인 Bottega를 오픈 소스로 공개합니다
에이전트 오케스트레이션 도구인 Bottega를 오픈 소스로 공개하며, 에이전트 중심 개발 사이클의 핵심인 '계획(plan)'의 중요성을 강조합니다. 단순 프롬프트가 아닌 수락 기준을 갖춘 지속적인 산출물로서의 요구사항 관리를 제안합니다.
6월 15일2
Lobste.rsAI 번역헤드라인
Elixir와 OTP를 사용한 LLM 에이전트를 위한 영구적인 인지 아키텍처 구축
Elixir의 액터 모델과 OTP를 활용하여 LLM 에이전트의 기억 상실 문제를 해결하는 'Skynet' 아키텍처를 소개합니다. 신경과학적 메커니즘에서 영감을 얻은 계층화된 인지 스택을 통해 지속적이고 일관된 메모리를 제공하는 GenServer 기반의 에이전트 구현 방식을 다룹니다.
6월 9일2
Lobste.rsAI 번역헤드라인
Trellis에 RadixAttention 도입하기
Trellis 시스템에서 LLM 추론의 prefill 단계를 최적화하기 위해 RadixAttention을 도입한 기술적 과정을 설명합니다. 라딕스 트리(Radix Tree) 구조를 활용한 접두사 캐싱(Prefix Caching)을 통해 중복되는 시스템 프롬프트와 토큰 임베딩의 저장 공간을 최소화하고 효율적인 KV 캐싱을 구현합니다.
6월 3일2
Lobste.rsAI 번역헤드라인
Microsoft Intelligent Terminal 0.1 발표
Microsoft가 네이티브 에이전트 통합 기능을 갖춘 Windows Terminal의 실험적 포크 버전인 Intelligent Terminal 0.1을 발표했습니다. 이 도구는 셸 출력의 문맥을 인식하는 에이전트 창을 통해 개발자의 오류 해결 및 명령 실행 과정을 혁신적으로 지원합니다.
6월 3일2
Lobste.rsAI 번역헤드라인
thunderbolt-ibverbs: 우리 집에도 InfiniBand가 있습니다
USB4 연결을 고성능 InfiniBand 장치처럼 인식하도록 만드는 리눅스 커널 모듈과 유저스페이스 심을 개발했습니다. 이를 통해 두 대의 Strix Halo 미니 PC 간에 저지연 분산 추론을 구현하는 데 성공했습니다.
6월 2일3
Lobste.rsAI 번역헤드라인
사용자와 마찬가지로 LLM 제약하기
LLM의 출력을 제어하기 위해 시스템 프롬프트에 의존하는 대신, 토큰 확률을 활용하여 출력 범위를 물리적으로 제약하는 기술적 접근법을 다룹니다. 프롬프트 주입 공격에 취약한 기존 방식의 한계를 지적하며, 추론 후 검증보다 효율적인 토큰 단위 제어의 필요성을 설명합니다.
6월 1일3