Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
컴퓨터 사용 에이전트가 스크린샷에만 의존하는 대신, OS의 접근성 트리(Accessibility Tree)를 활용하여 효율성을 높이는 방안을 제시합니다. 트리를 통한 결정론적 조회를 우선시하면 속도와 비용 측면에서 큰 이점을 얻을 수 있습니다.
ShuffleNetV2 기반의 few-shot 결함 탐지기인 PrintGuard 2.0을 소개합니다. LiteRT를 활용해 모델을 경량화하였으며, CPython과 브라우저(Pyodide) 환경 모두에서 동일한 코드로 실행 가능한 단일 Python 엔진 아키텍처를 구현했습니다.
사용자 여정을 모니터링하고 오류를 탐지하는 오픈 소스 QA 도구인 Approxima를 공개했습니다. Claude, Gemini, GPT 등 다양한 LLM을 지원하며 자체 호스팅이 가능합니다.
LLM 서비스 제공자의 장애에 대응하기 위해 FSM(유한 상태 기계) 패턴을 활용한 견고한 파이프라인 구축 방법을 소개합니다. 단순 HTTP 재시도 방식의 한계를 극복하고, 실패를 상태 전이로 처리하여 다단계 파이프라인의 안정성을 높이는 전략을 다룹니다.
LLM의 비용을 단순히 토큰당 가격으로 측정하는 것은 잘못된 접근임을 지적합니다. 에이전트가 긴 체인 프로세스를 수행할수록 신뢰도가 기하급수적으로 하락하며, 이를 검증하기 위한 추가적인 비용(검증 세금)이 발생한다는 아키텍처적 문제를 다룹니다.
C++로 구현된 고성능 BPE 토크나이저인 quicktok을 소개합니다. tiktoken과 동일한 토큰 ID를 유지하면서도 인코딩 속도를 최대 11배까지 향상시켰습니다.
시중에 판매되는 많은 AI 마케팅 도구들이 실상은 단순한 프롬프팅을 포장한 것에 불과하다고 비판합니다. 대신 PRD와 거버넌스 파일을 직접 작성하여 기존 LLM을 활용하는 효율적인 DIY 워크플로우를 제안합니다.
CrewAI 에이전트의 무한 루프 호출로 인한 API 비용 폭증 문제를 해결하기 위해 오픈 소스 프로젝트 AgentAutopsy를 소개합니다. 실시간 루프 탐지, 비용 회로 차단기, 컨텍스트 모니터링 기능을 통해 자율 에이전트 실행의 위험을 방지합니다.
중앙 집중형 데이터 센터 모델의 한계를 극복하기 위해 AWS Local Zones, Global Accelerator, Akamai CDN을 활용한 엣지 메쉬 아키텍처를 제안합니다. 이를 통해 데이터 전송 지연을 줄이고, 에너지 소비를 분산하며, 시스템의 회복 탄력성을 높이는 방법을 다룹니다.
에이전트 자체를 격리하는 대신 에이전트가 실행하는 코드만 격리하는 새로운 샌드박싱 접근법인 temenos를 소개합니다. 에이전트는 호스트의 권한과 인증을 유지하면서, 모델이 생성한 위험한 스크립트만 gVisor를 통해 안전하게 실행합니다.
LLM 에이전트들이 매슬로의 욕구 단계설을 기반으로 자율적인 사회를 형성하는 시뮬레이션 게임 프로젝트입니다. 에이전트들은 농사, 번식, 외교, 종교 활동 등을 수행하며 복잡한 사회적 상호작용과 갈등을 스스로 만들어냅니다.
vLLM 환경에서 RTX 3090(Ampere 아키텍처) 사용 시 SymmMemCommunicator 오류가 발생하는 원인을 분석하고, P2P 활성화에 따른 성능 향상 수치를 공유합니다.
로컬 멀티 에이전트 환경에서 발생하는 성능 병목 현상을 해결하기 위한 시스템 튜닝 가이드를 제공합니다. Libuv 스레드풀 확장, V8 힙 메모리 상향, PM2를 활용한 프로세스 격리 등 구체적인 최적화 방법을 다룹니다.
에이전트가 작성한 대규모 코드를 검증하기 위한 오픈 소스 웹 테스트 프레임워크인 riddlerun을 소개합니다. Docker와 API 키만 있으면 터미널에서 에이전트 기반의 엔드 투 엔드 테스트를 수행할 수 있습니다.
지식 그래프와 하이브리드 검색을 결합하여 LLM의 멀티홉 추론 성능을 높이는 오픈소스 풀스택 파이프라인을 소개합니다. 벡터 검색의 한계를 극복하기 위해 그래프 탐색과 RRF 기반의 재순위화 과정을 거쳐 정확한 답변을 생성합니다.
Hcompany가 Qwen 3.5를 기반으로 한 컴퓨터 사용 에이전트용 시각-언어 모델(VLM) 제품군인 Holo3.1을 출시했습니다. 웹, 데스크톱, 모바일을 지원하며 네이티브 함수 호출과 양자화된 체크포인트를 통해 로컬 배포에 최적화되어 있습니다.
Gemma 4 12B 모델을 VSCodium의 Pi Agent 확장에 적용하여 코딩 에이전트 성능을 테스트했습니다. 모델은 로그 분석, 스크립트 작성, 터미널 실행 및 검증까지의 전 과정을 단 한 번의 시도로 완벽하게 수행했습니다.
2x RTX 3090 환경에서 Qwen3.6-27B 모델을 llama.cpp와 vLLM 백엔드로 구동하며 성능을 비교 분석한 기술 리포트입니다. 각 백엔드별 양자화 방식에 따른 MTP 수락률, 추론 속도, 컨텍스트 길이를 실제 데이터를 통해 상세히 다룹니다.
Gemma 4 12b Heretic 모델을 활용하여 단 한 번의 프롬프트로 복잡한 레트로 게임 코드를 생성하는 성능을 테스트했습니다. llama.cpp 환경에서 8-bit KV 캐시를 적용하여 높은 캐시 재사용률과 안정적인 생성 속도를 유지하며 성공적인 결과를 얻었습니다.
mistral.rs가 Gemma 4 12B 모델 지원을 추가하여 멀티모달, 에이전트 기능 및 MTP 통합을 제공합니다. 웹 검색과 샌드박스 코드 실행을 지원하며, OpenAI 및 Anthropic 호환 HTTP 서버를 통해 간편하게 구축할 수 있습니다.