Insights

Agile.NET 메서드 가상화용 범용 디버튜얼라이저

이 글은 Agile.NET 메서드 가상화에 대한 범용 디버튜얼라이저를 소개합니다. 이 도구는 런타임에서 보호된 어셈블리 DLL을 분석하여, VM 바이트코드를 일반적인 CIL로 재작성하는 것이 핵심입니다. 하드코딩이나 패턴 매칭 없이 오직 구조적 해석과 기호적 모델링만으로 가상화된 메서드 본문을 복원합니다.

llm-echo 0.5

llm-echo는 실제 LLM 없이도 작동하는 디버그 플러그인입니다. 이 플러그인은 입력 프롬프트를 그대로 반복하여 출력하며, 새 버전에서는 도구 호출, 시스템 프롬프트, 추론 토큰을 고려한 시뮬레이션된 토큰 사용량 카운트 기능이 추가되었습니다.

TTS 단계에 연결하기 전에 음성 출력을 검증하는 방법

우리의 음악 모델이 요청한 키를 무시하여 브라우저가 배경을 측정하게 했습니다

흥얼거린 멜로디를 노래에 담는 과정에서, 기존의 프롬프트 기반 모델(Lyria)이 요청된 음악적 제약 조건(키, 박자 등)을 정확히 따르지 못하는 문제를 발견했습니다. 이에 개발팀은 AI가 생성한 오디오 자체를 분석하여, 콤 필터와 저음 에너지 변화 등을 이용해 실제 박자와 본체 시작점을 측정하는 방식으로 해결책을 제시합니다.

LinkedIn MCP: AI 비서용 LinkedIn 구조화 데이터 추출 도구

LinkedIn MCP는 AI 비서가 구조화된 데이터를 추출할 수 있도록 돕는 도구입니다. 이 도구는 실제 스텔스 브라우저 세션을 통해 LinkedIn의 프로필, 채용 공고, 회사 및 받은 편지함 등의 데이터를 구조화하여 제공합니다. 로컬 환경에서 작동하며, 오프라인 설정과 안전 제한 기능을 갖추어 사용자가 안심하고 데이터를 수집할 수 있도록 설계되었습니다.

Google의 자체 개선형 AI 에이전트를 위한 오픈 소스 Harness2 공개

Google이 모든 AI harness를 스스로 개선하는 오픈 소스 도구 Harness2를 공개했습니다. 이 시스템은 에이전트가 작업 수행 중 자체적으로 설정을 수정하고, 성능 비교를 통해 최적의 버전을 선택하며 학습합니다. 이를 통해 초기 설계보다 훨씬 높은 성능을 달성할 수 있습니다.

YNAB용 MCP Server

이 MCP Server는 자연어 예산 질문을 안전하고 로컬한 YNAB API 워크플로우로 변환하는 도구입니다. 기본적으로 읽기 전용 접근 권한을 제공하며, 명시적인 쓰기 옵트인 절차를 거칩니다. Claude Code나 Codex 같은 환경에서 YNAB 기능을 플러그인 형태로 쉽게 통합할 수 있도록 설계되었습니다.

voidmind-io/voidllm

VoidLLM은 자체 호스팅 LLM 프록시 및 AI 게이트웨이로, 애플리케이션과 외부 LLM 제공업체 사이에 위치합니다. 이를 통해 접근 제어, API 키 관리, 사용량 추적, 속도 제한 등 엔터프라이즈급 기능을 제공하며, 2ms 미만의 낮은 오버헤드를 자랑합니다.

Markdown Reader: 로컬 기반의 네이티브 AI 기능을 갖춘 오픈소스 마크다운 에디터

Markdown Reader는 로컬 우선(local-first) 아키텍처를 채택한 오픈소스 마크다운 에디터입니다. Tauri 기반으로 구축되어 프라이버시를 보장하면서도, OpenAI, Anthropic 등 다양한 AI 모델을 통합하여 강력한 지능형 글쓰기 기능을 제공합니다. 사용자는 로컬 환경에서 AI 지원 번역, 요약, 코드 정리 등의 작업을 수행할 수 있습니다.

AbstractCore

AbstractCore는 Python 애플리케이션을 위해 설계된 오픈 소스 LLM 인프라 계층입니다. 이 라이브러리는 단일 `create_llm(...)` API를 통해 로컬 런타임, 자체 호스팅 서버, 클라우드 API 등 다양한 백엔드를 통합합니다. 이를 통해 개발자는 특정 모델이나 서비스 제공업체에 종속되지 않고 LLM 기능을 쉽게 사용할 수 있습니다.

GatewayCrate: 오픈 소스, 자체 호스팅형 AI 게이트웨이

GatewayCrate는 오픈 소스, 자체 호스팅형 AI 게이트웨이로, 애플리케이션을 다양한 클라우드 및 로컬 모델 제공업체에 연결합니다. LiteLLM의 지원을 받아 공통 OpenAI 호환 API를 제공하며, Anthropic, Groq, Gemini 등 다수의 제공업체를 지원합니다. 관리자 UI와 PostgreSQL 설정을 통해 사용량 추적 및 가상 키 관리가 가능하여 보안성이 높습니다.

LLM 지연 시간 추적기

이 도구는 AI API의 지역별 지연 시간과 가동 시간을 측정하고, 그 결과를 오픈 데이터로 공개합니다. TTFB(첫 바이트까지)와 TTFT(첫 토큰까지) 등 두 가지 프로브 유형을 통해 다양한 제공업체의 성능을 비교할 수 있습니다. JSON API 및 Python 코드를 통해 데이터를 쉽게 접근하고 활용할 수 있도록 설계되었습니다.

llmtrim: LLM API 트래픽 압축을 통한 비용 절감 로컬 프록시

llmtrim은 LLM API 트래픽을 압축하여 비용 효율성을 높이는 로컬 프록시 도구입니다. 이 도구를 사용하면 입력 및 출력 트래픽을 크게 줄여 API 호출 비용을 절감할 수 있습니다. 또한, 다양한 언어와 인터페이스를 지원하며 빠른 성능과 안정적인 기능을 제공합니다.

LLM 게이트웨이 (LLM Gateway)

LLM Gateway는 다양한 LLM 제공업체(OpenAI, Anthropic 등)와 애플리케이션 사이에 위치하는 오픈 소스 API 게이트웨이입니다. 이 미들웨어는 요청 라우팅, API 키 관리, 토큰 사용량 및 비용 추적 기능을 통합하여 LLM 사용을 최적화합니다. 개발자들은 호스팅 또는 셀프 호스팅 방식으로 이를 구축할 수 있으며, OpenAI와 호환되는 통일된 인터페이스를 제공받습니다.

Nenya AI Gateway

Nenya는 AI 코딩 클라이언트와 LLM 제공업체 사이에 위치하는 API 게이트웨이입니다. 이 게이트웨이는 민감한 정보를 마스킹하고, 컨텍스트 페이로드를 최적화하며, 다양한 기능을 통해 보안을 강화합니다. 또한 OpenAI 및 Anthropic의 Chat Completions API를 지원하여 여러 LLM 제공업체와 쉽게 통합할 수 있습니다.

ARTF 설명: 라이브 입찰 요청이 경매 전에 패치되는 방식

ARTF(Agentic Real Time Framework)는 광고 경매 생태계에서 입찰 요청을 패치하는 새로운 프레임워크입니다. 이는 OpenRTB를 대체하기보다 gRPC 확장 지점을 활용하여, 에이전트가 실시간으로 델타(deltas)를 제안하고 오케스트레이터가 이를 수락/거부하는 방식을 구현합니다.

타임아웃 하나로 두 질문에 답할 수 없는 이유: AI가 작성한 확인 메시지가 두 개의 창이 필요한 이유

AI 시스템에서 발생하는 두 가지 종류의 '만료' 상태 개념이 충돌하여 사용자 경험 문제를 야기하는 사례를 분석합니다. 대화 지속 여부와 데이터 행 결정 가능성이라는 두 독립적인 개념을 하나의 타임아웃으로 처리할 때 발생하는 오류를 지적하며, 이를 각각의 기능과 계산 로직을 가진 별도의 창(window)으로 분리해야 함을 제안합니다.