낮은 지연 시간(Low Latency)을 위한 비디오 분석용 LLM

비디오 분석 LLM 활용 시 발생하는 지연 시간 문제를 분석하고, 이를 해결하기 위한 아키텍처 패턴을 제안합니다. 프레임 샘플링 최적화와 계층적 청킹, 스트리밍 루프 등 실시간 프로덕션 파이프라인 구축을 위한 기술적 가이드를 제공합니다.

Google AI Pro 로그인이 3개월 동안 깨지는 것을 지켜보며 에이전트 인프라(agent infra)에 대한 생각이 바뀌었습니다

소비자용 AI 구독 및 OAuth를 프로덕션 에이전트 인프라에 사용하는 방식의 위험성을 경고합니다. 부분적 인증 실패(partial auth failure)가 발생할 경우 디버깅이 매우 어렵고 운영상의 혼돈을 초래할 수 있음을 지적합니다.

DevOps AI 에이전트를 위한 관측성(Observability): 도구 호출(Tool Calls), 토큰, 그리고 폭주 루프(Runaway

DevOps AI 에이전트를 프로덕션 서비스처럼 관리하기 위해 OpenTelemetry를 활용한 관측성(Observability) 구축 방법을 설명합니다. 에이전트의 실행 과정을 분산 추적(Distributed Tracing) 모델로 설계하여 도구 호출, 토큰 사용량, 비용 등을 체계적으로 모니터링하는 가이드를 제공합니다.

산업용 센서 데이터가 ML 파이프라인을 망가뜨리는 구체적인 방식과 이를 고려한 설계 방법

산업용 센서 데이터의 특수성으로 인해 발생하는 ML 파이프라인 실패 원인을 분석합니다. 교정 드리프트와 데이터 공백 문제를 다루며, 이를 해결하기 위한 이동 베이스라인 추정 등 견고한 설계 방안을 제시합니다.

그린 스크린 없이 더 나은 웹캠 합성 만들기! [OpenAI Build Week]

3D 재구성, 라이브 매팅, 합성 기술을 활용하여 그린 스크린 없이도 고품질의 웹캠 배경 합성을 구현하는 프로젝트입니다. OpenAI Build Week 해커톤을 위해 Codex와 협업하여 제작되었습니다.

kingbootoshi/nano-banana-2-skill

Gemini 모델을 기반으로 하는 AI 이미지 생성 CLI 도구인 nano-banana-2를 소개합니다. 다양한 해상도, 종횡비, 스타일 전이 및 투명 배경 생성 기능을 지원하며 Claude Code 스킬로도 활용 가능합니다.

캠페인 배포 전 비결정적(Non-Deterministic) AI 오디오 출력 검증하기

생성형 AI 오디오 출력의 비결정적 특성으로 인해 발생하는 QA(품질 보증)의 어려움과 이를 해결하기 위한 검증 전략을 다룹니다. 고정된 정답(Ground truth)이 없는 환경에서 체크리스트와 구조화된 기록을 통해 검토의 일관성을 유지하는 방법을 제안합니다.

에이전트 디버깅에는 트레이스(Traces) 이상의 것이 필요합니다

에이전트의 실패는 표면적인 오류가 아닌 과거의 잘못된 결정에서 기인하는 경우가 많습니다. 이를 해결하기 위해 UIUC, Google 등 연구진이 개발한 AgentDebugX는 단순 트레이스 관측을 넘어 근본 원인을 탐지하고 복구하는 폐쇄형 디버깅 루프를 제공합니다.

SIMD로 충돌 감지 가속하기

SIMD를 활용하여 루프 연산을 가속하는 기본 패턴과 충돌 감지 성능 향상 사례를 설명합니다. 컴파일러의 자동 벡터화 한계를 지적하며, 개발자가 직접 SIMD를 활용할 때 고려해야 할 SoA 구조와 아키텍처 대응 방안을 다룹니다.

Terence Tao의 Jacobian 추측 반례에 관한 ChatGPT 대화

Terence Tao의 수학적 탐구 사례를 통해 LLM의 한계를 극복하는 고도화된 프롬프팅 전략을 분석합니다. 단순한 명령보다 단계별 탐색과 반복적인 피드백을 통해 모델의 성능을 극대화하는 방법을 다룹니다.

prop를 환각하는 AI를 위해, Meta의 디자인 시스템 astryx는 MCP를 탑재했다

Kiro에게 그림 그리는 법 가르치기: Gemini의 Interactions API와 MCP를 기반으로 구축된 상태 유지 이미지 편집 기술

Google의 Gemini Interactions API와 MCP를 활용하여 Kiro 에이전트가 상태를 유지하며 이미지를 편집할 수 있는 기술을 소개합니다. 기존의 상태 비저장(stateless) 방식과 달리, interaction_id를 통해 시각적 컨텍스트를 유지하며 연속적인 이미지 수정이 가능합니다.

GitHub 버그 바운티 프로그램의 대대적인 변화: 보안 및 연구자 경험 개선

GitHub가 보안 연구자 경험 개선과 플랫폼 보안 강화를 위해 버그 바운티 프로그램을 전면 개편했습니다. 핵심은 고품질 연구자를 위한 VIP 티어 도입과 심각도별 고정 보상 체계 구축입니다.

"채팅"을 넘어: 스킬과 사양 엔지니어링(Specification Engineering)으로 지능을 설계하기

단순한 채팅 방식의 프롬프팅을 넘어, XML 태깅과 구조화를 통해 LLM을 설정(Configuring)하는 컨텍스트 엔지니어링의 중요성을 다룹니다. 지침과 데이터를 분리하고 예시(Few-shot)를 활용하여 모델의 안정성과 확장성을 확보하는 방법을 제시합니다.

기업용 AI 기술: 조정 격차를 해소하는 SLM vs LLM 의사결정 프레임워크

기업용 AI 배포 시 모델의 지능보다 중요한 것은 조정(coordination)과 제어 능력입니다. 맞춤형 SLM과 기성품 LLM 중 비즈니스 목적에 맞는 최적의 모델을 선택하기 위한 의사결정 프레임워크를 제시합니다.

AI 에이전트: 자격 증명을 넘어 강력한 권한 부여를 향하여

AI 에이전트의 보안을 위해 단순 자격 증명을 넘어 세밀한 권한 부여(Authorization)와 역량 관리(Capability Management)의 필요성을 강조합니다. 에이전트 고유의 정체성을 부여하고 동작을 추적할 수 있는 Agent Auth Protocol 프레임워크를 제안합니다.

Version 1.0 RC까지의 여정

Kagoshimaniax OS의 Version 1.0.0-rc1 배포 과정을 통해 소프트웨어 완성도를 검증하는 여정을 다룹니다. 새로운 기능 추가 대신 기존 기능의 안정성 확인, 테스트 실행, 그리고 Known Limitations 기록을 통해 RC(Release Candidate) 단계의 중요성을 강조합니다.

생성된 앱에는 플랫폼의 분위기가 아닌 패치 소유권이 필요합니다

Google Cloud의 Gemini Enterprise Agent Platform에서 발생한 SSRF 취약점 사례를 통해, AI가 생성한 코드의 보안 책임과 관리 모델을 분석합니다. 플랫폼의 템플릿이 업데이트되더라도 이미 생성 및 배포된 애플리케이션은 사용자가 직접 재생성하고 검증해야 한다는 점을 강조합니다.

소형 언어 모델(Small Language Models)이 필리핀 AI 스택을 조용히 재편하고 있는 이유

필리핀 기업들이 비용 효율성을 위해 거대 모델 대신 소형 언어 모델(SLM)을 도입하며 AI 스택을 재편하고 있습니다. 1B~12B 파라미터 규모의 모델들이 특정 작업에서 프런티어 모델에 대등한 성능을 보여주며 경제적 대안으로 부상하고 있습니다.

upstream Laguna 구현을 반영하기 위해 llama.cpp를 업데이트하고 Ollama의 로컬 Laguna 구현을 제거합니다

llama.cpp의 최신 Laguna 구현을 반영하기 위해 Ollama를 업데이트합니다. 기존 로컬 구현을 제거하고 upstream 코드를 통합하며, 기존 모델과의 호환성을 위해 메타데이터 이름을 번역하는 작업을 포함합니다.