프롬프트로 금지해도 3번이나 재발했다 — 지시와 기계 검사의 활용 구분

AI 에이전트에게 프롬프트로 특정 동작을 금지하더라도 오류가 재발하는 문제를 다룹니다. 프롬프트 지시의 확률적 한계를 인정하고, 기계적으로 판정 가능한 오류는 검사 로직을 통해 해결해야 함을 강조합니다.

AI 리뷰는 한 번으로 충분할까 ― 동일한 조건으로 다시 실행했을 때 | Claude × Roblox 개인 개발

개인 개발 과정에서 Claude와 Gemini CLI를 활용하여 코드 리뷰 및 설계 사양서 작성 워크플로우를 진행하고 있습니다. 모델명 지정의 중요성을 다루며, 실제로 표시되는 모델명과 실제 세션 로그에 기록된 모델명이 다를 수 있음을 발견했습니다. 이는 AI 도구 사용 시 UI 표시에만 의존해서는 안 되며, 반드시 상세한 로그 확인이 필요함을 강조합니다.

NVMe-oF vs. RDMA: 추론 스토리지에서의 성능 비교

AI 추론 성능 최적화를 위해 NVMe-oF와 RDMA를 결합한 스토리지 스택의 이점을 분석합니다. RDMA의 저지연 특성과 NVMe-oF의 프로토콜을 통합함으로써 KV 캐시 계층형 가속 시 추론 처리량을 최대 40%까지 향상할 수 있습니다.

병렬 AI 에이전트와 컨텍스트 팽창: OpenCode 오케스트레이션 설계

OpenCode Agent-Teams Relay는 병렬 AI 에이전트 운용 시 발생하는 컨텍스트 팽창과 파이프라인 정체 문제를 해결하기 위한 오케스트레이션 설계를 제안합니다. 동적 에스컬레이션 아키텍처를 통해 에이전트 간 대기 시간을 줄이고 작업 처리 속도를 획기적으로 높입니다.

압축 센싱(Compressed Sensing)은 추론 저장 데이터 압축에 적합하지 않은 이유

LLM 추론 시 KV Cache 압축을 위한 압축 센싱(Compressed Sensing) 이론의 한계를 분석합니다. 데이터의 희소성 부재와 재구성 오류 위험을 지적하며, 대신 스토리지 계층 최적화와 오프로딩을 통한 실질적인 성능 개선 방안을 제시합니다.

AI에게 기사를 쓰게 했더니, 품질 체크 측이 단조로운 문장을 권장하고 있었다

AI 생성 콘텐츠의 품질을 검증하기 위해 문장 린트(Lint) 규칙을 설계할 때 발생하는 오류를 다룹니다. 가독성과 같은 주관적 품질을 단락 길이와 같은 수치로 대체할 때 발생하는 왜곡과, 이를 방지하기 위해 실제 사례로부터 기준을 역산해야 함을 강조합니다.

AI한테 시험을 냈는데 출제자가 5번 틀렸다 - LLM 파이프라인 검증기

LLM 파이프라인 구축 전 테스트 데이터와 채점기를 먼저 설계하며 겪은 검증 과정을 다룹니다. 정답지와 채점기 자체의 오류를 발견하며 AI 검증 시스템의 중요성을 강조합니다.

평가(Eval)의 환상: 테스트 통과가 프로덕션에서의 안전을 의미하지 않는 이유

AI 에이전트의 평가(Evals)는 통제된 환경에서의 추론 능력 테스트에 국한됩니다. 하지만 실제 프로덕션 환경에서는 API 타임아웃, 속도 제한, 예측 불가능한 사용자 입력 등 다양한 변수가 발생하여 '침묵의 실패'가 일어날 수 있습니다. 따라서 에이전트 자체를 재구축하기보다 실행(execution) 과정 전반에 대한 가시성 확보가 중요합니다.

자기 개선 루프가 3번 죽었던 이야기 — 「복구되었습니다」를 3번 쓴 AI 에이전트의 관측 설계

Claude Code를 활용해 운영 중인 AI 에이전트의 자기 개선 루프가 반복적으로 실패한 사례와 그 원인을 분석합니다. 에이전트의 '복구 완료' 보고를 맹신하지 않고, 외부 데이터(DB 행 수 등)를 통해 루프의 생존 여부를 검증하는 관측 설계의 중요성을 다룹니다.

NVIDIA H100 및 RTX 6000에 TensorRT-LLM 배포하기 — 단계별 튜토리얼

NVIDIA H100 및 RTX 6000 GPU 환경에서 TensorRT-LLM을 사용하여 Llama 3 모델을 최적화하여 배포하는 방법을 다루는 튜토리얼입니다. FP8 정밀도와 In-flight Batching 기술을 통해 추론 성능을 극대화하고 비용을 절감하는 과정을 설명합니다.

「AI에 적합한 것은 학습 데이터가 많은 언어」 TypeScript·C#을 만든 Anders Hejlsberg가 AI에 대해 이야기한 세션

TypeScript와 C#의 설계자인 Anders Hejlsberg가 언어 설계 철학과 AI 시대의 언어에 대해 논합니다. 비동기 처리의 스테이트 머신 구현, 타입 시스템의 도구적 가치, 그리고 JavaScript 생태계 확장을 위한 TypeScript의 탄생 배경을 다룹니다.

LeetCode를 넘어서: AI 에이전트 시대에 코드를 '맛보는 것'이 알고리즘 암기보다 나은 이유

AI 코딩 에이전트의 등장으로 소프트웨어 엔지니어링의 핵심 역량이 알고리즘 암기에서 시스템의 동작을 빠르게 파악하고 검증하는 '판단력'으로 변화하고 있습니다. 현대 엔지니어는 구현 능력보다 API와 복잡한 통합 환경을 이해하는 '코드를 맛보는(Tasting code)' 기술적 직관이 필요합니다.

Meta의 Cloud API를 사용하여 대량 캠페인, 음성 통화, AI 챗봇 응답을 포함한 WhatsApp 비즈니스 운영을 단일 오픈 소스

Meta의 Cloud API를 활용하여 WhatsApp 비즈니스 운영을 단일 오픈 소스 바이너리로 통합하는 방법을 제시합니다. 이 솔루션은 대량 캠페인, 음성 통화 기능, 그리고 AI 챗봇 응답 기능을 모두 지원하며 개발 편의성을 높입니다.

zot – 단일 Go 바이너리부터 HA 클러스터까지 확장 가능한 가벼운 OCI Registry

zot은 OCI 사양을 준수하는 가볍고 확장 가능한 오픈소스 컨테이너 레지스트리입니다. 단일 Go 바이너리로 실행되어 설정이 간편하며, 로컬 파일 시스템부터 클라우드 오브젝트 스토리지까지 유연한 저장소 확장을 지원합니다.

「코드는 읽지 않는다」 개발 스타일 — Mermaid 도식화와 모듈 분할로 인간과 AI의 분업을 만들다

AI와 인간의 효율적인 협업을 위해 코드를 직접 읽는 대신 Mermaid 도식과 모듈 분할을 활용하는 개발 방법론을 제안합니다. 도식의 텍스트 기반 관리와 리팩터링 트리거 설정, 그리고 시스템 설정을 통한 프로세스 강제화의 중요성을 다룹니다.

추론 전에 자체 서버가 Claude의 프롬프트를 가로채는 inference hooks

Echo Dot 2로 28M LLM을 적당한 속도로 구동하기

제한된 하드웨어인 Amazon Echo Dot 2에서 llama.cpp를 활용해 28M 파라미터 규모의 LLM을 로컬로 구동하는 실험 사례를 소개합니다. llama-server를 백그라운드에 상주시키고 KV 캐시를 재사용하여 지연 시간을 획기적으로 단축하는 최적화 방법을 다룹니다.

OCI Always Free: Ampere A1 Compute 할당량 변경 안내

Oracle Cloud Infrastructure(OCI)가 Always Free 계정을 위한 Ampere A1 Compute의 리소스 할당량 변경 사항을 발표했습니다. 총 2 OCPU와 12GB 메모리 범위 내에서 유연하게 인스턴스를 구성할 수 있습니다.

LangChain AI의 Open SWE 소개

Open SWE는 Stripe, Ramp 등 선도 기업들이 내부적으로 사용하는 코딩 에이전트 패턴을 오픈 소스로 구현한 도구입니다. LangGraph와 Deep Agents를 기반으로 하며, 클라우드 샌드박스에서 격리된 환경에서 작동하여 안전성과 커스터마이징성을 극대화했습니다. 이는 기존 에이전트를 포크하는 대신 프레임워크 조합을 통해 업그레이드 경로를 확보하며, 제한적이고 집중된 도구 세트로 개발 워크플로우에 통합됩니다.