학습 파이프라인 최적화를 통해 36 steps/minute에서 47 steps/minute로 개선하며 얻은 교훈

디스크 저장 방식 최적화를 통해 ML 모델 학습 파이프라인의 속도를 약 30% 개선한 사례를 공유합니다. 작은 파일들을 TAR나 WebDataset 같은 블롭(blobs) 형태로 묶어 순차적 읽기를 유도함으로써 HDD의 성능 한계를 극복하는 방법을 다룹니다.

vLLM 및 SGLang 환경에서 Qwen3.6-27B 모델을 대상으로 한 모든 Speculative Decoding (Spec-decode)

vLLM과 SGLang 환경에서 Qwen3.6-27B 모델을 대상으로 다양한 Speculative Decoding 기법의 성능을 비교 분석했습니다. 실험 결과 DFlash 방식이 가장 압도적인 속도 향상을 보였으며, EAGLE3와 MTP 등 각 기법별 특이점을 확인했습니다.

AI가 우리 PR의 절반을 작성하게 된 지금, 우리가 재구축한 코드 리뷰 체크리스트

AI 에이전트가 작성한 코드는 유창하지만 논리적 결함이 숨어있을 수 있어 기존 코드 리뷰 방식으로는 한계가 있습니다. 이에 따라 AI 작성 PR을 위해 '왜'를 설명하는 프로세스, 엣지 케이스 수동 검증, 중요 영역 2인 리뷰 등의 새로운 체크리스트를 도입했습니다.

6개월 동안 AI 에이전트에게 코드베이스의 절반을 작성하게 해보았습니다. 실제로 무엇이 망가졌을까요?

6개월간 AI 에이전트가 코드의 절반을 작성하게 한 실험 결과, 개발 속도와 테스트 커버리지는 향상되었으나 리뷰 프로세스에 심각한 과제가 발생했습니다. AI가 작성한 코드가 매우 유창하고 논리적으로 보여 기존 리뷰 방식으로는 교묘한 버그를 잡아내기 어려워졌기 때문입니다.

입 모양 AI 아바타를 3번이나 다시 만들고, 결국 '마스크로 입을 가리는 것'으로 정착한 이야기

AI 뉴스 프로그램 파이프라인 고도화를 위해 아바타의 움직임을 구현하는 세 가지 방식을 시도한 과정과 결론을 다룹니다. Remotion 애니메이션과 Google Veo의 영상 생성 방식을 거쳐, 결국 입 모양 구현의 한계를 마스크로 가리는 방식으로 해결한 실전 경험을 공유합니다.

장시간 AI 에이전트를 중단시키는 Python 궤적 감시

【복사해서 즉시 실천】 AI를 '최강의 벽치기 상대'로 만드는 요구사항 정의 프롬프트. 사양 누락을 줄이고 미결 사항까지 정리하는 PM의 비기

모호한 요구사항을 정교한 제품 요구 사양서(PRD)로 변환하기 위해 AI를 인터뷰어로 활용하는 프롬프트 기법을 소개합니다. AI가 사용자에게 역으로 질문하게 함으로써 예외 처리와 업무 플로우 누락을 방지하는 실전적인 접근법을 다룹니다.

AI로 풀어보는 AWS AI-DLC v2: 학습 루프 (Learning Loop)

AWS AI-DLC v2의 핵심 메커니즘인 '학습 루프(Learning Loop)'를 분석합니다. AI 에이전트가 작업 중 내린 판단을 기록하고, 사람이 이를 검토하여 영구적인 규칙으로 저장함으로써 반복적인 수정을 방지하는 워크플로우를 다룹니다.

자사의 리뷰 이력을 활용하여 AI 코드 리뷰어를 만드는 방법

자사의 7년 치 Pull Request 리뷰 이력을 활용하여 조직 특유의 코드 스타일과 리뷰 규약을 반영한 맞춤형 AI 코드 리뷰어를 제작하는 방법을 소개합니다. 범용 AI 도구가 놓치기 쉬운 조직 내 암묵지와 '방언'을 학습시켜 실질적인 도움을 주는 에이전트 구축 과정을 다룹니다.

CompanyOS의 '읽기 방식' 선택하기 〜GitHub를 Single Source of Truth로 만드는 3가지 DB 전략

AI 에이전트용 CompanyOS 구축 시 GitHub를 단일 진실 공급원(SSOT)으로 활용하는 3가지 데이터베이스 전략을 비교합니다. 직접 clone 참조, 벡터/그래프 방식, 파일 스토리지/API 방식의 장단점을 분석하여 최적의 하이브리드 접근법을 제안합니다.

AI 생성 코드를 30분 만에 리뷰하는 절차 — 보는 순서와 도구 사용법

AI가 생성한 코드를 효율적으로 리뷰하기 위한 30분 절차와 우선순위 가이드를 제공합니다. 보안 취약점과 기밀 정보 유출 등 실질적 피해가 큰 항목을 중심으로 리뷰 순서를 정립하는 방법을 다룹니다.

LLM 판정 점수를 신뢰할 수 있는가 — 채점자를 인간 없이 매주 테스트하는 메커니즘을 만들었다

LLM-as-a-judge 방식의 신뢰성을 검증하기 위해 인간의 개입 없이 메타모픽 테스팅(Metamorphic Testing)을 활용하는 자동화 메커니즘을 소개합니다. 원문을 기계적으로 악화시킨 후 Judge의 식별력을 측정하여 품질 점수의 신뢰도를 확보하는 방법을 다룹니다.

경마 AI 개발 기록 #25 예측 공간의 '통치'와 통합: 멀티 모델 포트폴리오로의 각성

경마 예측을 위한 멀티 모델 아키텍처 설계와 통합 전략을 다룹니다. 모델별 특징량 공간(feature space)을 격리하여 데이터 오염을 방지하고, Optuna를 활용한 통합 스코어 최적화 및 확장 가능한 포트폴리오 프레임워크 구축 과정을 기록합니다.

cyberchitta/llm-context.py

LLM 개발 시 프로젝트 컨텍스트를 지능적으로 관리하고 필터링하는 도구인 llm-context를 소개합니다. 규칙 기반의 파일 선택과 MCP(Model Context Protocol) 지원을 통해 토큰 제한 문제를 해결하고 효율적인 개발 워크플로우를 제공합니다.

Dify, Cursor, Node.js가 Vector Engine을 공유하기 전 모델 경로 매니페스트(model route manifest)

Dify, Cursor, Node.js 등 여러 도구가 동일한 LLM API 게이트웨이를 사용할 때 발생하는 설정 불일치 문제를 해결하기 위한 모델 경로 매니페스트 활용법을 소개합니다. JSON 매니페스트를 통해 Base URL, API Key, 모델 이름을 중앙 관리하고 Node.js로 검증하는 워크플로우를 제안합니다.

Dify, Cursor, Node.js가 Vector Engine을 공유할 때 발생하는 스트리밍 불일치 디버깅하기

Dify, Cursor, Node.js 환경에서 Vector Engine을 공유 LLM API로 사용할 때 발생하는 스트리밍 불일치 문제를 디버깅하는 방법을 다룹니다. 일반 요청과 스트리밍 요청을 단계별로 검증하여 클라이언트 설정 오류와 API 게이트웨이 문제를 구분하는 가이드를 제공합니다.

더 똑똑한 모델을 쫓는 것을 멈추고, 더 나은 에이전트 스웜(Agent Swarms)을 구축하기 시작하세요

단일 거대 모델에 의존하는 대신, 특정 작업에 최적화된 여러 모델이 협업하는 '에이전트 스웜(Agent Swarms)' 아키텍처로의 전환을 강조합니다. 이를 통해 비용 효율성을 높이고 모델 종속성을 탈피하여 견고한 제품을 구축하는 전략을 제시합니다.

간단한 난수 테스트로 AI API가 몰래 모델을 교체하는지 확인할 수 있습니다. 각 모델은 고유한 수치적 "지문(fingerprint)"을

AI API가 사용자 모르게 모델을 교체하는지 확인하는 난수 테스트 방법을 소개합니다. 각 모델이 생성하는 고유한 수치적 지문(fingerprint)을 통해 모델의 무작위성을 검증하고 변경 여부를 탐지할 수 있습니다.

콘텐츠 생성과 공개 작업을 분리하는 trusted runner 설계 - 테스트 설계

콘텐츠 생성과 외부 공개 작업을 분리하여 안정성을 높이는 'trusted runner' 설계 방식을 제안합니다. 상태를 4단계로 세분화하고 JSON 기반의 계약을 통해 프로세스의 재개와 검증을 자동화하는 테스트 설계 관점을 다룹니다.