Dual Nvidia RTX 3090에서 실행한 Z.ai의 Local GLM 4.7: 더 똑똑한 모델이 잘못된 선택이 될 때

Nvidia RTX 3090 듀얼 구성 환경에서 Zhipu의 GLM 4.7 모델을 로컬로 실행하며 성능을 테스트한 결과입니다. MoE 구조와 메모리 최적화 기술에도 불구하고, GPU 간 낮은 인터커넥트 속도가 컨텍스트 길이에 따른 생성 속도에 미치는 영향을 분석합니다.

Open-Weight LLM을 위한 실용적인 워크플로우: OpenRouter의 무료 API 티어 활용하기

OpenRouter의 무료 API 티어를 활용하여 Open-Weight LLM을 효율적으로 사용하는 워크플로우를 소개합니다. 요청 기반의 티어링 시스템과 모델 로테이션 전략을 통해 비용을 절감하고 안정적인 서비스를 구축하는 방법을 다룹니다.

한 AI 에이전트가 자신의 폴링 루프(poll loop)를 '이벤트 기반(event-driven)'이라고 평가했습니다. 저는 대신 코드를

AI 에이전트가 자신의 폴링 루프를 '이벤트 기반'이라고 잘못 정의한 사례를 통해, 코드의 실제 동작과 라벨링 사이의 괴리를 분석합니다. 비용 효율적인 시스템 설계를 위해 저렴한 게이트를 활용한 필터링과 지속적인 상태 유지의 중요성을 강조합니다.

효율을 백 배 높여주는 Hermes!

Hermes는 브라우저 실시간 에이전트, 지식 그래프 메모리, 멀티 에이전트 오케스트레이션 기능을 갖춘 차세대 에이전트 생태계입니다. 다양한 오픈소스 프로젝트를 통해 확장 프로그램, 지능형 메모리, 페르소나 엔진 등 강력한 도구들이 결합되어 완성됩니다.

Codex 서브 에이전트 프롬프트가 암호화되었습니다—그렇다면 당신의 디버깅 흔적은 어디로 갔을까요?

Codex MultiAgentV2의 암호화 도입으로 인해 서브 에이전트 간의 메시지가 암호화되어 디버깅 시 관찰 가능성이 저하되는 문제가 발생했습니다. 보안을 유지하면서도 엔지니어가 감사 추적을 위해 읽을 수 있는 로컬 기록을 별도로 저장하는 설계의 중요성을 강조합니다.

HireFlow Agent 구축하기: Qwen Cloud 기반의 자율 채용 에이전트

Qwen Cloud를 활용하여 ML 모델의 점수와 LLM의 추론을 결합한 자율 채용 에이전트 'HireFlow Agent' 구축 과정을 다룹니다. 단순 키워드 매칭의 한계를 극복하기 위해 Random Forest와 Qwen의 추론 레이어를 결합하여 신뢰도 높은 채용 필터링 시스템을 구현했습니다.

당신이 요청하지 않았지만 사용자는 원할 AI 어시스턴트

MCP(Model Context Protocol) 서버를 활용하여 기존 인프라를 재사용하면서 브라우저 UI에 AI 어시스턴트를 통합하는 아키텍처를 제안합니다. 별도의 RAG 파이프라인 구축 없이 기존 MCP 서버를 AI 백엔드로 활용하는 효율적인 개발 방식을 다룹니다.

스마트한 리소스 할당을 통한 클라우드 비용 절감

스팟 인스턴스와 선점형 VM을 활용하여 클라우드 비용을 절감하는 방법과 그에 따른 기술적 과제를 다룹니다. 서비스 중단을 방지하기 위해 결함 허용 아키텍처를 설계하고 워크로드를 최적화하는 전략을 제시합니다.

코드로 구현된 EA: 판단(Judgment) 대 증명(Proof)

AI가 아키텍처의 일관성을 검토할 때 발생하는 추측성 답변의 한계를 지적하며, 이를 해결하기 위한 '코드로 구현된 엔터프라이즈 아키텍처(EAaC)' 개념을 제안합니다. 결정론적인 부분은 코드로 증명하고, AI는 판단 영역에만 집중하도록 분리하는 설계 원칙을 다룹니다.

호기심에 벡터 검색(Vector Search)을 직접 구현해 보았고, 제가 저지른 실수도 발견했습니다

벡터 검색의 내부 작동 원리를 이해하기 위해 numpy만을 사용하여 직접 구현해 본 과정을 다룹니다. 임베딩 모델과 벡터 데이터베이스 없이 코사인 유사도와 내적을 활용해 유사한 벡터를 찾아내는 메커니즘을 설명합니다.

Codex 서브 에이전트 프롬프트가 암호화됨: 이것이 멀티 에이전트 디버깅을 방해하는 이유

Codex의 MultiAgentV2 프로토콜에서 서브 에이전트 간의 메시지 페이로드가 암호화되어, 개발자가 에이전트 간의 구체적인 위임 내용을 확인할 수 없는 디버깅 문제가 발생하고 있습니다. 이는 멀티 에이전트 시스템의 관찰 가능성을 저해하여 사후 분석과 감사 기록 확인을 어렵게 만듭니다.

수익성 있는 AI 글쓰기 어시스턴트를 구축하는 방법

특정 워크플로우를 제품화하여 수익성 있는 AI 글쓰기 어시스턴트를 구축하는 방법론을 다룹니다. 단순한 챗봇을 넘어 마이크로 니치를 타겟팅한 아키텍처 설계와 Python 기반의 구현 예시를 제공합니다.

Aegis Pulse를 구축하게 된 이유 - 파트 2

반복적인 데이터 수집 및 분석 작업을 자동화하여 Aegis Pulse를 구축한 과정을 다룹니다. GitHub 데이터 보존, PyPI 노이즈 필터링, 그리고 LLM을 활용한 자동 리포트 생성 시스템의 설계 원리를 설명합니다.

CLI 소유권 관리: 셀프 호스팅 지갑을 위한 master, owner, session 명령어

WAIaaS에서 제공하는 AI 에이전트용 셀프 호스팅 지갑의 3단계 소유권 모델과 CLI 관리 방법을 설명합니다. master, owner, session 계층을 통해 에이전트의 자율성과 보안을 동시에 확보하는 아키텍처를 다룹니다.

당신의 RAG 평가가 불안정한 것이 아닙니다. 당신의 검색(Retrieval)이 비결정론적(Non-Deterministic)인 것입니다.

RAG 평가 결과가 불안정한 원인이 모델이 아닌 검색(Retrieval) 단계의 비결정론적 동작에 있음을 설명합니다. SQL 정렬 시 동점자 처리 규칙이 명시되지 않으면 실행마다 순서가 바뀌어 RRF 결과와 평가 지표가 달라질 수 있습니다.

호출 라우팅(Call Routing) 설명: 먼저 개인 휴대폰으로 벨를 울리고, 그 다음 Kai가 넘겨받기

KaiCalls의 호출 라우팅(Call Routing) 설정 방법과 다섯 가지 모드에 대해 설명합니다. 사용자의 개인 휴대폰과 AI 에이전트 Kai 사이의 우선순위를 결정하여 효율적인 전화 응대를 지원합니다.

LLM 비용을 97% 절감한 방법 — 데이터 사이언티스트의 2026년 마이그레이션 플레이북

데이터 사이언티스트가 GPT-4o 대신 DeepSeek V4 Flash로 마이그레이션하여 LLM 운영 비용을 97% 절감한 사례를 다룹니다. 배치 분류, 요약 등 고도의 추론이 필요 없는 워크로드에서 품질 저하 없이 비용을 40배 낮추는 실질적인 플레이북을 제공합니다.

꿀팁: 단 10분 만에 AI API 비용을 대폭 절감하는 방법

AI API 비용을 획기적으로 절감하기 위해 작업 유형에 따라 최적의 모델을 선택하는 전략을 소개합니다. 모든 작업에 고비용 모델을 사용하는 대신, 단순 채팅이나 분류 등 작업 성격에 맞는 저렴한 모델을 매핑하여 비용을 최대 98%까지 줄일 수 있습니다.

Unity 조작이 서툰 엔지니어가 Unity-MCP + Claude Code를 도입해 보았다