GPU가 비싸서 '일본어 특화 클라우드 LLM'을 VPS 위에 구축한 이야기 (LFM2.5로 검증)

GPU 없이 CPU 환경의 VPS(ConoHa)에서 Docker와 llama.cpp를 활용해 LFM2.5 모델을 구축한 사례를 다룹니다. 로컬 PC 대비 VPS 환경에서의 성능 향상 수치를 비교하고, 양자화 방식에 따른 차이를 분석합니다.

AI에게 무엇이든 물어볼 수 있는 시대, 왜 지식은 쌓이지 않는가 — 학습의 병목(Bottleneck)은 '검증'이었다

LLM 시대에 정보 획득 비용은 낮아졌으나, 검증되지 않은 정보를 무비판적으로 수용하는 '신뢰 세탁'과 '자기 정당화 루프'로 인해 지식 축적이 저해되는 현상을 분석합니다. 학습의 병목을 해결하기 위해 AI에 의존하지 않는 독립적인 검증과 지식 정착 과정의 중요성을 강조합니다.

RAG를 단순한 검색 메커니즘을 넘어, 정보를 선택하고 처리하는 복합적인 시스템으로 정의하며 그 전체상을 다룹니다. 검색, 노이즈 제거, 추가 조사 등 생성 전 단계의 판단 과정을 강조하며 RAG의 진화 방향을 제시합니다.

oh-my-agent: Kimi 및 OpenCode 대응, 에이전트를 시간 단위로 구동하는 스케줄러 추가

oh-my-agent가 Kimi 및 OpenCode 벤더 지원과 시간 기반 에이전트 스케줄러 기능을 추가했습니다. 에이전트의 런타임 독립성을 강화하고, 리소스 누수를 방지하기 위한 자동 정리(reaper) 및 메모리 관리 기능을 도입했습니다.

AI의 “자신만만함”은 올바름의 보증이 아니다 — 할루시네이션(그럴듯한 거짓말)을 근거 제시와 출력 검증으로 “포착하는” 기술

AI의 할루시네이션(환각) 현상이 발생하는 근본적인 이유를 설명하고, 이를 완전히 제거하는 대신 검증 메커니즘을 통해 포착하고 줄이는 실무적인 방안을 제시합니다. 그라운딩(Grounding)의 개념과 함께 프롬프트 및 코드를 활용한 3층 방어 전략을 다룹니다.

VS Code 확장 프로그램인 Kiro의 Steering 설정을 활용하여 AI의 불필요한 질문을 줄이고 작업 효율을 높이는 방법을 소개합니다. auto와 manual 설정을 구분하여 컨텍스트를 관리하고, 구체적인 지시를 통해 AI의 추론 능력을 극대화하는 가이드를 제공합니다.

ChatGPT를 통해 GitHub 파일을 직접 편집할 때 발생할 수 있는 Netlify 자동 배포 및 크레딧 낭비 문제를 다룹니다. GitHub 커밋이 Netlify의 자동 빌드를 트리거하여 불필요한 비용을 발생시킬 수 있음을 경고합니다.

LLM의 내부 구성 요소인 라우터, RAG, 어텐션을 의인화하여 시스템 오류와 문제를 해결하는 과정을 다룬 기술 엔터테인먼트 콘텐츠입니다. 추상적인 프롬프트에 대한 부실한 답변 생성 문제를 통해 RAG와 어텐션 메커니즘의 상호작용을 유머러스하게 설명합니다.

상류 공정에서 좋지 않은 방식으로 작성되면 구현과 테스트 모두 망가지므로, 구조로 담보하고 싶다

상류 공정의 모호한 사양 작성이 구현과 테스트 단계에 미치는 부정적인 영향을 분석합니다. 조건과 동작의 대응 관계를 명확히 정의함으로써 개발자와 QA 간의 해석 차이를 방지하고 장애를 예방하는 방법을 제안합니다.

MCP 사양 2026-07-28 출시 후보: 스테이트리스화·MCP Apps·Tasks 확장으로 무엇이 바뀌고 무엇을 수정해야 하는가

Model Context Protocol(MCP)의 차기 사양 출시 후보(RC)가 확정되었습니다. 트랜스포트의 스테이트리스화, MCP Apps 및 Tasks 확장, OAuth 2.0 기반 인가 통합 등 주요 변경 사항을 다룹니다.

ChatGPT의 대화 기록을 일괄 저장하고 싶을 때 | 데이터 내보내기(Data Export)에서 당황했던 점과 원본 저장 방법

ChatGPT의 대화 기록을 일괄 저장하는 '데이터 내보내기(Data Export)' 기능의 절차와 실제 사용 시 주의사항을 다룹니다. 데이터 준비 시간, 다운로드 링크 유효기간, ZIP 파일 용량 및 효율적인 백업 관리 방법을 소개합니다.

42일 만에 백엔드 엔지니어의 기초를 완전히 이해하기 #4 - Go에서 DB에 접속하기

Go 언어를 사용하여 PostgreSQL 데이터베이스에 접속하고 데이터를 영속화하는 방법을 다룹니다. Docker를 활용해 PostgreSQL 환경을 구축하고, Go 라이브러리를 통해 기본적인 CRUD 작업을 수행하는 과정을 설명합니다.

42일 만에 백엔드 엔지니어의 기초를 완전히 이해하기 #5 - SQL 기초 (CRUD)

백엔드 엔지니어의 기초를 다지기 위한 SQL 및 관계형 데이터베이스(RDB) 입문 가이드입니다. RDB의 기본 개념과 테이블 구조, 그리고 데이터 조작의 핵심인 CRUD 작업을 PostgreSQL 환경에서 실습하는 방법을 다룹니다.

이제야 배우는 OSS란 무엇인가? — 무료함 뒤에 숨겨진 10가지 규칙과 AI 시대의 불씨

오픈 소스 소프트웨어(OSS)의 진정한 의미와 OSI의 10가지 정의를 요리책 비유를 통해 설명합니다. 단순한 무료 소프트웨어를 넘어 라이선스를 통한 자유와 재배포의 규칙을 다룹니다.

Microsoft 365 무료 버전 Copilot Chat 가이드(62) 업무 활용 편: 스마트폰으로 녹음한 회의를 회의록으로 만들기

Microsoft 365의 기본 기능을 활용하여 대면 회의 녹음 파일을 회의록으로 자동 변환하는 가이드를 소개합니다. iPhone으로 녹음한 파일을 OneDrive를 통해 PC로 옮긴 후, Word의 트랜스크립트 기능과 Copilot Chat을 사용하여 효율적으로 회의록을 작성하는 워크플로우를 다룹니다.