1-bit LLM「Bonsai」활용 가이드 — 1.15GB로 구동되는 8B 모델을 로컬에서 완벽하게 활용하기

PrismML이 발표한 1-bit LLM 'Bonsai'는 8B 모델을 1.15GB의 초경량 사이즈로 구현하여 GPU 없는 환경에서도 구동 가능합니다. 스크래치부터 1-bit로 학습된 이 모델은 기존 양자화 모델과 달리 높은 효율성을 자랑하며 로컬 환경 활용 가이드를 제공합니다.

다양한 RAG 아키텍처 중 오픈 소스 솔루션인 RAGFlow의 특징과 사용법을 소개합니다. EnterpriseRAG-Bench 상위권에 위치한 RAGFlow는 PDF 표 구조 인식과 OCR 통합 기능이 강력하며, 간편한 셋업과 가관측성 확보를 위한 Langfuse 연동을 지원합니다.

[Databricks] AI Search (구 Vector Search)를 Free Edition에서 구동하기 — 인덱스 생성부터 유사 검색까지

Databricks Free Edition 환경에서 AI Search(구 Vector Search)를 사용하여 벡터 인덱스를 생성하고 유사 검색을 수행하는 방법을 다룹니다. Delta Sync 인덱스 구성부터 Python SDK를 활용한 구현 절차를 단계별로 설명합니다.

Gemini Notebook의 출처를 직접 링크로 만들어 팩트 체크 수고를 줄이는 방법

Gemini Notebook(구 NotebookLM) 사용 시 Google 스프레드시트의 답변 근거를 확인하는 번거로움을 해결하기 위한 팁을 소개합니다. Google Apps Script(GAS)를 활용해 각 행에 직접 링크를 생성함으로써 팩트 체크 속도를 높이는 방법을 다룹니다.

AI 에이전트의 신뢰성과 안전성을 확보하기 위한 Human-in-the-loop(HITL) 설계 패턴을 다룹니다. 업무의 영향도와 가역성을 기준으로 승인, 감시, 개입형 레벨을 구분하고 입력, 실행, 출력 단계별 적절한 승인 포인트를 제안합니다.

할루시네이션(그럴듯한 거짓말)이란 — LLM이 일으키는 원인과 줄이는 방법을 초보자용으로 정리

LLM이 생성하는 할루시네이션의 정의와 발생 원인을 초보자 눈높이에서 설명합니다. 확률적 토큰 예측 방식의 한계와 데이터 문제 등 근본 원인을 분석하고, 이를 실무에서 완화할 수 있는 프롬프트 엔지니어링 전략을 제시합니다.

S3 상의 대량 로그를 Oracle Autonomous AI Lakehouse로 분석하기: 외부 테이블, Parquet, SQL, Vector

AWS S3의 대량 로그 데이터를 Oracle Autonomous AI Lakehouse를 활용해 효율적으로 분석하는 방법을 다룹니다. 모든 데이터를 벡터화하는 대신, 구조화된 데이터는 SQL로, 의미 검색이 필요한 텍스트는 Vector Search로 처리하는 하이브리드 접근 방식을 제안합니다.

AI 코딩 에이전트를 단발적 채팅 도구가 아닌 하나의 '생산 라인(Software Factory)'으로 설계하는 워크플로우 구축 방안을 다룹니다. 에이전트에게 개발 인프라 권한을 부여하고, 실행 단계를 고속화하며, 별도의 비평가 에이전트를 활용해 품질을 관리하는 실천적 전략을 제시합니다.

AI 코딩으로 생산성이 높아진 시대에 단순히 결과물의 양을 늘리는 것은 유지보수 비용과 기술 부채를 폭증시켜 조직을 위기에 빠뜨릴 수 있습니다. AI를 단순한 백로그 해결 도구가 아닌, 더 높은 수준의 전략적 목표에 도전하는 변혁적 도구로 활용해야 한다는 제언을 담고 있습니다.

AI에게 코드를 작성하게 한다면 어떤 기술 스택이 좋을까? 도달한 결론은 TypeScript 중심 + 필요한 부분만 Python/Go

AI 주도 개발(AI-Driven Development) 환경에서 에이전트와 궁합이 좋은 기술 스택을 제안합니다. TypeScript를 중심으로 하되, 필요에 따라 Python과 Go를 병행하는 구성을 권장하며, AI의 실수를 기계적으로 검출할 수 있는 타입 시스템과 도구의 중요성을 강조합니다.

벡터 검색의 환각 문제를 해결하기 위해 Oracle Text의 텍스트 인덱스와 벡터 인덱스를 결합한 하이브리드 벡터 인덱스 활용법을 소개합니다. OCI BaseDB(26ai) 환경에서 가상의 IT 서적 데이터를 사용하여 인덱스를 생성하고 관리하는 과정을 다룹니다.

Google Chrome DevTools 팀이 출시한 chrome-devtools-mcp를 통해 AI 코딩 에이전트가 실제 브라우저를 디버깅하고 성능을 분석하는 방법을 소개합니다. MCP(Model Context Protocol)를 활용하여 에이전트가 퍼포먼스 트레이스 기록, 콘솔 메시지 확인, 네트워크 요청 취득 등의 작업을 수행할 수 있습니다.

여러 개의 수리 영상을 분석하여 하나의 통합된 수리 가이드로 자동 생성하는 배치 처리 메커니즘을 소개합니다. faster-whisper와 OpenAI를 활용해 영상의 텍스트를 추출하고, 조회수 기반의 우선순위 처리 및 토픽별 지식 통합 과정을 거칩니다.

AI 애플리케이션에 최적화된 벡터 데이터베이스를 선택하기 위한 실전 가이드

AI 애플리케이션의 핵심인 벡터 데이터베이스를 선택하기 위한 실전 가이드를 제공합니다. 기능, 퍼포먼스, 에코시스템이라는 세 가지 관점을 통해 유스케이스에 최적화된 데이터베이스를 선정하는 프레임워크를 제시합니다.

생성형 AI의 팀 도입, 생각보다 전혀 잘 풀리지 않았던 이야기

생성형 AI를 팀과 조직에 도입할 때 발생하는 보안, 라이선스, 품질 관리 등의 현실적인 문제와 해결 방안을 다룹니다. 기술 도입보다 규칙 정비와 커뮤니케이션이 선행되어야 함을 강조합니다.

29개의 병렬 리포지토리를 음성으로 돌리기. 호칭 인덱스라는 작은 장부를 하나 추가했을 뿐인 이야기

음성 입력을 통해 AI CLI를 제어할 때 발생하는 리포지토리 이름의 오인식 문제를 '호칭 인덱스(Alias Index)'라는 별도의 CSV 매핑 레이어를 통해 해결하는 방법을 소개합니다.

【2탄】초보 탈출기: Python과 Gemini API로 나만의 AI 개발하기! 에러와 싸우며 얻은 첫걸음

Gemini API를 활용한 AI 개발 입문 과정에서 겪은 404 에러와 해결 방법을 다룹니다. 모델명 불일치 문제를 `genai.list_models()` 함수를 통해 해결하는 디버깅 팁을 공유합니다.