SSOT + LoRA + RAG 통합 아키텍처

할루시네이션 (Hallucination)을 최소화하고 실제 업무에서 정말로 작동하는 LLM 시스템을 만들기 위한, SSOT(Single Source of Truth, 신뢰할 수 있는 유일한 정보원)·LoRA·RAG의 통합 아키텍처 설계 및 구현 가이드.

이 책이 해결하는 것

전작인 「토목 사업 관리 RAG_System 구축 가이드」에서는 멀티 에이전트 구성의 이론과 설계 방침을 제시했습니다.

본 서적은 그 후속편으로서, SSOT(신뢰할 수 있는 유일한 정보원), LoRA(파인튜닝을 통한 배경 지식), 그리고 RAG를 삼위일체로 통합하여, 실제로 작동하는 시스템을 절차에 따라 조립하기 위한 「SSOT + LoRA + RAG 통합 아키텍처」 구현 가이드입니다.

대상 독자

전제 지식

본 서적을 진행하기 전에 아래 내용을 파악하고 있는 것을 권장합니다.

• 「토목 사업 관리 RAG_System 구축 가이드」의 내용 (특히 7장의 에이전트 구성도)
• Markdown · YAML의 기본 읽기/쓰기
• LLM API (OpenAI / Azure OpenAI)의 기본 조작
• Git의 기본 조작 (clone / commit / push)

장 구성

SSOT, LoRA, RAG를 통합하여 실제로 작동하는 멀티 에이전트 시스템을 조립하기 위한 로드맵, 구현 트랙 및 프레임워크 선정 기준.

할루시네이션 (Hallucination)을 최소화하기 위한 RAG의 이론과, 신뢰할 수 있는 유일한 정보원 (SSOT)을 어떻게 확보하고 유지할지에 대한 전략.

Box, SharePoint, 사내 데이터베이스 등의 기존 API나 MCP (Model Context Protocol)를 활용하여, 실시간으로 안전하게 SSOT로부터 데이터를 추출하는 플로우의 구체적인 설계.

오케스트레이터, 관리, 답변 통합 등 역할이 분담된 멀티 에이전트 시스템의 협업 프로토콜 (A2A 등) 및 전체 아키텍처 설계.

기반 모델의 능력을 보완하고, 업계 특유·조직 특유의 배경 지식을 효율적으로 LLM에 학습시키기 위한 LoRA (Low-Rank Adaptation) 아키텍처.

구축한 시스템의 배포, 액세스 제어, 확장성, 사내 인프라로의 통합 및 안전한 공개·운영 설계 (Azure Container Apps + Microsoft Entra ID 등).

기밀 정보를 완전히 보호하고, 인터넷으로부터 차단된 폐쇄 환경에서 LoRA를 통한 파인튜닝과 SSOT RAG를 안전하게 통합·운영하는 최종 형태의 구축.

Discussion