일본의 AI 시장은 급속하게 성장하고 있습니다.
IDC Japan의 조사에 따르면, 국내 AI 시장 지출액은 2025년 약 2.37조 엔에서 2029년에는 약 6.89조 엔으로 확대될 것으로 예측됩니다.
한편, 기업이 생성형 AI를 시도하는 것과 실제 운영 환경에서 지속적으로 운용하는 것 사이에는 큰 격차가 있습니다.
예를 들어, LLM API를 이용해 채팅 애플리케이션을 만드는 것은 비교적 쉽습니다.
하지만 실제 기업 시스템에서는 사내 데이터와의 연동, 접근 제어(access control), 답변 품질 평가, 모니터링, 비용 관리 등을 고려해야 합니다.
본 기사에서는 일본 기업의 AI 도입 시 과제가 되기 쉬운 기술적인 포인트를 RAG나 AI 에이전트의 설계 관점에서 정리합니다.
1. PoC와 본원 운영의 차이점
생성형 AI의 PoC(Proof of Concept)에서는 모델의 답변 성능이나 기본적인 기능 확인에 중점을 둡니다.
예를 들어, 다음과 같은 구성입니다.
이러한 구성만으로도 간단한 채팅 애플리케이션은 구현할 수 있습니다.
하지만 기업용 본원 시스템(production system)에서는 보통 더 많은 컴포넌트가 필요합니다.
LLM의 성능뿐만 아니라, 애플리케이션 전체로서의 신뢰성을 확보해야 합니다.
2. 사내 데이터 연동은 AI 도입의 중요한 과제
기업 내부 정보는 반드시 AI가 다루기 쉬운 상태로 저장되어 있는 것은 아닙니다.
예를 들어,
PDF나 Office 문서
사내 파일 서버
CRM·ERP
온프레미스 데이터베이스
레거시 시스템
등에 분산되어 있을 수 있습니다.
이러한 환경에서 AI를 활용하려면 데이터 취득(data acquisition), 변환, 접근 제어의 메커니즘이 필요합니다.
중요한 것은 LLM에게 데이터를 전달하기 전의 처리입니다.
데이터 품질이나 권한 관리가 미흡하면, 모델의 성능이 아무리 높아도 업무에서 안전하게 이용하는 것이 어려워집니다.
3. RAG를 본원 운영하기 위한 설계
사내 문서를 활용한 생성형 AI 애플리케이션에서는 RAG(Retrieval-Augmented Generation)가 자주 사용됩니다.
기본 구성은 다음과 같습니다.
하지만 본원 운영에서는 검색 정확도뿐만 아니라 여러 설계 요소를 고려해야 합니다.
접근 제어(Access Control)
사용자가 열람 권한을 가지지 않은 문서를 검색 결과나 답변에 포함하지 않도록 설계가 필요합니다.
데이터 업데이트(Data Update)
원본 문서가 업데이트된 경우, 인덱스 측에도 변경 사항을 반영하는 메커니즘이 요구됩니다.
답변의 근거(Source of Answer)
가능하다면, 답변에 참조 원문이나 해당 부분을 연결하여 이용자가 내용을 확인하기 쉽게 할 수 있습니다.
평가(Evaluation)
검색 결과의 관련성과 LLM이 생성하는 답변의 정확성은 분리하여 평가해야 합니다.
4. AI 에이전트를 도입할 경우 추가 요건
AI 에이전트는 LLM에 의한 문장 생성 외에도 외부 도구나 API를 이용하며 태스크를 실행할 수 있습니다.
예를 들어, 영업 리포트를 작성하는 에이전트라면 다음과 같은 처리가 생각될 수 있습니다.
여기서 중요한 것은 AI가 어떤 조작을 수행할 수 있는지 제한하는 것입니다.
예를 들어, CRM의 참조는 허용하되, 고객 정보의 삭제는 허용하지 않는 등의 권한 설계가 필요합니다.
또한, API 호출 실패나 중복 실행에도 대응해야 합니다.
AI 에이전트는 편리하지만, 구현할 때는 일반적인 업무 시스템과 마찬가지로 인가(authorization), 예외 처리(exception handling), 감사 로그(audit log) 등을 설계해야 합니다.
5. AI 시스템의 평가 지표를 정의하기
PoC에서 '답변이 좋아 보였다'는 평가만으로는 본원 도입 판단 자료로서 불충분할 수 있습니다.
예를 들어, 다음과 같은 지표를 설정할 수 있습니다.
| 평가 영역 | 지표 예시 |
|---|
| 검색 품질 | Recall@k |
| ... | |
어떤 지표를 우선할지는 애플리케이션의 용도에 따라 달라집니다.
사내 FAQ라면 답변 정확도와 검색 품질이 중요합니다.
실시간 업무 지원이라면, 레이턴시(latency)나 가용성(availability)도 중요합니다.
6. Human-in-the-Loop 설계하기
모든 처리를 AI에 맡길 필요는 없습니다.
예를 들어, 사내 정보 검색이나 요약은 자동화하더라도, 고객에게 이메일을 전송하거나 중요한 데이터 업데이트에는 인간의 승인을 필요로 하는 설계가 생각될 수 있습니다.
이처럼 인간의 확인(Human Confirmation)을 워크플로우에 통합함으로써, 자동화와 리스크 관리라는 두 가지를 모두 달성하기가 쉬워집니다.
7. 단계적으로 AI 도입하기
기업용 AI 구현 시에는 처음부터 대규모 자동화를 목표로 할 필요는 없습니다.
예를 들어, 다음과 같이 단계적으로 진행하는 방법이 있습니다.
Step 1: 정보 검색
사내 문서를 검색하고 관련 정보를 제시합니다.
Step 2: 답변 생성
RAG(Retrieval-Augmented Generation)를 활용하여 검색 결과를 바탕으로 답변을 생성합니다.
Step 3: 업무 시스템 연동
API를 통해 CRM이나 ERP와 같은 정보를 가져옵니다.
Step 4: 업무 액션
AI 에이전트가 허가된 범위 내에서 처리를 실행합니다.
Step 5: 지속적인 평가 및 개선
로그나 평가 지표를 바탕으로 품질과 운영을 개선합니다.
이러한 진행 방식이라면, 기술적 과제를 확인하면서 AI 활용 범위를 넓혀갈 수 있습니다.
요약
일본의 AI 시장은 앞으로도 성장이 예측되고 있습니다.
하지만 기업에서의 AI 도입 성공 여부는 모델의 성능만으로 결정되는 것이 아닙니다.
특히 중요한 것은 다음과 같은 요소들입니다.
- 사내 데이터와의 연동
- 접근 제어(Access Control)
- RAG의 검색 및 답변 품질
- AI 에이전트의 실행 권한
- 평가 및 모니터링
- Human-in-the-Loop
- 지속적인 운영 개선
이러한 요소들을 조합해야만 생성형 AI(Generative AI)를 실제 업무 시스템으로 활용할 수 있게 됩니다.
일본의 AI 시장 규모나 기업의 도입 현황, AI 에이전트/RAG/멀티모달 AI/피지컬 AI 등의 시장 동향에 대해서는 SotaTek Japan 기사에서도 자세히 설명하고 있습니다.
AI 도입을 고려할 때는 '어떤 모델을 사용할 것인가'뿐만 아니라, **'어떤 시스템으로 설계하고 운영할 것인가'**라는 시각이 중요합니다.
논의(Discussion)
