회계·재무 AI 에이전트 설계: '완전 자율'보다 '제약 기반 자율'로 접근해야 하는 이유

• 회계·재무 영역에서 적절한 자율도(Bounded Autonomy)를 갖춘 AI 에이전트 설계론
• 감사 추적(Audit Trail), 에비던스 팩(Evidence Pack), 승인 임계치(Approval Threshold)의 구체적인 구현 패턴
• 세 가지 실무 유스케이스(월별 결산, 대사/조정, 송장 처리)에 대한 시스템 구성
• 90일 PoC 로드맵 및 평가 지표

재무·회계 백오피스에 AI 에이전트를 도입할 때, '완전 자율(Full Autonomy)'을 목표로 하면 반드시 실패한다. 본 기사에서는 제어와 감사를 전제로 한 에이전트 아키텍처의 구현론을 API 연동, 권한 설계, 운영 모니터링 관점에서 설명한다.

회계 업무는 구조화되어 있지만 단순하지 않다. 다음 특성들이 AI 에이전트와 매우 잘 맞는 영역이다.

• 자신만만하지만 감사할 수 없는 답변 생성
• 승인 프로세스 우회
• 증빙 자료가 남지 않아 내부 감사에서 지적됨

따라서 본 기사에서는 **'제약 기반 자율(Bounded Autonomy)'**이라는 설계 원칙을 제안한다.

아래 그림은 회계 AI 에이전트의 권장 아키텍처이다.

Systems & Data 계층: ERP (SAP, Oracle), 송장 관리 시스템, 은행 API 등. 에이전트는 이곳에서 생데이터를 가져온다. -
Agentic Execution 계층: 세 개의 에이전트(Close, Reconciliation, Invoice)가 배치된다. 각 에이전트는 에비던스 팩을 생성한다. -
Human Control & Judgement 계층: 인간의 승인·판단·최종 책임.

각 에이전트 노드에는 다음과 같은 제어 게이트를 구현한다.

# 의사 코드: 에비던스 팩 구조
class EvidencePack:
source_data: list[dict] # 참조한 생데이터
...

이 구조를 API 응답에 포함함으로써 감사 추적이 자동으로 생성된다.

책무: 작업 진행 모니터링, 미입력 항목 식별, 차이 코멘트 초안 작성

자율도: Read + Monitor + Draft (인간 최종 검토)

API 연동 예시:

• ERP의 월별 결산 작업 API (GET /tasks?status=open)
• 개체별 데이터 전송 현황 API (GET /entities/{id}/submission-status)
• 차이 분석 API (POST /variance-analysis with evidence pack)

제어 게이트:

• 중요성 임계치 (예: 차이율 5% 이상은 자동 초안 생성 금지)
• 계정 과목 유형별 규칙 (예: 매출액은 항상 인간 검토)

책무: 다중 소스 비교, 불일치 그룹화, 원인 특정, 분개(仕訳) 안 작성

자율도: Recommend with Evidence (인간 승인 필수)

API 연동 예시:

• 은행 거래 API (GET /transactions?date=2024-01)
• 총계정원장 API (GET /gl-entries?account=1100)
• 정책 엔진 API (POST /policy-check with transaction pair)

감사 추적의 핵심:

• 어떤 거래 쌍을 비교했는지
• 어떤 정책을 적용했는지
• 추론 체인(LLM의 사고 과정) 저장

책무: OCR 결과 검증, PO/입고와의 3자 일치(Three-way Match), 예외 라우팅

자율도: Execute with Approval (저위험 건만 자동 실행)

승인 임계치 설계 예시:

에비던스 팩이 없으면, 에이전트는 단순한 '제안 생성기'에 불과하다. 내부 감사에서 통용되는 증적을 필수화해야 한다.

단일의 '허가/불가' 규칙이 아니라, 거래액·에이전트 신뢰도·공급업체 위험·계정 과목 유형·패턴 인지성 5축으로 설계한다.

참조한 소스 데이터
호출된 API/도구
적용된 정책
LLM의 추론 요약(サマリ)
인간의 승인/오버라이드
최종적인 시스템 등록

권장 순서:

• Read + Monitor + Draft (읽기・감시・초안 작성)
• Recommend with Evidence (증거 기반 추천)
• Execute with Approval (승인 기반 실행)
• Execute with Monitoring (감시 기반 실행: 제한 영역에 한함)

역순으로 구현하면 신뢰가 순식간에 무너진다.

에이전트의 품질 지표로서 다음을 측정한다.

수용률(受入率): 인간이 수정하지 않고 승인한 비율 -
수정률(修正率): 인간이 수정을 가한 비율 -
증거 품질(エビデンス品質): 감사에서 지적된 증거 부족 건수 -
백로그 감소율(バックログ削減率): 미처리 건수의 감소 정도

1개의 유스케이스에 집중 (권장: 대조 에이전트)

• 소스 시스템의 API를 매핑

• 정책 엔진 구축 (규칙 기반 + LLM)

• 증거 팩(エビデンスパック)의 스키마 정의

• 에이전트를 '초안 생성 + 인간 검토'로 운영

• 수용률・수정률을 측정

• 증거 팩의 품질을 감사팀과 리뷰

• 다음 지표로 판단한다

• 수용률 > 80% → 확장(スケール) 검토

• 수용률 50~80% → 경계 설정된 운영 지속(バウンデッド運用継続)

• 수용률 < 50% → 데이터 기반 또는 정책 설계 재검토

회계・재무 AI 에이전트 도입에서 가장 중요한 것은, '무엇을 시키지 않을 것인가'를 처음에 결정하는 것이다.

• 완전 자율을 목표로 하지 마라. 제약 기반의 자율을 설계하라.
• 증거 팩을 필수화하라.
• 승인 임계값은 리스크 기반으로 계층화하라.
• 감사 추적(監査証跡)은 결정 체인 전체를 추적 가능하게 하라.

회계팀이 아직도 '추적', '대조', '후속 조치', '설명 자료 수작업'에 시간을 쓰고 있다면, 문제는 툴 부족이 아니다. 디지털 노동 시대에 맞춰 운영 모델을 재설계하지 못하고 있는 것이다. AI 에이전트는 그 재설계를 가능하게 하지만, 그것은 통제(制御)에서 시작했을 경우에 한한다.