키워드: AI 컴플라이언스 자동화 (AI compliance automation), 규제 대상 AI 시스템 설계 (regulated AI system design), 구조화된 문서 분석 (structured document analysis), 인간 참여형 AI (human-in-the-loop AI)

대부분의 "컴플라이언스용 AI" 제품들은 동일한 패턴을 따릅니다. 범용 언어 모델 (general-purpose language model)을 가져와서, 컴플라이언스 색채가 가미된 프롬프트 (prompt)로 감싸서 출시하는 방식입니다. 이러한 접근 방식은 리스크가 낮은 영역에서는 상당히 잘 작동할 수 있습니다. 하지만 이슬람 금융 컴플라이언스 분야에서는 진정으로 위험한 설계 선택입니다. 이곳에서는 확신에 찬 오답이 정직한 "확실하지 않습니다"보다 범주적으로 훨씬 더 나쁘며, 이러한 차이를 잘못 판단했을 때의 비용은 단순히 나쁜 사용자 경험이 아니라, 실제 규제 및 평판에 영향을 미치는 컴플라이언스 실패로 이어지기 때문입니다.

그러한 제약 사항이 Aylinor의 거의 모든 설계 결정을 형성했습니다.

자동 해결이 아닌, 플래그 표시 및 설명 (Flag-and-explain, not auto-resolve)

가장 중요한 단 하나의 아키텍처 (architectural) 결정은 시스템이 모호함을 자동으로 해결하도록 허용하지 않는 것이었습니다. 제품 구조가 AAOIFI 조항과 깔끔하게 일치하지 않거나 문서에 상충하는 용어가 포함되어 있을 때, 시스템의 역할은 관련 참조(references)를 첨부하여 해당 불일치를 명확하게 드러내는 것이지, 조용히 하나의 해석을 선택하여 확정된 것처럼 제시하는 것이 아닙니다.

이것은 사소한 구현 세부 사항처럼 들릴 수 있습니다. 하지만 그렇지 않습니다. 이것은 컴플라이언스 담당자의 판단을 보조하는 도구와, 전자의 모습을 띠면서 실제로는 담당자의 판단을 조용히 자신의 판단으로 대체해 버리는 도구 사이의 차이입니다. 순수하게 "확신에 차고 완전해 보이는 답변을 제공하라"는 것에 최적화된 시스템은, 누군가 의도적으로 결정하지 않더라도 두 번째 범주로 흘러가는 경향이 있습니다. 이는 잘못된 지표를 최적화하는 과정에서 자연스럽게 나타나는 현상입니다.

조항 참조 정확도가 보기보다 어려운 문제인 이유

AAOIFI 표준에 대해 그럴듯하게 들리는 참조(reference)를 생성하는 것은 쉽습니다. 하지만 정확한 참조를 생성하는 것 — 즉, 호출된 특정 조항과 실제로 일치하며, 해당 표준의 올바른 버전이며, 문제가 되는 특정 상품 구조에 적용 가능한 참조를 생성하는 것 — 은 참조 자료를 모델이 일반적인 학습을 통해 근사할 수 있는 무언가가 아니라, 구조화되고 버전이 관리되는 데이터(structured, versioned data)로 취급할 것을 요구합니다. 이를 잘못 수행한다고 해서 요란하게 실패가 드러나지는 않습니다. 대신, 누군가가 원본과 대조해 보기 전까지는 합법적이고 감사 준비가 된 것처럼 보이는 문서를 생성함으로써 실패하게 됩니다.

이는 명백하게 망가진 출력물보다 훨씬 더 나쁜 실패 모드(failure mode)입니다. 왜냐하면 조기에 발견되지 않기 때문입니다.

학자를 대체하는 것이 아니라, 학자의 검토를 위해 설계하기

이 모든 것의 밑바탕에 깔린 범위(scope) 결정은 다음과 같습니다. Aylinor는 분석 및 문서화 계층 — 교차 참조(cross-referencing), 조항 생성, 감사 추적(audit-trail) 생성 — 을 자동화하며, 설계상 거기에서 멈춥니다. Aylinor는 준수 여부에 대한 판결을 내리지 않습니다. 이 경계는 우리가 나중에 제거할 계획인 제한 사항이 아니라, 바로 그 핵심 지점입니다. 이 시스템은 샤리아 학자(Shariah scholar)가 직접 자료를 수집하는 것보다 더 빠르게, 판단을 내릴 수 있도록 정확하고 잘 정리된 자료를 제공하기 위해 존재합니다. 스스로 판단을 내리기 위해 존재하는 것이 아닙니다.

모든 인터페이스 결정은 그로부터 비롯됩니다. 출력물은 맹목적인 수용이 아닌 검토를 위해 구조화됩니다. 신뢰 수준(Confidence levels)은 단일한 "정답" 뒤에 숨겨지는 대신 명시적으로 드러납니다. 모호함(Ambiguity)은 최적화하여 없애야 할 버그가 아니라, 출력물의 하나의 특징(feature)입니다.

실제적인 엔지니어링 트레이드오프(tradeoff)로서의 속도보다 정밀도

대부분의 제품 맥락에서 속도와 확신(confidence)은 명백한 승리 요소로 취급됩니다. 하지만 이 분야에서는 겉으로 보이는 확신을 항상 최대화하는 방향을 의도적으로 피하여 최적화했습니다. 왜냐하면 대상 고객인 컴플라이언스 담당자(compliance officers)와 샤리아 위원회(Shariah boards)는 시스템의 확실한 신호만큼이나 불확실성(uncertainty) 신호도 신뢰해야 하기 때문입니다. 항상 확신에 찬 시스템은 더 신뢰할 수 있는 것이 아닙니다. 언제 실제로 재확인해야 하는지 알 수 없기 때문에 오히려 유용성이 떨어집니다.

이것이 더 넓은 의미에서 갖는 함의

규제 대상이며 판단이 중요한(judgment-heavy) 도메인을 위한 AI를 구축하는 것은 현 시점에서 일차적으로 모델 역량(model-capability)의 문제가 아닙니다. 이는 설계 규율(design-discipline)의 문제입니다. 즉, 시스템이 스스로 내릴 수 있는 결정이 무엇인지 파악하고, 그 경계를 단순히 가리는 것이 아니라 가시화하는 것을 중심으로 전체 인터페이스를 구축하는 문제입니다.

이 프로젝트는 Daeson Technologies에서 구축 중이며, 현재 지역 출시를 앞두고 최종 개발 단계에 있습니다. 규제 산업이나 이해관계가 큰(high-stakes) 도메인에서 AI를 연구하고 계신다면, 진심으로 의견을 나누고 싶습니다.
🌐 웹사이트: https://daesontechnologies.online

📧 이메일: info@daesontechnologies.online