벤더 AI 컴플라이언스: 조달 체크리스트

Originally published at https://charz.ai/blog/vendor-ai-compliance-procurement-checklist by Char-Z AI.

소프트웨어 구매 방식대로 AI를 구매하고, 그 위에 AI 레이어를 추가하세요

조달(Procurement) 단계는 제3자 AI 위험이 통제되거나 혹은 생성되는 곳입니다. 표준 소프트웨어 RFI(Request for Information)는 보안과 가격을 다루지만, AI 도구는 모델 동작 방식, 학습 데이터, 자율성, 거버넌스 등 전통적인 RFP(Request for Proposal)가 놓치는 차원을 추가합니다. 이 체크리스트는 당사의 제3자 AI 위험 가이드에서 구체적이고 반복 가능한 산출물로 평가 워크플로우를 전환시킵니다.

이것을 두 단계에 걸쳐 사용하세요. 첫째, 벤더를 추려내는 짧은 스크리닝 설문지입니다. 둘째, 민감한 데이터를 처리하거나 높은 자율성 작업 부하(high-autonomy workloads)를 다루는 최종 후보자에 대한 심층 증거 검토입니다.

스크리닝 설문지 (Shortlist)

각 질문에 대해 통과/우려/실패 중 점수를 매기세요.

데이터 처리(Data handling)

[ ] 벤더가 고객 데이터로 학습하는지 명시하고 있습니까?
[ ] 서면으로 귀사의 데이터 학습 거부 옵션을 선택할 수 있습니까?
[ ] 데이터 처리 계약서(DPA)를 이용할 수 있습니까?
... 

보안(Security)

[ ] 벤더가 SOC 2 Type II 또는 ISO 27001을 보유하고 있습니까?
[ ] 암호화(전송 중 + 저장 시)가 문서화되어 있습니까?
[ ] 문서화된 침해 통지 프로세스가 있습니까?

모델 및 동작 방식 (Model and behavior)

[ ] 모델 카드/기술 문서를 게시하고 있습니까?
[ ] 평가 또는 벤치마크 결과가 이용 가능합니까?
[ ] 제한 사항과 알려진 실패 모드가 공개되어 있습니까?

거버넌스(Governance)

[ ] 벤더가 자체 AI 위험 관리 프로그램을 보유하고 있습니까?
[ ] 인정된 프레임워크(예: NIST AI RMF, ISO 42001)에 매핑되어 있습니까?
[ ] AI 사고 대응 계획이 있습니까?

하위 처리(Sub-processing)

[ ] 하위 처리업체 목록이 게시되어 있습니까?
[ ] 하위 처리업체의 의무가 귀사에게 전달됩니까?

심층 증거 검토 (Deep-Dive Evidence Review) (최종 후보자)

설문지를 넘어, 최종 후보자에 대해서는 다음의 산출물들을 수집해야 합니다:

• DPA(데이터 처리 계약)와 개인정보 보호정책을 전체적으로 읽어보세요. 훈련 데이터(training-data) 조항, 보존, 삭제, 그리고 제3국 전송(European Commission, 2016)에 대한 내용을 확인하세요.

• 모델 카드(model card)를 귀사의 특정 사용 사례와 비교 검토하세요. 의도된 사용 범위가 계획하는 활동을 포괄합니까?

• 발행 기관의 등록부에서 인증서를 확인하세요. 웹사이트의 로고를 증거로 삼지 마세요.

• 보안 공개 자료(security disclosures)를 검토하세요. 모의 침투 테스트(pen-test) 요약, 취약점 정책, 그리고 사고 이력 등을 포함합니다.

• 데이터 민감도가 높거나 자율성이 중요한 경우, 벤더의 AI 거버넌스 담당자와 인터뷰하세요. AI 기능이 배포되는 시점을 어떻게 결정하는지 물어보세요.

확보해야 할 계약 조항

• 귀사 데이터로의 학습 금지 (동의를 받은 경우 제외) — 기밀성 및 지적재산권(IP) 보호.

• 감사 권한(Right to audit) — 시간 경과에 따른 검증 가능하게 함.

• 중요 변경 사항에 대한 투명성 — 모델이 변경될 때 재평가할 수 있게 함.

• 계약 해지 시 데이터 삭제 — GDPR의 삭제 및 보존 요구사항 충족.

• 하위 처리업체(Subprocessor) 흐름 전파 — 의무 사항을 체인 전체에 걸쳐 유지함.

• 사고 통지 기간(Incident notification window) — 침해 통지 시점 요구사항 충족.

• IP/출력물에 대한 면책 조항(Indemnity for IP / output) — 출력물 관련 청구 완화.

일회성 점검이 아닌 주기적 검토

조달은 시작일 뿐, 끝이 아닙니다. 모든 AI 벤더를 최소한 매년 검토하고, 벤더가 중요한 변경 사항(새로운 모델, 새로운 훈련 데이터 정책 또는 새로운 하위 처리업체)을 발표할 때 재검토를 실행하세요. 지속적인 벤더 감독은 더 강력한 거버넌스 프로그램의 특징입니다.

출처

European Commission. (2016). Regulation (EU) 2016/679 — General Data Protection Regulation. *Official Journal of the European Union*.
NIST. (2023). *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*. National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1