SEBI, 자본 시장의 AI 및 ML 사용에 대한 가이드라인 발표 예정 (킬 스위치 및 인간 감독 포함)

SEBI(인도 증권거래위원회) 회장 투힌 칸타 판데이(Tuhin Kanta Pandey)는 2026년 10월 10일 업계 모임에서 규제 당국이 인도 자본 시장에서 인공지능(AI) 및 머신러닝(ML)의 책임 있는 사용에 대한 가이드라인을 곧 발표할 것이라고 밝혔습니다. 이 프레임워크는 명확한 책임 소재, 데이터 통제, 킬 스위치(kill switches), 인간 감독(human oversight)을 포함하는 계층적 접근 방식을 따를 것으로 예상되며, 국제증권위원회(International Organization of Securities Commissions, IOSCO)의 AI 감독 도구 세트와도 일치할 것입니다.

발생한 내용

판데이는 봄베이 증권거래소 브로커스 포럼(Bombay Stock Exchange Brokers' Forum)이 주최한 제2회 자본 시장 컨플루언스 2026(Capital Market Confluence 2026)에서 연설했습니다. 그는 곧 발표될 AI 가이드라인이 기술이 책임 소재를 희석시키는 것을 허용하지 않을 것이라고 말했습니다. ANI와 이코노믹 타임즈(Economic Times)의 보도에 따르면, 판데이는 “규제 대상 법인들은 AI 결과, 데이터 품질, 모델 거버넌스 및 사이버 복원력에 대해 계속해서 책임이 있다”고 강조했습니다.

해당 가이드라인은 아직 발표되지 않았습니다. 판데이 회장은 또한 SEBI가 클로징 오크쇼 세션(Closing Auction Session) 검토 후 받은 피드백을 바탕으로 파생상품 만기일의 결제 가격에 대한 규정을 약 일주일 내에 발표할 것으로 예상한다고 덧붙였습니다.

상세 내용

이 계층적 접근 방식은 AI 또는 ML 시스템의 위험도에 따라 규제의 강도를 맞추는 것을 목표로 합니다. 알고리즘 트레이딩(algorithmic trading)이나 로보 어드바이저 도구처럼 고객이나 거래 결과에 직접적인 영향을 미치는 시스템은, 컴플라이언스 모니터링이나 사이버 보안과 같은 내부 운영 용도로만 사용되는 시스템보다 더 엄격한 요구 사항에 직면할 것으로 예상됩니다.

필수 안전장치에는 시스템이 예상치 못한 방식으로 작동할 경우 중단시킬 수 있는 킬 스위치 메커니즘과, 지정된 프로세스에서 의미 있는 인간 감독을 유지하기 위한 인간 참여형(humans-in-the-loop) 통제가 포함됩니다. 데이터 통제 역시 이 패키지의 일부입니다. 이 프레임워크는 거버넌스를 민첩하게 유지하기 위해 IOSCO의 감독 도구 세트를 활용할 것입니다.

이 내용은 여러 인도 매체에 보도된 Pandey의 발언을 바탕으로 합니다. 가이드라인 전문은 아직 발표되지 않았기 때문에, 등급(tiers)의 정확한 정의, '킬 스위치(kill switch)'의 정확한 범위, 그리고 제3자 공급업체에 대한 의무 사항은 지켜봐야 할 부분입니다.

중요성 (Why It Matters)

인도의 자본 시장은 규모가 크고 성장하고 있습니다. Pandey는 시장 가치가 약 472 lakh crore 루피(Rs) 수준이며, 고유 투자자 수는 15 crore를 초과하고, 뮤추얼 펀드 자산은 약 87 lakh crore 루피(Rs), 발행된 회사채는 약 61 lakh crore 루피(Rs)에 달한다고 언급했습니다. AI 도구는 이미 감시(surveillance), 사기 탐지(fraud detection), 위험 평가(risk assessment), 투자자 서비스 등에 사용되고 있습니다. 명확한 규칙이 없다면, 불투명성(opacity), 편향성(bias), 데이터 문제, 그리고 책임 공백(accountability gaps)이 신뢰를 훼손할 수 있습니다.

SEBI는 이전에 책임 있는 AI/ML 사용에 대한 지침 원칙(guiding principles) 관련 자문 문서를 발행했으며, 중개자(intermediaries)가 사용하는 AI/ML 시스템에 대한 보고 요건을 가지고 있습니다. 새로운 가이드라인은 재고 목록 및 원칙에서 운영 통제(operational controls)로 나아가려는 의도가 있는 것으로 보입니다.

배경 (Context)

Pandey는 2026년 FICCI 행사 등 이전 기회에도 AI 규정에 대해 언급한 바 있으며, 기술 제공업체에 아웃소싱할 수 없는 책임성(accountability), 인간 감독(human oversight), 그리고 킬 스위치(kill switches)를 지속적으로 강조해 왔습니다. NSE는 이미 거래 회원사들에게 AI/ML 애플리케이션을 보고하도록 요구했습니다. 최신 발언은 채택률이 높아짐에 따라 점진적으로 규제가 강화되는 패턴에 부합합니다.

글로벌하게도 증권 규제 당국들은 유사한 문제들을 다루고 있습니다. IOSCO는 SEBI가 이를 준수할 것이라고 밝힌 감독 자료를 제작했습니다. 인도의 접근 방식은 일률적인 금지나 자유방임이 아닌, 계층적이고 위험 기반(tiered and risk-based) 방식으로 설명되고 있습니다.

영향 (Impact)

브로커리지(brokers), 거래소(exchanges), 청산 공사(clearing corporations), 예탁 기관(depositories), 뮤추얼 펀드(mutual funds) 및 기타 SEBI 규제 법인들에게는 가이드라인이 문서화된 모델 거버넌스(model governance), 테스트, 편향성 점검(bias checks), 데이터 품질 관리(data-quality controls) 그리고 AI 시스템을 신속하게 중단시킬 수 있는 능력을 요구할 가능성이 높습니다. AI 도구를 공급업체(vendors)로부터 구매하는 법인들은 출력물과 데이터 보호에 대한 책임이 남아있으며, 계약서에는 규제 기관의 접근 권한을 유지하도록 명시해야 할 수도 있습니다.

투자자들에게는 더 명확한 규칙이 불투명한 모델이 거래, 자문 또는 감시(surveillance) 과정에서 불공정하거나 불안정한 결과를 초래할 위험을 줄일 수 있습니다. 인도 시장에 서비스를 제공하는 AI 공급업체들에게는 이러한 규칙들이 감사 가능성(auditability)과 킬 스위치(kill-switch) 기능에 대한 기준을 높일 수 있습니다.

향후 계획 (What Next)

SEBI가 공식 가이드라인을 발표할 때까지 기다려야 합니다. 가이드라인이 나올 때까지는 정확한 의무 사항, 준수 기한, 그리고 어떠한 전환 조치(transitional arrangements)가 필요한지 공개되지 않았습니다. 또한 SEBI는 약 일주일 내로 만기일 파생상품 결제 가이드라인을 발표할 것으로 예상되며, 400개 이상의 의견을 받은 후 해외 투자자를 위한 간소화된 디지털 온보딩에 관한 회람(circular)도 발표할 예정입니다.

TechPulse 요약 (TechPulse Takeaway)

Pandey의 10월 10일 발언은 SEBI가 계층적 위험 접근 방식(tiered risk approach), 법인 수준 책임성(entity-level accountability), 데이터 통제, 킬 스위치, 그리고 인간 감독을 중심으로 하며 IOSCO 자료와 일치하는 AI/ML 가이드라인을 곧 발표할 것이라는 확실한 신호입니다. 가이드라인 자체가 아직 발표되지 않았기 때문에, 정확한 요구 사항에 대한 주장은 문건이 나올 때까지 '예정'으로 표시해야 합니다. 이 진술은 이전 2026년 연설 및 규제 기관의 기존 보고 체계와 일관됩니다.

출처 (Sources)

• Economic Times / ANI, "SEBI가 자본 시장을 위한 AI 및 머신러닝 가이드를 곧 발표할 것: 회장," 2026년 10월 10일. https://economictimes.indiatimes.com/tech/artificial-intelligence/sebi-to-issue-ai-machine-learning-guidelines-shortly-eyes-expiry-day-settlement-rules-within-a-week-chairman/articleshow/134857770.cms
• Indian Economy & Market, "SEBI가 AI 거버넌스 가이드라인을 곧 발표하고, 파생상품 만기 결제 규칙은 일주일 내에 발표할 것," 2026년 10월 11일. https://indianeconomyandmarket.com/2026/10/11/sebi-to-issue-ai-governance-guidelines-shortly/
• Pandey의 FICCI 발언(2026년 8월)과 관련된 이전 보도 (Moneycontrol, Hindu Business Line, Policy Edge).