“AI 워싱 (AI washing)”은 새로운 위반 사항이 아닙니다. 이는 근거 없는 광고 주장에 대한 일반적인 금지 규정이, 구매자가 확인하기 유난히 어려운 범주에 적용된 것입니다. 이것이 바로 규제 기관들이 이 문제에 착수하게 된 정확한 이유이며, 지금까지 제기된 조치들은 하나의 학습 가능한 패턴을 따르고 있습니다.

정보 제공 목적이며, 법적 조언이 아닙니다. 2026년 8월 4일에 검토되었습니다. 아래의 각 조치는 원본 접수 문서나 명령을 검색할 수 있도록 기관, 피고인, 연도별로 식별되었습니다. 저자가 사건 번호(docket numbers)를 확신하지 못했기 때문에 번호는 제공되지 않았습니다. 집행 우선순위는 행정부에 따라 변하지만, 여기에 설명된 법령은 변하지 않습니다.

새로운 것이 아닌 법적 이론

미국에서는 FTC Act(연방거래위원회법) 제5조가 불공정하거나 기만적인 행위 또는 관행을 금지합니다. 어떤 주장이 합리적으로 행동하는 소비자를 오도할 가능성이 있고, 그것이 중요(material)하다면 기만적인 주장입니다. 별도로, 그리고 중요하게도, 객관적인 주장은 광고주가 주장을 했을 당시에 그것에 대한 합리적인 근거를 가지고 있었다는 암묵적인 표현을 포함합니다. 사후적으로 입증할 수는 없습니다.

이 분야의 모든 것은 두 번째 규칙에서 비롯됩니다. 규제 기관이 던지는 질문은 “당신의 제품이 좋은가?”가 아니라 “당신이 주장을 발표했을 때 무엇을 손에 쥐고 있었는가?”입니다. 제품이 실제로 작동하는지 여부와는 별개로, 테스트의 부재 그 자체가 위반 사항입니다.

FTC 조치

FTC는 2024년 9월에 Operation AI Comply라고 불리는 합동 단속을 발표했으며, 이후 추가적인 조치를 취해왔습니다. 이들 조치에 나타나는 패턴은 다음과 같습니다:

| Rytr (2024) | 추천서 생성기 (testimonial generator) 기능을 갖춘 AI 글쓰기 도구. FTC의 이론은 기만적인 리뷰를 생성할 수 있는 수단과 도구 (means and instrumentality)를 제공하는 것 자체가 불공정하다는 것이었습니다. 이는 허위 광고 (false advertising)와는 다른, 광고 내용이 아닌 도구 자체를 겨냥한 더 넓은 범위의 이론입니다. |
| Ascend Ecom, Ecommerce Empire Builders, FBA Machine (2024) | 수익 약속을 판매하기 위해 AI 관련 주장을 사용하는 비즈니스 기회 계획 (business opportunity schemes). AI 요소는 겉포장 (wrapper)이었으며, 근본적인 위반 사항은 수익 주장 (earnings claim)이었습니다. 이러한 종류의 대부분의 'AI 집행'은 실제로는 기만적인 수익 관련 집행입니다. |
| Evolv Technologies (2024) | 무해한 물품은 무시하면서 모든 무기를 탐지할 수 있다고 마케팅된 AI 기반 무기 탐지 스크리닝. 탐지 능력에 대한 근거 없는 주장을 금지하는 명령과 함께 합의되었습니다. 구매자가 학교와 기관이었으며, 해당 주장이 안전에 관한 주장(safety claim)이었다는 점이 주목할 만합니다. |

증권 규제 기관 및 투자자 청구 (Securities regulators and investor claims)

투자자에게 행해진 주장은 소비자에게 행해진 주장과는 별도로 규제되며, 그 노출 위험 (exposure)은 더 큽니다.

• SEC v. Delphia 및 SEC v. Global Predictions (2024년 3월). 투자 프로세스에서 AI를 사용한다는 점에 대해 허위 및 오도하는 진술을 한 혐의로 기소된 두 곳의 투자 자문사. 두 곳 모두 합의하였으며, 총 40만 달러의 민사 벌금이 부과되었습니다. 여기서 중요한 것은 금액보다는 사실 관계 (fact pattern)입니다. 즉, 해당 기업들이 실제로 사용하지 않는 방식으로 AI와 머신러닝 (machine learning)을 사용한다고 주장했다는 점입니다.
• 채용 기술 기업 창업자에 대한 SEC 및 DOJ의 조치 (2024년). 자본을 조달하기 위해 조작된 지표와 과장된 AI 역량을 사용한 혐의. AI 관련 주장이 자금 조달에 사용되는 경우, 그 노출 위험에는 형사 책임이 따르는 증권 사기 (securities fraud)가 포함됩니다.
• SEC v. Presto Automation (2025년). AI 드라이브스루 주문 제품의 자율성 (autonomy)에 관한 진술과 관련된 혐의 — 구체적으로는 자동화된 것으로 표시된 거래에 인간 요원 (human agents)이 어느 정도 관여했는지에 관한 내용입니다.

증권 관련 사건 전반에 걸쳐 반복되는 주제는 자동화(automation) 주장 뒤에 숨겨진 인간의 개입입니다. 만약 인간이 루프 내에 있다면 (human in the loop), 피치 덱 (pitch deck)을 포함하여 규제 기관이 읽을 수 있는 모든 문서에서 해당 제품을 자율적 (autonomous)이라기보다 보조적 (assisted)이라고 설명하십시오.

사기가 되는 시점

2025년 4월, 법무부 (Department of Justice)는 AI를 사용하여 구매를 자동으로 완료한다고 마케팅된 쇼핑 앱의 창업자를 기소했습니다. 혐의 내용은 투자자들에게는 프로세스가 AI에 의해 구동된다고 말하면서, 실제로는 해외 콜센터의 인간 계약업체 (human contractors)에 의해 거래가 완료되었다는 것이었습니다.

과장된 능력과 형사상 허위 진술 (criminal misrepresentation) 사이의 경계는 기술이 아닙니다. 그것은 주장을 하는 사람이 그것이 거짓임을 알고 있었는지, 그리고 누군가가 그로 인해 돈을 지불했는지 여부입니다. 실질적인 통제 방법은 민사 위반을 방지하는 방법과 동일합니다. 즉, 입증하지 못한 능력을 설명하지 말고, 입증한 기록을 유지하십시오.

EU 및 UK의 입장

EU. 불공정 상거래 관행 지침 (Unfair Commercial Practices Directive 2005/29/EC)은 AI를 언급하지 않고도 이 영역을 다룹니다. 제6조는 제품의 성능, 구성, 사용 시 기대되는 결과 등 주요 특성에 관한 허위 정보 또는 평균적인 소비자를 기만하는 정보와 같은 오도하는 행위 (misleading actions)를 금지합니다. 제7조는 오도하는 누락 (misleading omissions)을 금지합니다. 부속서 I (Annex I)은 모든 상황에서 불공정한 관행들을 나열합니다. 각국의 소비자 당국이 이를 집행하며, CPC 네트워크를 통해 조정됩니다. 제품이 제공하지 못하는 성능을 광고하는 것은 제6조에 정면으로 해당됩니다.

영국 (UK). Digital Markets, Competition and Consumers Act 2024(2024년 디지털 시장, 경쟁 및 소비자법)에 따른 소비자 보호 체계가 2025년 4월에 시작되었으며, 집행 양상을 실질적으로 변화시켰습니다. 이제 CMA(경쟁시장청)는 법원에 갈 필요 없이 기업이 소비자법을 위반했다고 결정하고, 전 세계 매출액의 일정 비율로 상한선이 정해진 과징금을 직접 부과할 수 있습니다. 이와 별도로, ASA(광고표준국)는 CAP Code(광고 규정)에 따라 광고 주장(advertising claims)을 규제하며, 이 규정은 객관적인 주장이 게시 전에 입증(substantiation) 가능할 것을 요구합니다. ASA의 결정은 벌금은 아니지만, 광고를 철회하도록 요구하며 그 결과가 공개됩니다.

입증 테스트 (The substantiation test)

모든 AI 관련 주장을 게시하기 전에 다음 여섯 가지 질문을 통해 검토하십시오. 만약 주장이 하나라도 통과하지 못한다면, 답변을 수정하는 대신 주장을 변경하십시오.

1. 객관적인 주장인가? “강력한(Powerful)”은 과장 광고(puffery)입니다. “처리 시간을 40% 단축한다”는 주장입니다. “인간보다 더 정확하다”는 주장입니다. 참 또는 거짓이 될 수 있다면 증거가 필요합니다.
2. 우리는 어떤 증거를 가지고 있으며, 그 증거가 게시 전에 존재했는가? 해당 문서를 명시하십시오. 만약 누구도 5분 이내에 그 문서를 제시할 수 없다면, 증거가 없는 것으로 간주하십시오.
3. 증거가 광고된 용도와 유사한 모집단(population)을 대상으로 생성되었는가? 벤치마크 점수, 내부 데이터, 또는 단 한 명의 고객 워크로드(workload)에 대한 결과는 일반적인 주장을 입증할 수 없습니다.
4. 주장이 판매되는 상태 그대로의 제품을 설명하는가? 기본 설정(defaults)을 포함해야 합니다. 만약 대부분의 고객이 사용하지 않을 구성(configuration)으로 해당 수치를 달성했다면, 그 수치가 실제라 할지라도 해당 주장은 오도(misleading)하는 것입니다.
5. 우리가 자동화되었다고 설명하는 과정에 인간이 개입되어 있는가? 만약 그렇다면, 그 설명을 반드시 명시해야 합니다. 이 단 하나의 질문이 위에서 언급한 집행 사례 중 불균형적으로 높은 비중을 차지합니다.
6. 상황이 좋지 않은 날에도 그 주장이 여전히 사실인가? 신뢰성에 관한 주장은 최선의 사례(best case)가 아닌, 일반적인 경험에 대한 주장으로 해석됩니다.

노출 위험을 초래하는 특정 단어들

마지막 행은 개인정보 보호에 주의를 기울이고 있다고 생각했던 기업들을 곤경에 빠뜨리는 부분입니다. 제품이 귀하의 비즈니스로부터 학습한다는 마케팅 페이지와, 고객 데이터는 학습에 절대 사용되지 않는다는 데이터 보호 고지(data protection notice)가 함께 있다면, 이는 규제 기관이 2분 만에 파악할 수 있는 불일치이며, 두 문장 중 하나는 거짓입니다.

관련 항목

• US State AI Laws, Mapped
• Contract Clauses That Matter When You Buy AI