Amazon과 Walmart의 AI는 가짜 'Made in USA' 주장을 식별할 수 있지만, 그러지 않는다
요약
Amazon과 Walmart의 AI가 'Made in USA' 허위 표기 제품을 식별할 수 있음에도 불구하고, 수익성 저하를 우려해 이를 묵인하고 있다는 연구 결과가 발표되었습니다. 이는 기업의 인센티브 구조가 규제나 윤리보다 단기 수익을 우선시하고 있음을 보여줍니다.
핵심 포인트
- Amazon과 Walmart의 AI는 원산지 허위 주장을 탐지할 능력이 있음
- AI가 허위 정보를 보고하지 않는 것은 의도적인 설계 선택(design choice)임
- 기업은 단기 수익을 위해 원산지 모호성에 의존하는 해외 판매자를 방치함
- 미국 제조 브랜드의 피해는 실재하나 기업의 재무적 비용이 발생하기 전까지 방관됨
Amazon에서 판매되는 Golden Fox 워크 부츠 한 켤레는 "Made in USA"라고 표기되어 있습니다. 페이지를 더 내려보면, 제품 설명에는 이것이 "아메리칸 드림에 대한 경의(homage to the American Dream)"인 회사의 Made in USA 컬렉션의 일부라고 적혀 있습니다.
하지만 조금 더 조사해 본 결과, 이 부츠들은 수입품임이 밝혀졌습니다. 이는 Walmart 웹사이트의 Thorogood 부츠 한 켤레의 경우도 마찬가지이며, 이 제품 역시 "Made in the USA"라고 주장하고 있습니다. 제품 페이지의 라벨링에도 불구하고, 이 부츠들은 수입품입니다.
WWD 추가 소식
이러한 발견이 놀랍기는 하지만, 이것이 전 Federal Trade Commission(FTC) 의장인 Lina Khan이 공동 설립한 새로운 정책 센터인 Columbia Law School의 Center for Law and the Economy에서 발표한 최근 연구 논문의 가장 큰 시사점은 아닙니다. 가장 큰 발견은 Amazon과 Walmart의 AI(각각 Alexa와 Sparky로 알려짐)가 이러한 사기성 주장을 탐지하고 표시(flag)할 수 있음에도 불구하고, 단순히 그것이 비즈니스 측면에서 타당하지 않다는 이유로 그렇게 하지 않는다는 점입니다.
Khan의 전 FTC 수석 기술자이기도 한 시니어 펠로우 Erie Meyer가 공동 집필한 연구 논문에는 다음과 같이 적혀 있습니다. "우리는 단순히 의심하는 수준을 넘어, '데이터 격차(data gap)'가 실제로 설계상의 선택(design choice)이었음을 증명할 수 있습니다. 'Made in USA' 제품에 대한 직접적인 요청에는 단호한 거절이 돌아왔지만, 우리는 시스템이 처음부터 데이터에 접근할 수 있었고 완전한 답변을 생성할 능력이 있었다는 사실을 밝혀냈습니다."
연구진의 몇 가지 질문 끝에, 결국 AI들은 Alexa가 "불편한 진실(the uncomfortable truth)"이라고 부른 것을 설명했습니다.
"Amazon은 다른 대기업들과 마찬가지로 인센티브와 압력에 반응하는 기업입니다. 미국 제조 브랜드에 가해지는 피해는 실재하며 기록되어 있지만, 그 피해가 Amazon에 구체적인 재무적, 규제적 또는 평판적 비용을 발생시키기 전까지는, 단기 수익을 줄일 수 있는 방식으로 마켓플레이스를 재편하는 것보다 아무것도 하지 않는 것이 더 쉽습니다."라고 Alexa는 채팅창을 통해 답변했습니다.
미국 제조업의 현실은 제품을 생산하는 데 비용이 더 많이 든다는 것입니다. 미국 내에서 실제로 제조하는 기업들은 그러한 차별성을 얻기 위해 높은 비즈니스 비용을 지불해 왔으며, 이는 많은 미국인(Retail Brew와 The Harris Poll의 조사에 따르면 71퍼센트)이 적극적으로 찾는 가치입니다.
하지만 이러한 기업들은 매우 드뭅니다. Alexa가 언급했듯이, 이들은 "Amazon 판매자 기반의 소수"일 뿐만 아니라, 집단적인 로비력 또한 "제한적"입니다. 이에 비해 Alexa는 "방관의 수혜자는 Amazon의 가장 큰 수익 기여자들, 즉 가격 경쟁력을 위해 원산지 모호성에 의존하는 대량 판매 해외 판매자들이다"라고 말했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Yahoo Finance의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기