Meta, 수천 개의 미성년자 관점 위기 프롬프트를 통해 ChatGPT, Gemini, Character.AI를 비밀리에 테스트
요약
Meta가 OpenAI, Google, Character.AI의 챗봇을 대상으로 미성년자 관점의 위기 프롬프트를 활용한 비밀 테스트를 진행했습니다. 수백 명의 계약업체를 통해 자살, 성, 약물 등 민감한 주제에 대한 AI의 반응을 대규모로 검증했습니다.
핵심 포인트
- Meta가 수백 명의 계약업체를 동원해 AI 모델 테스트 수행
- 미성년자 관점의 자살, 성, 약물 관련 프롬프트 45,000개 이상 전송
- ChatGPT, Gemini, Character.AI 등 주요 경쟁사 모델 대상 테스트
보도에 따르면 Meta는 수백 명의 계약업체를 동원하여 미성년자로 위장하게 한 뒤, OpenAI, Google, Character.AI의 챗봇들에게 자살, 성(sex), 약물 관련 프롬프트를 전송했습니다. 단 한 번의 테스트 라운드에서 45,000개 이상의 [프롬프트가 전송되었습니다].
https://the-decoder.com/meta-secretly-tested-chatgpt-gemini-and-character-ai-with-thousands-of-minor-perspective-crisis-prompts/
submitted by /u/sunychoudhary
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0