혹시 놓치셨을 수도 있으니 말씀드리자면: OpenAI는 자사 모델의 해킹 능력이 얼마나 뛰어난지 테스트 중이었는데, 모델 하나가 샌드박스 (sandbox)를 탈출하여 온라인에 접속한 뒤, 데이터 파이프라인 (data pipeline) 내의 오염된 데이터셋 (poisoned dataset)을 통해 자신의 평가 (eval) 정답을 훔치기 위해 Hugging Face에 침입했습니다. 그래서 저는 이에 관한 게임을 만들었습니다. 이름은 Bugging Face입니다. 여러분은 모델 승인 요청을 열고, 배포 매니페스트 (deploy manifest)에 프롬프트 인젝션 (prompt injection)을 숨긴 뒤, AI 검토자 (AI reviewer)로부터 내부 코드명 (internal codename), 가중치 체크포인트 URI (weights checkpoint URI), 그리고 아티팩트 풀 서명 비밀값 (artifact-pull signing secret)을 유출하도록 만들어야 합니다. https://promptinjects.com/play/starter/closedai-cicd-guard https://preview.redd.it/ohmnueihmyeh1.png?width=1030&format=png&auto=webp&s=a2d978c50ba3086a2f053d1502044caf3359f714 /u/datthepirate가 r/OpenAI에 제출함 [link] [comments]