Hugging Face 와 JFrog 가 AI 보안 투명성 강화에 협력

우리는 ML 커뮤니티를 위한 안전하고 신뢰할 수 있는 플랫폼을 제공하는 장기적인 약속의 일환으로, JFrog 소프트웨어 공급망 플랫폼 (JFrog Software Supply Chain Platform) 의 창립자 인 JFrog 와 파트너십을 맺었다고 기쁘게 발표합니다. 우리는 Hugging Face Hub 의 보안을 계속 개선하기 위해 JFrog 의 스캐너를 플랫폼에 추가하기로 결정했습니다. JFrog 의 스캐너는 허브에서 위양성 (false positives) 을 줄이는 데 목적이 있는 새로운 기능을 가져옵니다. 실제로, 현재 우리가 관찰하는 바와 같이 모델 가중치 (model weights) 는 해제 시 (deserialization) 실행되는 코드를 포함할 수 있으며, 형식에 따라 추론 시간 (inference time) 에 실행되기도 합니다. 이 코드는 개발자에게 종종 무해한 실용성 (non harmful practicality) 을 제공합니다. 우리의 picklescan 스캐너는 모듈 이름에 대한 패턴 매칭만 수행하므로, 특정 함수 또는 모듈의 사용이 악의적인지 항상 확인할 수 없습니다. JFrog 는 한 걸음 더 나아가 모델 가중치에서 찾은 코드를 파싱하고 분석하여 잠재적인 악의적 사용을 확인합니다.

허브에서 보안 파트너십에 참여하거나 스캐닝 정보를 제공하시겠습니까? security@huggingface.co 로 연락해 주세요.

모델을 공유하기 위해, 우리는 저장과 전송을 용이하게 하기 위해 가중치, 설정 (configs) 및 모델과 상호작용하는 기타 데이터 구조를 직렬화 (serialize) 합니다. 일부 직렬화 형식은 임의 코드 실행 (arbitrary code execution) 과 같은 위험한 공격에 취약합니다 (피클 (pickle) 을 보세요), 해당 형식을 사용하는 공유 모델은 잠재적으로 위험할 수 있습니다.

Hugging Face 가 모델 공유 플랫폼으로 인기를 얻으면서, 우리는 커뮤니티를 보호하는 데 도움을 주고자 하며, picklescan 과 같은 도구를 개발하고 스캐너 스위트에 JFrog 를 통합했습니다.

피클 (pickle) 만이 이용 가능한 형식이 아닙니다. Keras Lambda 레이어를 활용하여 임의 코드 실행을 달성하는 방법을 참조로 확인해 보세요. 좋은 소식은 JFrog 가 이러한 공격과 더 많은 추가 파일 형식에서 이러한 공격을 모두 포착한다는 것입니다 – 최신 스캐너 정보를 위해 JFrog 의 Model Threats 페이지를 확인하세요.

보안에 대한 모든 문서를 여기에서 읽으세요: https://huggingface.co/docs/hub/security 🔥

이 혜택을 받기 위해 할 일은 없습니다! 모든 공개 모델 저장소는 파일을 허브로 푸시하는 즉시 JFrog 가 자동으로 스캔합니다. 기능을 확인하기 위한 예제 저장소를 아래에 확인하세요: mcpotato/42-eicar-street.

mcpotato/42-eicar-street's danger.dat 스캔 결과

오늘날에는 수백만 개의 모델 저장소 (model repos) 가 있으므로, 모델에 대한 스캔을 보지 못할 수도 있습니다. 몇 시간이 걸릴 수 있습니다 😅.

총합으로 우리는 이미 수 억 개의 파일을 스캔했습니다. 안전한 방식과 마찰 없는 방식으로 커뮤니티가 모델을 공유할 수 있도록 권한 부여하는 것이 전체 분야의 성장을 이끌 것이라고 믿기 때문입니다.