Hugging Face 와 VirusTotal 이 협력하여 AI 보안 강화

우리는 Hugging Face 와 세계 최고의 위협 정보 및 악성코드 분석 플랫폼인 VirusTotal 간의 새로운 협력을 기쁘게 발표합니다. 이 협력은 Hugging Face Hub 를 통해 공유되는 파일의 보안을 강화하여 기계 학습 (ML) 커뮤니티를 악성 또는 손상된 자산으로부터 보호하는 데 도움이 됩니다.

TL;DR - 오늘부터 Hugging Face Hub 의 2,200 만 개 이상의 공개 모델 및 데이터셋 저장소는 VirusTotal 로 지속적으로 스캔됩니다.

AI 모델은 강력하지만 동시에 큰 이진 파일, 직렬화 데이터, 때로는 숨겨진 위험을 포함할 수 있는 복잡한 디지털 아티팩트입니다. 오늘부터 Hugging Face Hub 는 2,200 만 개의 공개 모델 아티팩트를 호스팅합니다. 우리가 기계 학습 모델 및 데이터셋을 위한 세계 최대의 오픈 플랫폼으로 성장하는 동안 공유된 자산이 안전하게 유지되는 것을 보장하는 것은 필수적입니다.

위협은 다양한 형태로 나타날 수 있습니다:

• 모델 파일 또는 압축 파일로 위장한 악성 페이로드
• 업로드 전에 손상된 파일
• 알려진 악성코드 캠페인과 연결된 이진 자산
• 실행할 때 안전하지 않은 코드를 실행하는 의존성 또는 직렬화 객체

VirusTotal 과 협력함으로써 우리는 세계 최대의 신뢰할 수 있는 악성코드 정보 데이터베이스 중 하나와 파일을 비교하여 Hugging Face 를 통해 공유되는 파일에 대한 추가적인 보호 및 가시성을 제공합니다.

사용자가 저장소 페이지나 파일 또는 디렉터리 페이지를 방문할 때마다 Hub 는 해당 파일에 대한 VirusTotal 정보를 자동으로 검색합니다. 예제

다음과 같은 일이 발생합니다:

• 우리는 파일 해시를 VirusTotal 의 위협 정보 데이터베이스와 비교합니다.
• VirusTotal 이 이전에 분석한 파일 해시의 경우, 그 상태 (안전 또는 악성) 가 검색됩니다.
• 사용자 프라이버시 및 Hugging Face 의 데이터 보호 원칙을 준수하면서 원본 파일 내용은 VirusTotal 과 공유되지 않습니다.
• 결과는 관련 위험 캠페인 정보와 함께 탐지 횟수, 알려진 악 관계 등 메타데이터를 포함합니다.

이것은 사용자가 Hub 에서 파일을 다운로드하거나 통합하기 전에 가치 있는 맥락을 제공합니다.

• 투명성: 사용자는 파일이 VirusTotal 의 생태계에서 이전에 플래그되거나 분석되었는지 확인할 수 있습니다.
• 안전성: 조직은 CI/CD 또는 배포 워크플로우에 VirusTotal 체크를 통합하여 악성 자산의 확산을 방지하는 데 도움이 될 수 있습니다.
• 효율성: 기존 VirusTotal 정보를 활용하면 반복적이거나 중복된 스캔이 필요하지 않습니다.
• 신뢰: 우리는 Hugging Face Hub 를 더 안전하고 신뢰할 수 있는 오픈소스 AI 협업 장소로 만들어갑니다.

더 많은 정보나 안전한 오픈소스 AI 생태계 구축에 기여하는 방법을 탐구하시려면 security@huggingface.co 로 연락하세요.

함께, 우리는 AI 협업을 단순한 개방을 넘어 설계 단계에서 보안으로 만들 수 있습니다.