Üçüncü taraf tarayıcı: Protect AI

Hub'da güvenlik ortaklığına katılmaya / tarama bilgisi sağlamaya ilgi duyuyor musunuz? Lütfen security@huggingface.co üzerinden bizimle iletişime geçin.*

Protect AI’nin Guardian bileşeni, Bilgi Tabanı sayfasında ayrıntılı olarak anlatıldığı üzere pickle, Keras ve diğer istismarları yakalar. Guardian ayrıca ödül avcısı Huntr topluluğunun gönderdiği raporlardan da faydalanır.

danger.dat için rapor örneği

Hub'u daha güvenli hale getirmek için tarama sağlamak üzere Protect AI ile ortaklık kurduk. Dosyaların dahili tarama sistemimiz tarafından tarandığı gibi, herkese açık depoların dosyaları da Guardian tarafından taranır.

Bu amaçla yeni tarayıcıları destekleyebilmek için ön yüzümüz özel olarak yeniden tasarlanmıştır:

Özelliklerin nasıl çalıştığını görmek için inceleyebileceğiniz bir örnek depo: mcpotato/42-eicar-street.

Model güvenliği hatırlatması

Modelleri paylaşmak için, modellerle etkileşimde bulunduğumuz veri yapılarını, depolamayı ve aktarımı kolaylaştırmak amacıyla seri hale getiririz. Bazı seri hale getirme biçimleri, keyfi kod çalıştırma gibi tehlikeli istismarlara açıktır (pickle'a bakıyorum), bu da modelleri paylaşmayı potansiyel olarak tehlikeli hale getirir.

Hugging Face, model paylaşımı için popüler bir platform haline geldikçe, topluluğu bu durumdan korumak istiyoruz; bu nedenle picklescan gibi araçlar geliştirdik ve üçüncü taraf tarayıcıları entegre ediyoruz.

Pickle, dışarıda mevcut olan tek istismar edilebilir format değildir; Keras Lambda katmanlarının keyfi kod çalıştırma sağlamak için nasıl istismar edilebileceğine dair referans olarak bakın.

Update on GitHub