Pemindai pihak ketiga: Protect AI

Tertarik untuk bergabung dengan kemitraan keamanan kami / memberikan informasi pemindaian di Hub? Silakan hubungi kami di security@huggingface.co.*

Protect AI’s Guardian mendeteksi eksploit pickle, Keras, dan lainnya seperti yang dijelaskan di halaman Knowledge Base mereka. Guardian juga mendapat manfaat dari laporan yang dikirim oleh komunitas Huntr bounty mereka.

Contoh laporan untuk danger.dat

Kami bermitra dengan Protect AI untuk menyediakan pemindaian guna membuat Hub lebih aman. Dengan cara yang sama file dipindai oleh sistem pemindaian internal kami, file dari repositori publik dipindai oleh Guardian.

Frontend kami telah dirancang ulang secara khusus untuk tujuan ini, guna mengakomodasi scanner baru:

Berikut adalah contoh repositori yang dapat Anda lihat untuk melihat fitur tersebut dalam aksi: mcpotato/42-eicar-street.

Pengingat keamanan model

Untuk membagikan model, kami melakukan serialisasi struktur data yang digunakan untuk berinteraksi dengan model, guna memfasilitasi penyimpanan dan transportasi. Beberapa format serialisasi rentan terhadap eksploitasi berbahaya, seperti eksekusi kode arbitrer (terutama pickle), sehingga membagikan model berpotensi menjadi berbahaya.

Karena Hugging Face telah menjadi platform populer untuk berbagi model, kami ingin melindungi komunitas dari hal ini, sehingga kami mengembangkan alat seperti picklescan dan mengintegrasikan pemindai pihak ketiga.

Pickle bukanlah satu-satunya format yang dapat dieksploitasi, lihat referensi tentang bagaimana seseorang dapat mengeksploitasi lapisan Keras Lambda untuk mencapai eksekusi kode arbitrer.

Update on GitHub