Bộ quét bên thứ ba: Protect AI

Bạn quan tâm đến việc tham gia hợp tác an ninh của chúng tôi / cung cấp thông tin quét trên Hub? Vui lòng liên hệ với chúng tôi qua security@huggingface.co.*

Protect AI’s Guardian phát hiện các lỗ hổng khai thác pickle, Keras và các lỗ hổng khác, như được mô tả chi tiết trên trang Knowledge Base của họ. Guardian cũng được hưởng lợi từ các báo cáo do cộng đồng Huntr của họ gửi đến.

Ví dụ về báo cáo cho danger.dat

Chúng tôi đã hợp tác với Protect AI để cung cấp tính năng quét nhằm giúp Hub an toàn hơn. Tương tự như cách các tệp được quét bởi hệ thống quét nội bộ của chúng tôi, các tệp trong các kho lưu trữ công khai sẽ được quét bởi Guardian.

Giao diện phía trước của chúng tôi đã được thiết kế lại đặc biệt cho mục đích này, nhằm hỗ trợ các trình quét mới:

Dưới đây là một kho lưu trữ mẫu mà bạn có thể xem để thấy tính năng hoạt động: mcpotato/42-eicar-street.

Ôn lại về bảo mật mô hình

Để chia sẻ các mô hình, chúng ta thực hiện serialize các cấu trúc dữ liệu được sử dụng để tương tác với các mô hình, nhằm tạo điều kiện thuận lợi cho việc lưu trữ và truyền tải. Một số định dạng serialize dễ bị khai thác bởi các lỗ hổng bảo mật nghiêm trọng, chẳng hạn như thực thi mã tùy ý (đặc biệt là pickle), khiến việc chia sẻ mô hình có thể tiềm ẩn rủi ro.

Khi Hugging Face trở thành một nền tảng phổ biến để chia sẻ mô hình, chúng tôi muốn bảo vệ cộng đồng khỏi điều này, do đó chúng tôi đã phát triển các công cụ như picklescan và tích hợp các trình quét bên thứ ba.

Pickle không phải là định dạng có thể bị khai thác duy nhất, tham khảo cách một người có thể khai thác các lớp Keras Lambda để thực thi mã tùy ý.

Update on GitHub