Comprueba un modelo antes de cargarlo

Qué comprueba

• Los análisis del propio Hugging Face. Hugging Face pasa los archivos que se suben por el antivirus ClamAV y enumera las importaciones que contienen los archivos pickle, resaltando las sospechosas (documentación de Hugging Face). El comprobador muestra qué archivos han marcado.
• Los formatos de archivo. Un archivo pickle, y los formatos basados en pickle como los .bin, .pt y .ckpt de PyTorch, puede ejecutar código en cuanto se carga. Safetensors, GGUF y ONNX guardan los pesos sin código. Los archivos de Keras pueden contener capas que ejecutan código, y su modo seguro ya se ha saltado alguna vez (JFrog).
• El código propio. Un modelo que necesita trust_remote_code=True ejecuta en tu equipo el código Python de su repositorio.
• La ficha, la licencia y los datos de entrenamiento. Saber de dónde vienen los datos de entrenamiento es la primera defensa contra el envenenamiento. Si la ficha no lo dice, conviene preguntar.
• El modelo base. Los ajustes finos, las versiones cuantizadas y las fusiones heredan lo que tenga el modelo del que salen, así que el comprobador enlaza a él.
• La versión exacta. Te da el commit que debes fijar, para que un cambio posterior en el repositorio no te afecte, y el Package URL (pkg:huggingface/…) para registrar el modelo en una ML-BOM.

Qué no puede decirte

El comprobador mira lo que publica el repositorio, no lo que ha aprendido el modelo. Un modelo puede superar todas las comprobaciones y aun así llevar una puerta trasera introducida con sus datos de entrenamiento: en un estudio bastaron unos 250 documentos. Para detectarla hay que probar cómo se comporta el modelo, como se explica en la lista de defensas.

Los análisis de Hugging Face se hacen lo mejor posible y detectan patrones conocidos. Un análisis limpio es un indicio, no una prueba.

Privacidad

La comprobación se hace en tu navegador. Al pulsar el botón, tu navegador consulta a la API pública de Hugging Face el modelo que has escrito. No se envía nada a este sitio ni se guarda nada. Hugging Face recibe la consulta como cualquier visita a su web, conforme a su propia política de privacidad.

El comprobador solo lee información pública. No puede ver modelos privados y, en los modelos con acceso restringido, muestra lo que Hugging Face enseña a cualquiera.