Baseten, Hugging Face et Goodfire AI lancent une norme de sécurité pour l'IA à poids ouvert

Baseten, par le biais de sa division de recherche Base Labs, a introduit une nouvelle norme d'infrastructure de sécurité pour les modèles d'IA à poids ouvert le 17 septembre 2026, en partenariat avec Hugging Face et Goodfire AI. L'initiative vise à aborder la sécurité et la transparence dans le déploiement des modèles à poids ouvert.

Base Labs sera responsable du développement et de la publication de procédures pour former et surveiller les modèles à poids ouvert. Dans le cadre de la collaboration, Baseten intégrera les résultats de la recherche sur la sécurité dans ses systèmes de déploiement, fournissant une surveillance en temps réel comme service géré.

Hugging Face, qui sert de plateforme pour héberger des modèles à poids ouvert, participe au partenariat pour faciliter la distribution et l'hébergement de modèles conformes à la nouvelle norme de sécurité. Goodfire AI, une entreprise axée sur l'interprétabilité de l'IA, contribue son expertise pour aider à expliquer les décisions des modèles dans le cadre de sécurité.

Selon Baseten, le cadre de sécurité est conçu comme une norme intégrée directement dans les processus de formation et de déploiement des modèles ouverts, plutôt que d'être appliquée après le développement. L'entreprise a également appelé la communauté des développeurs à participer au développement continu du cadre.

Ce que les chiffres montrent

• Baseten a complété un tour de financement de série F de 1,5 milliard de dollars en juin 2026, atteignant une valorisation de 13 milliards de dollars.
• Goodfire AI a levé 150 millions de dollars lors d'un tour de série B plus tôt en 2026.
• Hugging Face répertorie actuellement plus de 6 000 modèles à poids ouvert ablitérés.

L'intégration par Baseten des résultats de recherche sur la sécurité permettra aux utilisateurs d'accéder à une surveillance en direct des modèles à poids ouvert déployés en tant que service géré. Cette approche vise à faire des mesures de sécurité une partie fondamentale du déploiement des modèles pour les organisations utilisant l'infrastructure de Baseten.

L'implication de Hugging Face se concentre sur l'assurance que les modèles ouverts distribués via sa plateforme respectent la nouvelle norme de sécurité. La plateforme de l'entreprise héberge actuellement des milliers de modèles à poids ouvert, y compris ceux dont les protections ont été supprimées.

La participation de Goodfire AI se concentre sur la fourniture d'outils et de méthodes pour interpréter et expliquer les décisions prises par les modèles d'IA. Le récent tour de financement de l'entreprise soutient son travail continu sur l'interprétabilité des modèles, qui est un élément clé de l'initiative de sécurité.

L'invitation de Baseten à la communauté des développeurs vise à encourager une participation plus large à la définition du cadre de sécurité. L'entreprise a décrit la norme comme transparente et intégrée dans le cycle de vie du modèle, visant une adoption plus large à travers l'écosystème de l'IA à poids ouvert.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.