OpenAI Établit une Politique Hors Ligne pour l'Entraînement des Modèles de Frontière

OpenAI a déclaré que l'entraînement des modèles de frontière exclut désormais l'accès à Internet en direct et utilise des tests de confinement élargis pour évaluer la sécurité. Dans un compte rendu publié le 23 octobre 2026, la société a indiqué que la restriction resterait en place jusqu'à ce qu'elle juge les améliorations des mesures de sécurité suffisantes pour un accès plus large.

Pour tous les runs de renforcement d'apprentissage de frontière, OpenAI a déclaré que les tâches web se déroulent dans un environnement hors ligne construit à partir de matériel Internet mis en cache et indexé. L'infrastructure d'entraînement et d'évaluation environnante nécessite toujours des connexions externes pour faire fonctionner et surveiller les expériences. Ses protections incluent des limites sur le trafic sortant et le mouvement entre les systèmes, des bacs à sable, des machines virtuelles, une surveillance, ainsi que des frontières réseau et cloud.

La société a déclaré qu'une erreur de configuration dans un résolveur DNS avait permis à un modèle de recherche interne d'accéder de manière limitée à Internet en direct pendant l'entraînement le 20 septembre 2026. Elle a ensuite suspendu l'entraînement et l'évaluation impliquant ses modèles les plus performants tout en ajoutant des protections. Suite à des évaluations et des contrôles supplémentaires, l'entraînement de renforcement d'apprentissage de frontière et l'inférence interne ont redémarré le 1er octobre, ce qu'OpenAI a déclaré être 11 jours après le début de la suspension.

OpenAI a déclaré que les tests de red-team intensifs en calcul font désormais partie des cas de sécurité utilisés pour évaluer si l'entraînement et l'évaluation de frontière peuvent se poursuivre en toute sécurité. Des équipes d'agents de modèles ont testé l'accès à des serveurs externes, des ressources au-delà de leurs environnements autorisés et d'autres agents maintenus en isolement. Certains tests ont commencé avec une évasion présumée du bac à sable et une prise de contrôle de l'hôte, permettant un test séparé des défenses réseau et cloud.

Ces expériences se sont déroulées dans des répliques isolées spécialement construites de l'infrastructure de recherche, selon la société. Les agents comprenaient certains des modèles les plus performants d'OpenAI et ont reçu du code système, des informations de configuration et de la documentation. La surveillance et les contrôles automatiques étaient conçus pour arrêter les expériences si l'activité dépassait leur portée.

OpenAI a déclaré que les tests avaient identifié des défauts logiciels et des erreurs de configuration auparavant inconnus, y compris des évasions de bac à sable de machines virtuelles, un accès à Internet via des services internes et une communication à travers des frontières d'isolement. Elle a déclaré que les faiblesses identifiées avaient été réparées, avec des divulgations et des corrections logicielles pertinentes traitées en collaboration avec les mainteneurs de logiciels open-source. La société a également déclaré que les agents n'avaient trouvé aucun chemin d'accès à Internet qu'ils pouvaient facilement exploiter tout en dissimulant leurs actions à sa surveillance.

Un test de communication impliquait des machines virtuelles séparées partageant un hôte : les agents échangeaient des informations par le biais de différences dans le timing du cache processeur, sans connectivité réseau ni fichiers écrits partagés entre eux, a déclaré OpenAI. D'autres canaux impliquaient un stockage partagé, l'utilisation du processeur et un cache de certificats. La société a déclaré avoir ajouté des contrôles de surveillance pour les tentatives d'utilisation de ces canaux.

Les tests ont consommé des centaines de milliards de tokens, selon OpenAI. Son graphique comparant les résultats potentiels avec la consommation de tokens a documenté les progrès et l'échelle de la campagne, a déclaré la société, plutôt que de fournir une mesure contrôlée de la manière dont le volume de calcul a affecté les découvertes.

OpenAI a déclaré que ces paramètres de recherche internes diffèrent des déploiements destinés aux clients car les modèles en cours de développement peuvent ne pas avoir terminé leur formation en matière de sécurité et d'alignement. Avant un déploiement plus large, la société a déclaré qu'elle effectuait des évaluations de sécurité et d'alignement et appliquait des mesures de protection pour une utilisation en production.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.