L'étude de Microsoft détaille le backdoor de l'agent IA Lazarus
Un agent IA peut être compromis sans réentraîner son modèle linguistique en modifiant moins de dix neurones dormants, selon l'étude Lazarus de Microsoft Research, publiée le 10 novembre 2026. Ce travail décrit une démonstration de recherche. Dans une déclaration ce jour-là, Microsoft Threat Intelligence a déclaré n'avoir pas vu d'acteurs malveillants utiliser cette technique comme arme.
La condition d'accès est la permission d'écrire dans un point de contrôle du modèle, plutôt que de participer à l'entraînement, selon l'étude. Microsoft a déclaré que l'exposition potentielle à cette forme de manipulation des poids s'étend donc aux modèles développés en interne ainsi qu'à ceux obtenus de tiers.
Dans la démonstration de Microsoft, un déclencheur dans le contexte de l'agent active les neurones modifiés, qui aident à générer des tokens de charge utile en séquence. Une date incluse dans ce contexte est un exemple de déclencheur donné par l'entreprise. Si des outils appropriés ou un accès terminal sont disponibles, l'agent peut exécuter la commande résultante en utilisant les permissions qu'il détient déjà.
Des évaluations ordinaires peuvent montrer un comportement apparemment normal d'un modèle modifié, a déclaré Microsoft, tandis que la commande de l'attaquant est produite uniquement en présence du déclencheur. Le récit de l'entreprise rend les effets de cette commande dépendants de l'accès disponible pour l'agent.
La détection a également des limites dans les conclusions de l'étude. Microsoft a déclaré que les agents IA de pointe peuvent reconnaître des changements inhabituels dans les poids du modèle, mais un audit ne garantit pas qu'un modèle est sûr. Pour une détection fiable, l'entreprise a identifié la comparaison avec les poids originaux inchangés du modèle comme importante.
Microsoft a également décrit des contrôles déjà utilisés dans Foundry. Les modèles à poids ouverts intégrés à la plateforme sont liés à leurs éditeurs d'origine et fonctionnent à l'intérieur de conteneurs Microsoft. Ces conteneurs subissent des analyses séparées pour détecter les vulnérabilités logicielles critiques. L'entreprise a néanmoins identifié un risque persistant chez un fournisseur de confiance : un compromis impliquant son infrastructure d'entraînement ou un initié.
Les travaux de suivi décrits par Microsoft le 10 novembre incluent le développement d'un harnais de red-teaming avec ses équipes de sécurité IA internes, utilisant des techniques de détection issues de l'étude. L'entreprise explore également si les agents de pointe peuvent analyser les poids lors de l'intégration de modèles à poids ouverts. La signature vérifiable pour les modèles et les audits conçus pour révéler la manipulation restent des mesures prévues, selon Microsoft.
* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.