Les estimations de risque de catastrophe liée à l'IA dépassent 10 % parmi les experts

Une attention croissante est portée à la probabilité de risques catastrophiques liés à l'intelligence artificielle, alors que plusieurs études et déclarations publiques de chercheurs soulignent des préoccupations concernant des résultats graves dans les années à venir.

Plusieurs chercheurs affiliés à des organisations de développement de l'IA ont déclaré publiquement leurs estimations personnelles du risque existentiel lié aux systèmes d'IA avancés. Jacob Coxon, qui a récemment quitté Anthropic, a déclaré sur X que les développeurs d'IA croyaient qu'il y avait une possibilité que l'IA puisse tuer tous les humains d'ici la fin de la décennie. Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a écrit sur X qu'il estime personnellement qu'il y a plus de 10 % de chances que l'IA puisse tuer tous les humains dans les dix prochaines années.

Des enquêtes d'experts menées par des institutions académiques ont produit des estimations de probabilité similaires. Une étude impliquant 272 experts internationaux en IA, coordonnée par MIT FutureTech et l'Université du Queensland, a révélé que 18 des 24 catégories de risque liées à l'IA étaient jugées avoir au moins 10 % de probabilité de causer des dommages catastrophiques, y compris une perte de vie à grande échelle ou une perturbation économique. La même recherche a indiqué que, même avec des efforts d'atténuation, cinq domaines de risque—tels que les capacités dangereuses, les cyberattaques, les dommages environnementaux, l'inégalité et la centralisation du pouvoir—présentaient encore plus de 10 % de chances d'issues catastrophiques.

Une autre étude de l'Université du Queensland et de MIT FutureTech a rapporté que les experts évaluaient une probabilité minimale de 10 % d'issues catastrophiques liées à l'IA dans les cinq prochaines années. Ces résultats indiquent un schéma cohérent de préoccupation parmi les professionnels interrogés concernant le potentiel d'impacts négatifs graves des technologies de l'IA.

Ce que montrent les chiffres

• 272 experts en IA ont participé à l'enquête de MIT FutureTech et de l'Université du Queensland.
• 18 des 24 catégories de risque liées à l'IA ont été attribuées à au moins 10 % de probabilité de dommages catastrophiques.
• Cinq domaines de risque ont conservé plus de 10 % de chances de catastrophe même avec atténuation.
• Geoffrey Hinton a estimé une chance de 10 à 20 % d'extinction humaine due à l'IA dans les 30 prochaines années.

Des enquêtes historiques ont également reflété une préoccupation substantielle concernant le risque existentiel lié à l'IA. En 2022, une majorité des répondants d'une enquête d'experts croyait qu'il y avait 10 % ou plus de chances que les humains ne puissent pas contrôler l'IA, entraînant une catastrophe existentielle. Ces perspectives ont été répercutées dans des déclarations et des résultats de recherche plus récents.

Geoffrey Hinton, un chercheur en IA, a estimé une chance de 10 à 20 % que l'IA puisse causer l'extinction humaine dans les trois prochaines décennies. Cette estimation s'aligne avec les plages de probabilité citées dans des enquêtes d'experts récentes et des déclarations publiques d'autres chercheurs dans le domaine.

En 2023, des centaines d'experts et de leaders en IA ont signé une déclaration affirmant que le risque d'extinction dû à l'IA devrait être traité comme une priorité mondiale, au même titre que des risques tels que les pandémies et la guerre nucléaire. Cette déclaration reflète une attention institutionnelle croissante sur la nécessité de stratégies d'atténuation des risques coordonnées pour les systèmes d'IA avancés.

Des publications ont également abordé le sujet du risque lié à l'IA. En 2025, Eliezer Yudkowsky et Nate Soares ont publié un livre discutant des dangers potentiels posés par l'intelligence superintelligente, contribuant ainsi à la discussion en cours sur les résultats catastrophiques possibles associés au développement de l'IA.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.