Publication de la deuxième mise à jour clé du rapport international sur la sécurité de l'IA
News provided by
Bureau du président du Rapport international sur la sécurité de l'IANov 26, 2025, 07:02 ET
MONTRÉAL, 26 novembre 2025 /PRNewswire/ -- La deuxième mise à jour clé du rapport international sur la sécurité de l'IA a été publiée, fournissant une actualisation opportune sur la gestion des risques et les atténuations techniques pour l'IA à usage général.
Présidé par Yoshua Bengio, informaticien lauréat du prix Turing, le rapport rassemble plus de 100 experts internationaux et est soutenu par plus de 30 pays et organisations internationales, dont l'UE, l'OCDE et les Nations unies.
Reconnaissant que le domaine évolue trop rapidement pour faire l'objet d'un seul rapport annuel, des mises à jour clés ont été introduites afin publier des rapports plus courts et plus ciblés sur les développements critiques. Cette mise à jour fait suite à la première mise à jour clé, publiée le 15 octobre 2025. Ces mises à jour permettent aux décideurs politiques de disposer d'une synthèse actualisée de la littérature afin d'expliquer l'élaboration de politiques fondées sur des données probantes.
La deuxième mise à jour clé donne un aperçu des méthodes techniques permettant d'améliorer la fiabilité et d'éviter les abus, ainsi que des approches institutionnelles émergentes en matière de gestion des risques. Ses principaux points forts sont les suivants :
- Des progrès sont réalisés dans la formation de modèles de résistance aux attaques malveillantes, cependant des lacunes subsistent. Bien que les modèles et les systèmes d'IA soient devenus plus résistants aux attaques, des pirates sophistiqués peuvent encore vaincre les protections dans environ 50 % des cas avec seulement 10 tentatives et compromettre les modèles en empoisonnant leurs données d'entraînement avec seulement 250 documents malveillants.
- Le fossé des logiciels libres se comble. Les modèles à poids ouvert ont aujourd'hui moins d'un an de retard sur les leaders de l'industrie, ce qui démocratise l'accès mais complique les efforts pour éviter les dysfonctionnements et les utilisations abusives.
- Les engagements de l'industrie en matière de sécurité ont augmenté, mais leur efficacité est inconnue. Bien que le nombre d'entreprises d'IA ayant adopté des cadres de gestion des risques ait plus que doublé en 2025, leur efficacité dans la pratique reste incertaine.
Le président du rapport, Yoshua Bengio, professeur titulaire à l'Université de Montréal, directeur scientifique de LawZero et conseiller scientifique de Mila - Institut québécois de l'IA, a déclaré :
« Alors que nous continuons à suivre les mises à jour sur les capacités et les risques de l'IA, il est essentiel de fournir également des voies claires pour une gestion appropriée et efficace des risques et des atténuations techniques. Cette mise à jour clé donne une vue d'ensemble des progrès réalisés dans ces domaines, ainsi que des lacunes et des opportunités qui subsistent. Notre objectif est de fournir en permanence aux décideurs du monde entier des mises à jour sur l'évolution de l'IA, en prévision du deuxième rapport international sur la sécurité de l'IA, qui devrait être publié début 2026, avant le sommet sur l'impact de l'IA qui se déroulera en Inde. »
À propos
Le rapport international sur la sécurité de l'IA est une synthèse des données relatives aux capacités et aux risques des systèmes d'IA avancés. Il est conçu pour soutenir l'élaboration de politiques éclairées à l'échelle mondiale en fournissant une base de données aux décideurs. Rédigé par un groupe diversifié de plus de 100 experts indépendants, le rapport est soutenu par un groupe consultatif d'experts composé de représentants désignés de plus de 30 pays et d'organisations internationales, dont l'UE, l'OCDE et les Nations unies. Tout en reconnaissant les immenses avantages potentiels de l'IA, le rapport met l'accent sur l'identification des risques et l'évaluation des stratégies d'atténuation afin de garantir que l'IA soit développée et utilisée en toute sécurité pour le bénéfice de tous. Le rapport a été commandé par le gouvernement britannique et le secrétariat a été confié à l'Institut britannique de la sécurité de l'IA.
Contact : Mila Medias ([email protected]) ; DSIT Media Enquiries ([email protected])
Cette traduction est fournie par PRNewswire.
Share this article