Publication de la première mise à jour clé du rapport international sur la sécurité de l'IA

USA - Français

• USA - English
• India - English
• APAC - Traditional Chinese

MONTRÉAL, 16 octobre 2025 /PRNewswire/ -- La première édition du Key Update de l'International AI Safety Report vient d'être publiée pour fournir une mise à jour sur les capacités et les risques de l'IA avancée.

Présidé par Yoshua Bengio, informaticien lauréat du prix Turing, le rapport fait intervenir plus de 100 experts internationaux et est soutenu par plus de 30 pays et organisations internationales, dont l'UE, l'OCDE et l'ONU.

Reconnaissant que le domaine évolue trop rapidement pour faire l'objet d'un seul rapport annuel, des mises à jour clés ont été introduites afin de fournir des rapports plus courts et plus ciblés sur les développements critiques. Les décideurs politiques disposeront ainsi d'une synthèse actualisée de la littérature qui leur permettra d'élaborer des politiques fondées sur des données probantes.

La première mise à jour clé couvre les avancées en matière de capacités et les implications en termes de risques :

• Les modèles d'IA continuent d'améliorer leurs capacités de résolution de problèmes complexes : Par exemple, les systèmes de pointe peuvent aujourd'hui accomplir plus de 60 % des tâches d'un ensemble de problèmes réels de génie logiciel. Au début de l'année 2025, ils n'ont pu résoudre qu'environ 40 % de ces problèmes, et au début de l'année 2024, ils ne pouvaient en résoudre aucun. (En fait, depuis que le texte de la mise à jour a été finalisé, la performance s'est améliorée pour atteindre plus de 70 %).
• Les acteurs de l'industrie ont adopté de nouvelles mesures de précaution : Plusieurs grands développeurs d'IA ont publié leurs nouveaux modèles avec des mesures de sécurité supplémentaires après avoir été incapables d'exclure définitivement la possibilité que ces modèles puissent contribuer au développement de risques chimiques, biologiques, radiologiques et nucléaires.
• Les modèles d'IA font de plus en plus souvent preuve d'un comportement stratégique lorsqu'ils sont évalués, ce qui pose des problèmes de contrôle : Les modèles d'IA sont de plus en plus susceptibles d'être conscients qu'ils sont évalués et de modifier leurs résultats en conséquence, ce qui soulève des questions importantes quant à la capacité des développeurs et des testeurs à évaluer avec précision les capacités des nouveaux modèles avant de les déployer.

Le président du rapport, Yoshua Bengio, professeur titulaire à l'Université de Montréal, directeur scientifique de LawZero et conseiller scientifique de Mila - Institut québécois de l'IA, a déclaré :

« Les capacités de l'IA ont continué à évoluer rapidement et régulièrement depuis la publication du premier rapport international sur la sécurité de l'IA il y a neuf mois. Il est essentiel que notre compréhension collective des risques et des mesures de sécurité soit actualisée. Cette mise à jour essentielle fournit aux décideurs mondiaux un instantané fondé sur des données probantes afin qu'ils disposent des informations scientifiques les plus récentes et qu'ils puissent ainsi assurer une gouvernance proactive et éclairée. Il sert également de pont en prévision du prochain rapport complet qui sera publié avant le Sommet sur l'impact de l'IA en Inde au début de l'année 2026. »

À propos

Le rapport international sur la sécurité de l'IA est une synthèse des données relatives aux capacités et aux risques des systèmes d'IA avancés. Il est conçu pour soutenir l'élaboration de politiques éclairées à l'échelle mondiale en fournissant une base de données aux décideurs. Rédigé par un groupe diversifié de plus de 100 experts indépendants, le rapport est soutenu par un groupe consultatif composé de représentants désignés de plus de 30 pays et organisations internationales, dont l'UE, l'OCDE et les Nations unies. Tout en reconnaissant les immenses avantages potentiels de l'IA, le rapport met l'accent sur l'identification des risques et l'évaluation des stratégies d'atténuation afin de garantir que l'IA soit développée et utilisée en toute sécurité pour le bénéfice de tous. Le rapport a été commandé par le gouvernement britannique et le secrétariat a été confié à l'Institut britannique de la sécurité de l'IA.

Contact : Mila Medias, [email protected] ; DSIT Media Enquiries, [email protected]