Dans le cadre de sa nouvelle AI Transparency Initiative, Microsoft collabore avec plus de 40 entreprises, dont Accenture, Adobe, KPMG, Mastercard et Volvo Cars, afin de promouvoir une approche commune de la transparence, de la sécurité et de la gouvernance de l'IA à travers les modèles et les fournisseurs. Microsoft offrira également une meilleure visibilité sur la manière dont les modèles et agents d'IA interagissent avec les données d'entreprise dans l'ensemble de ses produits et services.
REDMOND, Washington, 19 novembre 2026 /PRNewswire/ -- Les entreprises peuvent observer une grande partie de l'activité autour des modèles d'IA, mais elles ne peuvent souvent pas reconstituer ce qui s'est passé entre une requête et un résultat, ce qui rend difficile la vérification indépendante du comportement du modèle. Lors de la conférence Microsoft Ignite mardi, le CEO de Microsoft, Satya Nadella, a annoncé la prochaine étape de l'engagement de Microsoft à rendre l'IA plus sûre : l'AI Transparency Initiative est un effort de collaboration avec les clients et les partenaires visant à établir une approche commune et ouverte de la sécurité et de la gouvernance à travers les modèles et les fournisseurs. Cette initiative repose sur un principe simple : une plus grande autonomie de l'IA exige une plus grande transparence.
« Pour que les contrôles de sécurité soient efficaces, chaque organisation a besoin d'une plus grande transparence quant au modèle lui-même », déclare Hayete Gallot, vice-présidente exécutive, Microsoft Security. « Grâce à ce travail, nous apporterons plus de transparence à tous les modèles. Il s'agit d'une étape cruciale pour rendre le confinement plus intelligent et plus efficace, nous permettant de mieux informer sur la responsabilité et la traçabilité. »
Les entreprises connectent les modèles d'IA aux données, aux outils, aux identifiants et à l'infrastructure, permettant ainsi aux agents d'agir sans approbation humaine à chaque étape. Les mécanismes de contrôle existants peuvent observer une grande partie de l'activité autour des modèles d'IA, mais ils ne peuvent pas voir ce qui se passe à l'intérieur d'eux ni vérifier indépendamment leurs descriptions de leur propre comportement. Cela limite la capacité des organisations à comprendre le contexte des actions d'un agent. Ce manque de preuves engendre des risques en matière de sécurité, de conformité, d'audit et de responsabilité. Les équipes de sécurité ont besoin d'une nouvelle architecture de confiance pour faire face aux risques internes croissants posés par des agents d'IA de plus en plus performants.
« À mesure que les agents d'IA s'intègrent plus profondément dans les opérations des entreprises, les équipes de sécurité ont besoin d'une visibilité claire sur ce à quoi ces agents accèdent, sur les actions qu'ils entreprennent et sur la manière dont ces actions peuvent être vérifiées », déclare Aanchal Gupta, responsable de la sécurité chez Adobe. « L'élaboration d'une approche commune en matière de transparence de l'IA dans l'ensemble du secteur est essentielle pour renforcer la confiance et aider les organisations à innover en toute confiance tout en maintenant la sécurité et la responsabilité. »
Des principes à la pratique
L'initiative comporte trois volets. Premièrement, Microsoft va étendre sa participation à l'initiative SI Agent Standards du National Institute of Standards and Technology et s'appuyer sur ses recherches pour développer des normes ouvertes à l'échelle de l'industrie en matière de transparence, de sécurité et de gouvernance de l'IA. Deuxièmement, Microsoft collabore avec plus de 40 entreprises, dont Accenture, Adobe, KPMG, Mastercard et Volvo Cars, afin de contribuer au développement de normes ouvertes pour les systèmes d'IA qui soient responsables, vérifiables indépendamment et sûrs dès leur conception, quel que soit le modèle ou le fournisseur.
Troisièmement, Microsoft intégrera ce travail à Microsoft AI, Microsoft Foundry et Microsoft Copilot, permettant ainsi aux clients d'utiliser les preuves obtenues avec leurs outils de sécurité et de conformité, qu'ils proviennent de Microsoft ou d'autres fournisseurs.
« Nos clients veulent progresser plus rapidement avec l'IA, et ils ne devraient pas avoir à choisir entre innovation et sécurité », déclare John Israel, responsable mondial de la sécurité des systèmes d'information chez KPMG International. « La confiance dans l'IA exige transparence, explicabilité et une surveillance responsable. Nous sommes fiers de travailler avec Microsoft sur l'AI Transparency Initiative afin de contribuer à l'établissement de normes ouvertes à l'échelle de l'industrie, qui offrent aux organisations la visibilité et le contrôle dont elles ont besoin pour déployer l'IA de manière responsable et à grande échelle. »
Responsabilité clairement établie
Les agents ayant accès aux données, aux outils et aux identifiants présentent le même profil de risque qu'un initié privilégié, mais opèrent à la vitesse et à l'échelle d'une machine, ce qui rend la surveillance indépendante essentielle.
La responsabilité incombe à entreprise. Lorsqu'un événement important survient, les dirigeants doivent rendre des comptes aux clients, aux employés, aux conseils d'administration, aux auditeurs et aux organismes de réglementation. Blâmer l'IA n'est pas une solution, et « faire confiance au modèle » n'est pas un moyen de contrôle.
Cette initiative est conçue pour fonctionner avec différents modèles et fournisseurs, y compris les modèles à pondération fermée et ouverte, afin que les équipes de développement puissent modifier ou mettre à jour les modèles qui alimentent leurs agents sans compromettre la capacité des équipes informatiques et de sécurité à les gérer de manière sécurisée ni la capacité des équipes de conformité à auditer leurs actions.
« Alors que les organisations franchissent une nouvelle étape dans leur transformation par l'IA, elles ont besoin d'une base solide de confiance sur laquelle bâtir », déclare Harpreet Sidhu, responsable mondial de la cybersécurité chez Accenture. « Des initiatives comme celle de Microsoft, qui vise à adopter une approche ouverte et axée sur l'industrie en matière de transparence de l'IA, peuvent nous aider à sécuriser les modèles d'IA et à les doter de contrôles et d'une gouvernance adaptés. Accenture est fière de collaborer avec Microsoft et d'autres leaders dans ce domaine. »
Voir, vérifier, contrôler
Microsoft estime que chaque organisation devrait pouvoir voir à quoi accèdent les systèmes d'IA et ce qu'ils font, vérifier leurs actions de manière indépendante et contrôler ce qu'ils sont autorisés à faire.
- Voir : sachez ce que l'IA a été invitée à faire et autorisée à faire, quel modèle et quel environnement d'exécution ont été utilisés, à quelles données et à quels outils elle a accédé, et quelles actions elle a entreprises. surveillez en permanence l'activité des agents et les signaux de risque par rapport aux politiques et aux seuils définis.
- Vérifier : les agents ne peuvent être la seule source de vérité concernant leur propre comportement, et l'on ne peut faire confiance aux modèles de frontière pour qu'ils se gouvernent eux-mêmes. Les éléments de preuve relatifs à l'identité de l'agent, à l'intention déléguée et aux actions doivent identifier leur source (le modèle, l'environnement d'exécution qui l'entoure ou des systèmes indépendants tels que l'identité et la politique) afin que les signaux rapportés par le modèle puissent être vérifiés par rapport aux enregistrements observés indépendamment. Les organisations devraient pouvoir vérifier de manière indépendante l'activité de l'IA en utilisant leurs propres systèmes de sécurité et de conformité, sans se fier uniquement à la version du fournisseur du modèle concernant son comportement.
- Contrôler : gardez le contrôle sur ce que l'IA est autorisée à faire. Des preuves claires concernant l'objectif, le propriétaire, les données et l'autorité déléguée de chaque flux de travail aident les organisations à appliquer leurs politiques avant que des actions importantes ne se produisent et à reconstituer ce qui s'est passé lors des enquêtes, du confinement, de la récupération et des audits. Ces preuves devraient leur être conservées même en cas de changement de modèles et de fournisseurs. Les organisations doivent conserver le contrôle des données auxquelles leurs agents peuvent accéder et de la manière dont cet accès est régi, quel que soit le modèle ou le fournisseur.
Rejoignez-nous
Les entreprises intéressées à contribuer à façonner l'initiative ou à suivre ses progrès peuvent en apprendre davantage et s'inscrire sur aka.ms/learnmoreAItransparency.
Suivez l'actualité de Microsoft Ignite, où Microsoft et les leaders du secteur partageront leurs points de vue sur la manière dont les organisations peuvent gérer en toute confiance les modèles et agents d'IA. Plus d'informations sont disponibles sur le blog Microsoft Security.

Share this article