- Microsoft y organizaciones de diversos sectores lanzan una iniciativa de transparencia en IA para fortalecer la confianza empresarial en los modelos y agentes de IA
A través de la nueva Iniciativa de Transparencia en IA, Microsoft colabora con más de 40 organizaciones —entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars— para promover un enfoque común en materia de transparencia, seguridad y gobernanza de la IA, aplicable a diversos modelos y proveedores. Asimismo, Microsoft ofrecerá una mayor visibilidad sobre cómo los modelos y agentes de IA interactúan con los datos empresariales en el conjunto de sus productos y servicios
REDMOND, Wash., 18 de noviembre de 2026 /PRNewswire/ -- Las organizaciones pueden observar gran parte de la actividad en torno a los modelos de IA; sin embargo, a menudo no logran reconstruir lo que ocurrió entre una solicitud y un resultado, lo que dificulta la verificación independiente del comportamiento de dichos modelos. El martes, durante el evento Microsoft Ignite, Satya Nadella, presidente y consejero delegado de Microsoft, anunció la siguiente etapa del compromiso de la compañía por hacer que la IA sea más segura: la Iniciativa de Transparencia en la IA. Se trata de un esfuerzo colaborativo con clientes y socios destinado a establecer un enfoque común y abierto en materia de seguridad y gobernanza, aplicable a diversos modelos y proveedores. Esta iniciativa responde a un principio sencillo: una mayor autonomía de la IA exige una mayor transparencia.
«Para que los controles de seguridad sean eficaces, toda organización necesita una mayor transparencia respecto al modelo en sí», declaró Hayete Gallot, vicepresidenta ejecutiva de Microsoft Security. «Con este trabajo, aportaremos más transparencia a todos los modelos. Se trata de un paso fundamental para lograr una contención más inteligente y sólida, lo que nos permitirá fundamentar mejor la rendición de cuentas y la trazabilidad».
Las empresas están conectando modelos de IA a datos, herramientas, credenciales e infraestructura, lo que permite a los agentes realizar acciones sin necesidad de aprobación humana en cada paso. Los controles existentes pueden supervisar gran parte de la actividad en torno a los modelos de IA, pero no pueden observar lo que ocurre en su interior ni verificar de forma independiente las explicaciones que estos ofrecen sobre su propio comportamiento. Esto limita la capacidad de las organizaciones para comprender el contexto que subyace a las acciones de un agente. Dicha falta de evidencia genera riesgos en materia de seguridad, cumplimiento normativo, auditoría y rendición de cuentas. Los equipos de seguridad requieren una nueva arquitectura de confianza para hacer frente a los crecientes riesgos internos que plantean unos agentes de IA cada vez más capaces.
«A medida que los agentes de IA se integran más profundamente en las operaciones empresariales, los equipos de seguridad necesitan una visibilidad clara sobre a qué acceden dichos agentes, qué acciones realizan y cómo es posible verificar tales acciones», señaló Aanchal Gupta, directora de seguridad de Adobe. «Establecer un enfoque común para la transparencia en la IA en todo el sector es fundamental para fortalecer la confianza y ayudar a las organizaciones a innovar con seguridad, manteniendo al mismo tiempo la protección y la rendición de cuentas».
De los principios a la práctica
La iniciativa consta de tres partes. En primer lugar, Microsoft ampliará su participación en la Iniciativa sobre estándares para agentes de IA del Instituto Nacional de Estándares y Tecnología (NIST) y aprovechará sus investigaciones para desarrollar estándares abiertos, aplicables a todo el sector, en materia de transparencia, seguridad y gobernanza de la IA. En segundo lugar, Microsoft colabora con más de 40 organizaciones —entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars— para contribuir al desarrollo de estándares abiertos destinados a sistemas de IA que sean responsables, verificables de forma independiente y seguros por diseño, independientemente del modelo o del proveedor.
En tercer lugar, Microsoft incorporará este trabajo a Microsoft AI, Microsoft Foundry y Microsoft Copilot, permitiendo a los clientes utilizar los resultados obtenidos con sus herramientas de seguridad y cumplimiento, ya sean de Microsoft o de otros proveedores.
«Nuestros clientes desean avanzar más rápido con la IA, y no deberían tener que elegir entre innovación y seguridad», afirmó John Israel, director global de seguridad de la información (CISO) de KPMG International. «La confianza en la IA requiere transparencia, explicabilidad y una supervisión responsable. Nos enorgullece colaborar con Microsoft en la Iniciativa de Transparencia en la IA para ayudar a establecer estándares abiertos a nivel de toda la industria, que brinden a las organizaciones la visibilidad y el control necesarios para implementar la IA de manera responsable y a gran escala».
Responsabilidad clara
Los agentes con acceso a datos, herramientas y credenciales presentan el perfil de riesgo de un usuario interno privilegiado, pero operan a la velocidad y escala propias de las máquinas, lo que hace indispensable una supervisión independiente.
La responsabilidad recae en la organización. Cuando ocurre algo de gran trascendencia, los líderes deben rendir cuentas ante clientes, empleados, juntas directivas, auditores y organismos reguladores. Culpar a la IA no constituye una respuesta, y «confiar en el modelo» no equivale a un mecanismo de control.
La iniciativa está diseñada para funcionar con diversos modelos y proveedores —incluidos tanto modelos cerrados como modelos de pesos abiertos—, de modo que los equipos de desarrollo puedan cambiar o actualizar los modelos que impulsan sus agentes sin comprometer la capacidad de los equipos de TI y seguridad para gobernarlos de forma segura, ni la capacidad de los equipos de cumplimiento normativo para auditar sus acciones.
«A medida que las organizaciones dan el siguiente paso en sus procesos de reinvención mediante la IA, necesitan una base sólida de confianza y seguridad sobre la cual construir», comentó Harpreet Sidhu, líder global de ciberseguridad en Accenture. «Iniciativas como esta de Microsoft, que promueven un enfoque abierto e impulsado por la industria en torno a la transparencia de la IA, resultan de gran ayuda a la hora de proteger los modelos de IA e incorporar en ellos mecanismos de control y gobernanza. Accenture se enorgullece de colaborar con Microsoft y otros líderes en este ámbito».
Ver, verificar, controlar
Microsoft considera que toda organización debería poder ver a qué acceden los sistemas de IA y qué hacen, verificar sus acciones de forma independiente y controlar lo que tienen permitido hacer.
- Observar: Conocer qué se le solicitó a la IA y qué se le autorizó a realizar, qué modelo y entorno de ejecución se utilizaron, a qué datos y herramientas accedió, y qué acciones llevó a cabo. Supervisar de forma continua la actividad de los agentes y las señales de riesgo, contrastándolas con las políticas y los umbrales establecidos.
- Verificar: Los agentes no pueden ser la única fuente de información sobre su propio comportamiento, y no se puede confiar en que los modelos de vanguardia se autogestionen. La evidencia relativa a la identidad del agente, la intención delegada y las acciones realizadas debe identificar su origen (el modelo, el entorno de ejecución asociado o sistemas independientes, como los de gestión de identidades y políticas), de modo que las señales reportadas por el modelo puedan contrastarse con registros observados de forma independiente. Las organizaciones deben ser capaces de verificar la actividad de la IA por sí mismas, utilizando sus propios sistemas de seguridad y cumplimiento, sin depender exclusivamente de la versión del comportamiento ofrecida por el proveedor del modelo.
- Controlar: Mantener el control sobre lo que la IA tiene permitido hacer. Disponer de evidencia clara sobre el propósito, el responsable, los datos y la autoridad delegada en cada flujo de trabajo permite a las organizaciones aplicar sus políticas antes de que se produzcan acciones de gran impacto, así como reconstruir los hechos durante procesos de investigación, contención, recuperación o auditoría. Dicha evidencia debe permanecer bajo el control de la organización, incluso cuando cambien los modelos o los proveedores. Las organizaciones deben conservar la capacidad de decidir a qué datos pueden acceder sus agentes y cómo se regula dicho acceso, independientemente del modelo o proveedor utilizado.
Implicarse
Las organizaciones interesadas en contribuir a dar forma a la iniciativa o en seguir su progreso pueden obtener más información e inscribirse en aka.ms/learnmoreAItransparency.
Siga las novedades de Microsoft Ignite, donde Microsoft y líderes del sector compartirán perspectivas sobre cómo las organizaciones pueden gestionar modelos y agentes de IA con confianza. Encontrará más información en el blog de Microsoft Security.

Share this article