Se publica la segunda actualización clave del Informe Internacional Sobre Seguridad de la IA
MONTREAL, 25 de noviembre de 2025 /PRNewswire/ -- Se ha publicado la segunda actualización clave del Informe Internacional Sobre Seguridad de la IA, que ofrece información actualizada sobre la gestión de riesgos y las mitigaciones técnicas para la IA de propósito general.
Presidido por el informático Yoshua Bengio, ganador del Premio Turing, el Informe cuenta con la participación de más de 100 expertos internacionales y cuenta con el respaldo de más de 30 países y organizaciones internacionales, como la UE, la OCDE y la ONU.
Reconociendo que el campo evoluciona demasiado rápido para un único Informe anual, se introdujeron Actualizaciones Clave para proporcionar informes más breves y centrados en los avances más importantes. Esta Actualización sigue a la primera Actualización Clave, publicada el 15 de octubre de 2025. Estas actualizaciones garantizan que los responsables políticos cuenten con una síntesis actualizada de la literatura para fundamentar la formulación de políticas basadas en la evidencia.
La segunda Actualización Clave ofrece una visión general de los métodos técnicos para mejorar la fiabilidad y prevenir el uso indebido, así como de los nuevos enfoques institucionales para la gestión de riesgos. Entre sus aspectos más destacados se incluyen:
- Se están logrando avances en el entrenamiento de modelos para que resistan ataques maliciosos, pero persisten deficiencias. Si bien los modelos y sistemas de IA han mejorado su resistencia a los ataques, los hackers sofisticados aún pueden vulnerar las medidas de seguridad en aproximadamente el 50% de los casos con tan solo 10 intentos y comprometer los modelos contaminando sus datos de entrenamiento con tan solo 250 documentos maliciosos.
- La brecha del código abierto se está cerrando. Los modelos de peso abierto ahora están a menos de un año de distancia de los líderes de la industria, lo que democratiza el acceso, pero dificulta los esfuerzos para prevenir fallos de funcionamiento y usos indebidos.
- Los compromisos de seguridad de la industria han aumentado, pero se desconoce su eficacia. Si bien el número de empresas de IA que adoptan marcos de gestión de riesgos se duplicó con creces en 2025, su eficacia en la práctica sigue siendo incierta.
Yoshua Bengio, presidente del informe, catedrático de la Universidad de Montreal, director científico de LawZero y asesor científico de Mila - Instituto de IA de Quebec, afirmó:
"A medida que seguimos de cerca las actualizaciones sobre las capacidades y los riesgos de la IA, es fundamental proporcionar también vías claras para una gestión de riesgos y mitigaciones técnicas adecuadas y eficaces. Esta Actualización Clave ofrece una visión general del progreso logrado en estas áreas, así como de las brechas y oportunidades que aún persisten. Nuestro objetivo es proporcionar continuamente a los responsables de la toma de decisiones de todo el mundo actualizaciones oportunas sobre los avances en IA, antes del segundo Informe Internacional sobre la Seguridad de la IA, cuya publicación está prevista para principios de 2026, antes de la Cumbre de Impacto de la IA en India".
Acerca de
El Informe Internacional sobre la Seguridad de la IA es una síntesis de la evidencia sobre las capacidades y los riesgos de los sistemas avanzados de IA. Está diseñado para respaldar la formulación de políticas informadas a nivel mundial, proporcionando una base empírica a los responsables de la toma de decisiones. Elaborado por un grupo diverso de más de 100 expertos independientes, el informe cuenta con el respaldo de un Panel Asesor de Expertos compuesto por representantes designados de más de 30 países y organizaciones internacionales, como la UE, la OCDE y la ONU. Si bien reconoce los inmensos beneficios potenciales de la IA, el Informe se centra en la identificación de riesgos y la evaluación de estrategias de mitigación para garantizar que la IA se desarrolle y utilice de forma segura en beneficio de todos. El Informe fue encargado por el Gobierno del Reino Unido, y su Secretaría se encuentra en el Instituto de Seguridad de la IA del Reino Unido.
Contacto: Mila Medias ([email protected]); DSIT Media Enquiries ([email protected])
'Traducción proporcionada por medio de PRNewswire'
Share this article