Se publica la primera actualización clave del Informe internacional sobre la seguridad de la IA

USA - español

• USA - English
• India - English
• APAC - Traditional Chinese
• USA - Français
• USA - Deutsch
• MEXICO - Spanish
• BRAZIL - Portuguese
• Korea - 한국어
• Japan - Japanese

MONTREAL, 16 de octubre de 2025 /PRNewswire/ -- Se ha publicado la primera Actualización Clave del Informe Internacional sobre la Seguridad de la IA, que ofrece información actualizada sobre las capacidades y los riesgos de la IA avanzada.

Presidido por el informático Yoshua Bengio, ganador del Premio Turing, el Informe cuenta con la participación de más de 100 expertos internacionales y cuenta con el respaldo de 30 países, la ONU, la UE y la OCDE.

Reconociendo que el campo evoluciona demasiado rápido para un único informe anual, se han introducido Actualizaciones Clave para proporcionar informes más breves y centrados en los avances más importantes. Esto garantizará que los responsables políticos cuenten con una síntesis actualizada de la literatura para fundamentar su formulación de políticas basadas en la evidencia.

La primera Actualización Clave abarca los avances en las capacidades y las implicaciones de los riesgos:

• Los modelos de IA siguen mejorando sus capacidades de resolución de problemas complejos: por ejemplo, los sistemas líderes ahora pueden completar más del 60 % de las tareas en un conjunto de problemas de ingeniería de software del mundo real. A principios de 2025, solo podían completar alrededor del 40 % de estos problemas, y a principios de 2024 no podían resolver ninguno. (De hecho, desde que se finalizó el texto de la Actualización, el rendimiento ha mejorado a más del 70 %.)
• Los actores de la industria han adoptado nuevas medidas de precaución: varios de los principales desarrolladores de IA han lanzado de manera proactiva sus modelos más nuevos con medidas de seguridad adicionales después de no poder descartar definitivamente la posibilidad de que estos modelos pudieran ayudar en el desarrollo de riesgos químicos, biológicos, radiológicos y nucleares.
• Los modelos de IA demuestran cada vez más un comportamiento estratégico durante la evaluación, lo que plantea desafíos de supervisión: es cada vez más probable que los modelos de IA demuestren conciencia de que están siendo evaluados y modifiquen sus resultados en consecuencia, lo que plantea preguntas importantes sobre la capacidad de los desarrolladores y evaluadores para evaluar con precisión las capacidades de los nuevos modelos antes de implementarlos.

El presidente del informe, Yoshua Bengio, profesor titular de la Universidad de Montreal, director científico de LawZero y asesor científico de Mila - Instituto de IA de Quebec, dijo:

" Las capacidades de la IA han seguido evolucionando de forma rápida y constante desde la publicación del primer Informe Internacional sobre Seguridad de la IA hace nueve meses. Es fundamental que nuestra comprensión colectiva de sus riesgos y medidas de seguridad se mantenga al día. Esta Actualización Clave proporciona una visión general oportuna y basada en la evidencia para que los responsables de la toma de decisiones a nivel mundial cuenten con la información científica más actualizada y, así, garanticen una gobernanza proactiva e informada. También sirve de puente de cara al próximo informe exhaustivo que se publicará antes de la Cumbre de Impacto de la IA en India a principios de 2026".

Acerca de

El Informe Internacional sobre la Seguridad de la IA es una síntesis de la evidencia sobre las capacidades y los riesgos de los sistemas avanzados de IA. Está diseñado para respaldar la formulación de políticas informadas a nivel mundial, proporcionando una base empírica a los responsables de la toma de decisiones. Elaborado por un grupo diverso de más de 100 expertos independientes, el informe cuenta con el respaldo de un Panel Asesor de Expertos compuesto por representantes designados de 30 países, la OCDE, la UE y la ONU. Si bien reconoce los inmensos beneficios potenciales de la IA, el informe se centra en la identificación de riesgos y la evaluación de estrategias de mitigación para garantizar que la IA se desarrolle y utilice de forma segura en beneficio de todos. El informe fue encargado por el Gobierno del Reino Unido, y su Secretaría reside en el Instituto de Seguridad de la IA del Reino Unido.

Contacto: Mila Medias, [email protected]; DSIT Media Enquiries, [email protected]