Un nuevo informe de políticas presenta recomendaciones clave para la igualdad de género y la diversidad en IA

USA - español

• USA - Français
• USA - English
• USA - English
• USA - Deutsch

MONTRÉAL, 26 de noviembre de 2024 /PRNewswire/ -- Mila y CEIMIA, dos de los principales actores mundiales en el desarrollo responsable de la inteligencia artificial (IA) han publicado hoy el informe de políticas más completo hasta la fecha sobre igualdad de género y diversidad en la IA. Basado en amplias consultas con diversas voces y expertos, este informe y su guía de políticas complementaria ofrecen a los responsables de las políticas recomendaciones claras para fomentar una mayor inclusión en el desarrollo de la tecnología.

El informe, que es una iniciativa del grupo de trabajo Global Partnership on AI (GPAI) sobre IA responsable, se presentó hoy en Montreal (Canadá) como parte de un evento que reunió a la presidenta del Consejo del Tesoro de Canadá, Anita Anand, así como a líderes mundiales, responsables de las políticas y representantes de la comunidad de IA.

El informe, titulado "Towards Substantive Equality in AI: Transformative AI Policy for Gender Equality and Diversity" tiene como objetivo empoderar a los Estados y otras partes interesadas para crear ecosistemas de IA inclusivos, equitativos y justos que impulsen el desarrollo económico y social. Explora prácticas eficaces, ofrece perspectivas de políticas y proporciona recomendaciones prácticas para mejorar la igualdad de género y la diversidad en la IA y la formulación de políticas relacionadas.

El rápido avance de la IA está transformando las industrias e impulsando el crecimiento económico, con un gran potencial para mejorar las vidas y los medios de subsistencia a nivel mundial. Sin embargo, corre el riesgo de exacerbar las desigualdades existentes al reflejar y magnificar los sesgos sociales, la discriminación y los estereotipos nocivos, en particular los que afectan a las mujeres y otros grupos históricamente marginados. Ya existen casos documentados en los que los sistemas y procesos de IA han dado lugar, por ejemplo, a la distribución no consensuada de imágenes personales y al acoso en línea. La falta de diversidad en los ecosistemas de IA también puede reforzar los estereotipos nocivos y la discriminación al excluir perspectivas diversas. Esto ha dado lugar a casos de oportunidades de empleo restringidas para grupos marginados y a una asignación injusta de recursos para personas con discapacidad.

"Este informe es crucial, ya que las recomendaciones abordan las causas fundamentales de la desigualdad para lograr una igualdad sustantiva en la IA y más allá. Lograr esto a través de cambios transformadores en el desarrollo y las políticas de IA promoverá los derechos humanos", dijo Paola Ricaurte Quijiano, profesora titular del Tecnológico de Monterrey, profesora asociada del Berkman Klein Center for Internet & Society de la Universidad de Harvard y codirectora del informe. "Necesitamos crear un marco regulatorio sólido para prevenir daños y garantizar un desarrollo beneficioso de los sistemas y procesos de IA para todos".

Las recomendaciones clave se dividen en cuatro categorías:

1. Incentivar el diseño inclusivo y la innovación democrática: integrar acciones afirmativas y medidas para la inclusión institucional, y apoyar el diseño de tecnologías inclusivas.
2. Mejorar la participación significativa en la gobernanza de la IA: fomentar y garantizar la participación activa de los grupos marginados en la gobernanza de la IA para garantizar una mejor política de IA para todos.
3. Garantizar la transparencia y la rendición de cuentas para la prevención de daños: establecer salvaguardas y mecanismos de rendición de cuentas entre todos los actores de la IA para prevenir daños y garantizar la equidad.
4. Garantizar un acceso efectivo a la justicia: implementar medidas para garantizar que los grupos marginados tengan acceso a recursos legales contra la discriminación y los prejuicios provocados por la IA

El informe recomienda, por ejemplo, destinar fondos a iniciativas alineadas con los principios de diseño de tecnologías inclusivas, que promuevan aplicaciones, prácticas y procesos equitativos y justos en los ecosistemas de IA. Las recomendaciones también incluyen el desarrollo de estrategias para permitir que los sectores público y privado realicen evaluaciones de impacto sobre los derechos fundamentales antes de implementar sistemas de IA. Otros ejemplos incluyen garantizar la transparencia algorítmica, para permitir que las personas afectadas por un sistema de IA impugnen sus resultados basándose en información clara y comprensible, y aliviar la carga de la prueba para los demandantes a fin de mejorar el acceso a recursos legales contra la discriminación y el sesgo impulsados por la IA.

"Se necesitan urgentemente marcos regulatorios sólidos para prevenir daños y trabajar hacia una verdadera igualdad y diversidad en los ecosistemas de IA que, en última instancia, afectan a la vida humana", agregó Benjamin Prud'homme, vicepresidente de Política, Seguridad y Asuntos Globales de Mila y codirector del informe. "A través de políticas de IA inclusivas, podemos mejorar la calidad, la usabilidad y la eficacia de los sistemas de IA, contribuyendo a un futuro más equitativo, sostenible y próspero para todos."

Para complementar el informe, CEIMIA y Mila también están publicando una Guía de Políticas complementaria para ayudar a los responsables de las políticas a implementar las recomendaciones. Esta guía ofrece una hoja de ruta paso a paso para construir ecosistemas de IA más inclusivos y pasos prácticos para facilitar esta transición tan necesaria en la industria.

Basándose en un enfoque de la IA basado en los derechos humanos, más de 200 participantes, que representan a más de 50 países y perspectivas diversas, participaron en consultas o procesos de asesoramiento para crear el informe.

Acerca de CEIMIA
CEIMIA fue creada para desempeñar un papel de liderazgo tanto a nivel nacional como internacional: como catalizador de proyectos de IA responsable de alto valor agregado, CEIMIA trabaja para garantizar el desarrollo y la adopción de IA que beneficie a la humanidad, más allá de las fronteras. La organización también ha recibido el mandato de fortalecer la influencia de los actores de Canadá y Québec en la IA responsable a nivel internacional, y garantizar que los intereses y la participación de los países emergentes y en desarrollo se tengan en cuenta en los proyectos y debates en torno a la gobernanza de la IA. CEIMIA también apoya las actividades de la Global Partnership on Artificial Intelligence (GPAI), que tiene como objetivo desarrollar proyectos de IA aplicada alineados con las prioridades comunes de los países miembros de la OCDE. Para obtener más información, visite https://ceimia.org/en/.

Acerca de Mila
Fundado por el profesor Yoshua Bengio de la Universidad de Montreal, Mila es un instituto de investigación en inteligencia artificial que actualmente reúne a más de 1.200 investigadores especializados en aprendizaje automático. Con sede en Montreal, la misión de Mila es ser un centro global de avances científicos que inspiren la innovación y el crecimiento de la IA en beneficio de todos. Mila es una organización sin ánimo de lucro reconocida mundialmente por sus importantes contribuciones al aprendizaje profundo, especialmente en los campos del modelado del lenguaje, la traducción automática, el reconocimiento de objetos y los modelos generativos. Para obtener más información, visite mila.quebec.

Contacto: Eric Aach, [email protected], +1 514-569-3594; o Gabrielle Landry, [email protected], +1 514-688-5837