Jigsaw de Google anuncia que Perspective, la API de reducción de toxicidad, procesa 500 millones de solicitudes diarias
La empresa publica la tercera edición de The Current, una revista de investigación que cubre la toxicidad en línea y el papel de la IA para ayudar a promover conversaciones saludables
NUEVA YORK, 8 de febrero de 2021 /PRNewswire/ -- Jigsaw, una unidad dentro de Google que pronostica y enfrenta amenazas digitales emergentes, anunció hoy que Perspective, una API gratuita y de código abierto que utiliza el aprendizaje automático para detectar comentarios tóxicos, procesa 500 millones de solicitudes diarias y reduce de alguna manera la toxicidad para mejorar las conversaciones en línea a escala. La tercera edición de The Current, la revista de investigación en línea de la empresa que se publicó hoy, describe el problema persistente y dañino de la toxicidad en línea y el papel que pueden tener las herramientas de aprendizaje automático, como Perspective, para reducirlo.
Lanzada en 2017 para combatir la toxicidad y el acoso en línea, Perspective califica los comentarios en función de su impacto percibido en la conversación y ayuda a las plataformas a mantener abiertas las secciones de comentarios para que las conversaciones sean atractivas y productivas.
"La toxicidad en Internet es un problema generalizado que afecta de manera desproporcionada a grupos marginados, amenaza el periodismo independiente y elimina la libertad de expresión y el diálogo saludable", afirmó Jared Cohen, director ejecutivo de Jigsaw. "Nuestros socios han advertido que Perspective reduce de alguna manera la toxicidad en sus plataformas, lo que les permite crear espacios más seguros para que sus usuarios intercambien ideas. Estamos comprometidos a trabajar con nuestros socios e instituciones académicas para capacitar y reeducar continuamente a nuestros modelos con el objetivo de mejorar aún más la identificación de toxicidad, a la vez que minimizamos los prejuicios y promovemos conversaciones más saludables".
Jigsaw creó Perspective utilizando modelos desarrollados junto con el equipo de tecnología contra el abuso de Google, y ahora está potenciando una variedad de plataformas a fin de crear un espacio seguro para el diálogo a través de múltiples usos:
Comentarios a los usuarios: Perspective puede enviar comentarios a los usuarios sobre la posible toxicidad percibida en su contenido en tiempo real, lo que genera resultados significativos:
- Coral by Vox Media, una importante plataforma de comentarios que utilizan las organizaciones de medios de todo el mundo, utiliza esta función para brindar a los usuarios la oportunidad de cambiar su redacción antes de realizar la publicación. Un estudio controlado con McClatchy descubrió que el 40 % de los usuarios cambió sus comentarios en respuesta a ese aviso.
- OpenWeb, una plataforma líder de participación de la audiencia que recibe a 100 millones de usuarios activos al mes, lanzó esta función después de que un estudio de OpenWeb, que se realizó como parte de una investigación de Jigsaw más amplia, descubriera que de todos los usuarios que comentan y editaron su idioma, el 44,7 % de estos usuarios reemplazó o eliminó las palabras ofensivas, y el 7,6 % decidió reescribir por completo su comentario.
Ayuda a los moderadores humanos: Perspective también sirve para ayudar a los moderadores humanos a trabajar con mayor eficiencia y reducir la toxicidad en sus plataformas:
- The New York Times creó Moderator, una herramienta que aprovecha Perspective para priorizar comentarios para la moderación humana y autorizar a los que más probablemente superen una revisión manual. The Times ha aumentado la cantidad de artículos que podían dar lugar a comentarios a través de Perspective, lo que le permitió ofrecer a los lectores una selección más amplia y diversa de artículos para comentar.
- FACEIT, una de las plataformas de videojuegos más importantes de Europa, utiliza la calificación de toxicidad de Perspective para advertir o inhabilitar a usuarios, quienes pueden recurrir a un moderador humano para su revisión final. Como resultado de esta moderación en tiempo real, FACEIT ha logrado una reducción del 20 % en mensajes tóxicos.
- Cofina, una empresa de medios portuguesa, logró disminuir la necesidad de moderación humana en un 60 %, lo que le permitió a su equipo ahorrar al menos 2 horas al día después de integrar Perspective en sus CMS para moderar los comentarios en sus periódicos deportivos y financieros.
"La API Perspective ha mejorado enormemente nuestra capacidad de detectar toxicidad en los comentarios que recibimos. Ha permitido que el trabajo de nuestro equipo de moderación sea más impactante y eficiente y, desde que implementamos la herramienta, hemos podido aumentar en aproximadamente un tercio la cantidad de artículos abiertos a comentarios". – Marcia Loughran, editora de Comunidades de The New York Times
"Trabajar con Perspective nos ha permitido promover interacciones positivas en cientos de comunidades dinámicas y comprometidas y en decenas de millones de usuarios. Las soluciones son elegantes y sin fricciones, lo que apoya nuestra visión de un compromiso de mayor calidad con menos toxicidad". – Nadav Shoval, director ejecutivo y cofundador de OpenWeb
"En Coral, nos enfocamos en simplificar y agilizar el trabajo esencial de los moderadores. Perspective nos ayuda a identificar comentarios en varios idiomas que requieren atención inmediata. El equipo de Perspective son fantásticos colaboradores en esta misión".–Andrew Losowsky, director de Coral by VoxMedia
"Integramos Perspective en nuestro CMS para moderar los comentarios en nuestros periódicos deportivos y financieros. Disminuimos la moderación humana en un 60 %. Ahorramos al menos dos horas al día y estamos muy satisfechos con los resultados. También mejoró la calidad de los comentarios en nuestros sitios web y el compromiso con nuestros usuarios". – Nuno Alves, director técnico en línea de Cofina Media
"En FACEIT, hemos comenzado una misión para abordar directamente la toxicidad y el acoso en los videojuegos. Debido a que nuestra comunidad de jugadores seguía creciendo y evolucionando, necesitábamos crear soluciones eficaces que pudieran funcionar a gran escala. Perspective nos proporcionó el modelo de toxicidad perfecto que utilizamos como referencia para desarrollar nuestro motor antitoxicidad". –María Laura Scuri, directora de Inteligencia Empresarial de FACEIT
A través de sus asociaciones, Jigsaw también ha capacitado a Perspective en nuevos idiomas, lo que permite que el modelo de aprendizaje automático esté mejor posicionado para mejorar las conversaciones en línea a escala global. Actualmente está disponible en inglés, español, francés, alemán, italiano y portugués. Algunos de los socios de Perspective incluyen: El País, Le Monde, Cofina y otros editores que comprenden la importancia de aceptar conversaciones de buena calidad en sus plataformas y en diversos idiomas.
Jigsaw también está trabajando continuamente con sus socios para explorar formas de mitigar los prejuicios en el aprendizaje automático. Lea algunas de las investigaciones recientes de Jigsaw aquí.
Obtenga más información sobre Perspective y pruébela en la tercera edición de The Current.
Consultas de prensa:
Jigsaw Media
[email protected]
Acerca de Jigsaw
Jigsaw es una unidad dentro de Google que pronostica y enfrenta amenazas emergentes, creando investigaciones y tecnología que definen el futuro para que nuestro mundo esté más seguro.
Logotipo: https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
FUENTE Jigsaw
Share this article