Jigsaw, division de Google, annonce que Perspective, une API de réduction de la toxicité, traite chaque jour 500 millions de demandes
L'entreprise publie la troisième édition du magazine de recherche The Current, qui traite de la toxicité en ligne et du rôle de l'IA dans la conduite de discussions saines
NEW YORK, 9 février 2021 /PRNewswire/ -- Aujourd'hui, Jigsaw, une division de Google qui effectue des prévisions et relève les défis que posent les menaces numériques émergentes, a annoncé que Perspective, une API libre et open source qui utilise l'apprentissage automatique pour repérer les commentaires toxiques, traitait actuellement 500 millions de demandes par jour et réduisait de façon mesurable la toxicité pour améliorer les conversations en ligne à grande échelle. Le troisième numéro du magazine de recherche en ligne de l'entreprise, The Current, qui a été publié aujourd'hui, détaille le problème récurrent et préjudiciable de la toxicité en ligne et le rôle que les outils d'apprentissage automatique, comme Perspective, peuvent avoir pour le réduire.
Lancée en 2017 pour lutter contre la toxicité et le harcèlement en ligne, Perspective note les commentaires en fonction de leur incidence perçue sur la conversation et aide les plateformes à garder les sections de commentaires ouvertes aux conversations stimulantes et productives.
« La toxicité sur Internet est un problème omniprésent qui affecte de manière disproportionnée les groupes marginalisés, menace le journalisme indépendant et évince la liberté d'expression et le dialogue sain », a déclaré Jared Cohen, PDG de Jigsaw. « Nos partenaires ont constaté que Perspective permettait de réduire sensiblement la toxicité sur leurs plateformes, favorisant la création d'espaces plus sûrs pour que leurs utilisateurs puissent échanger des idées. Nous sommes déterminés à travailler avec nos partenaires et les établissements d'enseignement pour former et perfectionner continuellement nos modèles afin qu'ils s'améliorent et identifient plus efficacement la toxicité tout en minimisant les biais, favorisant ainsi la tenue de conversations plus saines. »
Jigsaw a construit Perspective en utilisant des modèles développés en partenariat avec l'équipe de Google en charge des technologies de lutte contre les contenus abusifs, ce qui donne désormais les moyens à une variété de plates-formes de créer un espace sûr pour le dialogue à travers de multiples utilisations :
Transmission de retours aux commentateurs : Perspective peut envoyer en temps réel un retour aux commentateurs sur la toxicité potentielle perçue de leurs publications, et obtient des résultats significatifs :
- Coral by Vox Media, une importante plateforme de commentaires utilisée par les organisations médiatiques du monde entier, utilise cette fonction pour donner aux commentateurs l'occasion de modifier leur formulation avant de publier. Une étude contrôlée, menée par McClatchy, a révélé que 40 % des utilisateurs ont modifié leurs commentaires en réponse au retour reçu.
- OpenWeb, une plateforme d'engagement de premier plan qui accueille 100 millions d'utilisateurs actifs par mois, a lancé cette fonctionnalité après qu'une étude OpenWeb, menée dans le cadre d'une recherche Jigsaw plus large, a constaté que, sur l'ensemble des commentateurs ayant reformulé leurs commentaires, 44,7 % d'entre eux ont remplacé ou supprimé des mots offensants et 7,6 % ont choisi de réécrire entièrement leurs commentaires.
Aide aux modérateurs humains : Perspective aide également les modérateurs humains à travailler plus efficacement et à réduire la toxicité sur leurs plateformes :
- Le New York Times a créé Moderator, un outil qui s'appuie sur Perspective pour prioriser les commentaires devant faire l'objet d'une modération humaine et approuver ceux qui sont les plus susceptibles de réussir un examen manuel. Le Times a augmenté le nombre d'articles pouvant être ouverts aux commentaires en utilisant Perspective. Il a ainsi été possible de proposer aux lecteurs une sélection plus large et plus diversifiée d'articles sur lesquels commenter.
- FACEIT, l'une des plus grandes plateformes de jeu en Europe, utilise le score de toxicité de Perspective pour donner des avertissements ou émettre des interdictions à l'encontre des utilisateurs. Ceux-ci peuvent faire appel à un modérateur humain pour l'examen final. En conséquence de cette modération en temps réel, FACEIT a vu une réduction de 20 % des messages toxiques.
- Cofina, une société de médias portugaise, a réussi à réduire le besoin de modération humaine de 60 %, faisant ainsi gagner à son équipe au moins 2 heures par jour, après l'intégration de Perspective dans son système de gestion de contenu (CMS) pour modérer les commentaires dans ses journaux sportifs et financiers.
« L'API Perspective a grandement amélioré notre capacité à repérer la toxicité dans nos commentaires. Cela a rendu le travail de notre équipe de modération plus percutant et efficace et, depuis la mise en œuvre de l'outil, nous avons pu augmenter d'environ un tiers le nombre d'articles ouverts aux commentaires. » – Marcia Loughran, rédactrice communautaire, The New York Times
« La collaboration avec Perspective nous a permis d'encourager les interactions positives entre des centaines de communautés dynamiques et engagées et des dizaines de millions d'utilisateurs. Les solutions, élégantes et harmonieuses, soutiennent notre vision d'un engagement de qualité supérieure avec moins de toxicité. » – Nadav Shoval, PDG et cofondateur d'OpenWeb
« Chez Coral, nous nous efforçons de rendre le travail essentiel des modérateurs plus facile et plus rapide. Perspective nous aide à identifier les commentaires dans plusieurs langues qui nécessitent une attention immédiate. Dans cette mission, l'équipe de Perspective est parfaite. » – Andrew Losowsky, responsable de Coral by VoxMedia
« Nous avons intégré Perspective dans notre CMS pour modérer les commentaires dans nos journaux sportifs et financiers. Nous avons réduit la modération humaine de 60 %. Nous gagnons au moins deux heures par jour et sommes très satisfaits des résultats. Perspective a également amélioré la qualité des commentaires sur nos sites Web et la relation avec nos utilisateurs. » – Nuno Alves, directeur technique des services en ligne, Cofina Media
« À FACEIT, nous nous sommes engagés dans une mission visant directement à lutter contre la toxicité et le harcèlement dans l'industrie du jeu vidéo. Avec notre communauté de joueurs qui grandit et évolue, nous devions construire des solutions efficaces capables de travailler à grande échelle. Perspective nous a fourni le modèle de toxicité idéal, que nous avons utilisé comme base de référence pour construire sur notre moteur anti-toxicité. » – Maria Laura Scuri, directrice en charge de la veille économique, FACEIT
Grâce à ses partenariats, Jigsaw a également formé Perspective à de nouvelles langues, ce qui rend le modèle d'apprentissage automatique mieux positionné pour améliorer les conversations en ligne à l'échelle mondiale – Perspective est actuellement disponible en anglais, espagnol, français, allemand, italien et portugais. Voici quelques-uns des partenaires de Perspective : El Pais, Le Monde, Cofina et plusieurs autres éditeurs qui comprennent l'importance d'accueillir des échanges de haute tenue sur leurs plateformes, dans diverses langues.
Jigsaw collabore également en permanence avec des partenaires pour explorer des moyens d'atténuer les biais dans l'apprentissage automatique. Veuillez découvrir quelques-unes des recherches récentes de Jigsaw ici.
Vous pouvez en savoir plus sur Perspective et l'essayer dans la troisième édition de The Current.
Demandes de renseignements des médias :
Jigsaw Media
[email protected]
À propos de Jigsaw
Jigsaw est une division de Google qui effectue des prévisions et relève les grands défis que posent les menaces émergentes, ouvrant les voies de recherche et créant les technologies qui définiront notre avenir, pour un monde plus sûr.
Logo - https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
Share this article