Jigsaw do Google anuncia que o Perspective, uma API de redução da toxicidade, está processando 500 milhões de solicitações diariamente
Empresa publica a terceira edição da The Current, uma revista de pesquisa que abrange a toxicidade on-line e o papel da IA em ajudar a conduzir conversas saudáveis
NOVA YORK, 8 de fevereiro de 2021 /PRNewswire/ -- Hoje, o Jigsaw, uma unidade do Google que prevê e confronta ameaças digitais emergentes, anunciou que a Perspective, uma API de fonte aberta que utiliza aprendizado de máquina para detectar comentários tóxicos, está processando atualmente 500 milhões de pedidos diariamente e está reduzindo mensuravelmente a toxicidade para melhorar as conversas on-line em escala. A terceira edição da revista de pesquisa on-line da empresa, The Current, que foi publicada hoje, detalha o problema persistente e prejudicial da toxicidade on-line e o papel que as ferramentas de aprendizado de máquina, como o Perspective, podem ter na sua redução.
Lançada em 2017 para combater a toxicidade e o assédio on-line, o Perspective marca comentários com base no impacto percebido sobre a conversa e ajuda as plataformas a manter as seções de comentários abertas para conversas envolventes e produtivas.
"A toxicidade na internet é um problema generalizado que exerce impacto desproporcional em grupos marginalizados, ameaça o jornalismo independente e aumenta a liberdade de expressão e o diálogo saudável", declarou Jared Cohen, CEO do Jigsaw. "Nossos parceiros observaram que o Perspective reduz mensuravelmente a toxicidade em suas plataformas, permitindo-lhes criar espaços mais seguros para seus usuários trocarem ideias. Estamos comprometidos em trabalhar com nossos parceiros e instituições acadêmicas para treinar e retreinar continuamente nossos modelos para nos tornarmos ainda melhores na identificação da toxicidade, minimizando o preconceito em favor de conversas mais saudáveis."
O Jigsaw desenvolveu o Perspective usando modelos desenvolvidos em parceria com a equipe de tecnologia de combate ao abuso do Google, e agora está capacitando uma variedade de plataformas para criar espaço seguro para diálogo por meio de vários usos:
Feedback do comentarista: o Perspective pode oferecer feedback aos comentaristas sobre a potencial toxicidade percebida de seu conteúdo em tempo real, levando a resultados significativos:
- Coral by Vox Media, uma plataforma de comentários de destaque usada por organizações de mídia em todo o mundo, utiliza esta função para dar aos comentaristas a oportunidade de mudar suas palavras antes de postar. Um estudo controlado com a McClatchy mostrou que 40% dos usuários alteraram seus comentários em resposta ao feedback.
- A OpenWeb, uma plataforma líder de engajamento do público que hospeda 100 milhões de usuários ativos por mês, lançou este recurso após um estudo da OpenWeb, realizado como parte de uma pesquisa mais ampla do Jigsaw, descobrir que, entre todos os comentaristas que editaram seu idioma, 44,7% dos comentaristas substituíram ou removeram palavras ofensivas e 7,6% preferiram reescrever seus comentários em sua totalidade.
Ajudando os Moderadores: O Perspective também atua para ajudar os moderadores humanos a trabalhar de forma mais eficiente e reduzir a toxicidade em suas plataformas:
- O The New York Times desenvolveu o Moderator: uma ferramenta que aproveita o Perspective para priorizar os comentários para a moderação humana e aprovar aqueles mais propensos a passar por uma revisão manual. O The Times aumentou o número de artigos que poderiam abrir para comentários usando o Perspective, permitindo que eles apresentassem aos leitores uma seleção mais ampla e diversificada de artigos para comentar.
- A FACEIT, uma das maiores plataformas de jogos da Europa, usa a pontuação de toxicidade do Perspective para dar avisos ou proibições aos usuários, que podem apelar a um moderador humano para realizar a revisão final. Como resultado dessa moderação em tempo real, a FACEIT observou uma redução de 20% nas mensagens tóxicas.
- A Cofina, uma empresa de mídia portuguesa, conseguiu reduzir a necessidade de moderação humana em 60%, economizando pelo menos 2 horas por dia da sua equipe após integrar o Perspective em seus CMS para moderar os comentários em seus jornais esportivos e financeiros.
"A API Perspective melhorou muito a nossa capacidade de detectar toxicidade nos envios de nossos comentários. Isso fez com que o trabalho de nossa equipe de moderação fosse mais impactante e eficiente e, desde a implementação da ferramenta, pudemos aumentar o número de artigos abertos a comentários em cerca de um terço." – Marcia Loughran, editora de Comunidades, The New York Times
"Trabalhar com o Perspective nos permitiu incentivar interações positivas em centenas de comunidades dinâmicas e engajadas e dezenas de milhões de usuários. As soluções são elegantes e sem atrito, apoiando nossa visão de maior qualidade no engajamento com menos toxicidade." – Nadav Shoval, CEO e cofundador da OpenWeb
"Na Coral, nos concentramos em tornar o trabalho essencial dos moderadores mais fácil e rápido. O Perspective nos ajuda identificando comentários em vários idiomas que exigem atenção imediata. A equipe do Perspective são excelentes colaboradores nesta missão." –Andrew Losowsky, diretor da Coral by VoxMedia
"Integramos o Perspective em nosso CMS para moderar os comentários em nossos jornais esportivos e financeiros. Diminuímos a moderação humana em 60%. Estamos economizando pelo menos duas horas por dia e estamos muito satisfeitos com os resultados. Também houve uma melhora da qualidade dos comentários em nossos sites e o envolvimento com os nossos usuários." – Nuno Alves, diretor técnico on-line da Cofina Media
"Na FACEIT, embarcamos em uma missão para abordar diretamente a toxicidade e o assédio nos jogos. Com a expansão e a evolução de nossa comunidade de jogadores, precisávamos desenvolver soluções eficazes capazes de trabalhar em escala. O Perspective nos proporcionou o modelo de toxicidade perfeito que usamos como base para construir nosso motor anti-toxicidade." –Maria Laura Scuri, diretora de inteligência de negócios, FACEIT
Por meio de suas parcerias, o Jigsaw também treinou o Perspective em novos idiomas, tornando o modelo de aprendizado de máquina melhor posicionado para melhorar as conversas on-line em escala global, e está atualmente disponível em inglês, espanhol, francês, alemão, italiano e português. Alguns dos parceiros do Perspective incluem: El Pais, Le Monde, Cofina e vários outros editores que entendem a importância de hospedar conversas de boa qualidade em suas plataformas, em diversos idiomas.
O Jigsaw também está trabalhando continuamente com parceiros para explorar maneiras de mitigar o preconceito no aprendizado de máquina. Leia algumas das pesquisas recentes do Jigsaw aqui.
Leia mais sobre o Perspective e experimente-o na terceira edição do The Current.
Consultas de mídia:
Mídia do Jigsaw
[email protected]
Sobre o Jigsaw
O Jigsaw é uma unidade do Google que prevê e enfrenta ameaças emergentes, criando pesquisas e tecnologias que definem o futuro para manter nosso mundo mais seguro.
Logotipo - https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
FONTE Jigsaw
Share this article