Dceřiná společnost Googlu, Jigsaw, hlásí, že API pro snižování toxicity, Perspective, zpracovává 500 milionů žádostí denně
Společnost publikuje třetí vydání výzkumného časopisu The Current, který pojednává o online toxicitě a o roli umělé inteligence při vytváření zdravějšího diskusního prostoru
NEW YORK, 9. února 2021 /PRNewswire/ -- Jigsaw, jednotka v rámci Googlu, která má na starosti predikci digitálních hrozeb a jejich následnou konfrontaci, dnes oznámila, že bezplatné open source API, Perspective, využívající strojové učení k odhalování toxických komentářů, v současné době zpracovává 500 milionů požadavků denně a značně snižuje toxicitu online konverzací, a tudíž znatelně zlepšuje kvalitu online prostředí. Třetí číslo výzkumného online časopisu společnosti, The Current, které bylo dnes vydáno, podrobně popisuje přetrvávající problém online toxicity a role, kterou mohou při jeho snižování hrát nástroje strojového učení, jako je Perspective.
Perspective byla spuštěna roku 2017 se záměrem bojovat proti online toxicitě a obtěžování. API hodnotí komentáře na základě jejich vnímaného dopadu na konverzaci a pomáhá platformám udržovat sekce komentářů otevřené, čímž zvyšuje pravděpodobnost poutavé a produktivní konverzace.
„Toxicita na internetu je všudypřítomný problém, který nepřiměřeně ovlivňuje marginalizované skupiny, ohrožuje nezávislou žurnalistiku a vytlačuje svobodu projevu a zdravý dialog," uvedl Jared Cohen, generální ředitel společnosti Jigsaw. „Naši partneři se na vlastní oči přesvědčili, že Perspective znatelně snižuje toxicitu na jejich platformách, což jim umožňuje vytvářet bezpečnější uživatelský prostor pro výměnu názorů. Zavázali jsme se spolupracovat s našimi partnery a akademickými institucemi na neustálém tréninku a aktualizaci našich modelů, abychom neustále vylepšovali naše schopnosti pro identifikaci toxicity a zároveň minimalizovali zkreslení, a podpořili tak zdravější diskuse. "
Společnost Jigsaw vyvinula Perspective za pomoci modelů vyvinutých ve spolupráci s týmem zaměřeným na obranu proti zneužívání technologií („Counter Abuse Technology Team") společnosti Google a nyní umožňuje různým platformám vytvářet bezpečný prostor pro dialog různými způsoby:
Zpětná vazba komentátora: Perspective může poskytnout komentátorům zpětnou vazbu o potenciální vnímané toxicitě jejich obsahu v reálném čase, což zásadně ovlivní povahu online diskusí:
- Coral, přední komentářová platforma společnosti Vox Media, která je využívána mediálními organizacemi po celém světě, tuto funkci používá, aby poskytla komentátorům možnost změnit komentář předtím, než bude zveřejněn. Kontrolovaná studie u společnosti McClatchy prokázala, že 40 procent uživatelů upravilo svou výpověď na základě poskytnuté zpětné vazby.
- OpenWeb, přední platforma pro zapojení publika, která hostí na 100 milionů aktivních uživatelů měsíčně, implementovala tuto funkci na základě OpenWeb studie provedené v rámci širšího výzkumu společnosti Jigsaw, během které bylo zjištěno, že ze všech komentátorů, kteří na základě zpětné vazby upravili svá vyjádření, 44,7 procent komentátorů nahradilo nebo odstranilo urážlivá slova a 7,6 procenta se rozhodlo zcela přepsat svůj komentář.
Asistování lidským moderátorům: Perspective také pomáhá lidským moderátorům pracovat efektivněji a snižovat toxicitu na jejich platformách:
- Deník The New York Times vyvinul Moderator, nástroj, který využívá Perspective k upřednostňování komentářů pro moderování lidmi a schvalování těch, u kterých je pravděpodobné, že projdou manuální kontrolou. Deník pomocí Perspective zvýšil počet článků, u kterých by mohl otevřít diskusní prostor, což vedení umožňuje poskytovat čtenářům širší a rozmanitější výběr článků, ke kterým se mohou vyjádřit.
- FACEIT, jedna z největších evropských herních platforem, používá skóre toxicity vyhodnocené Perspective k varování či banování uživatelů – ti se mohou obrátit na moderátora s žádostí o finální přehodnocení. V důsledku tohoto způsobu moderování v reálném čase zaznamenal FACEIT 20% pokles výskytu toxických zpráv.
- Cofina, portugalská mediální společnost, dokázala po integraci Perspective do jejich CMS snížit požadavky na lidské moderátory o 60 procent a ušetřit tak týmu minimálně 2 hodiny práce denně, které dříve vynakládal na moderování komentářů ve svých sportovních a finančních novinách.
„API Perspective výrazně posílilo naši schopnost odhalit toxicitu v komentářích na naší platformě. Díky tomu byla posílena efektivita našeho moderátorského týmu a zároveň jsme od zavedení nástroje zaznamenali, že jsme schopni navýšit počet článků otevřených pro diskusi zhruba o třetinu." -Marcia Loughran, komunitní redaktorka The New York Times
„Práce s Perspective nám umožnila povzbudit pozitivní interakce napříč stovkami dynamických a angažovaných komunit a desítkami milionů uživatelů. Řešení jsou elegantní, bezproblémová a podporují naši vizi kvalitnějšího komunitního zapojení s menší toxicitou." -Nadav Shoval, generální ředitel a spoluzakladatel OpenWeb
„Ve společnosti Coral se zaměřujeme na usnadnění a zrychlení základní práce moderátorů. Perspective nám pomáhá identifikováním komentářů v několika jazycích, které vyžadují okamžitou pozornost. Členové týmu Perspective jsou nám na této misi skvělými spolupracovníky." –Andrew Losowsky, vedoucí platformy Coral společnosti VoxMedia
„Perspective jsme integrovali do našeho CMS, abychom mohli moderovat komentáře v našich sportovních a finančních novinách. Potřebu lidského moderování jsme tak snížili o 60 procent. Implementace tohoto nástroje nám umožňuje ušetřit minimálně dvě hodiny denně a s jeho výsledky jsme velmi spokojeni. Od té doby, co jsme Perspective začali používat, se zvýšila kvalita komentářů na našich webových stránkách a celkové zapojení našich uživatelů." -Nuno Alves, vedoucí pracovník v oblasti online technologií ve společnosti Cofina Media
„Na FACEITu jsme se vydali na misi, která má přímo řešit toxicitu a obtěžování ve světě her. S rostoucí a vyvíjející se komunitou hráčů jsme potřebovali vytvořit efektivní řešení, která budou fungovat i ve velkém měřítku. Perspective nám poskytlo dokonalý model toxicity, ze kterého jsme vycházeli při budování našeho nástroje pro monitorování toxického chování." –Maria Laura Scuri, ředitelka business intelligence, FACEIT
Skrze svá partnerství poskytla společnost Jigsaw nástroji Perspective trénink v nových jazycích, díky čemuž navýšila efektivitu modelu strojového učení ve zlepšování kvality online konverzací v globálním měřítku – v současné době je k dispozici v angličtině, španělštině, francouzštině, němčině, italštině a portugalštině. Mezi partnery Perspective patří: El Pais, Le Monde, Cofina a několik dalších vydavatelů, kteří chápou důležitost kvalitních konverzací na svých platformách v různých jazycích.
Společnost Jigsaw také nepřetržitě spolupracuje s partnery na prozkoumání způsobů, jak zmírnit zkreslení ve strojovém učení. Přečtěte si zde některé z nedávných výzkumů společnosti Jigsaw.
O nástroji Perspective se dozvíte více ve třetím vydání The Current, kde budete mít i možnost si ho na vlastní kůži vyzkoušet.
Mediální kontakt:
Mediální oddělení Jigsaw
[email protected]
O společnosti Jigsaw
Jigsaw je jednotka v rámci společnosti Google, která předpovídá vznikající hrozby, konfrontuje je a zkoumá technologie budoucnosti, které učiní náš svět bezpečnějším místem.
Logo - https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
Share this article