Jigsaw, obchodná jednotka v Google, oznámila že API na redukciu toxicity - Perspective - spracováva 500 miliónov žiadostí denne
Spoločnosť vydáva tretie vydanie výskumného časopisu The Current, ktorý sa venuje online toxicite a úlohe umelej inteligencie (AI) pri napomáhaní v zdravých konverzáciách
NEW YORK, 9. februára 2021 /PRNewswire/ -- Jigsaw, jednotka v rámci spoločnosti Google, ktorá predpovedá a konfrontuje vznikajúce digitálne hrozby, dnes oznámila, že Perspective, bezplatná API s otvoreným zdrojom, ktorá využíva strojové učenie na pozorovanie toxických komentárov, v súčasnosti spracováva 500 miliónov požiadaviek denne a merateľne znižuje toxicitu, aby boli online konverzácie lepšie. Tretie vydanie online výskumného časopisu The Current, ktoré vyšlo dnes, podrobne popisuje pretrvávajúce a škodlivé problémy s online toxicitou a úlohu, ktorú môžu mať nástroje strojového učenia, ako je Perspective, pri jej znižovaní.
API Perspective, ktorá bola uvedená na trh v roku 2017 s cieľom bojovať proti toxicite a obťažovaniu online, hodnotí komentáre na základe ich vnímaného vplyvu na konverzáciu a pomáha platformám udržiavať sekcie komentárov otvorené pre pútavé a produktívne konverzácie.
„Toxicita na internete je všadeprítomný problém, ktorý neúmerne ovplyvňuje marginalizované skupiny, ohrozuje nezávislú žurnalistiku a vytláča slobodu prejavu a zdravý dialóg," uviedol Jared Cohen, výkonný riaditeľ spoločnosti Jigsaw. „Naši partneri videli, že Perspective merateľne znižuje toxicitu na ich platformách a umožňuje im vytvárať bezpečnejšie priestory pre ich používateľov na výmenu nápadov. Zaviazali sme sa k spolupráci s našimi partnermi a akademickými inštitúciami na neustálom školení a preškoľovaní našich modelov, aby sme ešte lepšie identifikovali toxicitu a zároveň minimalizovali zaujatosť pri podpore zdravších rozhovorov."
Spoločnosť Jigsaw vytvorila Perspective pomocou modelov vyvinutých v spolupráci s tímom spoločnosti Counter Abuse Technology spoločnosti Google a v súčasnosti umožňuje množstvu platforiem vytvárať bezpečný priestor na dialóg pomocou viacerých použití:
Spätná väzba komentátora: Perspective môže poskytnúť spätnú väzbu komentátorom o potenciálnej vnímanej toxicite ich obsahu v reálnom čase, čo vedie k významným výsledkom:
- Coral od spoločnosti Vox Media, popredná platforma na komentovanie, ktorú používajú mediálne organizácie po celom svete, využíva túto funkciu na to, aby dala komentátorom príležitosť zmeniť použité slová pred uverejnením príspevku. Kontrolovaná štúdia s firmou McClatchy zistila, že 40 percent používateľov zmenilo svoj komentár na základe spätnej väzby.
- OpenWeb, popredná platforma na interakciu s publikom, ktorá hostí 100 miliónov aktívnych používateľov mesačne, spustila túto funkciu po štúdii OpenWeb, ktorá sa uskutočnila v rámci širšieho výskumu Jigsaw. Zistilo sa, že spomedzi všetkých komentujúcich, ktorí upravovali znenie svojich komentárov, 44,7 percenta odstránilo alebo nahradilo nevhodné slová a 7,6 percenta sa rozhodlo svoj komentár úplne prepísať.
Pomoc ľudským moderátorom: Perspective tiež slúži ako pomoc ľudským moderátorom pri efektívnejšej práci a znižovaní toxicity na platformách:
- The New York Times vytvorený Moderátor: nástroj, ktorý využíva Perspective na uprednostnenie komentárov, ktoré musí umierniť ľudský moderátor a na schválenie tých, ktoré s najväčšou pravdepodobnosťou prejdú manuálnou kontrolou. The Times mohol zvýšiť počet článkov, ktoré sú otvorené pre komentovanie vďaka nástroju Perspective, čo im umožnilo poskytnúť čitateľom širší a rozmanitejší výber článkov, ku ktorým môžu dať komentár.
- FACEIT, jedna z najväčších európskych herných platforiem, používa skóre toxicity Perspective na varovanie alebo zákaz používateľom, ktorí sa môžu obrátiť na moderátora pre finálne rozhodnutie. V dôsledku tohto moderovania v reálnom čase zaznamenal FACEIT 20-percentné zníženie toxických správ.
- Cofina, portugalská mediálna spoločnosť, dokázala po integrácii Perspective do svojho CMS znížiť potrebu moderovania ľuďmi o 60 percent, čím ušetrila svojmu tímu minimálne 2 hodiny denne strávené moderovaním komentárov v športových a finančných novinách.
„Perspective API výrazne zvýšila našu schopnosť spozorovať toxicitu v našich komentároch. Vďaka tomu bola práca nášho moderátorského tímu efektívnejšia a účinnejšia a od implementácie nástroja sa nám podarilo zvýšiť počet článkov otvorených pre komentáre asi o tretinu." - Marcia Loughran, komunitná redaktorka, The New York Times
„Spolupráca s Perspective nám umožnila povzbudiť pozitívne interakcie medzi stovkami dynamických a zanietených komunít a desiatkami miliónov používateľov. Riešenia sú elegantné a bez problému a podporujú našu víziu kvalitnejších interakcií s menšou toxicitou." - Nadav Shoval, generálny riaditeľ a spoluzakladateľ OpenWeb
„V spoločnosti Coral sa zameriavame na uľahčenie a zrýchlenie základnej práce moderátorov. Perspective nám pomáha identifikovať komentáre v niekoľkých jazykoch, ktoré si vyžadujú okamžitú pozornosť. Tím Perspective je pri tejto misii úžasným spolupracovníkom." –Andrew Losowsky, vedúci Coral by VoxMedia
„Do nášho CMS sme integrovali Perspective, z dôvodu moderovania komentárov v našich športových a finančných novinách. Znížili sme moderovanie človekom o 60 percent. Šetríme minimálne dve hodiny denne a sme s výsledkami veľmi spokojní. Zlepšilo to tiež kvalitu komentárov na našich webových stránkach a spoluprácu s našimi používateľmi." - Nuno Alves, online technický riaditeľ, Cofina Media
„V spoločnosti FACEIT sme sa pustili do misie priamo sa zaoberať toxicitou a obťažovaním v hrách. S rastúcou a rozvíjajúcou sa komunitou hráčov sme potrebovali vytvárať efektívne riešenia schopné pracovať v rozsahu. Platforma Perspective nám poskytla dokonalý model toxicity, ktorý sme použili ako základnú líniu pri budovaní nášho anti-toxického nástroja." –Maria Laura Scuri, riaditeľka Business Intelligence, FACEIT
Prostredníctvom svojich partnerstiev spoločnosť Jigsaw tiež vycvičila Perspective na nové jazyky, vďaka čomu má model strojového učenia lepšiu pozíciu pre zlepšovanie online konverzácií v globálnom meradle - v súčasnosti je k dispozícii v angličtine, španielčine, francúzštine, nemčine, taliančine a portugalčine. Medzi partnerov Perspective patria: El Pais, Le Monde, Cofina a niekoľko ďalších vydavateľov, ktorí chápu dôležitosť hostenia kvalitných konverzácií na svojich platformách v rôznych jazykoch.
Spoločnosť Jigsaw taktiež nepretržite spolupracuje s partnermi na výskume spôsobov, ako zmierniť predsudky v strojovom učení. Tu si môžete prečítať si niektoré z nedávnych výskumov spoločnosti Jigsaw.
Prečítajte si viac Perspective a vyskúšajte ju v treťom vydaní The Current.
Dotazy médií:
Jigsaw Media
[email protected]
O spoločnosti Jigsaw
Jigsaw je jednotka v rámci spoločnosti Google, ktorá predpovedá a konfrontuje vznikajúce hrozby a robí výskum a vytvára technológie určujúce budúcnosť tak, aby bol náš svet bezpečnejší.
Logo - https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg
Share this article