Dnes zveřejňujeme zprávu o dodržování standardů komunity za třetí čtvrtletí roku 2020. Tato zpráva poskytuje metriky o tom, jak jsme prosazovali naše zásady od července do září, a zahrnuje metriky pro 12 zásad na Facebooku a 10 zásad na Instagramu.
Co je nového: Rozšířenost nenávistných projevů
Poprvé zahrnujeme celosvětovou rozšířenost nenávistných projevů na Facebooku. Ve 3. čtvrtletí 2020 činila prevalence nenávistných projevů 0,10 % – 0,11 % neboli 10 až 11 zobrazení nenávistných projevů na každých 10 000 zobrazení obsahu. Díky investicím do umělé inteligence se nám podařilo odstranit více nenávistných projevů a proaktivně jich najít více dříve, než nám je uživatelé nahlásí. Naše metriky vynucování v tomto čtvrtletí, včetně toho, kolik obsahu s nenávistnými projevy jsme našli proaktivně a kolik obsahu jsme přijali opatření, ukazují, že v zachycování škodlivého obsahu děláme pokroky. Prevalence naproti tomu odhaduje procento případů, kdy lidé na naší platformě vidí porušující obsah. Přečtěte si více o naší práci v oblasti nenávistných projevů.
Významné kroky v oblasti prosazování
Přestože pandemie COVID-19 nadále narušuje práci našich pracovníků v oblasti kontroly obsahu, zaznamenáváme návrat některých ukazatelů prosazování na úroveň před pandemií. Míra naší proaktivní detekce porušujícího obsahu se oproti druhému čtvrtletí zvýšila u většiny zásad, a to díky zlepšení umělé inteligence a rozšíření našich detekčních technologií na více jazyků. I při snížené kapacitě prověřování stále upřednostňujeme nejcitlivější obsah, který mají lidé prověřovat, což zahrnuje oblasti, jako jsou sebevraždy a sebepoškozování a dětská nahota.
Na Facebooku jsme ve 3. čtvrtletí přijali opatření proti:
- 22,1 milionu kusů obsahu s nenávistnými projevy, z toho asi 95 % bylo proaktivně identifikováno
- 19.2 miliony kusů násilného a grafického obsahu (oproti 15 milionům ve 2. čtvrtletí)
- 12,4 milionu kusů obsahu obsahujícího dětskou nahotu a sexuální zneužívání (oproti 9,5 milionům ve 2. čtvrtletí)
- 3,5 milionu kusů obsahu obsahujícího šikanu a obtěžování (oproti 2,4 milionům ve 2. čtvrtletí).
Na Instagramu jsme ve 3. čtvrtletí přijali opatření proti:
- 6,5 milionu kusů obsahu obsahujícího nenávistné projevy (nárůst z 3,2 milionu ve 2. čtvrtletí), z nichž přibližně 95 % bylo proaktivně identifikováno (nárůst z přibližně 85 % ve 2. čtvrtletí)
- 4.1 milion kusů násilného a grafického obsahu (nárůst z 3,1 milionu ve 2. čtvrtletí)
- 1,0 milionu kusů obsahu s nahotou a sexuálním zneužíváním dětí (nárůst z 481 000 ve 2. čtvrtletí)
- 2.6 milionů kusů obsahu obsahujícího šikanu a obtěžování (nárůst z 2,3 milionu kusů ve 2. čtvrtletí)
- 1,3 milionu kusů obsahu obsahujícího sebevraždy a sebepoškozování (nárůst z 277 400 kusů ve 2. čtvrtletí)
Zvýšení míry proaktivní detekce nenávistných projevů na Instagramu bylo částečně způsobeno zlepšením naší technologie proaktivní detekce pro angličtinu, arabštinu a španělštinu a rozšířením technologie automatizace. Očekáváme výkyvy v těchto číslech, protože se nadále přizpůsobujeme pracovním výzvám souvisejícím s COVID.
Veřejné sdílení dalších zásad
Dnes aktualizujeme naši webovou stránku s komunitními standardy a zahrnujeme do ní další zásady, které vyžadují více kontextu a nelze je vždy aplikovat ve velkém měřítku. Tyto zásady často vyžadují, aby specializované týmy shromáždily více informací o dané problematice, aby mohly učinit rozhodnutí. Například před odstraněním účtu zesnulé osoby vyžadujeme další informace, obvykle od rodinného příslušníka. Při rozhodování o prosazování těchto nuancovaných zásad můžeme také využít další informace od důvěryhodných partnerů s místními znalostmi nebo z veřejných zpravodajských zdrojů.
Několik z těchto zásad bylo oznámeno již dříve. Například naše zásady, které zakazují zveřejňování dezinformací a neověřitelných fám, které přispívají k riziku bezprostředního násilí nebo fyzické újmy, a naše zásady přidávání varovného označení k citlivému obsahu, jako jsou snímky zveřejněné zpravodajskou agenturou, které zobrazují dětskou nahotu v souvislosti s hladomorem, genocidou, válečnými zločiny nebo zločiny proti lidskosti. Ačkoli tyto zásady nejsou nové, dnes se s vámi podělíme o další podrobnosti, abychom byli ještě transparentnější, pokud jde o naše postupy prosazování. Do budoucna budeme stejně jako v případě našich škálovaných zásad i nadále každý měsíc veřejně aktualizovat standardy komunity podle toho, jak budou vznikat nové zásady, které vyžadují další souvislosti.
Pokračovat budeme ve zdokonalování naší technologie a úsilí o prosazování, abychom z naší platformy odstraňovali škodlivý obsah a zajistili bezpečnost lidí při používání našich aplikací.
Zpráva o prosazování standardů komunity je zveřejňována společně s naší pololetní zprávou o transparentnosti, která sdílí čísla o vládních žádostech o uživatelská data, omezeních obsahu na základě místních zákonů, odebírání duševního vlastnictví a narušeních internetu.