I dag publicerar vi vår rapport om tillämpning av gemenskapsstandarder för tredje kvartalet 2020. Den här rapporten innehåller mätvärden om hur vi tillämpade våra policyer från juli till september och omfattar mätvärden för 12 policyer på Facebook och 10 policyer på Instagram.
Vad är nytt: Förekomst av hatretorik
För första gången inkluderar vi förekomsten av hatretorik på Facebook globalt. Under Q3 2020 var förekomsten av hatretorik 0,10 % – 0,11 % eller 10 till 11 visningar av hatretorik per 10 000 visningar av innehåll. Tack vare våra investeringar i AI har vi kunnat ta bort mer hatretorik och hitta mer av den proaktivt innan användarna rapporterar den till oss. Våra mätvärden för verkställighet under kvartalet, inklusive hur mycket hatretorikinnehåll vi hittade proaktivt och hur mycket innehåll vi vidtog åtgärder mot, visar att vi gör framsteg när det gäller att fånga upp skadligt innehåll. Prevalens, å andra sidan, uppskattar hur många gånger människor ser kränkande innehåll på vår plattform. Läs mer om vårt arbete med hatretorik.
Höjdpunkter för verkställighetsåtgärder
Samtidigt som COVID-19-pandemin fortsätter att störa vår arbetsstyrka för innehållsgranskning ser vi att vissa mätvärden för verkställighet återgår till de nivåer som rådde före pandemin. Våra proaktiva upptäcktsfrekvenser för innehåll som bryter mot reglerna har ökat från andra kvartalet för de flesta policyer, vilket beror på förbättringar av AI och på att vi har utökat vår upptäcktsteknik till fler språk. Även med en minskad granskningskapacitet prioriterar vi fortfarande det mest känsliga innehållet för människor att granska, vilket inkluderar områden som självmord och självskadebeteende och nakenhet hos barn.
På Facebook under Q3 vidtog vi åtgärder mot:
- 22,1 miljoner stycken innehåll med hatretorik, varav cirka 95 % identifierades proaktivt
- 19.2 miljoner stycken våldsamt och grafiskt innehåll (en ökning från 15 miljoner i Q2)
- 12,4 miljoner stycken innehåll om nakenhet och sexuellt utnyttjande av barn (en ökning från 9,5 miljoner i Q2)
- 3,5 miljoner stycken innehåll om mobbning och trakasserier (en ökning från 2,4 miljoner i Q2).
På Instagram under tredje kvartalet vidtog vi åtgärder mot:
- 6,5 miljoner stycken innehåll med hatretorik (upp från 3,2 miljoner i andra kvartalet), varav cirka 95 % identifierades proaktivt (upp från cirka 85 % i andra kvartalet)
- 4.1 miljon stycken våldsamt och grafiskt innehåll (upp från 3,1 miljoner under andra kvartalet)
- 1,0 miljoner stycken innehåll med nakenhet och sexuellt utnyttjande av barn (upp från 481 000 under andra kvartalet)
- 2.6 miljoner stycken innehåll om mobbning och trakasserier (upp från 2,3 miljoner i Q2)
- 1,3 miljoner stycken innehåll om självmord och självskadebeteende (upp från 277 400 i Q2)
Ökningen av vår proaktiva upptäcktsfrekvens för hatretorik på Instagram drevs delvis av att vi förbättrade vår proaktiva upptäcktsteknologi för engelska, arabiska och spanska språk och utökade automationstekniken. Vi förväntar oss fluktuationer i dessa siffror när vi fortsätter att anpassa oss till COVID-relaterade personalutmaningar.
Dela ytterligare policyer offentligt
I dag uppdaterar vi vår webbplats för Community Standards för att inkludera ytterligare policyer som kräver mer sammanhang och som inte alltid kan tillämpas i stor skala. Dessa policyer kräver ofta att specialiserade team samlar in mer information om en viss fråga för att kunna fatta beslut. Vi kräver till exempel ytterligare information, vanligtvis från en familjemedlem, innan vi tar bort en avliden persons konto. Vi kan också använda ytterligare information från betrodda partners med lokal expertis eller offentliga nyhetskällor för att hjälpa oss att fatta verkställighetsbeslut för dessa nyanserade policyer.
Flera av dessa riktlinjer har tillkännagivits tidigare. Till exempel vår policy som förbjuder publicering av felaktig information och okontrollerbara rykten som bidrar till risken för överhängande våld eller fysisk skada, och vår policy för att lägga till en varningsetikett till känsligt innehåll, t.ex. bilder som publiceras av en nyhetsbyrå och som visar nakenhet hos barn i samband med hungersnöd, folkmord, krigsförbrytelser eller brott mot mänskligheten. Dessa riktlinjer är inte nya, men vi delar med oss av fler detaljer i dag för att vara ännu mer transparenta när det gäller våra metoder för att kontrollera efterlevnaden. Framöver kommer vi, precis som vi gör med våra skalade policyer, att fortsätta att offentligt uppdatera Community Standards månadsvis när nya policyer utvecklas som kräver ytterligare kontext.
Vi kommer att fortsätta att förbättra vår teknik och våra verkställighetsinsatser för att ta bort skadligt innehåll från vår plattform och hålla människor säkra när de använder våra appar.
Rapporten om efterlevnaden av gemenskapsstandarderna publiceras i samband med vår halvårsrapport om öppenhet som delar med sig av siffror om statliga förfrågningar om användardata, innehållsbegränsningar baserade på lokal lagstiftning, nedtagningar av immateriella rättigheter och störningar på internet.