Julkistamme tänään yhteisöstandardien täytäntöönpanoraportin vuoden 2020 kolmannelta neljännekseltä. Tässä raportissa on mittareita siitä, miten panimme käytännöt täytäntöön heinäkuusta syyskuuhun, ja se sisältää mittareita 12 käytännöstä Facebookissa ja 10 käytännöstä Instagramissa.
Mitä uutta: Vihapuheen yleisyys
Ensimmäistä kertaa otamme mukaan vihapuheen yleisyyden Facebookissa maailmanlaajuisesti. Vuoden 2020 kolmannella neljänneksellä vihapuheen yleisyys oli 0,10 – 0,11 % eli 10-11 vihapuheen katselua 10 000 sisällön katselua kohden. Tekoälyyn tekemiemme investointien ansiosta olemme pystyneet poistamaan enemmän vihapuhetta ja löytämään enemmän vihapuhetta ennakoivasti ennen kuin käyttäjät ilmoittavat siitä meille. Tämän vuosineljänneksen täytäntöönpanomittaristomme, mukaan lukien se, kuinka paljon vihapuheista sisältöä löysimme ennakoivasti ja kuinka monen sisällön osalta ryhdyimme toimenpiteisiin, osoittavat, että edistymme haitallisen sisällön kiinniottamisessa. Yleisyys puolestaan arvioi, kuinka monta kertaa ihmiset näkevät loukkaavaa sisältöä alustallamme. Lue lisää vihapuhetta koskevasta työstämme.
Valvontatoimien kohokohdat
Vaikka COVID-19-pandemia häiritsee edelleen sisällöntarkistustyöntekijöitämme, jotkin valvontamittarit ovat palaamassa pandemiaa edeltävälle tasolle. Rikkovaa sisältöä koskevien ennakoivien havaintojen määrä on noussut toiseen vuosineljännekseen verrattuna useimmissa käytännöissä, mikä johtuu tekoälyn parannuksista ja havaintotekniikoiden laajentamisesta useampiin kieliin. Vaikka tarkastuskapasiteettia on vähennetty, asetamme yhä etusijalle arkaluonteisimman sisällön, kuten itsemurhan ja itsensä vahingoittamisen sekä lasten alastomuuden.
Facebookissa kolmannella vuosineljänneksellä ryhdyimme toimenpiteisiin:
- 22,1 miljoonan vihapuheeseen liittyvän sisällön osalta, joista noin 95 prosenttia tunnistettiin ennakoivasti
- 19.2 miljoonaa kappaletta väkivaltaista ja graafista sisältöä (kasvua toisen vuosineljänneksen 15 miljoonasta)
- 12,4 miljoonaa kappaletta lasten alastomuutta ja seksuaalista hyväksikäyttöä sisältävää sisältöä (kasvua toisen vuosineljänneksen 9,5 miljoonasta)
- 3,5 miljoonaa kappaletta kiusaamista ja häirintää sisältävää sisältöä (kasvua toisen vuosineljänneksen 2,4 miljoonasta).
Instagramissa kolmannella vuosineljänneksellä ryhdyttiin toimenpiteisiin:
- 6,5 miljoonan vihapuhe-sisällön osalta (lisäys toisen vuosineljänneksen 3,2 miljoonasta), joista noin 95 % tunnistettiin ennakoivasti (lisäys toisen vuosineljänneksen noin 85 %:sta)
- 4.1 miljoona kappaletta väkivaltaista ja graafista sisältöä (kun se oli 3,1 miljoonaa kappaletta toisella vuosineljänneksellä)
- 1,0 miljoonaa kappaletta lasten alastomuutta ja seksuaalista hyväksikäyttöä sisältävää sisältöä (kun se oli 481 000 kappaletta toisella vuosineljänneksellä)
- 2.6 miljoonaa kappaletta kiusaamis- ja häirintäsisältöä (verrattuna 2,3 miljoonaan kappaleeseen Q2:lla)
- 1,3 miljoonaa kappaletta itsemurhaa ja itsensä vahingoittamista sisältävää sisältöä (verrattuna 277 400 kappaleeseen Q2:lla)
Vihapuheen ennakoivan havaitsemisprosenttimme kasvu Instagramissa johtui osittain siitä, että paransimme ennakoivaa havaitsemisteknologiaamme englannin, arabian ja espanjan kielten osalta ja laajensimme automatisointiteknologiaa. Odotamme näiden lukujen vaihtelua, kun jatkamme sopeutumista COVIDiin liittyviin työvoimahaasteisiin.
Lisäkäytäntöjen jakaminen julkisesti
Päivitämme tänään Community Standards -verkkosivustoamme sisällyttämällä siihen lisäkäytäntöjä, jotka vaativat enemmän kontekstia ja joita ei aina voida soveltaa mittakaavassa. Nämä käytännöt vaativat usein erikoistuneita tiimejä keräämään lisää tietoa tietystä asiasta, jotta päätökset voidaan tehdä. Tarvitsemme esimerkiksi lisätietoja, yleensä perheenjäseniltä, ennen kuin poistamme kuolleen henkilön tilin. Saatamme myös käyttää lisätietoja luotetuilta kumppaneilta, joilla on paikallista asiantuntemusta, tai julkisilta uutislähteiltä, jotta voimme tehdä täytäntöönpanopäätöksiä näissä vivahteikkaissa käytännöissä.
Molemmista näistä käytännöistä on ilmoitettu aiemmin. Esimerkiksi käytäntömme, joka kieltää väärän tiedon ja todentamattomien huhujen lähettämisen, jotka edistävät välittömän väkivallan tai fyysisen vahingon vaaraa, sekä käytäntömme, jonka mukaan arkaluonteiseen sisältöön, kuten uutistoimiston lähettämiin kuviin, jotka kuvaavat lasten alastomuutta nälänhädän, kansanmurhan, sotarikosten tai rikosten ihmiskuntaa vastaan yhteydessä, lisätään varoitusmerkintä. Vaikka nämä käytännöt eivät ole uusia, kerromme tänään lisää yksityiskohtia ollaksemme entistä avoimempia täytäntöönpanokäytännöistämme. Jatkossa, aivan kuten teemme skaalattujen käytäntöjemme kanssa, päivitämme edelleen julkisesti yhteisöstandardeja kuukausittain, kun uusia käytäntöjä kehitetään, jotka vaativat lisää kontekstia.
Jatkamme teknologiamme ja täytäntöönpanotoimiemme parantamista, jotta voimme poistaa haitallisen sisällön alustaltamme ja pitää ihmiset turvassa käyttäessämme sovelluksiamme.
Yhteisöstandardien täytäntöönpanoraportti julkaistaan yhdessä puolivuosittaisen läpinäkyvyysraporttimme kanssa, jossa jaetaan numerotietoja käyttäjätietoja koskevista viranomaispyynnöistä, paikalliseen lainsäädäntöön perustuvista sisältörajoituksista, immateriaalioikeuksien poistoista ja internetin häiriöistä.