De interne regels en richtlijnen van Facebook liggen op straat. Met behulp van trainingen, handboeken en registers instrueert het sociale medium zijn medewerkers om onder meer racisme, geweld en porno te weren.
De medewerkers van Facebook voelen zich overvraagd. Het sociale medium is de afgelopen jaren zo snel gegroeid, dat de moderatoren de eindeloze stroom berichten nauwelijks aankunnen.
‘Wraakporno’
Het Britse dagblad The Guardian kreeg inzage in honderden pagina’s instructiemateriaal. Een groot probleem is het aantal nep-accounts op Facebook: per week neemt het sociale medium zo’n 6,5 miljoen potentiële nep-accounts onder de loep. Daarnaast zouden medewerkers in 10 seconden moeten besluiten of een bericht wordt toegestaan of niet, terwijl de grens tussen berichten die zijn toegestaan of verboden, vaag is.
Zo is het oproepen tot geweld tegen staatshoofden verboden. Een bericht als ‘Ik hoop dat iemand je vermoordt’ is toegestaan. ‘Ik vermoord je morgen met mijn kartelmes’ mag niet. Gewelddadige video’s – zoals oorlogsbeelden of onthoofdingen door Islamitische Staat – worden vaak toegestaan en alleen voorzien van een kijkerswaarschuwing. Hetzelfde geldt voor dierenmishandeling.
Porno is verboden op Facebook, maar door de enorme hoeveelheden materiaal die gebruikers uploaden, duurt het soms lang voordat het wordt verwijderd. Een nieuw fenomeen is de zogeheten wraakporno. Hierbij plaatst iemand naaktfoto’s van een ander om iemand zo publiekelijk te vernederen.
Live meekijken naar moord
Vaak worden moderatoren bij Facebook geconfronteerd met naar en confronterend materiaal. Zo moeten zij bepalen of beelden met kindermisbruik verboden zijn. Beelden met geweld tegen kinderen zijn niet per definitie verboden en worden enkel voorzien van een waarschuwing. Wel halen de medewerkers het materiaal offline wanneer er veel klachten over binnenkomen.
Het tekort aan mankracht bij Facebook heeft soms onvoorziene gevolgen. In april filmde de Amerikaan Steve Stephens hoe hij een 74-jarige man doodschoot. Facebookgebruikers konden de moord live volgen. Andere gebruikers konden live meekijken hoe een Thaise vader zijn 11 maanden oude dochter vermoordde en daarna zelfmoord pleegde. Facebook haalde de beelden snel offline, maar ze waren toen al bekeken door honderdduizenden gebruikers.
Facebook komt steeds meer onder druk te staan. Onlangs bood het bedrijf zijn excuses aan voor het niet kordaat optreden tegen kinderporno. Ook faalt het bedrijf in het bestrijden van extremistische propaganda.