Brits onderzoek naar online platforms vindt 'stuitende verzameling rassenhaat'

Een Brits onderzoek heeft honderdduizenden online haatprofielen blootgelegd, wat heeft geleid tot een oproep tot strengere regulering van online platforms. Het in het Verenigd Koninkrijk gevestigde Centre for Analysis of the Radical Right (CARR) heeft een onderzoek uitgevoerd waaruit bleek dat er op Twitter, Facebook en in de gaminggemeenschap een 'stuitende verzameling rassenhaat' staat gepost.

Het Centre for Analysis of the Radical Right, dat het onderzoek heeft uitgevoerd, verklaarde: "Het doet je afvragen wat het nut is van moderatie als sommige van deze duidelijke, openlijke en in sommige gevallen tot geweld aanzettende accounts letterlijk jaren zonder gevolgen, en zeker zonder moderatie, kunnen aanblijven."

De uitkomst van het onderzoek komt zes maanden na een publieke verontwaardiging over het online uitschelden van de Engelse voetballers Marcus Rashford, Jadon Sancho en Bukayo Saka, die het doelwit waren van online haat nadat ze strafschoppen hadden gemist in de finale van Euro 2020 op Wembley.

Wat werd er op Twitter aangetroffen?
Tijdens hun tweedaagse analyse in januari zochten de CARR-onderzoekers naar profielen die eenvoudige woorden en zinsneden gebruikten als indicatoren van 'systeem fouten'.

Op Twitter vonden zij ongeveer 300 gebruikers of profielnamen die waren afgeleid van een racistische uitdrukking, waaronder het N-woord, en die teruggingen tot 2009.

Dr. Edward Gillbard, die het onderzoek uitvoerde, zei dat de meeste accounts minder dan twee volgers hadden en minder dan twee accounts volgden. Hij voegde eraan toe dat het "erop lijkt dat er geen automatische moderatie wordt uitgevoerd door Twitter" in termen van het analyseren van accounts op beledigende gebruikersnamen.

Twitter zei dat de accounts "permanent geschorst" zijn wegens "het schenden van ons beleid inzake haatdragend gedrag".

Een woordvoerder zei: "We erkennen en willen herhalen dat we ons inzetten om ervoor te zorgen dat Twitter geen forum wordt dat misbruik faciliteert en we blijven onze eigen beleidsbenaderingen onderzoeken en manieren waarop we onze regels met snelheid en op grote schaal kunnen afdwingen."

Wat werd er op Facebook aangetroffen?
Op Facebook werden tientallen aanstootgevende profielen geïdentificeerd, waaronder 83 varianten van 'haat (N-woord)' en 91 over de Holocaust.

Andere profielen bevatten de naam Adolf Hitler en andere prominente nazi's, evenals de namen van massamoordenaars zoals de schutter in de Christchurch moskee in Nieuw-Zeeland.

Door de spelling iets te veranderen of spaties en speciale tekens in te voegen, leken profielen in staat te zijn moderatiesystemen om de tuin te leiden, zei Dr. Bethan Johnson, die de accounts tegenkwam.

"Het kan zijn dat wanneer gebruikers profielen aanmaken met namen die duidelijk de spot drijven met de gemeenschapsnormen - van 'Jewkilla' tot 'Nate Higgers' - ze Facebook  laten zien wat voor soort gebruiker ze zullen zijn, wat voor ideeën ze naar het platform brengen, en de realiteit is dat dat verre van gemeenschapsgericht is," zei Johnson.

Een woordvoerder van Meta, het moederbedrijf van Facebook, Instagram en WhatsApp, zei dat haatzaaien niet is toegestaan op haar platforms en dat de "overtredende" accounts zijn verwijderd nadat ze waren gemarkeerd.

Hij voegde eraan toe: "Als we inhoud vinden die ons beleid schendt, waaronder het gebruik van symbolen, emoji's of spelfouten waarmee men onze systemen probeert te misleiden, zullen we die verwijderen."

Wat is er op gaming-platforms aangetroffen?
Een analyse van de digitale gamingdienst Steam bracht meer dan 300.000 beledigende profielnamen aan het licht.

Daarvan waren er 241.729 anti-zwart, 44.368 white supremacist, meer dan 28.000 neo-nazi, 8.021 antisemitisch, 5.607 homofoob, en 168 anti-moslim.

Bij het spel Fortnite werden meer dan 100 racistische en extreem-rechtse profielnamen gevonden en op Rainbow Six Siege werden er 34 geïdentificeerd, waarvan er 18 actief waren.

Een woordvoerster van Fortnite-ontwikkelaar Epic Games zei dat veel van de aanstootgevende gebruikersnamen niet meer in hun systemen zitten en dat er actie is ondernomen tegen kloon-accounts.

"Gebruikersnamen die vulgariteit, haatdragende taal, beledigende of denigrerende taal van welke aard dan ook bevatten, zijn in strijd met onze gemeenschapsregels," voegde de Fortnite ontwikkelaar eraan toe.

Naar verluidt zijn de Rainbow Six Siege profielen opnieuw ingesteld met gerandomiseerde namen en zijn alle aanstootgevende foto's verwijderd.

Een woordvoerder van Ubisoft, de maker van het spel, zei dat het bedrijf "geen enkele vorm van pesterij of intimidatie tolereert".

Het bedrijf onderneemt "concrete acties" om "giftig" gedrag aan te pakken, en overtredingen van de gedragscode kunnen leiden tot sancties, waaronder een ban, zei hij.

Hoewel de geautomatiseerde processen niet "onfeilbaar" zijn, werken teams voortdurend aan de verbetering ervan, voegde hij eraan toe.

Wat is de reactie op het onderzoek?
"Het is nog steeds schrikbarend eenvoudig om op social media een bron van rassenhaat te vinden", aldus de directeur van CARR, professor Matthew Feldman.

"Het doet je afvragen wat het nut is van moderatie als sommige van deze overduidelijke, openlijke en in sommige gevallen tot geweld aanzettende accounts letterlijk jaren zonder gevolgen, en zeker zonder moderatie, door kunnen gaan. De voorbeelden zijn stuitend en het lijkt erop dat platforms gewoon niet genoeg doen om dit walgelijk gedrag aan te pakken."

Hij voegde eraan toe dat platforms een "zorgplicht" hebben naar gebruikers, maar dat alleen overheidsregulering en het dreigen met tientallen miljoenen euros aan boetes verandering teweeg zou kunnen brengen.

"Anders zullen deze platforms slechts achter de feiten aan blijven lopen in plaats van proactief haatdragend extremisme aan te pakken" voegde professor Feldman eraan toe.

Danny Stone MBE, chief executive van de Antisemitism Policy Trust, die het rapport mede heeft gepubliceerd, zei: "Zes maanden na de Euro 2020 voetbalfinale, een jaar na de bestorming van het Capitool, maar alles blijft bij hetzelfde - sociale-mediabedrijven profiteren van de verkoop van onze data, maar slagen er niet in om mensen goed te beschermen tegen kwetsende opmerkingen." 

Hij voegde eraan toe: "Ik hoop dat de aanstaande Online Safety Bill, en wetgeving over de hele wereld, de social media bedrijven zal dwingen beter voor hun gebruikers te zorgen, want ze lijken geen haast te maken om hun verantwoording daarin te nemen."