AI op kinderporno-jacht: wordt de EU het nieuwe China?

De Europese Commissie heeft plannen om met behulp van kunstmatige intelligentie (AI) de communicatie van privépersonen en instellingen te controleren op kinderporno. Eurocommissaris Ylva Johansson voor Binnenlandse Zaken wil hiervoor de CSA Regulation invoeren. Het voorstel zou, indien goedgekeurd door de EU-landen, invloed hebben op de privacy van alle 447 miljoen inwoners van de Europese Unie.

De AI-software zou niet alleen taalpatronen die verband houden met kinderlokkerij scannen, maar ook alle foto's op computers, telefoons, cloud-bestanden en e-mails doorzoeken op vermeende en mogelijke aanwezigheid van kinderporno.

Hoewel Johansson stelt dat dit de enige manier is om de online veiligheid voor kinderen te waarborgen, zijn privacy-experts kritisch. Thomas Spaas, een advocaat, merkt op dat de AI-software nog niet perfect is en moeite heeft met het onderscheiden van volwassenen en kinderen, en van onschuldige naaktfoto's en kindermisbruikmateriaal.

Daarnaast blijkt uit onderzoek dat kinderen zich minder veilig voelen om hun seksualiteit te ontdekken of politiek actief te worden wanneer hun communicatie wordt gescand. Er zijn ook zorgen over het mogelijke misbruik van de AI-software voor andere doeleinden, zoals het censureren van materiaal tijdens sociale conflicten. Ook is het, gezien de function-creep die bij andere vormen van surveillance optreedt, niet ondenkbaar dat naast kinderporno ook kan worden gezocht naar politieke voorkeur, medische informatie en andere persoonsgebonden zaken die de overheid niets aangaan.

Critici, waaronder de Data Protection Supervisor van de Europese Unie, waarschuwen dat de CSA Regulation bijna alle internetgebruikers in gevaar brengt zonder voldoende bewijs dat het effectief de verspreiding van kinderporno kan stoppen.

Ella Jakubowska van European Digital Rights (EDRi) pleit voor meer investeringen in kinderbescherming, preventie, opsporing, onderwijs, voorlichting en meldpunten voor online misstanden, in plaats van privacy-schendende wetgeving.

Eurochinese vlag (afbeelding: Midjourney)
Eurochinese vlag (afbeelding: Midjourney)