© Shutterstock
Vorige maand deden we ons beklag over de Frontier AI Act van 2025 van Californië. De wet geeft voorrang aan naleving boven risicobeheer, terwijl bureaucraten en wetgevers gevrijwaard blijven van verantwoordelijkheid. In de wet wordt vooral regelgeving van bovenaf opgelegd, in plaats van dat het maatschappelijk middenveld en deskundigen uit de sector de kans krijgen om te experimenteren en ethische normen van onderaf te ontwikkelen.
Misschien kan de wet worden afgedaan als het zoveelste voorbeeld van de interventionistische neiging van Californië. Maar sommige Amerikaanse politici en regelgevers pleiten er al voor om de wet te gebruiken als "model voor het harmoniseren van federaal en staats toezicht." De andere bron voor dat model zou de Europese Unie (EU) zijn, dus het is de moeite waard om een oogje te houden op de regelgeving die uit Brussel komt.
De EU loopt al ver voor op Californië wat betreft het opleggen van verontrustende, van bovenaf opgelegde regelgeving. De EU-wet inzake kunstmatige intelligentie van 2024 volgt dan ook het algemene voorzorgsbeginsel van de EU. De interne denktank van het Europees Parlement legt uit dat
"Het voorzorgsbeginsel stelt besluitvormers in staat om voorzorgsmaatregelen te nemen wanneer wetenschappelijk bewijs over een gevaar voor het milieu of de menselijke gezondheid onzeker is en er veel op het spel staat."Het voorzorgsbeginsel geeft de EU enorme macht bij het reguleren in tijden van onzekerheid in plaats van experimenten toe te staan met boetes en aansprakelijkheidsrecht als vangnet (zoals in de VS). Het belemmert ethisch leren en innovatie. Door het voorzorgsbeginsel en de daarmee samenhangende regelgeving lijdt de EU-economie onder een grotere marktconcentratie, hogere kosten voor naleving van de regelgeving en minder innovatie — in vergelijking met een omgeving die experimenten en verstandig risicobeheer toestaat. Het is geen wonder dat slechts vier van de 50 grootste techbedrijven ter wereld Europees zijn.
Van belemmerde innovatie tot belemmerde privacy
Naast het voorzorgsbeginsel vormt de bevordering van rechten de tweede drijvende kracht achter de EU-regelgeving, maar daarbij worden er uit het Handvest van de grondrechten van de Europese Unie rechten gekozen die vaak in strijd zijn met andere rechten. Zo werd de Algemene Verordening Gegevensbescherming (AVG) van de EU uit 2016 opgelegd met als doel het fundamentele recht op bescherming van persoonsgegevens te beschermen (dit staat technisch gezien los van het recht op privacy en geeft de EU veel meer bevoegdheden om in te grijpen, maar dat is stof voor academische tijdschriften). De AVG heeft uiteindelijk het recht op economische vrijheid ingeperkt.
Ditmaal worden grondrechten ingezet om de strijd van de EU tegen seksueel misbruik van kinderen te rechtvaardigen. We hechten allemaal veel waarde aan grondrechten en verafschuwen kindermisbruik. Maar door de jaren heen werden grondrechten ingezet als een bot en krachtig wapen om de regelgevende bevoegdheden van de EU uit te breiden. De voorgestelde verordening inzake seksueel misbruik van kinderen (CSA) vormt hierop geen uitzondering. Wat uitzonderlijk is, is hoever die inbreuk gaat: de EU stelt voor om de communicatie tussen Europese burgers te monitoren en iedereen als een potentiële bedreiging te beschouwen in plaats van als personen met een prima facie beschermd recht op vrijheid van meningsuiting en privacy.
Sinds 26 november 2025 onderhandelt de Europese bureaucratische machine over de details van de CSA. In het laatste ontwerp werd het verplichte scannen van privécommunicatie gelukkig geschrapt, althans formeel. Maar er zit een addertje onder het gras. Aanbieders van hosting- en interpersoonlijke communicatiediensten moeten identificeren, analyseren en beoordelen hoe hun diensten zouden kunnen worden gebruikt voor online seksueel misbruik van kinderen, en vervolgens "alle redelijke maatregelen ter beperking van de risico's" nemen. Geconfronteerd met een dergelijk open mandaat en de dreiging van aansprakelijkheid, zullen veel aanbieders wellicht concluderen dat de veiligste - en juridisch meest verstandige - manier om aan te tonen dat zij aan de EU-richtlijn hebben voldaan, het op grote schaal scannen van privécommunicatie is.
Het ontwerp van de CSA benadrukt dat mitigatiemaatregelen waar mogelijk beperkt moeten blijven tot specifieke onderdelen van de dienst of specifieke groepen gebruikers. Maar de stimulansstructuur wijst in één richting. Grootschalige monitoring kan uiteindelijk de enige haalbare optie zijn om aan de regelgeving te voldoen. Wat vandaag als vrijwillig wordt gepresenteerd, dreigt morgen een de facto verplichting te worden.
Om met de woorden van Peter Hummelgaard, de Deense minister van Justitie, te spreken: "Elk jaar worden miljoenen bestanden gedeeld die seksueel misbruik van kinderen weergeven. En achter elke afbeelding en elke video schuilt een kind dat het slachtoffer is geworden van het meest gruwelijke en verschrikkelijke misbruik. Dit is volstrekt onaanvaardbaar." Niemand betwist de ernst of verachtelijkheid van het probleem. Maar toch wordt in dit officiële verhaal van de telecommunicatiesector en de Europese burgers verwacht dat zij gevaarlijke risicobeperkende maatregelen accepteren die waarschijnlijk gepaard gaan met een verlies aan privacy voor burgers en uitgebreide controlebevoegdheden voor de staat.
De kosten, zo wordt ons verteld, zijn niets vergeleken met de baten. Wie wil zich immers niet inzetten voor de bestrijding van seksueel misbruik van kinderen? Het is hoog tijd om even diep adem te halen. Kindermisbruikers moeten streng worden gestraft. Dit ontslaat een vrije samenleving echter niet van de plicht om andere kernwaarden te respecteren.
Maar wacht even. Er is meer...
Wijdverbreide monitoring? Nou, niet geheel wijdverbreid
Ondanks de morele plicht om kinderen te beschermen - een morele plicht die dermate dwingend is dat de EU bereid is andere kernwaarden op te offeren om deze te bevorderen - introduceert de voorgestelde CSA-wet een handige uitzondering. Alles wat onder de nationale veiligheid valt en alle elektronische communicatiediensten die niet openbaar beschikbaar zijn (d.w.z. alleen beschikbaar voor gekozen functionarissen en ambtenaren) blijven volledig onaangetast. Privéchats tussen burgers moeten worden gecontroleerd, maar de gesprekken van degenen die beweren ons te beschermen, worden buiten beschouwing gelaten.
Zoals de minister terecht opmerkte: "Achter elke afbeelding en elke video schuilt een kind dat het slachtoffer is geworden van de meest gruwelijke en verschrikkelijke mishandeling." Als dat inderdaad geldt voor elke "afbeelding en elke video," waarom zou dat dan niet ook gelden voor de berichten die worden beschermd door de uitzonderingen in de CSA op grond van nationale veiligheid en niet-openbaarheid? Verdwijnt de gruwel op de een of andere manier wanneer de gebruikers politici of ambtenaren zijn? Wordt het onaanvaardbare plotseling aanvaardbaar als het gaat om degenen die de regels opstellen?
Binnen de hiërarchie van rechten van de EU gaat de bescherming van kinderen boven privacy. Maar de bescherming van eurocraten gaat boven de bescherming van kinderen. Uiteindelijk biedt moderne technologie politici ongekende mogelijkheden om burgers te controleren, terwijl zij zelf buiten schot blijven.
Voor zover wij weten, wordt er nog niet gesproken over het invoeren van soortgelijke maatregelen in de VS. Maar van vermogensbelasting tot AI-regulering - en zelfs de oorsprong van de Amerikaanse administratieve staat - vinden slechte ideeën uit Europa op onaangename wijze hun weg naar de andere kant van de oceaan.
Zie: https://thedailyeconomy.org/article/privacy-for-the-powerful-surveillance-for-the-rest-eus-proposed-tech-regulation-goes-too-far/
Commentaar: Lees ook: