Chatcontrole – het einde van de privacy van digitale communicatie

Deze tekst is een vertaling van een blogpost van Europarlementariër Patrick Breyer (Piratenpartei). Het gaat over een wetsvoorstel van de EU dat onder het mom van het aanpakken van kindermisbruik (wie wil dat niet?), een einde wil maken aan al onze online privé-communicatie (wie wil dat wel?).

Deze vertaling is eerder gepubliceerd op het blog van de Nederlandse Piratenpartij, maar omdat er niet genoeg aandacht voor deze Orwelliaanse plannen kan zijn, ook nog maar even hier. Voel je vrij om deze tekst verder te verspreiden!

Het einde van de privacy van digitale communicatie

De EU wil providers verplichten om alle private chats, berichten en e-mails automatisch te onderzoeken op verdachte inhoud – generiek en zonder onderscheid. Het gestelde doel: het vervolgen van kinderpornografie. Het resultaat: massasurveillance door volledig automatische realtime berichten en chatcontrole en het einde van het digitaal briefgeheim. Andere gevolgen van het voorstel zijn ineffectieve netwerkblokkades, screening van persoonlijke cloudopslag, inclusief privéfoto’s, verplichte leeftijdsverificatie, die het einde betekent van anonieme communicatie, censuur in appstores en bevoogding en uitsluiting van minderjarigen in de digitale wereld.

Chatcontrole 2.0 op iedere smartphone

De chatcontrole-wetgeving is door een meerderheid van het Europees Parlement aangenomen op 6 juli 2021. Hierdoor mogen providers alle communicatie scannen. Tot nu toe doen alleen een klein aantal VS-diensten, zoals GMail, Meta/Facebook Messenger en X-Box dit vrijwillig.

Op 11 mei 2020 ging de Europese Commissie nog een stap verder, door een voorstel te presenteren dat chat controle verplicht stelt voor alle e-mail, chat en messengerproviders en dat zelfs van toepassing zal zijn op versleutelde berichtendiensten. Maar een publieke consultatie door de Commissie liet zien dat de meerderheid van maar liefst 80% van de respondenten van zowel burgers als stakeholders tegen deze verplichting tot chatcontrole is. Dit is wat het voorstel inhoudt:

Gevolgen van het chatcontrole-voorstel:

Chatcontrole-Voorstel

Voorgesteld worden chatcontrole, netwerkblokkades, verplichte leeftijdsverificatie voor communicatie- en opslagapps, leeftijdsverificatie voor app-shops en het uitsluiten van minderjarigen om veel apps te installeren. Het betreft telefonie, email, messengers, zoals WhatsApp, reacties op bijvooorbeeld YouTube, etd.

Gevolgen:

End-to-end versleuteling berichtenservices zijn niet uitgezonderd.

Aanbieders van end-to-end versleutelde communicatiediensten zullen berichten op elke smartphone moeten scannen (client-side scanning) en, in geval van een hit, het bericht aan de politie moeten melden.

Getroffen hosting-diensten die het betreft omvatten webhosting, social media, video streaming diensten, bestandshosting en cloud-aanbieders.

Zelfs persoonlijke opslag die niet wordt gedeeld, zoals bijv. op Apple’s iCloud, zal onderworpen zijn aan chatcontrolediensten.

Diensten die waarschijnlijk worden gebruikt voor illegaal materiaal of voor grooming, zijn verplicht om de inhoud van persoonlijke communicatie en opgeslagen gegevens te doorzoeken (chatcontrole) zonder verdenking en over de hele linie.

Aangezien vermoedelijk elke dienst ook voor illegale doeleinden wordt gebruikt, zullen alle diensten verplicht zijn om chatcontrole in te zetten.

De autoriteit in het land van vestiging van de provider is verplicht om de inzet en omvang van chatcontrole te gelasten.

Er is geen eigen beslissingsbevoegdheid over wanneer en in welke mate chatcontrole wordt gelast.

Chatcontrole omvat geautomatiseerde zoekopdrachten naar bekende afbeeldingen en -video’s, verdachte berichten/bestanden worden gerapporteerd aan de politie.

Volgens de Zwitserse federale politie is 87% van de meldingen die ze ontvangen (meestal op basis van de hashmethode) strafrechtelijk irrelevant.

Chatcontrole vereist ook zoeken naar onbekende afbeeldingen en video’s, en verdachte berichten/bestanden worden gemeld aan de politie.

Zoeken naar onbekende misbruikrepresentaties vereist experimenten met behulp van machine learning (“kunstmatige intelligentie”). De algoritmen zijn niet toegankelijk voor het publiek en de wetenschappelijke gemeenschap, en het concept bevat ook geen openbaarmakingsvereiste. Het foutenpercentage is onbekend en wordt niet beperkt door de ontwerpverordening. Vermoedelijk resulteren deze technologieën in enorme hoeveelheden valse meldingen.

Bij het controleren van chats moet machine-learning worden gebruikt om mogelijke aanwijzingen van contact met kinderen en jongeren te zoeken en worden verdachte berichten/bestanden gemeld aan de politie.

Het machinaal zoeken naar initiatiepogingen is een experimentele methode waarbij gebruik wordt gemaakt van machine learning (“kunstmatige intelligentie”). De algoritmen zijn niet toegankelijk voor publiek en wetenschap en het concept bevat geen openbaarmakingsvereisten. Het foutenpercentage is onbekend en wordt niet beperkt door de conceptverordening, vermoedelijk leiden deze procedures tot grote aantallen valse meldingen.

Communicatiediensten die kunnen worden misbruikt voor initiatiepogingen (d.w.z. alle) moeten de leeftijd van hun gebruikers verifiëren

In de praktijk wordt een leeftijdscontrole uitgevoerd door middel van volledige identificatie, zodat anonieme communicatie via e-mail, messenger, enz. verboden is. Klokkenluiders, mensenrechtenverdedigers en gemarginaliseerde groepen zijn afhankelijk van de bescherming van anonimiteit.

Appstores moeten de leeftijd van hun gebruikers controleren en kinderen/jongeren verbieden apps te installeren die kunnen worden misbruikt voor het initiëren van doeleinden.

Alle communicatiediensten zoals messengers, dating-apps, games kunnen ook worden misbruikt voor het initiëren van contacten en zouden verboden zijn voor kinderen/ jonge mensen. En de leeftijdsverificatie zou leiden tot een identificatieplicht jegens aanbieders van appstores.

Internettoegangsproviders kunnen worden verplicht om netwerkblokkades (URL-blocks) te gebruiken om de toegang tot verboden en niet-verwijderbare afbeeldingen en video’s buiten de EU te blokkeren.

Netwerkblokkades zijn technisch ineffectief en gemakkelijk te omzeilen, en ze zetten ook een technische censuurinfrastructuur op.

Protest

Protesteer nu door contact op te nemen met je nationale regering, die beslist in de Raad over het voorstel! Vertel hen over je zorgen over chatcontrole (argumenten hieronder). De ervaring leert dat een telefoontje effectiever is dan e-mails of brieven. De officiële naam van de geplande verplichte chatcontrolewet is “Voorstel voor een verordening tot vaststelling van regels ter voorkoming en bestrijding van seksueel misbruik van kinderen”.

https://peertube.european-pirates.eu/w/ssT6mw67YJCyX8aV8dxgpR?start=1s

Hoe heeft het zover kunnen komen?

In 2020 heeft de Europese Commissie “tijdelijke” wetgeving ingevoerd die het doorzoeken van alle privéchats, berichten en e-mails op illegale afbeeldingen van minderjarigen en pogingen tot het aangaan van contacten met minderjarigen mogelijk maakt. Hierdoor kunnen de providers van Facebook Messenger, Gmail, et al, elk bericht scannen op verdachte tekst en afbeeldingen. Dit gebeurt in een volledig geautomatiseerd proces, mede door gebruik te maken van foutgevoelige “artificial intelligence”. Als een algoritme een bericht als verdacht beschouwt, worden de inhoud en metagegevens (meestal automatisch en zonder menselijke verificatie) bekendgemaakt aan een particuliere, in de VS gevestigde organisatie en van daaruit aan de nationale politieautoriteiten over de hele wereld. De gerapporteerde gebruikers worden niet op de hoogte gebracht.

Sommige Amerikaanse dienstverleners, zoals Gmail en Outlook.com, voeren dergelijke automatische berichten- en chatcontroles al uit.

Via een tweede stuk wetgeving wil de Europese Commissie alle aanbieders van chat-, messaging- en e-maildiensten verplichten deze massale surveillancetechnologie in te zetten. Uit een representatief onderzoek dat in maart 2021 is uitgevoerd, blijkt echter duidelijk dat een meerderheid van de Europeanen tegen het gebruik van chatcontrole is (gedetailleerde enquêteresultaten hier).

Meer video’s over chatcontrole zijn beschikbaar in deze afspeellijst.

Hoe raakt dit jou?

Al je chatgesprekken en e-mails worden automatisch doorzocht op verdachte inhoud. Niets blijft vertrouwelijk of geheim. Er is geen gerechtelijk bevel of een eerste vermoeden vereist voor het doorzoeken van je berichten. Het gebeurt altijd en automatisch.
Als een algoritme de inhoud van een bericht als verdacht classificeert, kunnen je privé- of intieme foto’s worden bekeken door personeel en aannemers van internationale bedrijven en politie-instanties. Ook kunnen je privé-naaktfoto’s bekeken worden door mensen die je niet kent, in wiens handen je foto’s niet veilig zijn.
Flirts en sexting kunnen worden gelezen door personeel en aannemers van internationale bedrijven en politieautoriteiten, omdat tekstherkenningsfilters die op zoek zijn naar “kindermisbruik” vaak ten onrechte intieme chats markeren.
Je kunt ten onrechte worden aangegeven en onderzocht wegens vermeende verspreiding van materiaal voor seksuele uitbuiting van kinderen. Het is bekend dat algoritmen voor berichten- en chatcontrole volledig legale vakantiefoto’s van bijvoorbeeld kinderen op het strand markeren. Volgens de Zwitserse federale politie blijkt 86% van alle door machines gegenereerde rapporten ongegrond te zijn. 40% van alle in Duitsland gestarte strafrechtelijke onderzoeksprocedures voor “kinderpornografie” richten zich tegen minderjarigen.
Bij je volgende reis naar het buitenland kun je grote problemen verwachten. Machinaal gegenereerde rapporten over je communicatie zijn mogelijk doorgegeven aan andere landen, zoals de VS, waar geen gegevensprivacy bestaat – met onvoorspelbare gevolgen.
Inlichtingendiensten en kwaadwillende hackers kunnen mogelijk je privéchats en e-mails bespioneren. De deur staat open voor iedereen met de technische middelen om je berichten te lezen als veilige codering wordt verwijderd om berichten te kunnen screenen.
Dit is slechts het begin. Zodra de technologie voor berichten- en chatbeheer is ingevoerd, wordt het heel gemakkelijk om ze voor andere doeleinden te gebruiken. En wie garandeert dat deze strafmachines in de toekomst niet meer op onze smartphones en laptops worden gebruikt?

Klik hier voor meer argumenten tegen berichten- en chatcontrole.

Klik hier om te zien wat je kunt doen tegen chat- en berichtencontrole.

Tijdlijn

Het Europees Parlement heeft op 6 juli 2021 de wetgeving aangenomen die chatcontrole mogelijk maakt.

Op 11 mei 202 deed de Europese Commissie een tweede wetsvoorstel om alle aanbieders van e-mail-, messaging- en chatdiensten te dwingen alle privéberichten uitgebreid te doorzoeken zonder enige verdenking. Het Europees Parlement en de Raad van de EU zullen wijzigingen bespreken. De beraadslagingen zouden eind 2022 afgerond kunnen zijn.

Volgens de jurisprudentie van het Europese Hof van Justitie is de permanente en uitgebreide geautomatiseerde analyse van privécommunicatie in strijd met de grondrechten en verboden (punt 177). Voormalig rechter van het Europese Hof van Justitie Prof. Dr. Ninon Colneric heeft de plannen uitgebreid geanalyseerd en concludeert in een juridische beoordeling dat de EU-wetgevingsplannen over chatcontrole dat deze niet in overeenstemming zijn met de jurisprudentie van het Europese Hof van Justitie en in strijd zijn met de grondrechten van alle EU-burgers op respect voor privacy, gegevensbescherming en vrijheid van meningsuiting. Om deze reden heeft Europees Parlementslid Patrick Breyer van de Duitse Piratenpartei een rechtszaak aangespannen tegen het Amerikaanse bedrijf Meta (Facebook).

Wat je kunt doen:

Praat erover! Informeer anderen over de gevaren van chatcontrole. Hier kun je tweet-sjablonen vinden en foto’s en video’s om te delen. Natuurlijk kun je ook je eigen afbeeldingen en video’s maken. Genereer aandacht op social media! Gebruik de hashtags #chatcontrol en #secrecyofcorrespondence.
Schrijf naar de verantwoordelijke! Protesteer bij de regering (bijv. de minister van Justitie en van Binnenlandse Zaken) en naar de leden van het Europees Parlement! Laat hen beleefd je zorgen over chatcontrole weten (argumenten hier). De ervaring leert dat een telefoontje effectiever is dan e-mails of brieven. Officieel wordt de geplande verplichting om berichten en chats te controleren de “wet tegen kindermisbruik online” (“wetgeving om seksueel misbruik van kinderen online effectief aan te pakken”) genoemd.
Genereer media-aandacht! Tot dusverre hebben zeer weinig media aandacht besteed aan de berichten- en chatbeheerplannen van de EU. Neem contact op met kranten en vraag hen om het onderwerp te behandelen – online en offline.
Vraag je e-mail-, berichten- en chatserviceproviders! Vermijd Gmail, Facebook Messenger, outlook.com en de chatfunctie van X-Box, waar al willekeurige chatcontrole plaatsvindt. Vraag je e-mail-, berichten- en chatproviders of ze privéberichten over het algemeen controleren op verdachte inhoud, of van plan zijn dit te doen.

Aanvullende informatie en argumenten

Massasurveillance is de verkeerde aanpak om ‘kinderpornografie’ en seksuele uitbuiting te bestrijden.

Het scannen van privéberichten en chats houdt de verspreiding van uitbuitende beelden niet tegen. Facebook, bijvoorbeeld, oefent al jaren chatcontrole uit en het aantal “hitrapporten” en geautomatiseerde strafrechtelijke vervolgingen neemt jaar na jaar toe, meest recentelijk tot 22 miljoen in 2021.
Verplichte chatcontrole detecteert niet de daders die materiaal voor seksuele uitbuiting van kinderen opnemen en delen. Misbruikers delen hun materiaal niet via commerciële e-mail, messenger of chatdiensten, maar organiseren zich via zelfbeheerde geheime forums zonder controlealgoritmen. Misbruikers uploaden doorgaans ook afbeeldingen en video’s als versleutelde archieven en delen alleen de links en wachtwoorden. Chatcontrole-algoritmen herkennen geen versleutelde archieven of links.
De juiste aanpak zou zijn om opgeslagen misbruikmateriaal te verwijderen waar het online wordt gehost. Echter, Europol rapporteert geen bekend misbruikmateriaal aan de opslagdiensten.
Chatcontrole schaadt de vervolging van kindermishandeling door onderzoekers te overspoelen met miljoenen geautomatiseerde rapporten, waarvan de meeste strafrechtelijk irrelevant zijn.

Bericht- en chatcontrole schaadt iedereen

Alle burgers worden zonder reden verdacht van mogelijk een misdrijf. Tekst- en fotofilters controleren alle berichten, zonder uitzondering. Er is geen rechter nodig om tot dergelijke controle te gelasten – in tegenstelling tot de analoge wereld, die de privacy van correspondentie en de vertrouwelijkheid van schriftelijke communicatie garandeert. Volgens een arrest van het Europese Hof van Justitie schendt de permanente en algemene automatische analyse van privécommunicatie de grondrechten (zaak C-511/18, paragraaf 192). Niettemin is de EU nu voornemens dergelijke wetgeving aan te nemen. Het kan jaren duren voordat de rechtbank zo’n zaak nietig verklaart. Daarom moeten we in de eerste plaats voorkomen dat deze wetgeving wordt aangenomen.
De vertrouwelijkheid van privé elektronische correspondentie wordt opgeofferd. Gebruikers van messenger-, chat- en e-maildiensten lopen het risico dat hun privéberichten worden gelezen en geanalyseerd. Gevoelige foto’s en tekstinhoud kunnen wereldwijd worden doorgestuurd naar onbekende entiteiten en kunnen in verkeerde handen vallen. NSA-medewerkers hebben naar verluidt in het verleden naaktfoto’s van vrouwelijke en mannelijke burgers verspreid. Er is gemeld dat een Google-technicus minderjarigen stalkt.
Willekeurige berichten- en chatcontrole beschuldigen dagelijks honderden gebruikers ten onrechte. Volgens de Zwitserse federale politie is 90% van de door machines gerapporteerde inhoud niet illegaal, bijvoorbeeld ongevaarlijke vakantiefoto’s waarop naakte kinderen te zien zijn die op een strand spelen.
Veilig versleutelde communicatie loopt gevaar. Tot nu toe kunnen versleutelde berichten niet door de algoritmen worden doorzocht. Om dat te veranderen, zouden er in messaging-software achterdeurtjes moeten worden ingebouwd. Zodra dat gebeurt, kan iedereen met de nodige technische middelen, van deze maas in de beveiliging gebruik maken, zoals bijvoorbeeld buitenlandse inlichtingendiensten en criminelen. Privécommunicatie, bedrijfsgeheimen en gevoelige overheidsinformatie zouden worden onthuld. Veilige encryptie is nodig voor minderheden, LGBTQI-mensen, democratische activisten, journalisten, enz.
Het strafrecht wordt als het ware geprivatiseerd. In de toekomst zullen de algoritmen van bedrijven als Facebook, Google en Microsoft beslissen welke gebruiker verdacht is en welke niet. De voorgestelde wetgeving bevat geen transparantie-eisen voor de gebruikte algoritmen. Op grond van de rechtsstaat is de opsporing van strafbare feiten in handen van onafhankelijke rechters en ambtenaren onder toezicht van de rechtbank.
Willekeurige berichten- en chatcontrole schept een precedent en opent de deuren voor meer opdringerige technologieën en wetgeving. Het inzetten van technologie voor het automatisch monitoren van alle online communicatie is gevaarlijk: het kan in de toekomst heel gemakkelijk voor andere doeleinden worden gebruikt, bijvoorbeeld auteursrechtschendingen, drugsmisbruik of ‘schadelijke inhoud’. In autoritaire staten is dergelijke technologie bedoeld om tegenstanders van de regering en activisten voor democratie te identificeren en te arresteren. Als de technologie eenmaal volledig is ingezet, is er geen weg meer terug. Berichten en chatcontrole zijn schadelijk voor kinderen en slachtoffers van misbruik.

Waarom berichten- en chatcontrole bijzonder schadelijk is voor kinderen en slachtoffers van misbruik:

De EU-commissie stelt dat chatcontrole het vervolgen van kindermishandeling moet vergemakkelijken. Dit is echter controversieel, zelfs onder slachtoffers van misbruik. In feite brengt het project de meeste schade toe aan slachtoffers van seksueel misbruik en aan kinderen en jongeren in het algemeen:

Veilige online ruimtes worden vernietigd. Slachtoffers van seksueel geweld hebben vooral behoefte aan de mogelijkheid om veilig en vertrouwelijk te communiceren om advies en ondersteuning te zoeken, bijvoorbeeld om veilig met elkaar, met hun therapeuten of advocaten, uit te wisselen. De introductie van realtime monitoring haalt deze safe-rooms weg. Dit kan slachtoffers ontmoedigen om hulp en ondersteuning te zoeken.
Zelf opgenomen naaktfoto’s van minderjarigen (sexting) komen in handen van bedrijfsmedewerkers en politie waar ze niet thuishoren en niet veilig zijn.
Minderjarigen worden gecriminaliseerd. Vooral jongeren delen vaak intieme opnames met elkaar (sexting). Met berichten- en chatcontrole kunnen hun foto’s en video’s in handen komen van criminele onderzoekers. Duitse misdaadstatistieken tonen aan dat 40% van alle onderzoeken naar kinderpornografie gericht is op minderjarigen.
Willekeurige berichten- en chatcontrole houdt de verspreiding van illegaal materiaal niet tegen, maar maakt het juist moeilijker om seksuele uitbuiting van kinderen te vervolgen. Het moedigt overtreders aan ondergronds te gaan en privé versleutelde servers te gebruiken die onmogelijk te detecteren en te onderscheppen zijn. Zelfs op open kanalen houdt willekeurige berichten- en chatcontrole de hoeveelheid materiaal die wordt verspreid niet tegen, zoals blijkt uit het voortdurend stijgende aantal machinerapporten.

Alternatieven

Versterking van de capaciteit van wetshandhaving

Op dit moment is de capaciteit van de rechtshandhaving zo ontoereikend dat het vaak maanden en jaren duurt om aangiftes op te volgen en verzamelde gegevens te analyseren. Bekend materiaal wordt vaak niet geanalyseerd of verwijderd. Degenen achter het misbruik delen hun materiaal niet via Facebook of vergelijkbare kanalen, maar op het darknet. Om daders en producenten op te sporen, moet undercover politiewerk plaatsvinden in plaats van schaarse capaciteit te verspillen aan het controleren van vaak irrelevante machinale rapporten. Het is ook essentieel om de verantwoordelijke onderzoekseenheden te versterken op het gebied van personeel en financiering en financiële middelen, om te zorgen voor langdurige, grondige en duurzame onderzoeken. Betrouwbare normen/richtlijnen voor politie-afhandeling van onderzoeken naar seksueel misbruik moeten worden ontwikkeld en nageleefd.

Niet alleen symptomen aanpakken, maar ook de oorzaken.

In plaats van ineffectieve technische pogingen om de verspreiding van vrijgegeven exploitatiemateriaal in te dammen, moeten alle inspanningen zich in de eerste plaats richten op het voorkomen van dergelijke opnames. Preventieconcepten en training spelen een sleutelrol, omdat de overgrote meerderheid van misbruikzaken zelfs nooit bekend wordt. Slachtofferbeschermingsorganisaties hebben vaak te kampen met instabiele financiering.

Snel en gemakkelijk beschikbare ondersteuning voor (potentiële) slachtoffers

Verplichte meldingsmechanismen bij onlinediensten: om onlinemisbruik en met name grooming effectief te voorkomen, moet van onlinediensten worden verlangd dat zij meldingsfuncties prominent op de platforms plaatsen. Als de dienst is gericht op en/of wordt gebruikt door jongeren of kinderen, moeten aanbieders ook worden verplicht hen te informeren over de risico’s van online grooming.
Meldpunten en adviescentra: Veel nationale meldpunten die gevallen van gemeld misbruik behandelen, kampen met financiële problemen. Het is essentieel om ervoor te zorgen dat er voldoende capaciteit is om gemelde gevallen op te volgen.

De mediageletterdheid verbeteren

Het onderwijzen van digitale geletterdheid op jonge leeftijd is een essentieel onderdeel van de online bescherming van kinderen en jongeren. Kinderen moeten zelf de kennis en hulpmiddelen hebben om veilig op internet te navigeren. Ze moeten worden geïnformeerd dat gevaren ook online op de loer liggen en moeten patronen van misleiding en misbruik leren herkennen en ter discussie stellen. Dit kan bijvoorbeeld worden bereikt door gerichte programma’s in scholen en opleidingscentra, waarin opgeleid personeel kennis overbrengt en discussies leidt. Kinderen moeten leren erover te praten, te reageren en misbruik te melden, zelfs als het misbruik vanuit hun vertrouwenssfeer komt (d.w.z. door mensen die dichtbij ze staan, zoals familie of andere mensen die ze kennen en vertrouwen), wat vaak het geval is. Ze moeten ook toegang hebben tot veilige, toegankelijke en leeftijdsgebonden kanalen om misbruik zonder angst te melden.

Dit verhaal is een vertaling van het blog over chatcontrole van de Duitse Europarlementariër Patrick Breyer. Daar is ook nog veel meer informatie over dit onderwerp beschikbaar.