Europaabgeordneter: EU droht „Überwachungsstaat nach chinesischem Vorbild“

Am 11. Mai veröffentliche die Europäische Kommission ihren neuen Gesetzentwurf zur verpflichtenden Chatkontrolle. Geplant ist eine automatisierte, auf KI basierende Prüfung aller Nachrichteninhalte und Bilder direkt auf den Smartphones, Laptops und anderen technischen Geräten der Nutzer (Client-Side-Scanning).

Vertrauliche Kommunikation wird durch diesen Zugriff unmöglich. Die EU begründet das Vorgehen mit dem Kampf gegen Kindesmissbrauch und Kinderpornografie. Verglichen mit der Briefpost würde diese Chatkontrolle bedeuten, dass die Post alle Briefe öffnet, scannt sowie beim geringsten Verdacht und je nach inhaltlichen Vorgaben der Behörden alles an die Polizei weiterreicht.

Klage gegen „digitalen Grundrechtsterrorismus“ eingereicht

Der Europaabgeordnete und Bürgerrechtler Patrick Breyer (Piratenpartei) reichte eine Klage gegen die Chatkontrolle ein. Er bezeichnet das Vorhaben als „digitalen Grundrechtsterrorismus“, bei dem nicht nur Zensur durch unwirksame Netzsperren droht.

Breyer sieht das Ende des digitalen Briefgeheimnisses sowie sicherer Verschlüsselung kommen. Private Cloud-Speicher würden durchleuchtet, alle privaten Fotos überwacht. Vorgesehen sei eine Altersüberprüfung, was das Ende anonymer Kommunikation bedeute. Hinzu komme mit einer Zensur der App-Stores neben dem Ende sicherer Messenger-Apps auch die Bevormundung Jugendlicher.

Auf der anderen Seite sei nicht geplant, bekanntes Missbrauchsmaterial im Netz verpflichtend zu löschen. Vorgaben europaweiter Standards für wirksame Präventionsmaßnahmen, Opferhilfe und -beratung sowie konsequente strafrechtliche Ermittlungen fehlen.

Breyer warnt: „Dieser Big-Brother-Angriff auf unsere Handys, Privatnachrichten und Fotos mithilfe fehleranfälliger Algorithmen ist ein Riesenschritt in Richtung eines Überwachungsstaates nach chinesischem Vorbild.“

Kinderschutzbund lehnt anlasslose Chatkontrolle ab

Der Deutsche Kinderschutzbund lehnte das von der EU-Kommission geplante anlasslose Scannen der privaten Kommunikation bereits als unverhältnismäßig und nicht zielführend ab.

Der Eingriff in die verschlüsselte Kommunikation im Kampf gegen Kinderpornografie sei unnötig, da ein Großteil des kinderpornografischen Materials über Plattformen und Foren geteilt werde. An jener Stelle seien anlasslose Scans richtig, so Vorstandsmitglied Türk.

Der deutsche Koalitionsvertrag enthielt in Bezug auf die Chatkontrolle den Passus: „Maßnahmen zum Scannen privater Kommunikation … lehnen wir ab.“

Inhalt und Auswirkungen des Gesetzentwurfs

Was beinhaltet der Gesetzentwurf? Hier eine Übersicht zu einigen Details.

Vorgesehen ist die Chatkontrolle, Netzsperren sowie eine verpflichtende Altersverifikation für Kommunikations- und Speicherdienste. Durchsucht werden sollen Texte, Bilder, Videos und Sprache.

Alle Möglichkeiten der Internet-Kommunikation sind betroffen: Telefonie, E-Mail, Messenger, Chats (auch als Teil von Spielen oder auf Dating-Portalen), Videokonferenzen und andere. Das beinhaltet auch nicht-EU-Dienste, unabhängig von der Zahl ihrer Nutzer. Ende-zu-Ende verschlüsselte Messenger sind nicht ausgenommen.

Da vermutlich jeder Internetdienst auch für illegale Zwecke genutzt wird, werden sämtliche Dienste zur Chatkontrolle verpflichtet, beispielsweise Hostingdienste wie Webhoster, soziale Medien, Video-Streamingdienste, Filehoster und Clouddienste.

Die Anbieter müssen Nachrichten auf jedem Smartphone durchsuchen und ggf. unverschlüsselt ausleiten. Gleiches gilt für persönliche Speicher, die nicht geteilt werden, wie Apples iCloud.

Die Behörde des Sitzlandes ist zur Anordnung der Chatkontrolle verpflichtet, es besteht kein Ermessen.

KI und Alterskontrolle – anonyme Kommunikation wird verboten

Es muss nach bekannten und unbekannten Bildern und Videos gesucht werden, verdächtige Nachrichten/Dateien werden der Polizei angezeigt. Diese Hashverfahren führen laut Schweizer Bundespolizei bisher dazu, dass 87 Prozent der Meldungen strafrechtlich irrelevant sind. Maschinell nach unbekannten Missbrauchsdarstellungen zu suchen ist ein experimentelles Verfahren unter Verwendung maschinellen Lernens und KI.

Auf KI-Basis wird ebenso nach möglichen Hinweisen auf Kontaktaufnahmen zu Kindern und Jugendlichen gesucht. Ebenso wie bei der Suche nach Bildern und Videos sind die eingesetzten Algorithmen Öffentlichkeit und Wissenschaft nicht zugänglich, der Entwurf enthält keine Offenlegungspflicht. Die Fehlerquoten sind unbekannt und werden durch den Verordnungsentwurf nicht begrenzt, vermutlich führen diese Verfahren zu massenhaft Falschmeldungen.

Alle Kommunikationsdienste, die für Anbahnungsversuche missbraucht werden können (also alle), müssen das Alter ihrer Nutzer überprüfen. In der Praxis erfolgt eine Altersprüfung mittels vollständiger Identifizierung, sodass eine anonyme Kommunikation per E-Mail, Messenger und so weiter verboten wird.

App-Stores müssen Installation von Apps verbieten

Minderjährige sollen aus App-Stores ausgeschlossen werden. App-Stores müssen das Alter ihrer Nutzer überprüfen und Kindern/Jugendlichen die Installation von Apps verbieten, die für Anbahnungszwecke missbraucht werden können. Alle Kommunikationsdienste wie Messenger, Dating-Apps, Spiele können auch zur Anbahnung von Kontakten missbraucht werden und wären für Kinder/Jugendliche verboten.

Die App-Stores müssen Apps löschen, die eine Chatkontrolle verweigern. Wenn sich etwa Signal oder WhatsApp weigern, die Ende-zu-Ende-Verschlüsselung auszuhöhlen und Chatkontrollen durchzuführen, wären sie über App-Stores nicht mehr zu installieren.

Internet-Zugangsanbieter können verpflichtet werden, den Zugang zu verbotenen und nicht zu löschenden Bildern und Videos außerhalb der EU mittels Netzsperren (URL-Sperren) zu blockieren. Es würde eine technische Zensurinfrastruktur aufgebaut.

CCC: Völlig überzogen und am Ziel vorbei

Das Chaos Computer Club warnt, dass das massenhafte Scannen völlig überzogen ist und am Ziel vorbeischießt. Täter und Kriminelle würden bereits heute Verbreitungswege nutzen, die nicht von diesen Scans betroffen würden und würden auch zukünftig den Scans leicht entgehen können.

Zudem seien Messengerdienste zum Tauschen großer Datensammlungen völlig ungeeignet. Es würden gleich zwei fundamentale Grundrechte außer Kraft gesetzt werden, das Fernmeldegeheimnis und das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme.

Unklar sei bisher, so der CCC, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren soll. „Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden.“

Sowohl die Rechteverwertungsindustrie als auch demokratiefeindliche Regierungen würden sich „brennend für das System interessieren“. Umso erschreckender sei laut den IT-Spezialisten, mit welcher Arglosigkeit es nun eingeführt werden soll.

Sie fordern: „Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.“