Gegen die Chatkontrolle – Europäische digitale Grundrechte sichern

Beschluss im Wortlaut:

Vor anderthalb Jahren, im Mai 2022, hat die Europäische Kommission einen Verordnungsentwurf zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern (CSAM-Verordnung) eingebracht. Der Entwurf soll demnächst im Trilog-Verfahren verhandelt werden, eine Übergangsregelung ist im August 2023 ausgelaufen.

Worum geht es in der Verordnung?

Die Verordnung richtet sich zum Einen darauf, die Verbreitung und Nutzung von Materialien des sexuellen Kindesmissbrauchs zu bekämpfen, zum anderen auf die Bekämpfung des sogenannten Cyber-Groomings, also der Kontaktaufnahme Erwachsener an Minderjährige mit sexuellen Motiven. Dazu sieht sie verschiedene Schritte vor: Es sollen zentrale nationale Meldestellen eingerichtet werden, alle Anbieter von Messenger-Diensten und Cloud-Services sollen Risikoanalysen durchführen und ggf. risikomindernde Maßnahmen ergreifen und bei bleibend hohem Risiko soll die nationale Behörde die Durchsuchung der versendeten Inhalte auf verdächtige Nachrichten anordnen können. Dies betrifft nicht nur Messenger Dienste, sondern jegliche Form der Online-Kommunikation und -Speicherung, also auch bspw. E-Mail, Videospiele und Onlineforen.

Zur Überprüfung, ob es sich um Darstellungen sexuellen Kindesmissbrauchs handelt, sollen jegliche über einen Online-Dienst versandten oder gespeicherten Bilder und Videos mittels eines sogenannten „Hash-Abgleichs” mit einer Datenbank von bekannten Darstellungen sexuellen Kindesmissbrauchs abgeglichen werden. Für den Hash-Abgleich wird mittels mathematischer Verfahren aus einer größeren Datei (z.B. einem Bild) eine eindeutige Zeichenfolge erzeugt. Die Ausgangsdatei ist dabei nicht aus der Zeichenfolge rekonstruierbar, aber durch den Abgleich mit gespeicherten Hashes lässt sich feststellen, ob eine bestimmte Datei schon mal erfasst wurde. Um die Ende-zu-Ende-Verschlüsselung dabei nicht zu durchbrechen, wäre ein sogenanntes Client-Side-Scanning auf dem Handy selbst möglich, was de facto allerdings jegliche Verschlüsselung umgehen würde. Um auch unbekannte Materialien zu finden, verweist der Verordnungsentwurf auf künstliche Intelligenz bei der Überprüfung aller verschickten oder gespeicherten Materialien.

Um Cyber-Grooming zu bekämpfen, wäre es zudem erforderlich, das Alter und ggf. weitere personenbezogene Daten wie Verwandtschaftsgrad oder Wohnort der beteiligten Personen zu erfassen und nicht nur Bilder und Videos, sondern auch Nachrichten und Sprachnachrichten zu überprüfen. Auch für die Prüfung der Nachrichten und Sprachnachrichten würde eine KI zum Einsatz kommen. Jeder Verdachtsfall würde den nationalen Stellen gemeldet werden, individuell von einer Person unter tatsächlichem Zugriff auf die Nachricht geprüft und ggf. ein Strafverfahren eingeleitet werden.

Wozu würde das Gesetz führen?

Die Chatkontrolle soll nur bei hohem Risiko angeordnet werden – realistisch betrachtet, fallen aber praktisch alle Anbieter digitaler Dienste unter die Verordnung, von denen viele mit hoher Wahrscheinlichkeit nicht in der Lage sein werden, das Risiko entscheidend zu senken, darunter auch die großen Anbieter wie Google oder Meta.

Sollte die Verordnung beschlossen werden, würde sie zu umfassender Überwachung jeglicher digitaler Kommunikation führen: Wer schreibt was mit wem, wer macht welche Fotos wo und von was? Das digitale Briefgeheimnis wäre aufgehoben, das Recht auf informationelle Selbstbestimmung aller EU-Bürger:innen, die Pressefreiheit, das Recht auf freie Entfaltung der Persönlichkeit, das Recht der Anbieter auf unternehmerische Freiheit, und sogar die sexuelle Selbstbestimmung der Kinder und Jugendlichen selbst wären massiv eingeschränkt. Insbesondere im digitalen Raum ist Massenüberwachung besonders leicht automatisiert möglich und birgt aufgrund der Speicherbarkeit und Durchsuchbarkeit gravierende Gefahren im Vergleich zu papierbasierter Kommunikation.

Unsere Kritik

Wir halten diese allumfassende verdachtsunabhängige Überwachung für gefährlich und für nicht verhältnismäßig. Wir bekennen uns klar zum Schutz von Kindern und Jugendlichen vor sexuellem Missbrauch. Dennoch sehen wir in dem Verordnungsentwurf ein erhebliches Missbrauchspotential und halten die genannten Maßnahmen in dieser Form für nicht zielführend. Die Maßnahme ist nicht geeignet, das erklärte Ziel der Bekämpfung der Verbreitung von Materialien zu sexuellem Kindesmissbrauch zu erreichen, sondern bindet für die Strafverfolgung bestätigter Verdachtsfälle dringend notwendige Ressourcen. Dieses gesellschaftliche und sozial vielschichtige Problem kann nicht alleine durch KI gelöst werden! Entscheidend sind dafür die personelle und finanzielle Ausstattung der zuständigen Behörden und zuallererst der Schutz von Kindern und Jugendlichen, sodass sie gar nicht erst zu Opfern sexuellen Missbrauchs werden.

Dafür ist Aufklärung erforderlich, keine Massenüberwachung! Dafür spricht insbesondere, dass sich auch einige Kinderschutzorganisationen und sogar von Missbrauch Betroffene gegen die Verordnung aussprechen.

Nach Auffassung unter anderem verschiedener Sachverständiger, dem Wissenschaftlichen Dienst des Bundestags und des Europäischen Parlaments steht die Reichweite des Eingriffs, der im Prinzip eine allgemeine Überwachung ermöglicht – eine Chat-Kontrolle – nicht in einem angemessenen Verhältnis zum erreichten Mehrwert für den Schutz der Rechte der Kinder und anderer Internetnutzer:innen. Es ist gleichzeitig zweifelhaft, inwiefern die automatisierte Abgleichung und die Erkennung neuer Darstellungen überhaupt technisch funktioniert – oder einfach zu einer erhöhten Zahl fehlerhafter Meldungen führt.

Aus diesem Grund positionieren wir uns gegen die Verordnung in ihrer aktuellen Form. Wir lehnen die Einführung einer KI-basierten allgemeinen Chatkontrolle und Alterskontrolle strikt ab.

Forderungen

In diesem Sinne fordern wir als Junge Europäische Föderalist:innen: Dass wir uns erneut zu unserem beim Bundesausschuss vom 30.06. bis 03.07.2022 in Brüssel gefassten Beschluss „Digitale Grundrecht wahren – Keine Chatkontrolle in Europa!“ bekennen.

Dass wir darüber hinaus unsere Netzwerke dafür nutzen, um andere politische Gruppierungen und Politiker:innen für das Thema zu sensibilisieren und sich gegen die geplante Verordnung einzusetzen.

Dass wir außerdem das Thema digitale Rechte stärker in unserer Bildungsarbeit thematisieren und junge Menschen dabei über die Gefahren digitaler Überwachung aufklären.

Dass wir uns zudem mit dem Thema in seiner europäischen Perspektive befassen, insbesondere angesichts der Position Spaniens zum Verordnungsentwurf, in dessen Hauptstadt Madrid auch der diesjährige European Congress stattfinden wird.

Begründung

Die Überwachung digitaler Kommunikation betrifft uns als junge Menschen und letztlich auch uns als europäischen Jugendverband, der sich hauptsächlich digital organisiert und austauscht – in einigen europäischen Ländern könnte diese Überwachung für ehrenamtlich Engagierte sogar gefährlich werden. Die Verordnung sollte ein wichtiges Thema im europäischen Wahlkampf werden, sodass wir uns jetzt positionieren und dagegen werben wollen. Auch wenn die Verordnung klar gegen Grundrechte verstößt und vor dem EuGH in ihrer aktuellen Form keinen Bestand hätte, sollten wir uns nicht darauf verlassen, dass sie hinterher eingeschränkt wird, sondern vorher aktiv werden!