Am 14. Oktober sollte das EU-Parlament über die sogenannte Chatkontrolle abstimmen. Laut dem Gesetzesentwurf soll jede abgesendete Nachricht noch vor dem Versenden auf Missbrauchsdarstellungen gescannt werden. Justizministerin Hubig (SPD) hat sich nun dagegen ausgesprochen. Damit könnte das Vorhaben vorerst auf Eis liegen.
Die Chatkontrollen sind seit dem ersten Entwurf 2022 ein heiß diskutiertes Thema im Parlament. Seit Beginn der Verhandlungen zeigen sich alle Seiten stur. Nun möchte Dänemark seine Version durchsetzen. Während die meisten Mitgliedstaaten für Chatkontrollen sind, gibt es eine kleine Sperrminorität, die sich bisher dagegen ausgesprochen hat. Nach mehreren gescheiterten Kompromissvorschlägen – wie etwa freiwilligen Kontrollen der Betreiber wie WhatsApp und Signal nach dem Versenden der Nachricht – sollte nun am 14. Oktober final entschieden werden.
Grund für den Zeitdruck ist eine Ausnahme in den europäischen E-Privacy-Richtlinien, die 2026 ausläuft. Aus diesem Grund pocht Dänemark auf eine Entscheidung in den nächsten drei Wochen. So soll die Arbeitsgruppe noch am 9. Oktober tagen. Am 14. treffen sich dann die Justizminister.
Viele Sorgen um den Gesetzesvorschlag
Grund zur Sorge ist das sogenannte Client-Side-Scanning. Dabei sollen Inhalte noch vor dem Abschicken, also auf dem Gerät des Absenders, mithilfe von KI auf Missbrauchsmaterial gescannt werden.
Sollten sich Messenger wie WhatsApp und Signal nicht daran halten, würden mit dem Gesetzesentwurf enorm hohe Geldstrafen anfallen. Doch schon jetzt ist klar, dass dafür zwangsweise Hintertüren – und damit Sicherheitslücken – in die Messenger eingebaut werden müssten. Das sogenannte CSS-System ist zwar nicht direkt im Gesetz festgeschrieben, doch ähnlich wie bei den Urheberrechtsreformen rund um Artikel 13 lassen die Vorschriften keine andere Möglichkeit als eine solche Lösung zu.
Kritik aus allen Ecken
Datenrechtler:innen, Kinderschutz-Verbände, Wissenschaftler:innen und Netzaktivist:innen schlugen schon früh Alarm. Einerseits steht bereits fest, dass es keine verlässliche Möglichkeit gibt, Inhalte zuverlässig auf Missbrauchsmaterial zu scannen, ohne die Systeme massenhaft mit fehlerhaften Meldungen zu überfluten. Zusätzlich könnten die Sicherheitslücken, die für ein solches Vorhaben in die Systeme integriert werden müssten, auch von Dritten ausgenutzt werden.
Auch Datenschützer:innen klagen an, dass der Gesetzesentwurf einen massiven Eingriff in den Datenschutz darstellt. „Jeder Versuch, die Ende-zu-Ende-Verschlüsselung zu öffnen, um Bilder, Medien, Sprache oder Audio zu scannen, untergräbt unsere Privatsphäre“, sagt Thorsten Holz, wissenschaftlicher Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre. Es wird kritisiert, dass das Scannen von Inhalten vor dem Absenden die Ende-zu-Ende-Verschlüsselung praktisch aushebelt.
Neben Kritik aus Seiten der Nutzer:innen gibt es auch Reaktionen von den Betreibern. So hat schon jetzt der Messenger Signal angekündigt, sich aus dem europäischen Markt zurückzuziehen, sollte sich das Gesetz durchsetzen.
Missbrauch durch Europol
Bereits jetzt zeigen private Sicherheitsbehörden und Repressionsorgane Interesse an der neuen Technologie. 2023 forderten hochrangige Mitglieder der europäischen Strafverfolgungsbehörde Europol uneingeschränkten Zugang zu Daten aus einer solchen Maßnahme. Um KIs zu trainieren, sollen diese Daten laut den Protokollen gesammelt werden.
Dabei gingen Forderungen aus den Treffen hervor, die eine Ausweitung über den Schutz vor Kindesmissbrauch hinaus beinhalteten. Demnach wären alle Daten „nützlich“ und sollten „ohne Filter“ gesammelt werden.
Polizeibehörde „Europol“ will ungefilterten Zugang zu Chatkontrolle-Daten
Deutschland spielt entscheidende Rolle
Deutschland spielt bei der Abstimmung am 14. eine – wenn nicht die entscheidende – Rolle. Sowohl Gegner:innen als auch Befürworter:innen hoffen auf eine Entscheidung Deutschlands zu ihren Gunsten, da Deutschland die Sperrminorität brechen oder mit seiner Stimme das Gesetz kippen könnte.
Obwohl im Koalitionsvertrag grundsätzlich die Sicherung der digitalen Privatsphäre festgeschrieben ist, war lange unklar, ob die Entscheidung der Justizministerin Hubig am 14. dieses Versprechen halten wird. Am 8. Oktober stellte sie klar: „Anlasslose Chatkontrolle muss in einem Rechtsstaat tabu sein“ Auch der CDU-Fraktionsvorsitzende Jens Spahn sprach sich am Dienstag gegen das Gesetz aus.
Zuvor hatte es auch klare Kritik der Linkspartei gegeben. „Das ist ein beispielloser Angriff auf die digitale Privatsphäre und das Grundrecht auf vertrauliche Kommunikation“, erklärte die Thüringer Abgeordnete der Linkspartei, Katharina König-Preuss. „Was als vermeintlicher Kinderschutz verkauft wird, ist in Wahrheit ein gefährlicher Dammbruch in Richtung Massenüberwachung und öffnet diesem Missbrauch Tür und Tor“, so König-Preuss.
