Presseberichten zufolge arbeitet die EU-Komission momentan an einem Gesetzesvorhaben, dass die Überwachung von Chatinhalten vor der Verschlüsselung, die viele Chatdienstleister anbieten, ermöglichen soll. Begründet wird der Vorstoß mit dem Kampf gegen die Verbreitung kinderpornographischer Inhalte.
Konkretes Ziel ist zunächst, die Anbieter von Messengerdiensten zu verpflichten, die Inhalte vor der Verschickung auf unerwünschte Inhalte zu prüfen. Konkret würden vermutlich KI-Programme zum Scannen von Fotos und ähnlichem eingesetzt werden.
Kritiker:innen sehen das Vorhaben als unverhältnismäßig tiefen Eingriff in die Privatsphäre, denn die Bilderkennungsprogramme sind bisher noch enorm ungenau und würden mit einer hohen Trefferquote unproblematische private Bilder beispielsweise als kinderpornographische Inhalte markieren.
Auch befürchten Datenschützer:innen eine Ausweitung des Prinzips auch auf andere Bereiche, wie beispielsweise unliebsame politische Inhalte. So kommentiert Markus Reuter auf Netzpolitik.org:
“Denn alle Erfahrung lehrt: Was einmal gegen Darstellungen von Kindesmissbrauch etabliert wurde, kann später auch gegen Urheberrechtsverletzungen, gegen politisch missliebige Bewegungen und jeden anderen Inhalt eingesetzt werden.”
