Chatkontrolle soll Vorschrift werden
Kaum hatte vor Jahr und Tag die EU ihre E-Privacy-Verordnung in Kraft gesetzt, da machte ein Vorschlag zu ihrer Aufweichung die Runde: Eine Ausnahme sollte geschaffen werden, mit der private Chatnachrichten dahingehend analysiert werden dürfen, ob eine KI sie als mögliche Missbrauchsdarstellung („CSAM“) oder unsittliche Annäherung an Kinder („Grooming“) interpretiert. Der Vorschlag fand unter den EU-Parlamentarier:innen etwa 80 % Zustimmung – genau im Gegensatz zu Meinungsumfragen unter EU-Bürger:innen, die sich ihre Redefreiheit und Unbefangenheit in derselben Mehrheit nicht abhandeln lassen wollten. Offenbar ist es schwierig für verantwortliche, aber fachfremde Politiker:innen, sich gegen das Narrativ zu behaupten, mit der beschlossenen Verordnung würde missbrauchten Kindern geholfen. Wird es nicht, das wissen wir inzwischen. Aber man kann ja so tun als ob.
Diese Sache geht nun, wie vorhergesagt und befürchtet, in die nächste Runde: In einer neuen Verordnung soll der CSAM- und Grooming-Scan für alle relevanten Messengerdienste verpflichtend werden. Dazu soll man sich vielerorts im Internet Ausweisen müssen, um sein Alter nachzuweisen. Hier haben wir also eine Vorschrift zur anlasslosen Analyse unserer Inhalte vor deren Verschlüsselung, gegen Anonymität und entgegen dem ehernen Rechtsprinzip der Unschuldsvermutung. Unsere Geräte gehorchen nicht mehr uns, sondern sind staatlichen und nichtstaatlichen Stellen zum Rapport über unsere Inhalte verpflichtet. Ausgenommen davon sind allenfalls verschwiegenheitspflichtige Berufsgruppen – sowie Kriminelle die wissen, wie sie die Regeln einfach umgehen.
Diese Entwicklung war so sicher wie das Amen in der Kirche.
Nach vergangenen Erfahrungen erkennen wir inzwischen ein Muster in der EU: Beschlüsse werden gefasst, die politisch opportun erscheinen, auch wenn Fachleute unisono warnen. Am Ende landet die Sache vor dem Europäischen Gerichtshof, der die Verordnung nach 4–5 Jahren kassiert, weil sie ganz offenbar mit den europäischen Grundrechten nicht vereinbar ist. Manchmal geht es nach einer Neufassung noch in eine zweite oder dritte Runde, was dann 8, 10 oder mehr Jahre dauert.
Mit dem höchstrichterlichen Votum wäre aber auch in diesem Fall aber nicht alles wieder gut, sondern immenser Schaden entstanden: Eine weltweit einmalige Überwachungsinfrastruktur wäre etabliert, die sich nicht einmal China derzeit gegenüber seinen Bürgern herausnimmt. Es hätte entweder ein Gewöhnungseffekt eingesetzt, weil für die einzelnen Bürger:innen keine negativen Folgen spürbar geworden wären. Die Polizeien sind nämlich bereits jetzt mit den vorliegenden Daten überfordert und hätten keine Chance, ihre Ergebnisse wesentlich zu verbessern (wie es auch bisher nicht passiert ist).
Oder aber, wir hätten bereits Fälle von Missbrauch der neuen Überwachungstechnik hinter uns: Dass in Ungarn oder Polen per Generalverdacht gegen Homosexualität im Internet vorgegangen würde, oder dass noch ganz andere Selektoren aktiviert würden, die gegen politisch oder sonstwie missliebige Personen in Stellung gebracht werden – bis hin zu Whistleblowerinnen oder Journalisten, die gegen Korruption oder eine Mafia anschreiben. Gut möglich, dass wir von solchem Missbrauch erst viele Jahre später erfahren würden. Oder dass wir uns ohnehin schon nicht mehr dagegen zur Wehr setzen könnten.
Was waren die Ergebnisse der befristeten Ausnahmeregelung von der E-Privacy-Verordnung?
Im Vorschlag der EU-Kommission zur Verordnung findet sich kein Wort zur Evaluation oder den Erfolgen der gegenwärtigen – in vieler Augen bereits rechtswidrigen – Ausnahmeregelung. Sie wird nur diffus als „unzureichend“ bezeichnet. Über neue Konsultationen, womöglich mit Kritikern des Vorschlags, ist nichts bekannt. Man könnte den Eindruck haben, als würde jetzt erst das gelobte Neuland der Überwachung betreten, von dem man sich Wunderdinge erhoffen darf.
Denn offenbar haben die Vertreter des Clientside-Scannings wenig Konkretes vorzuweisen, was den Nutzen ihrer Erfindung mit Fakten untermauern könnte. In der deutschen Polizeistatistik von 2022 findet sich kein Hinweis auf eine Verbesserung der Lage oder Wirksamkeit der von mehreren Anbietern bereits durch die bestehende Ausnahmeregelung umgesetzten Scan-Praxis. Die schiere Zahl der registrierten Missbrauchsdarstellungen (aber auch Nacktbilder oder anzüglichen Posen) steigt mit dem betriebenen Aufwand auf rund das Doppelte. Aber ob sich dies in einer Aufklärungsquote niederschlägt, darüber schweigen sich die Veröffentlichungen aus. Die Zahl der ausgewiesenen Fälle oder der registrierten Opfer blieb jedenfalls unberührt.
Fazit: Auf einer hingeschluderten, nebulösen Lobbyisten-Prosa beruhend sollen ernsthaft unsere fundamentalsten Grundrechte geschliffen werden? Die moralische Brechstange „Kindesmissbrauch“ scheint alle seriösen Standards der EU-Gesetzgebung hinwegzufegen.
Warum nur warnen so wenige Menschen vor dieser Entwicklung?
Ist das nicht ein Beleg dafür, dass es sich um durchgeknallte Aktivist:innen, eine radikale Minderheit handelt? Mitnichten. Es sind nicht nur 20 % der EU-Palamentarier:innen und über 130 NGOs, die sich der durchaus radikalen Position von EU-Kommission und -Rat nicht anschließen. Es sind praktisch alle Expert:innen, die sich mit der Materie auskennen – wovon wir viele Innenpolitiker:innen leider explizit ausnehmen müssen. Auch Kinderschutz-Organisationen und Betroffenenverbände warnen: Die geplanten Maßnahmen sind weder hilfreich, noch notwendig noch verhältnismäßig.
Politiker:innen wie Frau Ylva Johansson, Ursula von der Leyen oder leider auch Nancy Faeser erhoffen sich hier kostengünstige und mediengerechte Erfolge. Sie meinen es bestenfalls gut. Wahrscheinlicher ist, dass sie bewusst eine viel breitere sicherheitspolitische Agenda verfolgen. Wie der EU-Rat, der in einer Entschließung von 2020 gegenüber der IT-Industrie auf „elektronische Beweismittel“ drängte, „… um Terrorismus, organisierte Kriminalität, sexuellen Missbrauch von Kindern (insbesondere dessen Online-Aspekte) sowie eine Vielzahl anderer Cyberstraftaten und durch den Cyberraum ermöglichter Straftaten wirksam zu bekämpfen.“
Immerhin hat der Widerstand aus Deutschland (wo die Grünen und die FDP ausnahmsweise mal an einem Strang ziehen) den straffen Zeitplan der EU-Kommission aus dem Takt gebracht. Der Termin für die finalen Abstimmungen musste verschoben werden, was der Zivilgesellschaft eine kleine Schonfrist gewährt, um endlich aufzuwachen.
Wir Europäer laufen in zwei Fallen:
Zum Einen können wir die Vielzahl und Komplexität der EU-Vorhaben allein zu Digitalthemen niemals überblicken. Zum Anderen starren wir wie das Kaninchen auf die Schlange, sobald das Thema sexualisierte Gewalt gegen Kinder auf den Tisch kommt – denn gegen deren Bekämpfung KANN niemand etwas haben.
Dabei verstehen wir nicht, dass die anvisierten Mittel zum einen nicht geeignet sind und sie in Bezug auf Kindesmissbrauch mehr Schaden anrichten als sie helfen. Und dass sie zeitgleich mit derselben Moral gegen viele andere Delikte eingesetzt werden müssten – denn was ist an Organisierter Kriminalität, Menschenhandel, Terror oder Drogenschmuggel weniger verwerflich? Und schon haben wir Homosexuelle, Flüchtlingsretterinnen, Gotteslästerer, Journalistinnen, NGOs, Präsidentenbeleidiger und separatistische Parteien auf den Suchlisten.
Lackmustest für die Demokratie
Und wo wir dabei sind – wäre es nicht fahrlässig, die Möglichkeiten der Stimmanalyse bei Smartspeakern oder auch nur passiv eingeschalteten Smartphones auszuschließen, wenn es darum geht, Kinder zu retten? Bewegungsmuster, Gesichtserkennung – was können wir noch ausschließen, wenn wir solche Eingriffe einmal akzeptieren?
Wenn es in den vergangenen Jahrzehnten einen Lackmustest für den Zustand der europäischen Demokratie gegeben hat, dann ist es diese Verordnung. Oft hat die EU bewiesen, dass sie gewillt ist, ihre Standards auch in digitalen Zeiten zu behaupten. Mit dem Digital Services Act, der KI-Verordnung und der DSGVO hat sie sich als handlungsfähig erwiesen und weltweit Standards gesetzt. Die geplante Verordnung widerspricht dem Geist dieser Regelungen und der europäischen Verfassung diametral – und die Akteure wissen das.
Das Kind ist schon im Brunnen – holen wir es raus!
Schon die EU-Privacy-Derogation von 2021, die diese Verordnung auf freiwilliger Basis und zeitlich begrenzt für zulässig erklärt hat, war ein Tabubruch. Lassen wir uns nicht durch die Salamitaktik und das Schlagwort CSAM an der Nase herumführen und beziehen wir Stellung:
- Thematisieren und erklären wir massenhaft und geduldig auf Social Media die Zusammenhänge und die drohenden Gefahren.
. - Rufen wir unsere EU-Abgeordneten an und weisen wir auf das Thema und unsere tiefe Besorgnis hin. Sonst folgen sie den Vorrednern ihrer Fraktionen blindlings.
. - Übersetzen wir das Thema in andere Länder. In vielen europäischen Ländern hat man von der Sache noch kaum eine einzige Zeile lesen können. Wer kennt Journalist:innen, die dazu schreiben könnten?
. - Animieren wir die Hersteller unserer Geräte und Services, offen und selbstkritisch über den Fail zu sprechen, den die bisherigen Bemühungen darstellen. Machen wir klar, dass wir ein Ausspähen unserer Identitäten und Inhalte nicht hinnehmen werden und z. B. zu kleinen Anbietern wechseln würden, die durch die Verordnung nicht erfasst werden.
. - Unterstützen wir Organisationen, die gegen dieses Vorhaben opponieren. (Auch die Giordano-Bruno-Stiftung hat sich den Aufrufen angeschlossen.)
______________________________
Weiterführende Seiten:
• Wortlaut des Offenen Briefes von über 80 NGOs auf deutsch
• Klage der Gesellschaft für Freiheitsrechte gegen Facebook wegen Chatkontrolle
• Beiträge auf Netzploitik.org und auf Zeit online zum Thema des Lobbyismus aus privatwirtschaftlichen Interesen und der bereits anvisierten Ausweitungen der Chatkontrolle auf andere Gebiete
• der Vorschlag der EU-Kommission im deutschen Wortlaut
• Offener Brief der GBS von 2021 (mit nach wie vor gültigen Argumenten)
Trackbacks/Pingbacks