Lesezeit: ca. 8 Min.

Zu Beginn eine – leider nicht allzu – fiktive Szenerie: Eine Hochzeitsgesellschaft macht sich mit einer Autokolonne auf den Weg zu einer Feier. Braut und Bräutigam sitzen in einem mächtigen SUV, sie winken, vier weitere Wagen folgen. Die Luft ist klar, im strahlenden Sonnenschein verlassen die Autos den Ort. Plötzlich folgen mehrere helle Blitze aufeinander, dichter Rauch verdeckt die Szenerie. Jemand ruft „Allahu akbar!“, Allah ist groß. Dann endet die Aufnahme.

Man würde sofort erkennen: Es handelt sich um finstere, primitiv auftrumpfende Terrorpropaganda. Oder nicht? Was wäre, wenn es sich um ein Stück Aufklärung handelte, ein wichtiges Beweisstück, etwa gegen den Drohnenkrieg? Gegen die Kriegspropaganda eines Regimes, das behauptet, mit seinem Feldzug nur Terroristen zu treffen? Vielleicht wäre es ein Dokument der Unschuld, das sich gegen staatlichen Terror wendete.

Von den Algorithmen des Videoportals würde es dennoch als Terrorpropaganda eingestuft – oder von Agenten des Regimes als solche zur Anzeige gebracht. 40 Minuten nach Veröffentlichung wäre das Video verschwunden und es würden keine Fragen mehr gestellt, was aus den Menschen geworden sei, die darauf zu sehen waren. Die Erinnerung an ihr Schicksal wäre gelöscht. – All dies rein fiktiv, natürlich.

 

Terror funktioniert …

 

Hier sei klargestellt: Niemand (der bei klarem Verstand ist) möchte Terror im Internet unterstützt oder verbreitet wissen. Terror ist für die Betroffenen ein Alptraum und unsere Angst vor Terror ist groß. Seit Jahren ist sie gesellschaftlich dominant. Dass sie sogar irrational groß ist, liegt in der Natur des Terrors. Für nichts anderes wird er gemacht.

Terrorismus ist vor allem eine Kommunikationsstrategie. Deswegen ist das Internet dafür ein so wichtiges Terrain geworden. Terroristen wollen „das Denken besetzen“. Sie wollen durch den Eindruck von Gewalt politische, weltanschauliche oder religiöse Veränderungsprozesse erzwingen. Und erst dieses politische Kalkül macht eine kriminelle Gewaltaktion zu Terror.

Dieser politische Aspekt führt nun im Umkehrschluss dazu, dass fast alle radikalen politischen Haltungen als „terroristisch“ eingestuft werden, sobald sie die bestehenden Verhältnisse ernsthaft gefährden. Und zwar auch dann, wenn sie sich friedlicher Mittel, etwa des zivilen Ungehorsams, bedienen. Eine solche Diffamierung dient natürlich dem Zweck, mit härteren Mitteln gegen eine Bewegung vorgehen zu können – und dies nach außen zu legitimieren.

Deshalb ist Terror ein Lieblingsspielzeug von autoritären Regierungen: Er bildet das Hintergrundmotiv für staatliche Kontrolle und Zwang. Er schafft einen gemeinsamen Gegner, stiftet Gemeinsamkeit und sorgt für Ablenkung von inneren Widersprüchen. Die gegenseitige Abhängigkeit der „Falken“ im arabisch-israelischen Konflikt ist ein Beispiel dafür. Jeder Friedenspolitiker wird hier sofort zur Zielscheibe terroristischer Gewalt – von beiden Seiten. So zynisch es für die Opfer klingt, aber viel zu oft wäre Terror vermeidbar, wenn man sich ernsthaft darum bemühen würde.

 

… aber wie funktioniert Anti-Terror?

 

Das politische Europa ist derzeit ein Hauptschauplatz von Regulierungen, die man in den USA, Russland, Indien oder China am liebsten gar nicht lange diskutieren möchte. So schwierig und langwierig es ist, einen Konsens zu finden – in der EU bemüht man sich zumindest um konstruktive Lösungen. So hat sich das EU-Parlament kürzlich auf Eckpunkte geeinigt, wie mit terroristischen Inhalten umzugehen sei. Ein sehr scharfer Vorschlag der EU-Kommission konnte dabei in wesentlichen Punkten abgemildert werden. (Warum das gut und richtig so ist, dazu später.)

Doch es bleibt dabei: Des Terrorismus verdächtiger Content hat innerhalb einer Stunde zu verschwinden. Und sei es ein Link, der morgens um 4 in den Kommentar eines privaten Blogs getippt wird. Falls nicht, drohen drakonische Strafen. Und wohlgemerkt: Der Verdacht genügt, überprüft wird – wenn überhaupt – später.

In einem offenen Brief einer ganzen Reihe von NGOs an das Europäische Parlament formulierten die Autor*innen:

Sofortige Entfernung: Die Verordnung ermächtigt undefinierte “zuständige Behörden”, die Entfernung bestimmter Inhalte innerhalb einer Stunde anzuordnen, ohne dass eine Genehmigung oder Aufsicht durch Gerichte vorliegt. Entfernungsanfragen müssen innerhalb dieser kurzen Frist erfüllt werden, unabhängig von berechtigten Einwänden, die Plattformen oder ihre Nutzer gegen die Entfernung der angegebenen Inhalte haben, und der Schaden für die freie Meinungsäußerung und den Zugang zu Informationen kann bereits zum Zeitpunkt des Abschlusses eines künftigen Beschwerdeverfahrens unumkehrbar sein.

Ob eine solche Gesetzgebung überhaupt etwas positives bewirkt oder sich einfach nur negativ auf die Meinungs- und Pressefreiheit auswirkt, ist noch nicht erwiesen. Auch drei betroffene Sonderberichterstatter der UNO hatten gemeinsam erhebliche Bedenken angemeldet.

 

Was Terror ist, bestimmt … wer?

 

Ob es z.B. in die Kategorie „Terrorismus“ fällt, sich an eine wichtige Bahnstrecke zu ketten, ist Interpretationssache. Die meisten Leute gehen da nicht mit. Auch ist Gewalt als eine unmittelbare Form der Selbstverteidigung denkbar, etwa wenn Bulldozer gegen die eigene Wohnsiedlung anrücken. Und schließlich nehmen sich Staaten das Recht, nach außen oder innen Angst und Schrecken zu verbreiten, was dann eher als Krieg oder Bürgerkrieg klassifiziert wird. Die Frage, was Terrorismus sei, ist immer auch eine Frage der Legitimation.

Auf schwammige Definitionen dürfen wir uns aber nicht einlassen, wenn wir damit Inhalte aus dem Netz filtern. Wenn wir die Verbreitung von Ideen stoppen. Wenn wir dringend schnell benötigte Information unterdrücken. Saudi-Arabien verlangt von uns, „terroristische“ Inhalte im Internet zu sperren, dabei geht es in Wirklichkeit um die säkulare Opposition.

Natürlich gibt es ja auch echten Terror – und davon nicht zu knapp. Und er kann so unfassbar grausam sein, dass wir unter seinem Eindruck alles Analytische, was wir hier lesen, sofort vergessen.

Ohne jede Sympathie: Terror ist oft das Mittel der (subjektiv) Machtlosen. Es gab anarchistischen Terror in Russland, israelischen Terror in Palästina, schwarzen Terror gegen Weiße in Südafrika. Es gibt tschetschenischen, kurdischen, palästinensischen, islamistischen Terrorismus. Für jede dieser Bewegungen mögen wir eine unterschiedliche Einschätzung ihrer Legitimität haben. Es geht aber nicht um einen Zweck, der für eine Seite des Konflikt die Mittel heiligt. Sondern um einen verbindlichen Standard. Eine gemeinsame klare Definition von Terrorismus anzuwenden, wäre in einem internationalen Rahmen wie dem Internet eine wichtige Grundlage, wenn es um so sensible Güter wie die Meinungsfreiheit geht.

Und es geht ja noch weiter: Selbst wenn Terrorismus mit Mitteln der Filterung wirksam unter dem Deckel zu halten wäre (was nicht bewiesen ist), so gibt sich ein Innenminister damit nicht zufrieden. Denn was genau ist an Terror schlimmer als psychopathische Massenmörder, Organisiertes Verbrechen oder Kinderpornografie? Drogenhandel, Volksverhetzung und Korruption stehen als nächstes auf der Liste. Ein Politiker muss das Zahnrad der Überwachung zur eigenen Legitimation immer einen Zacken weiter drehen. – Und die Vorstellung eines vollständig kontrollierbaren Denk- und Meinungsraums ist ja auch zu verlockend.

 

Wir haben eine Menge zu verlieren

 

Viele Denkschulen und politische Akteure, denen wir unendlich viel zu verdanken haben, galten zu ihrer Zeit als so radikal oder militant, dass sie von den Regierenden als umstürzlerisch eingestuft und unter Terrorverdacht gestellt wurden. Und zwar – natürlich – auch dann, wenn sie keinerlei Gewalt einsetzten, geschweige denn terroristische Mittel. Das Christentum gehörte einmal dazu. Später dann Aufklärer, Liberale, alle möglichen Nationalisten (im sich formierenden Deutschland, in Polen, Tschechien, Armenien, den USA, Lateinamerika, Indien, China u.v.m.). Es traf Pazifisten und Frauenrechtlerinnen, Sozialdemokraten und Anarchistinnen, Atheistinnen und Gläubige, Nelson Mandela und Mahatma Gandhi, Angela Davis und Aung San Suu Kyi, Kommunisten und Hausbesetzerinnen, Schwule und Lesben, Umweltaktivisten und Menschenrechtlerinnen, Whistleblower und viele viele mehr. Wo stünden wir heute, wenn die Verbreitung ihrer Ideen wirksam unterbunden worden wäre?

Machen wir uns nichts vor: Menschen, gerade die Mächtigen, sind anfällig für Täuschungen, Verzerrungen, für einen Machterhaltungstrieb und gruppenbezogene Menschenfeindlichkeit. Selbst ausgewiesene Freiheitshelden wie Robert Mugabe oder Aung San Suu Kyi können ein anderes Gesicht zeigen, wenn sie an der Macht sind. Mitten im demokratischen Westeuropa des Kalten Krieges haben sich Regierungen dazu hinreißen lassen, Terror unter falsche Flagge zu inszenieren (Gladio), um ihre Bevölkerung gegen die Linke aufzubringen. Wenn es keinen Terror gibt, muss er schon mal erfunden werden. In Österreich, das Daten über rechtswidrige Inhalte an seine nationale Hotline veröffentlicht, waren etwa 75 % der als rechtswidrig gemeldeten Inhalte tatsächlich legal.

Bei alles gesunden Skepsis gegen Verschwörungstheorien sollten wir niemandem blind vertrauen, der das Wort „Terror“ im Munde führt. Wenn einer Regierung das mächtige Mittel einer Meinungsbildenden Zensur zur Verfügung steht, dann ist es fast sicher, dass sie in Krisensituationen die Terrorismuskarte ziehen wird und die Opposition damit systematisch unterdrückt.

 

Am Drücker

 

Die Entscheidung, was konkret als terroristischer Inhalt zu gelten hat und was nicht, darf nicht der Einschätzung untergeordneter Behörden oder den einseitigen Regierungsinteressen überlassen werden. Zu groß ist die Versuchung, jede Bedrohung der Machtverhältnisse, des Wohlstands, der nationalen Einheit usw. als „Terror“ zu bezeichnen.

  • China hat im Konflikten mit Tibet, den Uiguren oder der Falun-Gong mehrmals die “Terror”-Karte gezogen.
  • US-amerikanische Whistleblower müssen damit rechnen, als Terrorhelfer abqualifiziert zu werden – denn was der Regierung schadet, nützt ja den Feinden.
  • Die Aktionen von Pussy-Riot- oder Gay-Pride-Aktivist*innen gelten in Russland als „kognitiver Terrorismus“, werden in ihrer Verbreitung behindert und z.T. schwer bestraft.
  • Der Saudische Kronprinz Bin Salman hatte versucht, seinen Erzfeind Jamal Kashoggi als islamistischen Terroristen zu klassifizieren (und Jared Kushner ist auf diese Argumentation kurzzeitig eingestiegen), bevor er dessen Ermordung dann wenig später doch als „bedauerlich“ bezeichnete.
  • Victor Orbán fühlt sich von ausländischen NGOs terrorisiert, wenn er sie als seiner Regierung gegenüber zu kritisch betrachtet.
  • Der – immer noch halbwegs legal gewählte – türkische Präsident Erdogan möchte am liebsten alle kurdischen Organisationen sowie sämtliche vermeintlichen Gülen-Anhänger in Bausch und Bogen als terroristisch abqualifizieren und damit international isolieren.
  • Und der spanische Ministerpräsident Mariano Rajoy hatte die katalanische separatistische Regierung zu Terroristen erklärt, auch wenn diese zu gewalttätigen Aktionen weder aufgerufen hat, noch es wesentlich zu solchen gekommen war.

In manchen dieser Beispielen haben ausländische Regierungen oder Gerichte widersprochen, nachdem das dahinter stehende innenpolitische Kalkül allzu offensichtlich war. In anderen Fällen ist es schwieriger, vor allem wenn die klassifizierende Regierung sehr mächtig ist. Hier kann es wirtschaftlich schmerzhaft werden, sich eine integre Haltung zu wahren.

 

Was also tun?

 

1. Notice-and-takedown flott machen

Vergessen wir mal eben das Bild eines klassischen Richters. Denn für das Löschen von Terror-Inhalten braucht es ein rasch funktionierendes Rechtssystem – was zur Zeit noch ein Widerspruch in sich ist. Notice-and-takedown kann nur dann gegen die (zurecht geächteten) Uploadfilter bestehen, wenn es in angemessener Zeit reagiert. Nicht innerhalb einer Stunde, aber in 24 oder 48 Stunden.

Nicht die bitterarmen Content-Moderator*innen der Konzerne können für die Entscheidung letztlich verantwortlich zeichnen, weil diese bekanntlich – sicher ist sicher – zu Overblocking neigen. Sondern es müssen Richter*innen sein, die nach einem global anerkannten Verfahren vorgehen. Es wird also einen neuen, agilen Typus von Richter*innen geben müssen, vielleicht sogar Menschen, die diese Arbeit – wie bei Wikipedia – ehrenamtlich machen.

2. Ein intelligentes nutzergeneriertes Warnsystem

Terror kann in sehr kurzer Zeit seine verstörende oder zu Gewalt mobilisierende Wirkung entfalten. Um die Uptime von Terrorinhalten wirksam zu verkürzen, kann ein halbwegs intelligentes Ratingsystem durch Nutzer installiert werden. Es kann auf die Reputation der meldenden Person eingehen, um gezieltem Missbrauch vorzubeugen. Es kann zweifelhaften Content als Verdachtsfall einstufen und mit einer Vorwarnung versehen.

Das System kann auch Widerspruch registrieren, wenn andere User sagen: Nein, hier handelt es sich um legitimes Material. Dann können die Inhalte bis auf Weiteres als umstrittener Fall eingestuft werden. (Ähnliche Mechanismen sind übrigens für Pornografie denkbar, über die wir an anderer Stelle sprechen.)

3. Overblocking bestrafen

Die Unterdrückung der Meinungsfreiheit ist kein Kavaliersdelikt, sondern ein gefährlicher Anschlag auf die demokratische Zivilgesellschaft. Der – möglichweise gut gemeinte – Missbrauch des Zensursystems durch Einzelpersonen, Organisationen oder Regierungen muss sanktioniert werden. Und zwar um so schärfer, je eindeutiger ein missbräuchliches politisches Interesse ist. Das könnte von einer Verwarnung über Kontosperrungen bis hin zu Haftstrafen oder einer Anklage durch eine internationale Gerichtsbarkeit gehen.

4. Terror und Terroristische Inhalte klar definieren

Wir brauchen eine belastbare und eindeutige Definition der Begriffe „Terror“ und „terroristische Inhalte“, um legitime Löschungen von politisch motiviertem Amtsmissbrauch klar trennen zu können.

 

Es gibt natürlich bereits Definitionen von Terrorismus und „Terrorist Content“

 

Von Seiten der EU-Kommision etwa diese:

 

Für die Zwecke dieser Verordnung bezeichnet der Ausdruck (…)
„terroristische Inhalte“ eine oder mehrere der folgenden Informationen:
(a)  der Aufruf zu oder die Befürwortung von terroristischen Straftaten, auch durch ihre Verherrlichung, mit der damit einhergehenden Gefahr, dass solche Taten begangen werden könnten;
(b)  die Ermutigung, an terroristischen Straftaten mitzuwirken;
(c)  die Förderung der Aktivitäten einer terroristischen Vereinigung, insbesondere durch Ermutigung zur Beteiligung an oder Unterstützung einer terroristischen Vereinigung im Sinne des Artikels 2 Absatz 3 der Richtlinie (EU) 2017/541;
(d)  technische Anleitungen oder Methoden für das Begehen terroristischer Straftaten;

 

Was aber genau unter Terror zu verstehen ist, gar nicht so einfach zu definieren. Gemäß einer UN-Resolution müste Gewalt oder Gewaltandrohung in jedem Fall im Spiel sein. Und die EU hat es in Rahmenbeschluss des Rates vom 13. Juni 2002 zur Terrorismusbekämpfung wie folgt definiert:

 

Artikel 1 – Terroristische Straftaten sowie Grundrechte und Rechts- grundsätze

(1) Jeder Mitgliedstaat trifft die erforderlichen Maßnahmen, um sicherzustellen, dass die unter den Buchstaben a) bis i) auf- geführten, nach den einzelstaatlichen Rechtsvorschriften als Straftaten definierten vorsätzlichen Handlungen, die durch die Art ihrer Begehung oder den jeweiligen Kontext ein Land oder eine internationale Organisation ernsthaft schädigen können, als terroristische Straftaten eingestuft werden, wenn sie mit dem Ziel begangen werden,

– die Bevölkerung auf schwer wiegende Weise einzuschüchtern oder

– öffentliche Stellen oder eine internationale Organisation rechtswidrig zu einem Tun oder Unterlassen zu zwingen oder

– die politischen, verfassungsrechtlichen, wirtschaftlichen oder sozialen Grundstrukturen eines Landes oder einer internationalen Organisation ernsthaft zu destabilisieren oder zu zerstören:

a) Angriffe auf das Leben einer Person, die zum Tode führen können;
b) Angriffe auf die körperliche Unversehrtheit einer Person;
c) Entführung oder Geiselnahme;
d) schwer wiegende Zerstörungen an einer Regierungsein- richtung oder einer öffentlichen Einrichtung, einem Ver- kehrsmittel, einer Infrastruktur einschließlich eines Infor- matiksystems, einer festen Plattform, die sich auf dem Festlandsockel befindet, einem allgemein zugänglichen Ort oder einem Privateigentum, die Menschenleben gefährdenoderzuerheblichenwirtschaftlichenVerlusten führen können;
e) Kapern von Luft- und Wasserfahrzeugen oder von ande- ren öffentlichen Verkehrsmitteln oder Gütertransport- mitteln;
f) Herstellung, Besitz, Erwerb, Beförderung oder Bereitstel- lung oder Verwendung von Schusswaffen, Sprengstoffen, atomaren, biologischen und chemischen Waffen sowie die Forschung und Entwicklung im Zusammenhang mit biologischen und chemischen Waffen;
g) Freisetzung gefährlicher Stoffe oder Herbeiführen von Bränden, Überschwemmungen oder Explosionen, wenn dadurch das Leben von Menschen gefährdet wird;
h) Störung oder Unterbrechung der Versorgung mit Was- ser, Strom oder anderen lebenswichtigen natürlichen Ressourcen, wenn dadurch das Leben von Menschen gefährdet wird;
i) Drohung, eine der in a) bis h) genannten Straftaten zu begehen.

 

Einen solchen Katalog – neben profundem Sachwissen – müsste nun jeder Contentmoderator, jede Richterin und Entschiederin verinnerlicht haben, um die Frage nach terroristischen oder nicht-terroristischen Inhalten rechtssicher und gerecht zu beantworten. Uploadfilter schaffen so etwas nicht. Wie es aussieht, ist hier – grade auch unter Politikern – noch ein Stück Bildungsabreit zu leisten.

 

Noch weiter gedacht: Brauchen wir einen besseren Pressecodex?

 

Nicht nur die sozialen Netzwerke, auch die Presse und ihr Widerhall in den Netzwerken bilden einen „lebenswichtigen“ Resonanzraum für Terror. Terror richtet sich geradezu nach den Mechanismen der Medien und diese spielen sein Spiel mit, indem sie einfach tun, was sie immer tun: Sensationsgier bedienen. Obwohl wir hier vergleichsweise übersichtliches Terrain betreten, verhindern Effekte der Spieltheorie eine effektivere Selbstkontrolle. So erfüllt die Presse die Erwartungen der Täter.

Ideen hiergegen vorzugehen wären

  • Ein jeweils halbjähriges Moratorium zur vollständigen öffentlichen Nennung und Abbildung der Täter. So würde einer Verklärung mit den üblichen Nachmach-Effekten entgegengewirkt, gleichzeitig bliebe das Vertrauen in die Ermittlungen gewahrt.
  • Eine Realistische Einstufung der Bedrohung statt eines hyperventilierenden Sensationsjournalismus, der sich zum Mittäter macht. Die realen Gefahren von Terror müssten etwa gegen die von multiresistenten Keimen oder Depressionen ins Verhältnis gesetzt werden und sich in der Häufigkeit der Berichterstattung zumindest annähernd widerspiegeln.
  • Eine Regelmäßige Thematisierung des Bias in Disclaimern, wie er seit einiger Zeit auch bei Suizid-Themen verwendet wird.
  • Im Fall von religiösem Fanatismus eine stärkere Thematisierung der leeren Versprechungen (Paradies etc.), mit denen fundamentalistische Ideologen arbeiten.

Ich gebe zu, das klingt naiv. Als ob man sagte: „Korruption abschaffen!“. Und doch sind es genau diese Art Absprachen, zu denen Menschen fähig sind und die Zivilisationen voranbringen. Wenn wir es schaffen, einigermaßen freie, faire und geheime Wahlen abzuhalten, dann sollten wir es langfristig auch schaffen, hier zu lernen: Unsere Presse und Sozialen Netzwerke nicht unwillentlich zum Instrument gemeingefährlicher Schwerverbrecher zu machen.

Machen wir uns nichts vor: Terroristische Straegien würden sich anpassen. Vielleicht würden sie versuchen, in ihren Taten noch spektakulärer und spürbarer zu werden. Doch die Immunisierung der Mediengesellschaft gegen die flatterhaften Erregungskurven des Terrors wäre eine interessante Trendwende.

Wenn es gelänge, den Blick frei und den Terror aus unseren Köpfen zu bekommen, hätten wir viel gewonnen: Neue Prioritäten, eine Demotivation der Täter, eine besser entwickelte Zivilgesellschaft und Raum für die eigentlichen Reflexe, die im Fall von seltenen, tragischen Ereignissen angebracht sind: Strafverfolgung, Prävention und ehrliches Mitgefühl für die Opfer und ihre Angehörigen.

 

//

 

Leseliste:

 

EU’s flawed arguments on terrorist content give big tech more power

<a href=”https://www.techdirt.com/articles/20181212/17531141214/if-youre-worried-about-bad-eu-internet-regulation-just-wait-until-you-see-new-terrorist-regulation.shtml”>https://www.techdirt.com/articles/20181212/17531141214/if-youre-worried-about-bad-eu-internet-regulation-just-wait-until-you-see-new-terrorist-regulation.shtml</a>

<a href=”https://www.theverge.com/2019/3/21/18274201/european-terrorist-content-regulation-extremist-terreg-upload-filter-one-hour-takedown-eu”>https://www.theverge.com/2019/3/21/18274201/european-terrorist-content-regulation-extremist-terreg-upload-filter-one-hour-takedown-eu</a>

<a href=”https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:32017L0541&amp;from=EN”>https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:32017L0541&amp;from=EN</a>

<a href=”https://cdt.org/insight/letter-to-ministers-of-justice-and-home-affairs-on-the-proposed-regulation-on-terrorist-content-online/”>https://cdt.org/insight/letter-to-ministers-of-justice-and-home-affairs-on-the-proposed-regulation-on-terrorist-content-online/</a>

EU Members Push For Private Censorship Of Terrorist Content On The Internet