Der schockierende Trusted-Flagger-Leitfaden des Grünen Klaus Müller: Zensoren sollen „aufspüren“ und „überwachen“

Das Geld lieber in Polizei und Staarsanwaltschaft stecken? Aber, aber. Damit schafft man doch keine Jobs für sein Klientel!

Der schockierende Trusted-Flagger-Leitfaden des Grünen Klaus Müller: Zensoren sollen „aufspüren“ und „überwachen“
Pauline Voss, 11.10.2024

Bislang konnte man nur spekulieren, welche Äußerungen die von der Bundesnetzagentur berufenen Trusted Flagger melden sollen. Nun zeigen Recherchen von NIUS, wie weit die Zensur gehen könnte – und welche Methoden bei der Suche nach „unzulässigen Inhalten“ zum Einsatz kommen sollen.

Die Meldestelle „REspect“ wurde im Oktober von der Bundesnetzagentur als erster Trusted Flagger im Rahmen des Digital Services Act (DSA) zugelassen. „REspect“ soll, so hieß es bisher, Meldungen von Nutzern überprüfen und an die Plattformen weiterleiten, die diese dann prioritär bearbeiten müssen und die Inhalte entfernen können.

Aufspüren und überwachen

Im Mai veröffentlichte die Bundesnetzagentur einen Leitfaden, in dem die Anforderungen an Trusted Flagger festgelegt werden und definiert wird, welche Inhalte diese bei den Plattformen melden sollen. Aus dem Leitfaden geht hervor, dass die Trusted Flagger keineswegs nur Meldungen entgegennehmen und gegebenenfalls an die Plattformen weiterleiten sollen. Vielmehr können die Trusted Flagger auch aktiv auf die Suche nach Inhalten gehen.

Dabei spricht die Regierung im Leitfaden wörtlich davon, dass die Trusted Flagger das Netz „überwachen“ und Inhalte „aufspüren“ sollen. So werden Organisationen, die sich als Trusted Flagger bewerben, im Leitfaden aufgefordert: „Beschreiben Sie, wie Sie die zu überwachenden Inhalte und Plattformen auswählen“. An anderer Stelle heißt es: „Geben Sie gegebenenfalls die Bereiche illegaler Inhalte und die Arten von Online-Plattformen an, die Sie überwacht haben“. Auch geht es um Schulungen, „um Ihr Verständnis für die technischen Werkzeuge und die Überwachung der Plattform zu verbessern“.

Der Leitfaden beschreibt konkret, wie sich die Regierung diese Überwachung vorstellt: So müssen die Organisationen im Bewerbungsprozess nachweisen, über welche „Erfahrungen mit dem Aufspüren, Identifizieren und Melden illegaler Online-Inhalte“ sie verfügen. Sie werden aufgefordert: „Machen Sie ausführliche Angaben zu den Methoden, mit denen illegale Inhalte aufgespürt, identifiziert (und bewertet) und gemeldet werden.“ Weiter heißt es: „Beschreiben Sie kurz die Methoden und Technologien, die zur Erkennung, Identifizierung und Meldung illegaler Inhalte eingesetzt werden (z. B. aktive Inhaltesuche, ggf. unter Zuhilfenahme von KI-Tools, hinweisbasiertes Tätigwerden usw.).“

Die Trusted Flagger sollen also eindeutig nicht nur Meldungen entgegennehmen, sondern, gleich einer Ermittlungsbehörde, das Netz aktiv nach Inhalten durchsuchen, auch mithilfe Künstlicher Intelligenz.

„Digitale Schlägertrupps“

Der Jurist Joachim Steinhöfel sieht den Leitfaden kritisch: „Trusted Flagger (sprich: staatsnahe Denunzianten) sollen nach dem Leitfaden der Bundesnetzagentur ‚aufspüren‘ und ‚überwachen‘. Der Leitfaden ist eine moderne Zersetzungsfibel. Auf den Hinweis des ZEIT-Journalisten Jochen Bittner an Netzagentur-Chef Klaus Müller (Grüne) auf X, seine Äußerungen seien ‚offenkundig verfassungswidrig‘, erwiderte Müller, er ‚nehme das als Ansporn, noch klarer zu werden‘. Braucht es das wirklich? Noch klarer als die Ampel Arm in Arm mit Brüssel hier die Verfassung verletzt, die Gewaltenteilung verhöhnt, digitale Schlägertrupps mit extremistischem Background mit Steuergeldern versieht und die Bürger zum Anschwärzen aufruft, geht es eigentlich gar nicht.“

Steinhöfel bezieht sich dabei auf eine Unterhaltung zwischen dem Journalisten Bittner und Klaus Müller. Müller hatte über die Trusted Flagger unter anderem gesagt: „Illegale Inhalte, Hass und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden.“  Bittner hatte diese Aussage als „offenkundig verfassungswidrig“ kritisiert und bemängelt, der Bundesnetzagentur-Chef lasse im Ungenauen, welche Inhalte von den Trusted Flaggern gemeldet würden. Müller kündigte daraufhin an: „Das nehme ich als Ansporn, noch klarer zu werden.“

Der Verfassungsrechtler Volker Boehme-Neßler hält diese Liste für problematisch: „Schon der Begriff ‚unzulässige Inhalte‘ ist verschleiernd, weil es sich nicht um eine rechtliche Kategorie handelt. Wenn man sich die einzelnen ‚unzulässigen Inhalte‘ anschaut, wird es noch absurder. Der Leitfaden ruft dazu auf, alles, was irgendwie unschön ist, zu melden. Das beginnt bei dem Begriff ‚Hassrede‘: Hassrede ist keine rechtliche Kategorie. Hass ist ein Gefühl, das jeder Mensch kennt. Das lässt sich nicht einfach so verbieten. Auch bösartige und hasserfüllte Meinungen sind vom Grundgesetz gedeckt, solange es sich nicht um Beleidigung, Volksverhetzung oder ähnliches handelt.“

Zahlreiche der „unzulässigen Inhalte“ könnten zudem nur spezialisierte Anwälte erkennen, etwa Verstöße gegen das geistige Eigentum wie „Patentverletzungen“, „Verletzungen von Markenrechten“ oder „Rechtsverletzungen bei Sportveranstaltungen“. Auch juristisch relevante „Tierschutzverstöße“ könne man als Laie schwer identifizieren, erklärt Boehme-Neßler. Von den Mitarbeitern eines Trusted Flaggers wird jedoch laut Leitfaden keine juristische Ausbildung verlangt, lediglich „ein ausgezeichnetes Verständnis des geltenden Rechts“, ohne dass dies genauer spezifiziert wird. Es können demnach juristische Laien für Trusted Flagger arbeiten.

„Negative Auswirkungen auf den Diskurs“

Bemerkenswert ist auch eine Passage im Leitfaden, in der „Negative Auswirkungen auf den zivilen Diskurs oder Wahlen“ als „unzulässige Inhalte“ gelistet werden. Boehme-Neßler sagt dazu: „Besonders problematisch ist die Forderung, ‚Informationsmanipulation mit dem Ziel, die Integrität/den Ausgang von Wahlen zu beeinflussen‘ zu einem unzulässigen Inhalt zu erklären. Denn im Wahlkampf beispielsweise ist fast jede Äußerung ein Versuch, den Ausgang von Wahlen zu beeinflussen. Wie will man verhindern, dass hier ganz normale Meinungsäußerungen kriminalisiert werden?“

Auf X kommentiert der Verfassungsrechtler Josef Franz Lindner von der Universität Augsburg: „Trusted Flaggers sollen auch solche Meinungen melden, die eine ‚negative Wirkung auf den zivilen Diskurs‘ haben, heißt es in einem Leitfaden von Klaus Müller. Darunter kann man jede missliebige Äußerung fassen. Das ist krass rechtswidrig und der Einstieg in ein staatliches Zensursystem.“

Außerdem fällt auf, dass die Bundesnetzagentur das Feld der „unzulässigen Inhalte“ ins Beliebige ausweitet, indem sie jeder Kategorie den Punkt „Andere“ hinzufügt. Boeme-Neßler zieht ein kritisches Fazit: „Der Bundesnetzagentur geht es offensichtlich nicht darum, strafbare Inhalte zu entdecken. Sie lässt vielmehr nach unmoralischen, ungesunden, unsauberen Inhalten suchen, die gemeldet und entfernt werden sollen. Doch wir müssen uns entscheiden: Entweder leben wir in einer freien Gesellschaft, wie es das Grundgesetz vorsieht, oder in einer klinisch sauberen Gesellschaft. Laien, die in den Dienst der Sauberkeit gestellt werden, sind jedoch hochgefährlich – gerade in Deutschland.“

Auch Lindner kritisiert den Leitfaden gegenüber NIUS: „Klaus Müller behauptet, dass er lediglich die Vorgaben des DSA umsetze und damit EU-Recht vollziehe. Der DSA aber regelt, dass vom Meldesystem der Trusted Flagger nur rechtswidrige Inhalte erfasst werden. Legale Inhalte dürfen laut DSA nicht entfernt und damit auch nicht gemeldet werden. Der Leitfaden belegt nun, was man bislang nur vermuten konnte: Dass die Bundesnetzagentur bei der Umsetzung des DSA über das Ziel hinausschießt und auch die Meldung rechtmäßiger Inhalte ermöglichen will. Zahlreiche der im Leitfaden genannten ‚unzulässigen Inhalte‘ bezeichnen keinen Straftatbestand, etwa ‚Hassrede‘, ‚Diskriminierung‘ oder ‚negative Auswirkungen auf den zivilen Diskurs‘. Solche Inhalte sind nicht per se rechtswidrig. Der Leitfaden ist mit den EU-Vorgaben darum nicht vereinbar.“

Die Bundesnetzagentur äußerte sich bis Redaktionsschluss nicht dazu, wer an der Bearbeitung des Leitfadens beteiligt war und auf welcher juristischen Basis dieser beruht. Boehme-Neßler gibt für die Zukunft zu Bedenken: „Wenn man eine organisatorische Struktur schafft, dann vergrößert sich diese automatisch mit der Zeit. Das wird bei den Trusted Flaggern aller Voraussicht nach auch geschehen: Es wird ein Wettbewerb unter den Trusted Flaggern und auch unter den Mitarbeitern entstehen, wer am meisten Inhalte flaggt. Der Staat schafft eine Parallelstruktur zur Justiz und setzt Anreize, möglichst viel zu melden.“

Schon heute gilt: Die Bundesnetzagentur hat, unter Federführung der Grünen, einen Apparat zu Überwachung der freien Rede im Netz geschaffen. Aktivistische Organisationen werden ermächtigt, das Netz aktiv nach Inhalten zu durchsuchen, die noch nicht einmal strafbar sind, und bei den Plattformen auf deren Entfernung zu drängen. Die Meinungsfreiheit ist dadurch ernsthaft bedroht.

Lesen Sie zu diesem Thema auch:

• 11 weitere Organisationen wollen auch Trusted Flagger werden – Doch die Regierung kennt nicht einmal die Verurteilungsquote von „REspect“
• Auf den Trusted Flagger folgt die außergerichtliche Streitbeilegungsstelle: Diese linken Klima-Aktivisten sind die zweite Instanz der neuen Zensur
• „Trusted Flagger“-Skandal: Jetzt verheddert sich Klaus Müller komplett in seinen eigenen Fake News
• So viel Staat und Geheimdienst stecken in der neuen Zensur
• Direktor von Trusted Flagger „REspect“: Das ist der Islamgelehrte Ahmed Gaafar, Deutschlands oberster Zensor