Alle Artikel

Eigensicherung im Informationsraum

Eigensicherung im Informationsraum

TL;DR: Die wichtigsten Punkte

Die drei A: So schützen Sie sich

  • Anhalten. Starkes Gefühl oder Zeitdruck? Genau dann kurz innehalten. Hilft gegen Empörungsposts, Schockanrufe und Eilaufträge vom „Chef“.

  • Abgleichen. Über einen eigenen Weg prüfen: andere Quelle, selbst zurückrufen, Codewort. Nie über den Kanal, den der Absender vorgibt. Hilft gegen Fake-Artikel im Medienlook, geklonte Stimmen und Phishing.

  • Abwarten. Im Zweifel nicht interagieren. Nicht weiterleiten und nicht öffentlich widersprechen. Hilft gegen Kettennachrichten, Gerüchte nach Einsätzen und Fake-Kampagnen.

Die wichtigsten Hintergründe

  • Desinformation ist ein Werkzeug politischer Einflussnahme. Sie will nicht, dass wir eine bestimmte Lüge glauben. Sie will, dass wir einander nicht mehr vertrauen.

  • Drei Techniken tauchen immer wieder auf: Fälschen (echte Medien nachbauen), Erfinden (Zeugen und Videos bauen) und Überfluten (Faktenchecker mit Masse lahmlegen).

  • KI macht alle drei billiger. 61 % der Deutschen sind schon auf Deepfakes gestoßen, aber KI-Gesichter erkennen wir nicht besser als durch Raten.

  • Einsatzkräfte sind dreifach betroffen: als Ziel, weil sie für den Staat stehen, als diejenigen, die die Folgen auf der Straße tragen, und vor Gericht, wenn echte Beweise als „KI“ abgetan werden.

  • Desinformation zielt auf schnelles, emotionales Denken. Die drei A schalten das langsame, prüfende Denken ein.

Vollständige Hintergründe

Dieser Beitrag fasst meinen Vortrag „Eigensicherung im Informationsraum“ beim 20. Internationalen Bundesseminar Polizei & Behörden 2026 zusammen. Er ist zum Nachlesen gedacht und darf gern an Kolleginnen und Kollegen weitergegeben werden. Alle Quellen stehen am Ende.

Beispiele veralten, Muster bleiben

Man könnte stundenlang gefälschte Artikel raten. Nächstes Jahr sehen die Fälschungen aber anders aus. Wer nur Beispiele kennt, fühlt sich schnell sicher, wo er es nicht ist. Deshalb geht es hier vor allem um die Muster dahinter. Die ändern sich deutlich langsamer.

Worum es geht: die Pyramide der Desinformation

  • Ziel: politische Einflussnahme ohne offene Kriegshandlung. Sicherheitsbehörden sprechen von hybriden Bedrohungen.

  • Mittel: Vertrauen zerstören und gesellschaftliche Bruchstellen nutzen.

  • Inhalte: Texte, Bilder und Stimmen zu dem, was gerade bewegt, etwa Wahlen, Sanktionen oder die Ukraine-Hilfe.

Wie offen das geplant wird, zeigen interne Unterlagen der Moskauer Social Design Agency. Sie steht hinter der Kampagne „Doppelgänger“. US-Behörden haben die Dokumente 2024 öffentlich gemacht. Darin heißt es:

„In erster Linie müssen wir die USA, Großbritannien und die NATO diskreditieren.“

Geplant waren 60.000 Kommentare pro Monat, allein für Deutschland und Frankreich. Das ist kein Meinungsbeitrag. Das ist ein Auftrag.

Wie es gemacht wird: Fälschen, Erfinden, Überfluten

Fälschen: Doppelgänger

Echte Nachrichtenseiten werden nachgebaut und mit falschen Artikeln gefüllt. Logo, Layout und Schrift stimmen. Nur die Adresse stimmt nicht.

In einer eigenen Auswertung von über 15.000 Doppelgänger-Artikeln an der Hochschule Albstadt-Sigmaringen haben wir eine fast immer gleiche Dramaturgie gefunden. Erst kommt das Leid („Bürger frieren und verarmen“), dann der Verrat („Die Regierung dient fremden Interessen“), dann die Verschwendung („Milliarden ohne Gegenleistung“). Am Ende steht das Staatsversagen („Der Staat ist unfähig und illegitim“). Jeder Schritt spricht einen moralischen Grundwert an, der als verletzt dargestellt wird.

Erfinden: Storm-1516

Hier wird keine Marke kopiert, sondern eine Geschichte gebaut: angebliche Zeugen, gefälschte Videos, Scheinseiten. Vor den Landtagswahlen in Berlin und Mecklenburg-Vorpommern im September 2026 kursierten Videos von angeblich vernichteten AfD-Briefwahlstimmen und von Stimmzetteln ohne AfD. Beides war gefälscht. Die Landeswahlleitung in Mecklenburg-Vorpommern hat klargestellt, dass die AfD auf den echten Stimmzetteln stand. Fachleute sehen deutliche Parallelen zu Storm-1516. Diese Kampagne hat die Bundesregierung im Dezember 2025 Russland zugeordnet.

Von Parteien kann jeder halten, was er will. Eine Partei von der Wahl auszuschließen, geht aber nicht. Genau diesen Eindruck sollen solche Videos erwecken. Und genau solche Videos können Menschen vor Wahllokale treiben.

Überfluten: Operation Overload

Bei Operation Overload, auch Matrjoschka genannt, werden Fake-Videos mit echten Medienlogos und KI-Stimmen gebaut. Dann werden sie gezielt per Mail an Faktenchecker geschickt, mit der Bitte um Prüfung. Jede Prüfung kostet Stunden, die woanders fehlen. Vor den Landtagswahlen 2026 wurden so 53 Politikerinnen und Politiker diskreditiert. Die echte Reichweite war laut CeMAS eher gering. Der Aufwand für die Prüfer war dagegen hoch.

Das Prinzip dahinter: Brandolinis Gesetz

Unsinn zu widerlegen kostet viel mehr Aufwand, als ihn zu erzeugen.

Alberto Brandolini hat das 2013 formuliert. Damals musste den Unsinn noch jemand selbst schreiben.

Was KI verändert

Das Video „Will Smith isst Spaghetti“ von 2023 war unfreiwillig komisch. Im Bild ist sogar ein halbes Shutterstock-Wasserzeichen zu sehen, das die KI aus ihren Trainingsdaten mitgelernt hat. Im Februar 2026 ist dieselbe Szene kaum noch von echt zu unterscheiden. Dass KI gut geworden ist, wissen die meisten. Die spannendere Frage ist, ob wir es auch erkennen.

  • 61 % der Deutschen sind laut Bitkom schon auf Deepfakes gestoßen.

  • 63 % fällt es schwer, Nachrichten auf ihre Verlässlichkeit zu prüfen.

  • In einer Studie von 2022 lagen Menschen bei echten und KI-Gesichtern nur in 48 % der Fälle richtig, also nicht besser als beim Raten. Die KI-Gesichter wirkten sogar vertrauenswürdiger. Die Modelle sind seitdem deutlich besser geworden.

Selbst ausprobieren: Auf whichfaceisreal.com der University of Washington sehen Sie zwei Gesichter. Nur eines davon ist echt.

KI als Brandbeschleuniger

KI erfindet keine neue Technik. Sie macht die bekannten drei billiger und schneller. Gesichter und Stimmen sind in Minuten kopiert. Glaubwürdige Texte entstehen in jeder Sprache. Masseninhalte werden inzwischen sogar gezielt für Chatbots produziert. Und ein früher verlässliches Warnsignal fällt weg: schlechtes Deutsch.

Ein aktueller Fall: 95 Millionen Euro

Im September 2026 bekam der damalige Vorsitzende der Fideuram, der Privatbank von Intesa Sanpaolo, eine WhatsApp. Angeblich kam sie vom Chef des Mutterkonzerns. Danach rief ein angeblicher Anwalt an, mit einer per KI geklonten Stimme. Es folgten Überweisungen von 95 Millionen Euro nach Asien. 53 Millionen konnten zurückgeholt werden, der Rest wurde in Kryptowährung umgetauscht.

Zwei Kanäle haben sich gegenseitig bestätigt. Beide waren gefälscht.

Wohin die Entwicklung geht

  • Personalisierung: tausend Varianten statt einer Lüge für alle.

  • Echtzeit: gefälschte Stimme und gefälschtes Gesicht live im Anruf.

  • Automatisierung: KI-Profile, die über Monate Vertrauen aufbauen.

  • Spekulativ: AGI, also eine KI, die alles kann, was ein Mensch kann. Ob und wann das kommt, ist offen. Für Fälschungen reicht schon, was es heute gibt.

Warum das Einsatzkräfte betrifft

1. Sie sind Ziel

Weil Sie für den Staat stehen. Im Sommer 2026 hat Operation Overload gefälschte Zitate der Berliner Polizeipräsidentin in Videos eingebaut, dazu Logos deutscher Regierungsstellen. 2025 hat jemand mit einer KI-Stimme von US-Außenminister Marco Rubio über Signal mehrere Außenminister, einen Gouverneur und ein Kongressmitglied kontaktiert. Und jedes öffentliche Foto in Uniform ist Rohmaterial für die nächste Fälschung.

2. Sie tragen die Folgen

Nach dem Messerangriff auf eine Kindertanzgruppe in Southport im Juli 2024 verbreitete sich online ein falscher Name samt erfundener Herkunft: Der Täter sei ein muslimischer Asylbewerber. Tatsächlich war er in Wales geboren. Es folgten Ausschreitungen vor einer Moschee und Unruhen in weiteren Städten. Laut BBC wurden dabei rund 100 Polizistinnen und Polizisten verletzt. Desinformation endet nicht im Netz, sondern oft im Einsatz.

3. Echtes wird angezweifelt

Je besser Fälschungen werden, desto leichter lassen sich echte Beweise anzweifeln. Das nennt sich Liar's Dividend. Stellen Sie sich eine echte Bodycam-Aufnahme vor Gericht vor, und die Verteidigung sagt: „Das ist doch KI.“ In den USA ist genau das schon passiert. Tesla argumentierte 2023 vor Gericht, ein Interview mit Elon Musk könne ein Deepfake sein. Das Gericht ließ das nicht gelten.

Warum es wirkt

Ein kleiner Test: Schläger und Ball kosten zusammen 1,10 €. Der Schläger kostet 1 € mehr als der Ball. Was kostet der Ball? Die meisten sagen spontan 10 Cent. Richtig sind 5 Cent.

Daniel Kahneman beschreibt zwei Denksysteme. System 1 ist schnell, automatisch und emotional. System 2 ist langsam, anstrengend und prüfend. Desinformation zielt auf System 1 und nutzt dafür drei Tricks:

  • Emotion und Zeitdruck: Wut, Angst und Eile schalten das Prüfen ab. Jedes moralisch-emotionale Wort erhöht die Verbreitung eines Posts um rund 20 %.

  • Autorität und Bestätigung: Ein Logo, ein bekanntes Gesicht, die passende Meinung. Dann prüfen wir nicht mehr.

  • Wiederholung und Masse: Was wir oft sehen, fühlt sich wahr an. Sogar dann, wenn wir es eigentlich besser wissen.

Die drei A

Anhalten

Starkes Gefühl? Zeitdruck? Genau dann kurz innehalten und das prüfende Denken einschalten. Wer drängt, will verhindern, dass geprüft wird.

Ein Beispiel: 2024 überwies ein Mitarbeiter des Ingenieurkonzerns Arup in Hongkong nach einer Videokonferenz rund 25 Millionen US-Dollar. Finanzchef und Kollegen in der Konferenz waren Deepfakes.

Hilft gegen: Empörungsposts, Schockanrufe, Eilaufträge vom „Chef“.

Abgleichen

Nicht tiefer in denselben Inhalt schauen, sondern woanders prüfen. Und zwar über einen eigenen Weg, nie über den Kanal, den der Absender vorgibt. Andere Quelle, auflegen und selbst die bekannte Nummer wählen.

Tipp für zu Hause: Vereinbaren Sie mit Ihrer Familie ein Codewort. Wer es am Telefon nicht kennt, bekommt nichts.

Hilft gegen: Fake-Artikel im Medienlook, geklonte Stimmen, Phishing.

Abwarten

Im Zweifel nicht interagieren. Nicht weiterleiten und nicht öffentlich widersprechen, denn auch Widerspruch hält einen Beitrag im Umlauf. Im Familienchat dürfen Sie natürlich nachfragen. Schon die Frage „Ist das wahr?“ vor dem Teilen verbessert messbar, was Menschen weitergeben. Und was Einsatzkräfte teilen, wirkt durch ihre Rolle besonders glaubwürdig.

Hilft gegen: Kettennachrichten, Gerüchte nach Einsätzen, Fake-Kampagnen.

Wenn Sie selbst Ziel eines Deepfakes werden

  1. Beweise sichern: Screenshots mit Adresse, Datum und Profilname. Ein Link allein reicht nicht, er ist schnell gelöscht.

  2. Dienstlich melden: Vorgesetzte informieren, bei Dienstbezug auch die Pressestelle.

  3. Bei der Plattform melden: Nach dem Digital Services Act müssen Plattformen Meldungen bearbeiten.

  4. Anzeige prüfen: etwa wegen Verletzung des Rechts am eigenen Bild, Beleidigung oder Verleumdung.

  5. Beratung holen: zum Beispiel bei HateAid.

  6. Nicht öffentlich reagieren, aber Familie und Kollegen vorwarnen.

  7. Bei Doxxing: an eine Auskunftssperre im Melderegister denken.

Ich bin kein Jurist. Im Einzelfall helfen Ihre Rechtsabteilung oder eine Beratungsstelle weiter.

Weitere Tipps für den Alltag

  • Fotos in Uniform und Hinweise auf die Dienststelle sparsam teilen.

  • Private Profile auf „privat“ stellen und Freundeslisten verbergen.

  • Zwei-Faktor-Anmeldung für alle wichtigen Konten einschalten.

  • Videos und Sprachnachrichten mit Ihrer Stimme nicht öffentlich posten. Schon kurze Aufnahmen reichen heute für einen Stimmklon.

  • Desinformation mit Dienstbezug an die Pressestelle melden, statt sie selbst zu kommentieren.

Zum Schluss

Desinformation will nicht, dass wir eine bestimmte Lüge glauben. Sie will, dass wir einander nicht mehr glauben. Offizielle Stellen sehen die großen Kampagnen. Was in Ihrem Dienstchat oder im Familienchat ankommt, sehen nur Sie. Jeder trägt einen Teil.

Anhalten. Abgleichen. Abwarten.

Dieser Beitrag ist mit KI-Unterstützung entstanden und wurde von mir geprüft.

Quellen

Warum

Wie

KI

Einsatzrisiko

Wirkung und Schutz