Wie die Epstein-Akten ein Pro-Trump-KI-Botnetz auf X zum Einsturz brachten
Einflusskampagnen mit großen Sprachmodellen können scheitern, wenn sie plötzlich gegenteilige Narrative wiedergeben
Im Vorfeld der US-Wahl 2024 teilte ein Netzwerk aus Hunderten von Bots auf X (vormals Twitter) Beiträge, die Misstrauen gegenüber Kamala Harris schürten und Republikaner zur Unterstützung Donald Trumps aufriefen. Nach Trumps Wahlsieg lobten die Bots Mitglieder seiner neuen Regierung. Darunter Gesundheitsminister Robert F. Kennedy Jr. und Pressesprecherin Karoline Leavitt.
Einsatz von „PromptPasta“: Neue Form der Desinformation
Ein MAGA-Beeinflussungsnetzwerk aus gefälschten Social-Media-Konten ist nicht ungewöhnlich. Doch dieses Netzwerk unterschied sich entscheidend: Es nutzte KI – große Sprachmodelle (LLMs) – zur Generierung der Inhalte. Das machte es effizienter und schwerer erkennbar, führte aber auch zu unvorhersehbaren Problemen. Als Trumps Umgang mit geheimen Epstein-Akten öffentlich kritisiert wurde, spalteten sich die Bots: Einige griffen Trump und Justizministerin Pam Bondi an, andere verteidigten sie.
Laut einem Bericht des Analyseunternehmens Alethea identifizierte dessen KI-Plattform Artemis mindestens 400 gefälschte X-Profile in der Kampagne. Diese verwendeten sogenanntes „PromptPasta“: Statt identischer Beiträge („Copypasta“) generierten die LLMs variierte, nuancierte Antworten auf denselben Prompt. Dadurch waren die Beiträge schwerer als automatisiert erkennbar. Das Netzwerk zeige laut Alethea, „wie generative KI die Hürde für komplexe Einflussoperationen senkt“. Die Hintermänner bleiben bislang unbekannt.
„Wir vermuten, dass dieses Netzwerk noch größer ist als bisher erfasst, und andere Akteure bereits ähnliche Methoden nutzen“, erklärt C. Shawn Eib, Ermittlungsleiter bei Alethea. Geschäftsführerin Lisa Kaplan kritisiert die Plattformen, die ihre eigenen Anti-Spam-Richtlinien nicht durchsetzen. LLMs seien lediglich ein neues Werkzeug für massenhafte Inhaltserstellung.
2022 hatte Elon Musk – damals im Streit um die Übernahme von Twitter – behauptet, die Plattform sei mit Bots überflutet. Nach dem erzwungenen Kauf versprach er, diese zu entfernen. Drei Jahre und eine chaotische Umbenennung später ist X diesem Versprechen offenbar nicht nachgekommen.
KI-Bots geraten außer Kontrolle
Zunächst agierten die PromptPasta-Bots einheitlich. Sie reagierten auf Beiträge von Medien und Influencern (nie untereinander), beschuldigten Harris, von „Big Pharma“ beeinflusst zu sein oder kritisierten ihre Unterstützung für Israels Angriffe auf Gaza. Andere Accounts waren klar MAGA-codiert, mit Botschaften wie „Ich bin stolzer Republikaner aus Arizona“.
Auch wenn erste Fehlfunktionen auftraten – etwa bei Beiträgen zur SAVE Act, die fälschlich als Gesetz zu Transgender-Athleten interpretiert wurden – blieben die Bots ideologisch Trump-treu. Sie lobten Leavitts „Ehrlichkeit“ und unterstützten Anti-Impf-Positionen und Kennedys Kampagne „Make America Healthy Again“.
Doch Widersprüche ließen sich nicht vermeiden. Als Rachel Maddow im Januar ankündigte, ihre MSNBC-Sendung fünfmal wöchentlich zu moderieren, reagierten die Bots widersprüchlich: Einige warfen ihr Propaganda vor, andere lobten sie. Teilweise äußerte sich ein und derselbe Account widersprüchlich – sogar in direkt aufeinanderfolgenden Antworten.
Epstein-Memo sorgt für Spaltung im Netzwerk
Besonders auffällig wurde das Chaos nach einem Memo von Justizministerium und FBI im Juli. Es stellte klar, dass keine Epstein-„Kundenliste“ existiere – im Widerspruch zu Aussagen von Bondi – und keine weiteren Offenlegungen erfolgen würden. Rund 140 Bots, die zuvor Transparenz forderten und Trump, Bondi sowie FBI-Direktor Kash Patel lobten, spalteten sich nun. Einige verteidigten weiterhin Trump, andere warfen ihm Vertuschung vor – inklusive Theorien, Epstein sei CIA- oder Mossad-Agent gewesen.
Alethea erklärt: „Diese Inkonsistenz zeigt die reflektierende Natur KI-basierter Automatisierung, die sich eher an allgemeinen Medien- und Nachrichtentrends orientiert als an einem festen Skript.“ Das Verhalten spiegelte auch echte Spaltungen in der MAGA-Community wider, die zwischen Loyalität zu Trump und Kritik an seinem Umgang mit dem Epstein-Skandal schwankte.
„Wenn man Bots autonom agieren lässt und sie mit einem sich schnell wandelnden Umfeld konfrontiert, wird Kontrolle schwer“, warnt Vincent Conitzer von der Carnegie Mellon University. Man dürfe aber nicht annehmen, dass jedes Botnetz gleich funktioniere. Die technische Umsetzung sei entscheidend.
Zukunft unklar – Wachsamkeit gefordert
Conitzer betont, dass KI-Systeme immer leistungsfähiger würden: „Wir werden mehr solcher Versuche sehen. Und wir müssen alle sehr genau hinschauen, wem und was wir online vertrauen.“ Plattformen könnten helfen, müssten es aber auch wirklich wollen. Letztlich liege auch eine Verantwortung bei uns allen.
Mindestens 70 der von Alethea identifizierten Bots wurden von X entfernt. Viele andere blieben bestehen, posteten aber nicht mehr. Seit Alethea erste Ergebnisse am 20. Juli veröffentlichte, seien die „kritischen“ Bots verstummt – aber nicht gesperrt worden. Es sei denkbar, dass die Betreiber die Spaltung bemerkten und pausierten, um ihre Strategie zu überdenken. Alethea will das Netzwerk weiterhin beobachten.
Im Internet hört die Erneuerung irreführender Inhalte nie auf – ob als Spam-Mail, Clickbait-Bild oder als KI-generierte politische Antwort. In Zeiten generativer KI ist Skepsis wichtiger denn je: Wurde das wirklich von einem Menschen geschrieben?
