Im Kreml setzt man offenbar auf gezielte Desinformation: Die Stimmung in westlichen Demokratien soll pro Russland gedreht werden. © Ulf Mauder/dpa
Moskau – Für seine weltweiten Desinformationskampagnen manipuliert Russland nach den Erkenntnissen von Wissenschaftlern auch westliche Chatbots. Mehr als ein Drittel der Antworten von KI-Dialog-Assistenten wie ChatGPT enthielten pro-russische Fake News, wie eine Studie der Organisation NewsGuard ergab. Dahinter steckt den Forschern zufolge das Prawda-Netzwerk in Moskau, das weltweit kremlfreundliche Propaganda verbreitet.
„Eine riesige Menge russischer Propaganda – 3 600 000 Artikel im Jahr 2024 – sind nun in den Ergebnissen westlicher KI-Systeme enthalten und infizieren deren Antworten mit falschen Behauptungen und Propaganda“, schreiben die NewsGuard-Forscherinnen McKenzie Sadeghi und Isis Blachez in einem Bericht.
Für die Studie untersuchte NewsGuard zehn der wichtigsten Anwendungen für Künstliche Intelligenz, darunter ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini und Perplexity. Sie alle gaben die von Prawda verbreiteten Falschinformationen wider.
Prawda manipuliert die Chatbots den Forschern zufolge, indem das Netzwerk die großen Sprachmodelle (Large Language Model, LLM) der KI-Anwendungen, aus denen die Antworten generiert werden, mit seinen Fake News flutet. Diese Methode heißt „LLM Grooming“. Die Studie zeigt, dass die KI-Chatbots nicht nur die im Internet kursierende Desinformation aufgreifen, sondern gezielt beeinflusst werden. In einer separaten Studie warnt das gemeinnützige American Sunlight Project vor der wachsenden Reichweite des Prawda-Netzwerks – auch bekannt als „Portal Kombat“ – und der Gefahr, dass seine pro-russischen Inhalte die Trainingsdaten großer Sprachmodelle überschwemmen.
„Die Fähigkeit des Prawda-Netzwerks, Desinformation in einem solchen Ausmaß zu verbreiten, ist beispiellos, und sein Potenzial, KI-Systeme zu beeinflussen, macht diese Bedrohung noch gefährlicher“, sagt Nina Jankowicz, Geschäftsführerin des American Sunlight Project. „Mit zunehmender Reichweite und Raffinesse der russischen Einflussnahme wird die Integrität der demokratischen Debatte weltweit direkt bedroht.“ Die Gefahr durch russische Desinformation sei besonders groß, weil die USA nichts dagegen unternähmen, warnen Experten. Das Prawda-Netzwerk wurde im April 2022 nach dem Überfall Russlands auf die Ukraine gegründet und seither stetig erweitert. Prawda produziert keine eigenen Inhalte, sondern verwendet Artikel von russischen Staatsmedien oder kremltreuen Influencern, die das Netzwerk über Plattformen wie X und Telegram millionenfach weiter verbreitet.