Mit Russland verbundenes CopyCop nutzt LLMs, um Einflussinhalte in großem Umfang als Waffe einzusetzen

Anfang März 2024 identifizierte die Insikt Group ein bösartiges Einflussnetzwerk namens CopyCop, das geschickt unauthentische Medienkanäle in den USA, Großbritannien und Frankreich ausnutzte. Es wird vermutet, dass dieses Netzwerk von Russland aus betrieben wird und wahrscheinlich mit der russischen Regierung in Verbindung steht. CopyCop nutzte in großem Umfang generative KI, um Inhalte aus legitimen Medienquellen zu plagiieren und zu verändern und so politische Botschaften mit spezifischen Vorurteilen zu verfassen. Dazu gehörten auch Inhalte, die die westliche Politik kritisierten und die russische Sicht auf internationale Themen wie den Ukraine-Konflikt und die Spannungen zwischen Israel und der Hamas unterstützten.

CopyCop: KI als Waffe zur Einflussnahme einsetzen

Bei der Funktionsweise von CopyCop kommen gezielt große Sprachmodelle (LLMs) zum Einsatz, um Inhalte legitimer Mainstream-Medien zu plagiieren, zu übersetzen und zu bearbeiten. Durch den Einsatz von Prompt-Engineering-Techniken passt das Netzwerk diese Inhalte so an, dass sie bei bestimmten Zielgruppen Anklang finden, und bringt dabei eine politische Tendenz ein, die mit seinen strategischen Zielen im Einklang steht. In den letzten Wochen hat CopyCop neben seinen KI-generierten Inhalten auch durch die Veröffentlichung gezielter, von Menschen produzierter Inhalte, die eine starke Bindung zu seinem Publikum herstellen, an Boden gewonnen.

Die von CopyCop verbreiteten Inhalte umfassen brisante innenpolitische Themen, darunter Ansichten zu den russischen Militäraktionen in der Ukraine aus prorussischer Perspektive und kritische Betrachtungen zu den israelischen Militäroperationen im Gazastreifen. Es enthält auch Narrative, die die politische Landschaft in den USA beeinflussen, insbesondere durch die Unterstützung republikanischer Kandidaten bei gleichzeitiger Verunglimpfung der Demokraten im Repräsentantenhaus und im Senat sowie durch Kritik an der Politik der Biden-Regierung.

Die Infrastruktur, die CopyCop unterstützt, ist eng mit dem Desinformationsportal DCWeekly verknüpft, das von John Mark Dougan geleitet wird, einem US-Bürger, der 2016 nach Russland geflohen ist. Die Inhalte von CopyCop werden außerdem durch bekannte , vom russischen Staat gesponserte Akteure wie Doppelgänger und Portal Kombat verstärkt. Darüber hinaus wird Material von anderen russischen Einflussoperationen wie der Foundation to Battle Injustice und InfoRos verwendet, was auf eine äußerst koordinierte Aktion schließen lässt.

Dieser Einsatz generativer KI zur großflächigen Erstellung und Verbreitung von Inhalten stellt diejenigen, die mit der Sicherung der Wahlen betraut sind, vor erhebliche Herausforderungen. Diese ausgeklügelten Narrative sind darauf zugeschnitten, bestimmte politische Gefühle zu schüren. Für öffentliche Amtsträger wird es zunehmend schwieriger, der schnellen Verbreitung dieser falschen Darstellungen wirksam entgegenzuwirken.

Organisationen des öffentlichen Sektors werden dringend gebeten, ihr Bewusstsein für Bedrohungsakteure wie CopyCop und die Risiken, die von KI generierter Desinformation ausgehen, zu schärfen. Auch für seriöse Medien bestehen Risiken, da ihre Inhalte plagiiert und als Waffe eingesetzt werden könnten, um die Darstellung feindlicher Staaten zu unterstützen, was ihrer Glaubwürdigkeit potenziell schaden könnte.

Um die gesamte Analyse zu lesen, klicken Sie hier, um den Bericht als PDF herunterzuladen.