Mit Russland verbundenes CopyCop nutzt LLMs, um Einflussinhalte in großem Umfang als Waffe einzusetzen

Anfang März 2024 identifizierte die Insikt Group ein bösartiges Einflussnetzwerk namens CopyCop, das geschickt unauthentische Medienkanäle in den USA, Großbritannien und Frankreich ausnutzte. Es wird vermutet, dass dieses Netzwerk von Russland aus betrieben wird und wahrscheinlich mit der russischen Regierung in Verbindung steht. CopyCop nutzte in großem Umfang generative KI, um Inhalte aus legitimen Medienquellen zu plagiieren und zu verändern und so politische Botschaften mit spezifischen Vorurteilen zu verfassen. Dazu gehörten auch Inhalte, die die westliche Politik kritisierten und die russische Sicht auf internationale Themen wie den Ukraine-Konflikt und die Spannungen zwischen Israel und der Hamas unterstützten.

CopyCop: KI als Waffe zur Einflussnahme einsetzen

CopyCop’s operation involves a calculated use of large language models (LLMs) to plagiarize, translate, and edit content from legitimate mainstream media outlets. By employing prompt engineering techniques, the network tailors this content to resonate with specific audiences, injecting political bias that aligns with its strategic objectives. In recent weeks, alongside its AI-generated content, CopyCop has begun to gain traction by posting targeted, human-produced content that engages deeply with its audience.

The content disseminated by CopyCop spans divisive domestic issues, including perspectives on Russia’s military actions in Ukraine presented in a pro-Russian light and critical viewpoints of Israeli military operations in Gaza. It also includes narratives that influence the political landscape in the US, notably by supporting Republican candidates while disparaging House and Senate Democrats, as well as critiquing the Biden administration’s policies.

The infrastructure supporting CopyCop has strong ties to the disinformation outlet DCWeekly, managed by John Mark Dougan, a US citizen who fled to Russia in 2016. The content from CopyCop is also amplified by well-known Russian state-sponsored actors such as Doppelgänger and Portal Kombat. Also, it boosts material from other Russian influence operations like the Foundation to Battle Injustice and InfoRos, suggesting a highly coordinated effort.

Dieser Einsatz generativer KI zur großflächigen Erstellung und Verbreitung von Inhalten stellt diejenigen, die mit der Sicherung der Wahlen betraut sind, vor erhebliche Herausforderungen. Diese ausgeklügelten Narrative sind darauf zugeschnitten, bestimmte politische Gefühle zu schüren. Für öffentliche Amtsträger wird es zunehmend schwieriger, der schnellen Verbreitung dieser falschen Darstellungen wirksam entgegenzuwirken.

Organisationen des öffentlichen Sektors werden dringend gebeten, ihr Bewusstsein für Bedrohungsakteure wie CopyCop und die Risiken, die von KI generierter Desinformation ausgehen, zu schärfen. Auch für seriöse Medien bestehen Risiken, da ihre Inhalte plagiiert und als Waffe eingesetzt werden könnten, um die Darstellung feindlicher Staaten zu unterstützen, was ihrer Glaubwürdigkeit potenziell schaden könnte.

Um die gesamte Analyse zu lesen, klicken Sie hier, um den Bericht als PDF herunterzuladen.