ロシアとつながりのあるCopyCopは、LLMを使用して影響力のあるコンテンツを大規模に武器化しています

2024年3月上旬、Insikt Groupは、米国、英国、フランスの偽メディアを巧みに利用する悪質な影響力ネットワーク「CopyCop」を特定しました。 このネットワークはロシアで運営されていると疑われており、ロシア政府と連携している可能性が高いです。 CopyCopは、ジェネレーティブAIを広範囲に使用して、正当なメディアソースからのコンテンツを盗用および変更し、特定の偏見を持つ政治的メッセージを調整しました。 これには、西側の政策に批判的であり、ウクライナ紛争やイスラエルとハマスの緊張などの国際問題に関するロシアの視点を支持する内容が含まれていた。

CopyCop:影響力のためにAIを武器化する

CopyCop’s operation involves a calculated use of large language models (LLMs) to plagiarize, translate, and edit content from legitimate mainstream media outlets. By employing prompt engineering techniques, the network tailors this content to resonate with specific audiences, injecting political bias that aligns with its strategic objectives. In recent weeks, alongside its AI-generated content, CopyCop has begun to gain traction by posting targeted, human-produced content that engages deeply with its audience.

The content disseminated by CopyCop spans divisive domestic issues, including perspectives on Russia’s military actions in Ukraine presented in a pro-Russian light and critical viewpoints of Israeli military operations in Gaza. It also includes narratives that influence the political landscape in the US, notably by supporting Republican candidates while disparaging House and Senate Democrats, as well as critiquing the Biden administration’s policies.

The infrastructure supporting CopyCop has strong ties to the disinformation outlet DCWeekly, managed by John Mark Dougan, a US citizen who fled to Russia in 2016. The content from CopyCop is also amplified by well-known Russian state-sponsored actors such as Doppelgänger and Portal Kombat. Also, it boosts material from other Russian influence operations like the Foundation to Battle Injustice and InfoRos, suggesting a highly coordinated effort.

このようにジェネレーティブAIを使用してコンテンツを大規模に作成および配布することは、選挙の保護を任務とする人々に大きな課題をもたらします。 特定の政治的感情をかき立てるように仕立てられた洗練された言説は、公務員がこれらの虚偽の言説の急速な拡散に効果的に対抗することをますます困難にしている。

公共部門の組織は、CopyCopのような脅威アクターと 、AIが生成した偽情報によってもたらされるリスクについての認識を高めることが求められています。 また、合法的なメディアは、そのコンテンツが盗用され、敵対的な国家の言説を支持するために武器化され、信頼性が損なわれる可能性があるため、リスクに直面しています。

分析全文を読むには、ここをクリックしてレポートをPDF形式でダウンロードしてください。