ロシアとつながりのあるCopyCopは、LLMを使用して影響力のあるコンテンツを大規模に武器化しています

2024年3月上旬、Insikt Groupは、米国、英国、フランスの偽メディアを巧みに利用する悪質な影響力ネットワーク「CopyCop」を特定しました。 このネットワークはロシアで運営されていると疑われており、ロシア政府と連携している可能性が高いです。 CopyCopは、ジェネレーティブAIを広範囲に使用して、正当なメディアソースからのコンテンツを盗用および変更し、特定の偏見を持つ政治的メッセージを調整しました。 これには、西側の政策に批判的であり、ウクライナ紛争やイスラエルとハマスの緊張などの国際問題に関するロシアの視点を支持する内容が含まれていた。

CopyCop:影響力のためにAIを武器化する

CopyCopの運営には、大規模言語モデル(LLM)の計算された使用が含まれ、合法的な主流メディアのコンテンツを盗用、翻訳、編集します。 このネットワークは、プロンプトエンジニアリング技術を採用することで、特定の視聴者の共感を呼ぶようにコンテンツを調整し、その戦略的目的に沿った政治的バイアスを注入します。 ここ数週間、CopyCopは、AIが生成したコンテンツに加えて、ターゲットを絞った人間が制作したコンテンツを投稿し、視聴者と深く関わることで注目を集め始めています。

CopyCopが広めた内容は、ウクライナにおけるロシアの軍事行動に関する見解や、親ロシア的な観点から提示されたイスラエルの軍事作戦に対する批判的な視点など、分裂的な国内問題にまたがっている。 また、特に共和党候補者を支持しながら下院と上院の民主党員を軽蔑したり、バイデン政権の政策を批判したりすることで、米国の政治情勢に影響を与える物語も含まれています。

CopyCopを支えるインフラは、2016年にロシアに逃れた米国市民のジョン・マーク・ドーガン氏が運営する偽情報メディアDCWeeklyと強いつながりがある。 CopyCopのコンテンツは、 DoppelgängerやPortal Kombatなどの有名なロシアの国家支援のアクター によっても増幅されています。 また、Foundation to Battle Injusticeや InfoRosなど、他のロシアの影響工作からの資料も後押ししており、高度に組織化された取り組みを示唆している。

このようにジェネレーティブAIを使用してコンテンツを大規模に作成および配布することは、選挙の保護を任務とする人々に大きな課題をもたらします。 特定の政治的感情をかき立てるように仕立てられた洗練された言説は、公務員がこれらの虚偽の言説の急速な拡散に効果的に対抗することをますます困難にしている。

公共部門の組織は、CopyCopのような脅威アクターと 、AIが生成した偽情報によってもたらされるリスクについての認識を高めることが求められています。 また、合法的なメディアは、そのコンテンツが盗用され、敵対的な国家の言説を支持するために武器化され、信頼性が損なわれる可能性があるため、リスクに直面しています。

分析全文を読むには、ここをクリックしてレポートをPDF形式でダウンロードしてください。