ディープフェイクの増加は、選挙、公人、メディアにとって大きな脅威となります。Insikt Groupの最近の調査では、2023年7月から2024年7月の間に38か国の著名人をターゲットにした82件のディープフェイクが拡散されていることが明らかになりました。金銭的利益を目的としたディープフェイク、選挙操作、キャラクター暗殺、非同意ポルノの拡散が増加しています。これらのリスクに対抗するには、組織は迅速に行動し、認識を高め、高度なAI検出ツールを実装する必要があります。

2024年のディープフェイクと政治的偽情報：新たな脅威と緩和戦略

AIによって生成されたディープフェイクの急増は、政治と偽情報の様相を変えています。2023年7月から2024年7月の間に、有名人になりすましたディープフェイクが38か国で表面化し、選挙への干渉、人格の名誉毀損などに関する懸念が高まりました。ここでは、新たな脅威とそれを軽減するための戦略について詳しく説明します。

ディープフェイク使用の主な傾向

38か国で82件のディープフェイクが確認され、そのうち30か国がデータセット期間中に選挙を行うか、2024年に選挙が予定されている国でした。政治家、国家元首、候補者、ジャーナリストが標的にされ、民主的なプロセスを混乱させる可能性が増幅されました。

主な目的

詐欺（26.8%）： ディープフェイクは、選挙中の注目の高まりを利用して金融詐欺を促進するために頻繁に使用されます。カナダのジャスティン・トルドー首相やメキシコのクラウディア・シェインバウム次期大統領のような著名人が、詐欺計画でなりすましの被害に遭いました。

虚偽の陳述（25.6%）：ディープフェイクは、有権者を誤解させるために公人の発言を捏造することがよくあります。例えば、英国のキール・スターマー首相が自党を批判したり、台湾の柯文哲氏が虚偽の告発を行ったりする偽の音声が流出しています。

選挙活動（15.8％）：政党は、有権者の行動に影響を与えるためにディープフェイクを使用することが増えています。トルコのエルドアン大統領は野党党首をテロリスト集団に結びつけるためにディープフェイクを使い、アルゼンチンではミレイ氏対マッサ氏の選挙戦でディープフェイクが見られました。

キャラクター暗殺（10.9％）：フィリピンのフェルディナンド・マルコス・ジュニア大統領のような人物が非倫理的な行動をとり、国民の信頼を損なっている様子が描かれています。

非同意ポルノ（10.9%）：政治に携わる女性は、ディープフェイクポルノの標的にされることが不当に多く、評判の失墜と政治参加の阻害につながっています。

新たなディープフェイク戦術

いくつかの新しい戦術が登場し、ディープフェイク操作がいかに巧妙になったかを示しています。

• 偽の内部告発者：インフルエンサーは、AIを使って内部告発者を装った第三者のディープフェイクを作成し、スキャンダルを捏造して世論を操作しようとします。
• オーディオディープフェイク：バイデン大統領が有権者に予備選挙をスキップするよう促すなど、偽のオーディオクリップを使用して虚偽の陳述を行う傾向が高まっています。
• メディア資産のなりすまし：インフルエンサーは、ディープフェイクの信頼性を高めるために、France24やBBCのロゴやオーバーレイなどの合法的なニュースブランディングを使用することが増えています。
• 外国の指導者のなりすまし：中国の習近平国家主席や米国のドナルド・トランプ氏が登場する動画が、それぞれ台湾と南アフリカの国内選挙に影響を与えるために転用されています。
• 家族のなりすまし：ディープフェイクは政治家の家族を標的にして、偽情報や操作をさらに増やしています。

ディープフェイクが選挙に与える影響

ディープフェイクは政争の道具となっています。例えばスロバキアでは、選挙直前にディープフェイク音声が流出し、選挙不正に関する偽情報が拡散しました。一方トルコでは、ディープフェイクの性行為テープとされる映像が公開された後、大統領選の候補者が撤退しています。政治情勢が不安定な場合は特に、ディープフェイクによる偽情報の潜在的可能性が極めて大きくなります。政治家候補者の信用を失墜させ、虚偽のストーリーを広めるリスクがあるため、高度な対策の必要性が急務となっています。

ディープフェイクの脅威に対抗

• スピードと正確さ：ディープフェイクが流布する際には、迅速な対応が不可欠です。公人は、虚偽の主張を迅速に否定するために、本物のコンテンツを公開する必要があります。
• 親しみやすさキャンペーン：有名人に知名度を高めるよう促し、その素顔に親しんでもらいます。
• 著作権の活用：著作権で保護された素材を使用したディープフェイクは、DMCA要求によって削除することができ、これがAIが生成した偽情報に対抗するための法的手段となる可能性があります。
• 高度なAI検知：政府やメディアは、ディープフェイクが重大な被害をもたらす前に特定し、取り締まるために、AIを活用した検知ツールに投資する必要があります。
• ファクトチェッカーとのコラボレーション：ソーシャルメディアプラットフォームとファクトチェック組織との協力は、ディープフェイクや虚偽のナラティブの拡散を抑制するために不可欠です。

ディープフェイクは、2024年の米国選挙と世界の政治プロセスにおいて重要な役割を果たし、評判を傷つけ、選挙への信頼を損なうことで選挙結果に影響を与える可能性があります。特に外国の干渉や選挙操作に関して、規制は進化するテクノロジーへの対応に苦慮しています。研究によると、ディープフェイクが特定の品質を超えて害を及ぼすには、必ずしも高度に洗練されている必要はないことが示唆されています。従って、視聴者になりすまされている人物の素顔を公開したり、ナラティブのファクトチェックを迅速に行うなど、対応戦略と緩和戦略に焦点を当てる方が効果的です。

分析全文を読むには、ここをクリックしてレポートをPDF形式でダウンロードしてください。