Recorded Future 、 Recorded Future®プラットフォーム、ダークウェブ、情報セキュリティ(脅威についての)レポート作成、およびその他のオープン情報源インテリジェンス(OSINT)情報源からのデータを分析して、脅威アクターが詐欺行為を促進するディープフェイク関連のサービスや製品の宣伝、議論、販売、購入を試みている方法の使用と蔓延を特定しました。 本レポートでは、ディープフェイクを、個人、企業、セキュリティシステムを標的に攻撃的に使用されている、合成的に生成された映像・音声コンテンツと定義しています。このレポートは、 詐欺のビジネス。

Executive Summary

脅威アクターは、ダークウェブソースを使用して、セキュリティ対策を回避し、無効化するように設計されたビジュアルおよびオーディオのディープフェイクテクノロジーを組み込んだカスタマイズされたサービスやチュートリアルを提供し始めています。 さらに、脅威アクターは、これらのソースだけでなく、フォーラムやメッセンジャーなどの多くのクリアネットソースを使用して、ツール、ベストプラクティス、ディープフェイク技術やテクノロジーの進歩を共有しています。 Insikt GroupのCriminal and Undergroundチームが2020年を通じて報告したように、脅威アクターはカスタマイズされたディープフェイク製品を開発しています。

これらの製品は、企業がセキュリティ対策に視覚・音声認識技術を組み込むことで需要が増加すると見込まれるため、今後も開発を進めていくものと考えています。 今後数年以内に、オンラインメディアの消費が「百聞は百聞に走る」という方向にシフトし、オンラインコミュニティの一部が虚偽の情報や誤解を招く情報の影響を受け続けるという賭けにシフトするため、偽情報や影響工作に関与する犯罪者と国家の脅威アクターの両方がディープフェイクに引き寄せられるようになるでしょう。

主な判断

• 悪意を持って使用されるディープフェイク技術は、ポルノ関連のコンテンツの作成から、セキュリティ、回避、誤情報や偽情報の公開を組み込んだ、より洗練されたターゲティングに移行しています。 犯罪者がビジュアルとオーディオのディープフェイクを成功裏に利用した公開例は、恐喝、個人情報の盗難、ソーシャルエンジニアリングなど、あらゆる種類の詐欺や犯罪の可能性を浮き彫りにしています。
• 英語とロシア語のダークウェブフォーラムは、ユーザーがディープフェイク関連の製品、サービス、トピックを宣伝、議論、共有、購入するための主要な情報源として特定されました。 最も広く使用されているフォーラムは、参入障壁が低い低層から中層のフォーラムであることがわかりましたが、活動は高層のフォーラムでも見つかりました。 ディープフェイクのトピックは、トルコ語、スペイン語、中国語のフォーラムでも特定されました。
• ダークウェブフォーラムで最も一般的なディープフェイク関連のトピックには、サービス(ビデオと写真の編集)、ハウツー方法とレッスン、ベストプラクティスのリクエスト、フリーソフトウェアのダウンロードと写真ジェネレーターの共有、ディープフェイクへの一般的な関心、ディープフェイク技術の進歩に関する発表が含まれていました。
• オープンソースのディープフェイクツール、専用フォーラム、TelegramやDiscordなどの人気のあるメッセンジャーアプリケーションでのディスカッションで構成される、ディープフェイクテクノロジーには明確な存在感と関心が強くあります。
• ディープフェイクに関連するほとんどの公開フォーラムやメッセンジャーでの議論は、ディープフェイク技術に対する教育と純粋な関心を取り囲んでおり、ユーザーがコンテンツを共有し、技術を洗練させることに加えて、クローズドなダークウェブソースで特定された議論と一致しています。 将来的には、この比較的穏やかなコミュニティが、個人が学習したディープフェイクスキルを使用して違法な犯罪活動に挑戦するための基盤として役立つことができると考えています。

編集者注: この投稿は、レポート全文の抜粋です。分析全体を読むには、 ここをクリック をクリックして、レポートをPDFとしてダウンロードします。