Recorded Future analysierte Daten aus der Recorded Future® Platform, dem Dark Web, der Informationssicherheitsberichterstattung und anderen Open-Source-Intelligence-Quellen (OSINT), um die Nutzung und Verbreitung der Art und Weise zu ermitteln, wie Bedrohungsakteure versuchen, Deepfake-bezogene Dienstleistungen und Produkte zu bewerben, zu diskutieren, zu verkaufen und zu kaufen, die betrügerische Aktivitäten erleichtern. In diesem Bericht definieren wir Deepfakes als synthetisch erzeugte visuelle und akustische Inhalte, die offensiv verwendet werden, um Einzelpersonen, Unternehmen und Sicherheitssysteme ins Visier zu nehmen. Dieser Bericht ist Teil unserer Serie über die Geschäft des Betrugs.

Executive Summary

Bedrohungsakteure haben begonnen, Darknet-Quellen zu nutzen, um maßgeschneiderte Dienste und Tutorials anzubieten, die visuelle und akustische Deepfake-Technologien enthalten, die darauf ausgelegt sind, Sicherheitsmaßnahmen zu umgehen und zu überwinden. Darüber hinaus nutzen Bedrohungsakteure diese Quellen sowie viele Clearnet-Quellen wie Foren und Messenger, um Tools, Best Practices und Fortschritte bei Deepfake-Techniken und -Technologien auszutauschen. Wie das Criminal and Underground Team der Insikt Group im gesamten Jahr 2020 berichtete, entwickeln Bedrohungsakteure maßgeschneiderte Deepfake-Produkte.

Wir gehen davon aus, dass sie diese Produkte auch weiterhin entwickeln werden, da die Nachfrage wahrscheinlich steigen wird, da Unternehmen visuelle und akustische Erkennungstechnologien in ihre Sicherheitsmaßnahmen integrieren. In den nächsten Jahren werden sich sowohl kriminelle als auch staatliche Bedrohungsakteure, die an Desinformations- und Einflussoperationen beteiligt sind, wahrscheinlich auf Deepfakes konzentrieren, da sich der Online-Medienkonsum immer mehr in Richtung „Sehen ist Glauben“ verlagert und man davon ausgeht, dass ein Teil der Online-Community auch weiterhin anfällig für falsche oder irreführende Informationen sein wird.

Wichtige Urteile

• Die böswillig eingesetzte Deepfake-Technologie hat sich von der Erstellung pornografischer Inhalte zu einem ausgefeilteren Targeting entwickelt, bei dem Sicherheitsvorkehrungen umgangen und Fehlinformationen sowie Desinformationen verbreitet werden. Öffentlich zugängliche Beispiele von Kriminellen, die visuelle und akustische Deepfakes erfolgreich einsetzen, verdeutlichen das Potenzial für alle Arten von Betrug oder Verbrechen, darunter Erpressung, Identitätsdiebstahl und Social Engineering.
• Englisch- und russischsprachige Darknet-Foren erwiesen sich als die wichtigsten Quellen für Benutzer, um für Deepfake-bezogene Produkte, Dienste und Themen zu werben, diese zu diskutieren, zu teilen und zu kaufen. Am häufigsten wurden Foren der unteren bis mittleren Kategorie mit niedrigeren Zugangsbarrieren genutzt. Es wurden jedoch auch Aktivitäten in Foren der oberen Kategorie festgestellt. Auch in türkisch-, spanisch- und chinesischsprachigen Foren wurden Deepfake-Themen identifiziert.
• Zu den häufigsten Deepfake-bezogenen Themen in Darknet-Foren gehörten Dienste (Bearbeiten von Videos und Bildern), Anleitungen und Lektionen, Anfragen nach Best Practices, das Teilen von kostenlosen Software-Downloads und Fotogeneratoren, allgemeines Interesse an Deepfakes und Ankündigungen zu Fortschritten bei Deepfake-Technologien.
• Es gibt eine starke Präsenz und ein starkes Interesse im Clearnet an Deepfake-Technologie, bestehend aus Open-Source-Deepfake-Tools, speziellen Foren und Diskussionen in beliebten Messenger-Anwendungen wie Telegram und Discord.
• In den meisten öffentlich zugänglichen Foren und Messengern dreht es sich bei den Diskussionen zum Thema Deepfakes um Aufklärung und echtes Interesse an der Deepfake-Technologie. Darüber hinaus geht es darum, dass Benutzer Inhalte teilen und ihr Handwerk verfeinern, ganz im Einklang mit den Diskussionen aus geschlossenen Darknet-Quellen. Wir glauben, dass diese ansonsten relativ harmlose Community in Zukunft als Grundlage für Einzelpersonen dienen kann, die sich mithilfe erlernter Deepfake-Fähigkeiten an illegalen kriminellen Aktivitäten beteiligen.

Anmerkung der Redaktion: Dieser Beitrag war ein Auszug aus einem vollständigen Bericht. Um die gesamte Analyse zu lesen, Klicken Sie hier um den Bericht als PDF herunterzuladen.