사기의 비즈니스: 딥페이크, 사기의 새로운 개척지

편집자 주: 다음 게시물은 보고서 전문에서 발췌한 것입니다. 전체 분석 내용을 읽으려면 여기를 클릭하여 PDF 보고서를 다운로드하세요.

레코디드 퓨처는 레코디드 퓨처 플랫폼(® ), 다크웹, 정보 보안 보고, 기타 오픈 소스 인텔리전스(OSINT)의 데이터를 분석하여 위협 행위자들이 사기 활동을 조장하는 딥페이크 관련 서비스 및 제품을 광고, 토론, 판매, 구매하는 방법의 사용과 확산을 파악했습니다. 이 보고서에서는 딥페이크를 개인, 기업, 보안 시스템을 공격하기 위해 공격적으로 사용되는 합성된 시각 및 음성 콘텐츠로 정의합니다. 이 보고서는 사기 비즈니스에 대한 시리즈의 일부입니다.

Executive Summary

위협 행위자들은 다크웹 소스를 사용하여 보안 조치를 우회하고 무력화하도록 설계된 시각 및 오디오 딥페이크 기술을 통합한 맞춤형 서비스 및 튜토리얼을 제공하기 시작했습니다. 또한, 위협 행위자들은 이러한 소스뿐만 아니라 포럼, 메신저와 같은 다양한 클리어넷 소스를 사용하여 딥페이크 기법 및 기술의 도구, 모범 사례, 발전된 기술을 공유하고 있습니다. 인싯트 그룹의 범죄 및 언더그라운드 팀이 2020년 한 해 동안 보고한 바와 같이, 위협 행위자들은 맞춤형 딥페이크 제품을 개발하고 있습니다.

시각 및 음성 인식 기술을 보안 조치에 통합하는 기업들이 늘어나면서 수요가 증가할 것으로 예상되므로 이러한 제품 개발은 계속될 것으로 보입니다. 온라인 미디어 소비가 '보는 것이 믿는 것'으로 바뀌고 온라인 커뮤니티의 일부가 허위 또는 오해의 소지가 있는 정보에 계속 취약해질 것이라는 전망이 나오면서 향후 몇 년 내에 허위 정보 및 영향력 행사에 관여하는 범죄 및 국가 위협 행위자 모두 딥페이크에 관심을 가질 가능성이 높습니다.

주요 판단

• 악의적으로 사용되는 딥페이크 기술은 포르노 관련 콘텐츠 제작에서 보안을 우회하여 잘못된 정보와 허위 정보를 유포하는 보다 정교한 타깃팅으로 진화하고 있습니다. 공개된 범죄자들의 시각적 및 음성 딥페이크 사용 사례는 협박, 신원 도용, 소셜 엔지니어링 등 모든 유형의 사기 또는 범죄에 대한 잠재력을 강조합니다.
• 영어와 러시아어로 운영되는 다크웹 포럼은 사용자가 딥페이크 관련 제품, 서비스 및 주제를 광고, 토론, 공유 및 구매하는 주요 출처로 확인되었습니다. 가장 널리 사용되는 포럼은 진입 장벽이 낮은 중저가 포럼인 것으로 나타났지만, 상위 포럼에서도 활동이 활발하게 이루어지고 있는 것으로 나타났습니다. 터키어, 스페인어, 중국어 포럼에서도 딥페이크 주제가 확인되었습니다.
• 다크웹 포럼에서 가장 많이 논의된 딥페이크 관련 주제는 서비스(동영상 및 사진 편집), 방법 및 교훈, 모범 사례 요청, 무료 소프트웨어 다운로드 및 사진 생성기 공유, 딥페이크에 대한 일반적인 관심사, 딥페이크 기술 발전에 대한 발표 등 다양했습니다.
• 오픈 소스 딥페이크 도구, 전용 포럼, 텔레그램과 디스코드 같은 인기 메신저 애플리케이션에 대한 토론 등 딥페이크 기술에 대한 관심과 존재감이 매우 높습니다.
• 공개적으로 이용 가능한 대부분의 포럼과 메신저에서 딥페이크와 관련된 논의는 비공개 다크웹 소스에서 확인된 논의에 따라 사용자들이 콘텐츠를 공유하고 기술을 개선하는 것 외에도 딥페이크 기술에 대한 교육과 진정한 관심에 관한 것입니다. 앞으로는 비교적 선량한 이 커뮤니티가 개인이 학습된 딥페이크 기술을 이용해 불법 범죄 활동에 뛰어들 수 있는 기반이 될 수 있다고 생각합니다.

편집자 주: 이 게시물은 보고서 전문에서 발췌한 것입니다. 전체 분석 내용을 읽으려면 여기를 클릭하여 PDF 보고서를 다운로드하세요.