정치 딥페이크의 표적, 목적, 새로운 전술

딥페이크의 증가는 선거, 공인, 미디어에 심각한 위협이 되고 있습니다. Insikt Group의 최근 조사에 따르면 2023년 7월부터 2024년 7월 사이에 38개국에서 공인을 대상으로 한 딥페이크 영상 82개가 발견됐습니다. 금전적 이득, 선거 조작, 인격 암살, 비동의 음란물 유포를 목적으로 하는 딥페이크가 증가하고 있습니다. 이러한 위험에 대응하려면 조직에서 신속하게 대응하고 인식을 높이며 최첨단 AI 감지 도구를 구현해야 합니다.

2024년 딥페이크와 정치적 허위 정보: 새로운 위협 및 대응 전략

AI가 생성한 딥페이크 의 확산으로 정치 및 허위 정보 환경 이 재편되고 있습니다. 2023년 7월부터 2024년 7월까지 38개국에서 공인을 사칭한 딥페이크가 등장하여 선거 개입, 인격 훼손 등에 대한 우려가 제기되었습니다. 다음은 이러한 새로운 위협에 대한 자세한 분석과 방어 전략입니다.

딥페이크 사용의 주요 동향

38개국에서 82개의 딥페이크가 발견되었으며, 그중 30개국은 데이터 세트 기간에 선거를 실시했거나 2024년에 선거가 예정되어 있습니다. 정치인, 국가 원수, 후보자, 언론인 등이 표적이 되어 민주적 과정을 방해할 가능성이 커졌습니다.

주요 목표

사기(26.8%): 딥페이크 는 선거 기간에 고조된 관심을 활용해 금융 사기를 홍보하는 데 자주 사용됩니다. 쥐스탱 트뤼도(Justin Trudeau) 캐나다 총리와 클라우디아 셰인바움(Claudia Sheinbaum) 멕시코 대통령 당선인 등 저명한 인사들이 사칭한 사기 행각이 발생했습니다.

허위 진술(25.6%): 딥페이크는 유권자들을 오도하기 위해 공인의 진술을 조작하는 경우가 많습니다. 예를 들어, 키어 스타머(Keir Starmer) 영국 총리가 자신의 정당을 비판하는 내용의 가짜 음성 파일이나 대만의 커원저가 거짓 비난을 하는 내용이 담긴 가짜 음성 파일이 등장했습니다.

선거 운동(15.8%): 정당은 유권자의 행동에 영향을 미치기 위해 딥페이크의 사용을 점점 더 늘리고 있습니다. 튀르키예의 에르도안 대통령은 딥페이크를 사용해 야당 지도자를 테러리스트 단체와 연결시켰고, 아르헨티나는 밀레이 대 마사 선거전에서 딥페이크를 사용했습니다.

인격 암살(10.9%): 페르디난드 마르코스 주니어(Ferdinand Marcos Jr.) 필리핀 대통령과 같은 인물들이 비윤리적인 행동에 가담하여 대중의 신뢰를 떨어뜨리는 것으로 묘사되었습니다.

비동의 음란물(10.9%): 정치 영역의 여성들은 딥페이크 음란물의 표적이 되는 경우가 불균형적으로 많으며, 이로 인해 여성들의 평판이 훼손되고 정치 참여를 저해합니다.

새로운 딥페이크 전술

딥페이크 작업이 얼마나 정교해졌는지 보여주는 몇 가지 새로운 전술이 등장했습니다.

• 가짜 고발자: 영향력 있는 행위자들은 AI를 사용하여 고발자로 가장한 제3자의 딥페이크 영상을 만들어 스캔들을 조작하고 여론을 조작하려 합니다.
• 오디오 딥페이크: 바이든 대통령이 유권자들에게 예비선거를 기권하라고 촉구한 것처럼 허위 진술을 만드는 허위 오디오 클립의 사용이 점점 더 증가하는 추세입니다.
• 미디어 자산 스푸핑: 영향력 있는 행위자들이 딥페이크에 신뢰성을 부여하기 위해 France24와 BBC의 로고나 오버레이와 같은 합법적인 뉴스 브랜딩을 사용하는 경우가 점점 더 많아지고 있습니다.
• 외국 지도자 사칭: 중국의 시진핑이나 미국의 도널드 트럼프가 등장하는 동영상은 각각 대만과 남아프리카공화국의 국내 선거에 영향을 미치기 위해 수정되었습니다.
• 가족 구성원 사칭: 딥페이크는 정치인 가족까지 표적으로 삼아 허위 정보와 조작을 더하고 있습니다.

딥페이크가 선거에 미치는 영향

딥페이크는 정치적 전쟁의 도구가 되었습니다. 예를 들어 슬로바키아에서는 선거 직전에 딥페이크 오디오가 등장해 부정 선거에 대한 허위 정보가 퍼졌고, 튀르키예에서는 딥페이크 섹스 테이프로 의심되는 것이 공개된 후 한 후보가 대통령 선거에서 사퇴하는 일이 발생했습니다. 딥페이크 허위 정보의 잠재력은 특히 불안정한 정치 환경에서 막대합니다. 정치 후보자의 신용을 떨어뜨리고 허위 소문을 유포할 수 있는 위험이 있기 때문에 최첨단 대응책의 필요성이 더욱 절실해졌습니다.

딥페이크 위협에 대응하기

• 속도와 정확성: 딥페이크가 확산되면 신속하게 대응하는 것이 중요합니다. 공인은 진실한 내용을 공개하여 허위 주장을 신속하게 반박해야 합니다.
• 친숙도 캠페인: 공인의 인지도를 높여 사람들이 공인의 실제 모습에 친숙해질 수 있도록 장려합니다.
• 저작권 활용: 저작권이 있는 자료를 사용하는 딥페이크는 DMCA 요청을 통해 삭제할 수 있으며, 이는 AI가 생성한 허위 정보에 대응할 수 있는 법적 수단을 제공합니다.
• 최첨단 AI 탐지: 정부와 언론 매체는 딥페이크가 심각한 피해를 입히기 전에 이를 식별하고 근절할 수 있도록 AI 기반 탐지 도구에 투자해야 합니다.
• 사실 확인 기관(Fact-Checker)과의 협업: 딥페이크와 허위 소문의 확산을 억제하려면 소셜 미디어 플랫폼과 사실 확인 기관 간의 협업이 필수적입니다.

딥페이크는 2024년 미국 선거와 글로벌 정치 과정에서 중요한 역할을 할 것으로 보이며, 평판을 손상시키고 선거에 대한 신뢰를 약화시켜 결과에 영향을 미칠 수 있습니다. 특히 외국의 간섭과 선거 조작과 관련하여, 진화하는 기술을 규제가 따라잡지 못하고 있습니다. 연구에 따르면 일정 수준의 품질을 넘어선 딥페이크는 반드시 고도로 정교하지 않고도 피해를 입힐 수 있습니다. 따라서 사칭 당한 개인의 실제 모습을 청중에게 노출하고 소문의 사실 여부를 신속하게 확인하는 등 대응 및 완화 전략에 집중하는 것이 더 효과적입니다.

전체 분석 내용을 읽으려면 여기를 클릭하여 PDF 보고서를 다운로드하세요.