러시아 연계 카피캅, 미국 선거를 겨냥해 정치 지도자 표적 공격 확대

인식트 그룹의 보고서에 따르면 러시아 정부와 연계된 것으로 보이는 영향력 네트워크인 카피캅이 2024년 미국 대선에 초점을 맞추고 있는 것으로 나타났습니다. 카피캅은 AI와 인증되지 않은 웹사이트를 사용하여 정치 콘텐츠를 제작하고 퍼뜨립니다. 네트워크는 2024년 5월 10일부터 5월 12일 사이에 120개의 새로운 웹사이트를 등록하여 YouTube와 같은 플랫폼을 통해 타겟팅 콘텐츠를 확대했습니다. 미국 선거에 대한 관심이 집중되고 있지만, 카피캅의 AI 생성 콘텐츠는 소셜 미디어에서 제한적으로 확산되고 있습니다.

러시아 연계 카피캅, 미국 선거를 겨냥해 정치 지도자 표적 공격 확대

2024년 5월 9일, 인식트 그룹은 러시아 정부와 연계된 것으로 추정되는 영향력 네트워크인 카피캅에 대한 초기 보고서를 발표했습니다. 카피캅은 인증되지 않은 웹사이트와 인공 지능(AI) 을 사용하여 정치 콘텐츠를 생성하고 퍼뜨립니다. 2024년 5월 10일부터 5월 12일 사이에 네트워크는 유사한 전술, 기법 및 절차(TTP)를 사용하는 120개의 새로운 웹사이트를 등록했습니다. 카피캅은 주로 2024년 미국 대통령 선거에 초점을 맞춰 프랑스, 우크라이나, 유럽연합(EU)의 정치 지도자들을 겨냥한 콘텐츠를 유튜브 동영상을 통해 유포하고 있습니다.

카피캅은 미국과 영국의 주류 뉴스 매체, 보수 성향의 미국 미디어, 러시아 국영 미디어 등으로 영향력 있는 콘텐츠의 출처를 확대했습니다. 원본 기사가 게시된 후 24시간 이내에 CopyCop은 1,000개 이상의 가짜 기자 페르소나를 사용하여 기사를 스크랩하고 수정한 후 미국 선거 관련 웹사이트에 유포합니다. 콘텐츠가 빠르게 생성되고 있음에도 불구하고, AI가 생성한 콘텐츠는 소셜 미디어에서 제한적으로 증폭되고 있습니다.

이 네트워크는 러시아 정부와의 연결을 최소화하기 위해 인프라를 미국 기반 호스트로 이전하여 최근의 조사에 적응했습니다. 또한 생성형 AI 사용 흔적이 적다는 것은 대규모 언어 모델(LLM)의 사용을 감추려는 시도를 나타냅니다.

주요 연구 결과

• 카피캅은 이제 2024년 미국 대선을 겨냥하여 러시아와 우크라이나의 전쟁, 프랑스와 영국의 국내 정치 등 다른 주제에 대한 콘텐츠를 줄였습니다.
• 카피캅은 2024년 5월 10일부터 5월 12일 사이에 미국 선거에 초점을 맞춰 120개의 새로운 웹사이트를 등록했습니다.
• 이 네트워크는 AI가 생성한 콘텐츠와 가짜 언론인 페르소나를 사용하여 미국 주류 및 보수 성향의 언론과 러시아 국영 매체의 수정된 기사를 퍼뜨리고 있습니다.
• 프랑스와 미국 선거를 주제로 한 새로운 웹사이트가 사람이 만든 것으로 보이는 타깃팅된 콘텐츠를 게시하고 있습니다.
• 2024년 6월 초 현재, 카피캅의 새로운 AI 생성 콘텐츠는 소셜 미디어에서 거의 또는 전혀 증폭되지 않고 있습니다.
• 기사 헤드라인의 1,000개가 넘는 저자 프로필과 LLM이 생성한 텍스트는 AI가 광범위하게 사용되고 있음을 보여줍니다.

완화 조치

• 레코딩된 미래 인텔리전스 클라우드를 사용하여 카피캅 웹사이트 전반에서 새로운 내러티브를 추적하고 요약할 수 있습니다.
• 소셜 미디어 및 텔레그램과 같은 메시징 플랫폼에서 CopyCop 콘텐츠가 확산되는 것을 모니터링하세요.
• 뉴스 조직은 표절된 콘텐츠를 추적하고 대응하여 평판을 보호해야 합니다.
• 기록된 미래 브랜드 인텔리전스를 활용하여 오타 스쿼팅 도메인 및 저작권 침해 콘텐츠를 식별하고 해결하세요.

카피캅과 같은 생성형 AI를 사용하는 인플루언스 네트워크는 초기에는 큰 주목을 받지 못할 수도 있지만, 2024년 미국 대선을 앞두고 더욱 각광받을 것으로 보입니다. 기존 인플루언서 네트워크에 의한 카피캅 콘텐츠의 증폭은 기존 오디언스에게 카피캅 콘텐츠를 제공하는 데 도움이 됩니다. 이러한 웹사이트가 지속성을 확보하면 CopyCop은 대량의 AI 생성 콘텐츠 사이에 숨겨진 더 많은 타겟 콘텐츠를 게시하여 식별 및 분석하기 어렵게 만들 가능성이 높습니다. 영향을 완화하기 위해 공공 기관, 뉴스 단체, AI 제공업체는 이러한 네트워크가 영향력을 확대하기 전에 제재, 지적 재산권법, 서비스 약관을 선제적으로 시행해야 합니다.

전체 분석 내용을 읽으려면 여기를 클릭하여 PDF 보고서를 다운로드하세요.