러시아 연계 카피캅, LLM을 사용하여 대규모 영향력 콘텐츠 무기화

2024년 3월 초, 인식트 그룹은 미국, 영국, 프랑스에서 신뢰할 수 없는 미디어 매체를 교묘하게 활용하는 악성 인플루언서 네트워크인 카피캅(CopyCop)을 발견했습니다. 이 네트워크는 러시아에서 운영되는 것으로 의심되며 러시아 정부와 연계되어 있을 가능성이 높습니다. CopyCop은 생성 AI를 광범위하게 사용하여 합법적인 미디어 소스의 콘텐츠를 표절하고 수정하여 특정 편향성을 가진 정치적 메시지를 맞춤화했습니다. 여기에는 서방 정책에 비판적이고 우크라이나 분쟁과 이스라엘-하마스 긴장 등 국제 문제에 대한 러시아의 관점을 지지하는 콘텐츠가 포함되었습니다.

카피캅: 영향력을 위한 AI의 무기화

카피캅은 합법적인 주류 미디어 매체의 콘텐츠를 표절, 번역 및 편집하기 위해 대규모 언어 모델(LLM)을 계획적으로 사용합니다. 이 네트워크는 신속한 엔지니어링 기법을 사용하여 특정 시청자의 공감을 불러일으킬 수 있는 콘텐츠를 맞춤 제작하고 전략적 목표에 부합하는 정치적 편견을 주입합니다. 최근 몇 주 동안, 카피캅은 AI가 생성한 콘텐츠와 함께 사람이 직접 제작한 타겟팅된 콘텐츠를 게시하여 오디언스와 깊은 관계를 맺으며 주목을 받기 시작했습니다.

카피캅이 유포한 콘텐츠는 우크라이나에서 러시아의 군사 행동에 대한 친러시아적 시각과 가자지구에서의 이스라엘 군사 작전에 대한 비판적 관점 등 국내 분열을 조장하는 이슈를 망라하고 있습니다. 또한 공화당 후보를 지지하는 동시에 하원과 상원 민주당을 비난하고, 바이든 행정부의 정책을 비판하는 등 미국 정치 지형에 영향을 미치는 내러티브도 포함되어 있습니다.

카피캅을 지원하는 인프라는 2016년 러시아로 망명한 미국 시민권자 존 마크 더건이 운영하는 허위 정보 매체 DCWeekly와 밀접한 관련이 있습니다. 카피캅의 콘텐츠는 도플갱어, 포털 콤뱃과 같은 러시아 국가가 후원하는 유명 배우들에 의해 증폭되기도 합니다. 또한, '불의와 싸우는 재단', ' 인포로스' 등 러시아의 다른 영향력 행사 활동의 자료를 강화하여 고도로 조직화된 노력을 시사합니다.

대규모 콘텐츠 제작 및 유포를 위해 생성형 AI를 사용하는 것은 선거를 보호해야 하는 사람들에게 상당한 도전 과제를 안겨줍니다. 특정 정치적 감정을 자극하는 정교한 내러티브로 인해 공무원들이 이러한 거짓 내러티브의 급속한 확산에 효과적으로 대응하기가 점점 더 어려워지고 있습니다.

공공 부문 조직은 카피캅과 같은 위협 행위자와 AI가 생성한 허위 정보로 인한 위험에 대한 경각심을 높여야 합니다. 합법적인 미디어 매체도 콘텐츠가 표절되거나 적대적인 국가 내러티브를 뒷받침하기 위해 무기화되어 잠재적으로 신뢰성을 훼손할 수 있는 위험에 직면해 있습니다.

전체 분석 내용을 읽으려면 여기를 클릭하여 PDF 보고서를 다운로드하세요.