비디오 콘텐츠 플랫폼 Kapwing의 새로운 연구에 따르면 미국이 다음 달 2024년 대선을 준비하는 가운데 도널드 트럼프와 그의 노골적인 지지자 엘론 머스크가 가장 빈번하게 딥페이크된 공인으로 밝혀졌습니다.
이 연구는 널리 사용되는 텍스트-비디오 AI 도구를 사용하여 딥페이크 비디오 요청을 추적했습니다. 딥페이크가 가장 많이 발생한 상위 10명의 딥페이크 동영상 중 64%가 정치인과 비즈니스 리더의 영상인 것으로 나타났습니다.
전직 대통령이자 현 공화당 후보인 도널드 트럼프가 12,384개의 딥페이크 동영상으로 1위를 차지했습니다. 그 뒤를 이어 Tesla의 CEO와 X(이전 Twitter) Elon Musk가 9,500개 이상의 딥페이크를 만들었습니다.
조 바이든 현 미국 대통령과 마크 주커버그 메타 CEO도 톱 10에 이름을 올렸다.
딥페이크 동영상이란 무엇인가요?
Deepfake 비디오는 AI를 사용하여 한 사람의 모습을 다른 사람의 모습에 겹쳐서 사람들이 실제로 한 번도 하지 않은 말이나 행동을 하는 것처럼 착각하게 만드는 가짜 콘텐츠를 생성합니다.
GenAI로 강화된 이러한 비디오는 점점 더 설득력이 높아지고 식별하기가 어려워져 대중의 신뢰에 심각한 위험을 초래합니다.
민주주의에 대한 딥페이크의 위협
딥페이크 표적으로 머스크와 트럼프가 주목받는 것은 특히 2024년 미국 선거가 코앞으로 다가온 상황에서 이 기술이 비즈니스 리더와 정치인 모두에게 제기하는 위험이 커지고 있음을 강조합니다.
연구를 수행한 Kapwing의 공동 창립자인 Eric Lu는 “이 연구의 목표는 딥페이크 기술을 둘러싼 잠재적 위험에 대한 대화에 확실한 데이터를 제공하는 것입니다.”라고 말합니다.
Lu에 따르면 딥페이크는 잘못된 정보를 퍼뜨리거나 여론에 영향을 미치거나 심지어 유권자를 속이기 위해 무기화될 수 있습니다.
“우리 연구 결과는 비디오 딥페이크가 이미 주류로 자리 잡았으며 이를 만드는 데 사용할 수 있는 도구도 갖추고 있음을 분명히 보여줍니다. 이러한 도구는 안전한 방식으로 제공되어야 합니다.”
더 읽어보기: 영국인 중 3분의 1만이 상사의 딥페이크 전화를 식별할 수 있다고 확신합니다.
지난해 사디크 칸 런던 시장은 선동적인 발언을 하는 자신의 목소리가 담긴 딥페이크 오디오가 유출된 후 허위 정보에 대한 조치를 촉구했습니다.
마찬가지로, 뉴햄프셔의 미국 유권자들은 올해 초 조 바이든 대통령이 보낸 것으로 주장하는 딥페이크 자동녹음전화를 받았고, 뉴햄프셔 법무장관실은 사기를 폭로하는 성명을 발표했습니다.
소셜미디어의 역할
소셜 미디어 플랫폼은 종종 딥페이크의 주요 유통 채널이며 그 인기를 증폭시킵니다.
Kapwing의 연구는 플랫폼이 딥페이크 미디어의 확산에 책임을 질 것을 촉구합니다.
Lu는 “YouTube, Instagram, Facebook, X와 같은 소셜 미디어 플랫폼은 AI 생성 콘텐츠가 손상되기 전에 확인하고 라벨을 추가하는 중요한 책임이 있습니다.”라고 말했습니다.
“가짜뉴스나 금융사기 등 게시물이 퍼지기 전 조기에 예방하는 것이 중요한 문제가 될 것입니다.” 그는 플랫폼이 의심스러운 콘텐츠를 조사하기 위해 전문가 검토 팀을 구성하여 광범위한 피해 가능성을 줄일 수 있다고 덧붙였습니다.
기업에 대한 위험 증가
정치인들이 대중의 감시를 받는 것이 낯설지 않은 반면, 비즈니스 리더들은 AI가 주도하는 디지털 조작의 결과로부터 자유롭지 않은 것 같습니다.
Mark Zuckerberg와 Bill Gates도 딥페이크 동영상 요청이 각각 1,738건과 526건으로 2024년 가장 많이 딥페이크된 인물 중 하나였습니다.
마이크로소프트(MS) 공동 창업자인 빌 게이츠도 딥페이크 영상을 통해 널리 유포됐는데, 이 영상에는 게이츠가 코로나19 백신 배포에서 자신의 역할에 대한 질문을 받은 후 갑자기 인터뷰를 종료하는 모습이 담겨 있었다.
기업 환경에서 딥페이크 기술을 오용하면 평판 훼손, 주가 조작, 심각한 영향을 미칠 수 있는 사기 발표로 이어질 수 있습니다.
Kapwing의 보고서는 GenAI 도구의 접근성을 강조합니다. 접근성이 높아지고 최소한의 기술 전문 지식이 필요하므로 기술이 제한된 개인이라도 매우 설득력 있는 가짜 콘텐츠를 만들 수 있습니다.
딥페이크는 영원히? 합성 미디어가 비즈니스를 변화시키는 방법
딥페이크 규제 문제
딥페이크를 규제하려는 노력은 이미 장애물에 직면해 있습니다. 개인이 선거 관련 딥페이크에 대해 소송을 제기할 수 있도록 허용하는 캘리포니아 법률은 수정헌법 제1조에 대한 우려로 이번 주 연방 판사에 의해 차단되었습니다.
이러한 법적 문제는 표현의 자유를 침해하지 않고 딥페이크 기술로 인한 위협을 해결하는 효과적인 규정을 만드는 것이 어렵다는 것을 보여줍니다.
제너레이티브 AI(Generative AI)가 더욱 정교해지고 쉽게 이용 가능해짐에 따라 혁신과 보안 사이의 균형을 유지해야 하는 책임은 기술 플랫폼과 규제 기관 모두에게 있습니다.
딥페이크 비디오에 명확한 라벨을 추가하기 위해 워터마크가 있는 AI 생성 콘텐츠와 소셜 미디어 플랫폼에 대한 Lu의 요구는 올바른 방향으로 나아가는 단계이지만 포괄적인 솔루션은 아직 파악하기 어렵습니다.
딥페이크를 알아내기 위해 Lu는 다음과 같이 말합니다. “나의 세 가지 팁은 흐릿한 입 주변이나 일관되지 않은 치아 움직임을 찾고, 부자연스러운 눈 깜박임이나 깜박임 부족을 주의하고, 단조로운 목소리와 부자연스러운 호흡 패턴을 듣는 것입니다.”
