2024년 미국 대통령 선거가 점점 가까워지면서 인공지능(AI)이 정치 담론에 영향을 미치는 것에 대한 논의가 점점 더 중요해지고 있습니다.
정치인의 딥페이크를 생성하는 생성적 AI(GenAI)부터 투표함에서 AI 기반 감시 제안에 이르기까지 AI가 민주적 절차를 방해할 가능성에 대한 우려가 심화되고 있습니다.
선거 공무원, 사이버 보안 전문가, 기술 리더들은 AI가 선거 무결성, 유권자 개인정보 보호, 민주주의 제도에 대한 대중의 신뢰를 위협하는 정교함에 대해 엄격하게 경고하고 있습니다.
AI의 진화: 도구에서 위협으로
“지난 선거 때 AI가 있었지만 지금만큼 정교하지는 않았습니다. 생성 AI 또는 딥페이크와 같은 AI의 발전은 단순한 잘못된 정보에서 정교한 속임수 도구로 진화했습니다.”라고 Ivanti의 최고 제품 책임자인 Srinivas Mukkamala 박사는 말합니다.
Mukkamala는 “AI로 인해 진짜 정보와 조작된 정보를 구별하는 것이 점점 더 어려워졌습니다.”라고 덧붙입니다.
IT 보안 및 시스템 관리 회사인 Ivanti의 최근 연구에 따르면 직장인의 54%는 AI가 다른 사람의 목소리를 흉내낼 수 있다는 사실을 인식하지 못하는 것으로 나타났습니다.
Mukkamala는 이렇게 말했습니다. “이러한 개인들이 다가오는 선거에 참여할 것이라는 점을 고려하면 이 통계는 우려스럽습니다. 중요한 결정이 허위 정보의 영향을 받을 위험을 감수할 수는 없습니다.”
AI 기반 시장 인텔리전스 플랫폼 Amplyfi의 CEO인 Paul Teather는 GenAI가 가짜 콘텐츠를 만드는 능력을 어떻게 “민주화”했는지 설명하면서 이에 대해 자세히 설명합니다.
“테일러 스위프트(Taylor Swift)가 트럼프를 지지하는 등 후보와 캠페인을 포함해 이미 이에 대한 수많은 사례가 있었습니다.
더 읽어보기: 트럼프와 머스크는 2024년 미국 선거를 앞두고 가장 딥페이크된 인물로 선정되었습니다.
Teather는 “사람들은 더 이상 자신의 아이디어를 바탕으로 거의 완벽한 이미지를 만들기 위해 사진 스튜디오가 필요하지 않습니다.”라고 덧붙이며 이로 인해 AI가 생성한 허위 정보가 확산되었다고 덧붙였습니다.
“이것은 GenAI의 관용(악한 것이 아니라 정상적인 것으로 보임)과 이에 대한 더 나은 인식(GenAI 이미지의 손에서 오류를 확인하는 사람들)을 모두 증가시킵니다.”
그는 유권자들이 AI 조작의 숨길 수 없는 징후를 인식하는 능력이 향상되고 있는 반면, 허위 정보의 양은 압도적이라고 말했습니다.
AI가 주도하는 잘못된 정보와 허위정보의 무기화
Onfido의 수석 사기 전문가인 Simon Horswell에 따르면 이러한 가짜 콘텐츠의 확산은 2023년 딥페이크 시도가 3000% 증가한 것으로 입증됩니다.
“우리는 기업을 속이고 소비자를 오도하기 위해 딥페이크를 사용하는 사기꾼들이 실제로 증가하고 있다는 것을 보고 있습니다.”라고 그는 말합니다.
AI 기반 가짜 콘텐츠의 폭발적인 증가는 유권자 조작을 위한 새로운 길을 만들고 있습니다. Horswell은 다음과 같이 덧붙입니다. “딥페이크는 대규모 사기를 생산하는 벡터가 되었습니다.”
AI가 생성한 비디오와 기사의 설득력이 점점 더 높아짐에 따라 사기꾼과 정치 행위자 모두 이러한 기술을 사용하여 전례 없는 규모로 허위 정보를 퍼뜨릴 수 있습니다.
ImmuniWeb의 CEO인 Ilia Kolochenko 박사는 AI가 소셜 미디어 플랫폼 전반에 퍼질 수 있는 수백만 개의 “악의적인 세뇌 메시지”를 생성하여 이러한 노력을 더욱 증폭시킬 수 있다고 강조합니다.
이러한 경향은 특히 작은 마진으로 인해 변동성이 큰 미국 선거의 맥락에서 우려될 수 있습니다.
Amplyfi CEO인 Paul Teather에 따르면 이러한 AI 생성 내러티브는 특히 소셜 미디어 알고리즘이 정확성보다 참여를 우선시하는 환경에서 유권자의 인식을 크게 바꿀 수 있는 잠재력을 가지고 있습니다.
선거가 다가오면서 딥페이크는 빙산의 일각에 불과하다
AI 기반 감시와 개인정보 침해
허위 정보 외에도, 선거 부정주의로 유명한 그룹인 True the Vote는 AI 기반 카메라를 사용하여 여러 주의 투표함을 모니터링하겠다고 위협하고 있습니다.
투표함 “감시 리얼리티 쇼”라고 불리는 이 계획은 투명성이라는 이름으로 유권자들의 영상을 실시간 스트리밍하는 것을 목표로 합니다.
그러나 지역 공무원은 이러한 유형의 감시가 특히 소외된 지역 사회에서 유권자 위협을 초래할 수 있으며 심각한 개인 정보 보호 문제를 야기할 수 있다고 경고합니다.
Comparitech의 소비자 개인 정보 보호 옹호자인 Paul Bischoff는 “음모 집단이 투표함을 모니터링하는 문제는 AI의 사용이 아니라 카메라 감시 자체에 있다”고 주장합니다.
그는 일부 유권자들이 자신이 감시당하고 있다는 사실을 알면 투표하지 않기로 선택할 수도 있다고 지적합니다.
AI 감시의 윤리적 의미는 개인 정보 보호 문제를 뛰어넘습니다. 그들은 또한 선거 과정의 공정성과 무결성에 의문을 제기합니다.
Pixel Privacy의 소비자 개인 정보 보호 옹호자인 Chris Hauk는 음모 집단의 AI 사용 가능성에 대해 우려를 표명합니다.
“선거 기간 동안 AI가 확실히 무기로 사용될 것이지만, 가짜가 홍보하는 방향으로 유권자를 유도하기 위해 딥페이크 비디오, 사진, 오디오를 사용하는 데 국한될 가능성이 높다고 생각합니다. 우리는 이미 두 미국 대통령 후보를 모두 불리한 시각으로 묘사하는 AI가 생성한 비디오를 인터넷에서 본 적이 있습니다.
딥페이크가 투표율을 좌우할 수 있다는 증거는 아직 부족합니다.
Hauk는 “’AI 기반’ 비디오 모니터링에 어떤 내용이 포함될지는 확실하지 않지만 True the Vote와 같은 그룹의 이러한 발언은 단순히 일부 유권자에게 겁을 주어 투표하지 못하게 하려는 시도일 수 있습니다.”라고 설명합니다. “우리는 양측이 각자의 필요에 맞게 총 투표수를 조정하기 위해 노력하면서 비슷한 시도를 볼 수 있습니다.”
AI도 해결책인가?
사악한 목적으로 AI를 사용하는 것은 문제가 있지만 해결책의 일부일 수도 있습니다. Simon Horswell은 고급 AI 시스템이 딥페이크와 AI에서 생성된 잘못된 정보를 탐지하고 이에 맞서 싸우도록 훈련되는 “AI 대 AI” 전투에 대해 설명합니다.
지속적으로 학습하고 적응하는 AI의 능력은 AI의 주요 강점 중 하나입니다. 그렇기 때문에 사용자 경험에 영향을 주지 않고 고급 보호 기능을 제공하려면 실제 미디어와 가짜 미디어의 대규모 데이터 세트에 대한 교육이 필요하다고 Horswell은 주장합니다.
그는 “기업은 AI 알고리즘을 훈련시켜 사람의 눈에는 종종 감지할 수 없는 원본과 합성 이미지 또는 비디오 사이의 미묘한 차이를 인식할 수 있습니다.”라고 설명합니다.
생체인식 AI 기반 도구는 이미 이미지, 음성, 지문의 진위 여부를 확인하는 데 사용되고 있으며 AI로 인한 사기 급증에 대한 방어 기능을 제공합니다.
“AI는 검증 프로세스를 자동화하고 얼굴 특징, 음성, 지문 등 개인의 고유한 신체적 특성을 기반으로 포괄적인 검사를 실행할 수 있습니다.
“AI는 알고리즘이 얼굴 움직임, 피부 질감, 미세한 움직임을 확인하고 딥페이크에서 발견되는 부자연스러운 깜박임 패턴이나 입술 움직임과 같은 이상 현상을 식별하는 실시간 확인 기능을 제공합니다.”라고 Horswell은 설명합니다.
마찬가지로 Trend Micro의 Lewis Duke는 딥페이크와 잘못된 정보에 맞서기 위해 AI 기반 탐지 도구를 사용하는 것을 옹호합니다.
그는 “AI가 생성한 허위 정보를 탐지하고 이에 맞서 싸우는 데는 여러 가지 과제가 있지만 자동화된 탐지 도구는 인간이 종종 놓치는 콘텐츠의 불일치를 식별할 수 있습니다.”라고 말합니다.
Duke는 비판적 사고와 사실 확인을 장려하기 위한 공공 교육 노력과 결합하여 이러한 도구가 선거 주기에서 AI 기반 허위 정보에 대한 강력한 방어를 제공할 수 있다고 지적합니다.
AI 혁신과 유권자 개인 정보 보호
DeleteMe의 공동 창립자이자 CEO인 Rob Shavell은 개인 데이터의 온라인 가용성으로 인해 유권자, 특히 소외된 커뮤니티의 유권자가 표적화된 허위 정보 캠페인에 더욱 취약해진다고 지적합니다.
Shavell은 투표 과정을 방해하기 위해 개인정보를 활용하는 주요 방법이 두 가지 그룹으로 분류될 수 있다고 설명합니다.
“현재 및 이전 선거 주기에서 모두 본 사례인 “유권자의 특정 투표소 위치 또는 날짜를 변경하는 스푸핑된 공식 성명”과 같은 잘못된 정보를 표적으로 삼았습니다.”
이러한 기만적인 전술은 자동녹음전화, 문자 메시지, 바이러스성 소셜 미디어 캠페인을 통해 배포될 수 있습니다.
“그리고 선거를 사기의 기회로 이용합니다. 이는 유권자 등록 노력을 돕거나 일부 지역 후보자를 대신하여 기부를 요청한다고 주장하는 유사한 스푸핑 캠페인인 경향이 있습니다.”
이러한 사기 활동은 공식 유권자 등록 절차에 대한 지식이 부족한 노인, 이민자, 소수 민족 커뮤니티 등 특정 그룹을 대상으로 합니다.
“개인 데이터가 널리 사용되는 시대에 변화한 것은 이전에는 더 노동 집약적이었던 방식으로 특정 대상, 특히 소수자와 기타 위험에 처한 그룹을 세밀하게 타겟팅할 수 있는 능력입니다.”라고 그는 덧붙입니다.
“그러나 미국에는 사람들의 개인 정보를 보호하는 연방법이 거의 없습니다. 이전에 제안된 ADDPA와 같은 국가 개인 정보 보호법을 통과시키는 것은 미국이 AI와 관련된 개인 정보 위험을 완화할 수 있도록 보장하는 데 큰 도움이 될 것입니다.”라고 Shavell은 결론지었습니다.
AI 시대의 선거 확보
Amplyfi의 Teather에 따르면, 잘못된 정보는 항상 사실과 구별할 수 없지만 GenAI는 우리가 아직 완전히 파악하지 못한 방식으로 규모를 기울일 수 있습니다.
이에 맞서기 위해 Vizrt의 AI 전도사인 Chris Black과 같은 전문가는 암호화된 메타데이터를 통해 미디어 콘텐츠의 신뢰성을 추적하여 선거 보도의 콘텐츠 신뢰성과 투명성을 보장하는 C2PA 표준과 같은 기술을 사용할 것을 제안합니다.
“정부와 기술 개발자들은 새로운 위협에 맞서고 민주적 완전성을 보호하기 위해 더 큰 조치를 취하고 있습니다.”라고 그는 말합니다.
“그러나 동시에 일부 정부에서는 인종에 따라 개인의 프로필을 파악하기 위해 안면 인식 기술을 배포하여 추적 및 구금이 가능해졌습니다. 소규모에서는 소비자 AI 도구를 갖춘 개인이 개인 정보 보호 취약성을 노출시키고 있습니다.”라고 그는 덧붙였습니다.
더 읽어보기: 미국의 가짜 유나이티드
“하버드 학생들은 Meta Rayban과 같은 스마트 안경이 어떻게 개인 정보에 한 눈에 접근할 수 있는지 보여 주었고 이러한 도구가 어떻게 오용될 수 있는지를 보여주었습니다.”
그러나 미래에 민주주의를 개선하기 위해 몇 가지 조치를 취할 수 있습니다.
Expel의 CEO인 Dave Merkel은 어떤 회사나 정부 기관도 스스로 공격으로부터 면제된다고 생각해서는 안 되며 사이버 보안과 경계는 민주적 제도를 보호하는 데 필수적이라고 강조합니다.
메르켈 총리는 “적들은 이미 의견을 바꾸는 공격을 조율할 방법을 찾고 있다”며 선거 인프라를 보호하기 위한 강력한 사이버 방어의 필요성을 강조했다.
앞으로 Teather는 유권자가 AI 자문에 의존하여 매일 받는 엄청난 양의 정보를 탐색하는 데 도움을 줄 수 있는 미래를 상상합니다.
그는 이러한 AI 시스템이 개인 비서 역할을 하여 개인이 허위 정보를 걸러내고 더 많은 정보를 바탕으로 결정을 내릴 수 있도록 돕게 될 것이라고 설명합니다.
그러나 이 비전에는 기술, 규제 및 교육의 조합이 필요합니다. AI 도구는 콘텐츠 신뢰성을 보장하기 위해 블록체인 및 분산형 플랫폼과 통합되어야 합니다.
동시에 그는 유권자들이 자신이 소비하는 정보에 대해 더욱 비판적이 되도록 돕기 위해 정부와 기술 기업이 미디어 활용 프로그램에 투자해야 한다고 덧붙였습니다.
그렇다면 미국 대선의 운명은 어떻게 될까요?
Ilia Kolochenko 박사는 다음과 같이 요약합니다. “소셜 네트워크와 기타 온라인 플랫폼은 아마도 다가오는 미국 선거에서 큰 역할을 할 것입니다.
“사이버 범죄자들이 조정 및 콘텐츠 필터링 메커니즘을 능가한다면 미국 선거에 대한 실질적이고 심각한 간섭과 민주주의에 대한 전례 없는 위협을 예상할 수 있습니다.”
Rob Shavell은 다음과 같이 예측합니다. “선거 당일 유권자 보호에 대해 모두가 우려하고 있으며 많은 지역에서는 보안을 강화하기 위해 철조망과 방탄 유리를 설치하고 있습니다. 불행하게도 실제 피해의 대부분은 유권자들이 투표소에 도착하기도 전에 발생할 것입니다.”
Srinivas Mukkamala 박사는 다음과 같이 결론을 내렸습니다. “그러나 결국 회의론은 딥페이크에 대한 최선의 방어책입니다. 정보를 액면 그대로 받아들이지 말고 그 진위 여부를 비판적으로 평가하는 것이 중요합니다.”
