선거 관련 딥페이크 영상 '급증'···서프샤크, 제도적 대응 강조

(씨넷코리아=신동민 기자) 서프샤크의 최신 분석에 따르면, 2021년 이후 전 세계 38개국에서 선거 관련 딥페이크 사건이 발생했으며, 이는 전 세계 인구의 절반에 해당하는 약 38억 명에게 영향을 미친 것으로 나타났다. 정치적 의도를 담은 딥페이크 콘텐츠는 미국, 브라질, 영국, 독일, 한국 등 주요 경제대국이자 민주주의 국가들의 선거 과정에까지 침투했다.

2023년 이후 선거를 실시한 국가 중 3분의 1 이상인 87개국 중 33개국에서 선거 관련 딥페이크 사건이 발생했다.

Surfshark의 사이버 보안 전문가 미구엘 포르네스(Miguel Fornes)는 “X(구 트위터)와 페이스북 같은 소셜미디어 플랫폼이 선거 관련 딥페이크 콘텐츠가 가장 활발히 유통되는 주요 채널”이라며, “이러한 플랫폼 중심 구조는 딥페이크가 광범위한 대중에게 확산되고 유권자에게 실질적인 영향을 미치는 핵심적인 이유”라고 설명했다. 그는 이어 “선거 관련 딥페이크의 심각성은 AI 기반 선거 캠페인에 투입되는 막대한 자금에서도 확인된다”며, “예를 들어, 2024년 인도 총선에서는 정당들이 AI 생성 콘텐츠에 약 5천만 달러를 지출한 것으로 파악된다”고 덧붙혔다.

지역별 선거 기간 중 딥페이크 사건으로 영향을 받은 국가의 비율을 살펴보면, 남미가 40%로 가장 높으며, 이어 오세아니아 33%, 유럽 31%, 아시아 21%, 아프리카 20%, 북미 13% 순이다.

선거와 관련된 딥페이크 사건은 인도, 미국, 인도네시아, 파키스탄, 나이지리아, 브라질, 방글라데시, 멕시코 등 인구 규모가 가장 큰 10개국에서 발생했습니다. 일부 국가(중국과 러시아)는 딥페이크를 다른 지역을 대상으로 사용했다. 그러나 선거 관련 딥페이크의 규모는 반드시 인구 규모와 관련이 있는 것은 아니다. 인구 규모로 21위부터 30위까지 순위에 오른 국가 중 5개국(대한민국, 영국, 케냐, 미얀마, 콜롬비아)에서 선거 기간 중 딥페이크 사건이 발생했다.

선거와 관련된 딥페이크의 일부 사례는 상상을 초월할 정도로 심각하다. 2024년 뉴햄프셔 주 예비선거 기간 중 발생한 주목할 만한 사건에서 유권자들은 조 바이든 대통령의 AI 생성 목소리가 포함된 자동 전화 메시지를 받았다. 이 메시지는 민주당 지지자들이 예비선거를 건너뛰도록 거짓으로 촉구했다.

2025년까지 전 세계 AI 사용자 수는 약 3억 7,800만 명에 달할 것으로 예상되며, 이는 전년 대비 20% 증가한 수치다. 고품질 딥페이크의 규모는 계속해서 급속히 성장할 것이며, 이는 이를 구분하는 것이 거의 불가능해질 것임을 의미한다. 사기꾼들이 현재 재현할 수 없는 유일한 것은 눈동자 반사다. 딥페이크를 자세히 살펴보면 눈동자 반사가 보통 비대칭적이고 불규칙적이지만, 실제 사진이나 영상에서는 명확하고 대칭적이며 균일하다.

Surfshark의 전문가에 따르면, 딥페이크 환각에 빠지지 않도록 도와주는 유일한 신뢰할 수 있는 도구는 비판적 사고라고 강조했다.