가뜩이나 폭력 만연한데…방글라데시 선거에 딥페이크까지 넘쳐

한달 24달러 헤이젠으로 만든 딥페이크 선거에 이용

굵직한 선거들이 포진하고 있는 내년에 해커들이 딥페이크나 인공지능(AI)이 만든 가짜 정보를 이용해 유권자를 조작하고 분열을 심화시킬 수 있다고 우려하는 보고서가 나왔다. 특히 1월에 선거가 있는 방글라데시에서는 이미 딥페이크(인공지능을 활용해 만든 가짜 영상)를 이용한 선거 왜곡이 심각하게 이뤄지고 있었다.

14일(현지시간) 파이낸셜타임스(FT)에 따르면 방글라데시의 친정부 및 반정부 언론 매체와 영향력 있는 사람들 누구라 할 것 없이 AI가 생성한 허위 정보, 특히 미국과 이스라엘 기반 AI 스타트업이 제공하는 저렴한 도구를 사용하여 만든 딥페이크로 선거 운동을 해오고 있는 것으로 알려졌다.

예를 들어 한 온라인 뉴스 매체가 지난 9월 X(옛 트위터)에 게시한 한 동영상에서도 AI로 만든 앵커가 폭동 장면을 보도하면서 미국 외교관들이 방글라데시 선거에 개입하고 폭력을 행사했다고 비난했다. 

방글라데시에 본사를 둔 미디어 조사 회사인 디지털리라이트는 AI가 생성한 허위 정보는 현재 실험 단계에 있지만 AI 도구를 사용하면 이들 가짜 정보의 대량 생산 및 유포가 가능하며 그럴 경우 상당한 위협이 될 것이라고 밝혔다.

로스앤젤레스에 기반을 둔 AI 비디오 생성 플랫폼 헤이젠(HeyGen)의 도구를 사용하면 짧은 뉴스 영상 형태의 딥페이크 또는 가짜 비디오를 만들 수 있다. 이 도구 사용 비용은 한달 24달러(약 3만원)에 불과하다. 

허위 정보는 다가오는 선거를 앞두고 이미 긴장된 방글라데시의 정치적 분위기를 더욱 악화시키고 있다. 방글라데시는 야당 유력 지도자 다수가 경찰에 체포되고 노조들이 임금인상 시위를 벌이는 가운데 사망자도 나왔다.

하지만 기술 플랫폼들은 가짜 뉴스 제작이나 게시의 현실적 위협에 무관심한 상태라고 FT는 전했다. 또 미국의 주요 기술 기업이 일일이 소규모 시장에서 일어나는 가짜 영상 제작 도구 사용을 통제하는 것도 어렵고, 영어가 아닌 언어 콘텐츠에는 AI 탐지 도구가 부족해 허위 정보를 식별하는 데 한계가 있다.

비영리 정책연구소인 테크글로벌인스티튜트의 창립자인 사브하나즈 라시드 디야는 주요 기술 플랫폼들이 제안하는 광고를 통한 통제는 방글라데시에서는 효과가 없을 것이라고 말했다. 방글라데시에서는 광고가 정치 콘텐츠에 큰 역할을 하지 않기 때문이다.

디야 창립자는 플랫폼과 각 나라 당국의 규제부족과 선택적 집행 때문에 문제가 더욱 악화되고 있다고 전했다. 그뿐 아니라 정치인들이 진짜 일어난 일임에도 "AI가 생성한 가짜 뉴스"라고 주장하면서 결국 국민이 어떤 정보도 불신하게 만들고 있다고 우려했다.

기사제공=뉴스1(시애틀N 제휴사)