SNS 덮친 '미사일 폭격' 가짜 영상…혼란 부추기는 딥페이크
미군, 목표물 식별 훈련·전장 시뮬레이션도 AI로 진행

미국과 이란의 군사 분쟁에 인공지능(AI)이 전면 등장했다. AI로 조작한 가짜 영상이 허위 정보를 퍼트리는 한편, 미군은 작전 시뮬레이션 등에 AI를 활용했다.

3일 AFP통신 등에 따르면 미국은 지난달 28일(현지시간) 이란 수도 테헤란 등에 미사일 공격을 단행했다.

이란 역시 바레인, 카타르, 아랍에미리트(UAE) 등에 위치한 미군 기지와 군사 시설을 타격하며 맞불을 놨다.

양 국가 간 충돌이 계속되자 사회관계망서비스(SNS)에는 허위 정보를 담은 AI 영상이 확산했다.

이달 2일 틱톡에 '이란'(Iran)이라고 검색하자 '두바이 현지 상황인가요?'(Dubai right now?)라는 제목의 영상이 올라왔다.

해당 영상에서는 아랍 전통 의상을 입은 사람들이 가족들과 다급하게 대피했다. 갈라진 도로와 고층 건물 사이로는 짙은 연기가 피어올랐다.

이 영상은 게시한 지 약 11시간 만에 '좋아요' 수십만 개를 받았다. 하지만 이는 생성형 AI로 조작된 영상이었다.

5개의 생성형 AI 판독 서비스에 의뢰한 결과 모두 'AI 영상'이라는 판정이 나왔다. 이 영상은 하루 뒤인 3일 삭제됐다.

지난 2일 틱톡에 ‘두바이 현지 상황’이라는 제목의 영상이 올라왔다. 해당 영상은 AI로 제작했으며, 하루 뒤인 3일 삭제됐다.(틱톡 갈무리)

이를 두고 전쟁 등 긴박한 위기 상황에서 AI가 사회적 혼란을 초래할 수 있다는 지적이 나온다. 세계경제포럼(WEF)은 '2026년 글로벌 위험 보고서'에서 딥페이크의 위험성을 경고했다.

WEF는 "딥페이크 영상 제작이 쉬워지면서 허위 정보가 확산하고 있다"며 "이에 따라 시민들이 진실과 거짓을 구분하는 것 자체가 불가능해질 수 있다"고 진단했다.

국내법도 AI 오남용을 막기에는 부족하다는 지적도 제기된다. 'AI 기본법'에 따르면 생성형 AI '사업자'는 AI로 만든 콘텐츠에 워터마크나 문구 등을 표시해야 한다.

하지만 각종 AI서비스로 콘텐츠를 만드는 '개인'에게는 원칙적으로 표시 의무를 부과하지 않는다.

JD 밴스 미국 부통령이 2월 28일(현지시간) 워싱턴DC 백악관 상황실(Situation Room)로 보이는 장소에서 내각 각료들과 함께 대(對)이란 미군 군사작전 '에픽 퓨리'(Epic Fury) 진행 상황을 보고 받고 있다.(백악관 엑스 계정, 재판매 및 DB금지) ⓒ 뉴스1 류정민 특파원

AI는 정보 소비뿐만 아니라 군사 작전에도 영향을 미쳤다.

월스트리트저널(WSJ)은 1일(현지시간) 당국 관계자를 인용해 미국이 이란 공습 작전에 앤트로픽 AI 모델인 '클로드'를 활용했다고 보도했다.

WSJ은 미군 사령부가 클로드를 활용해 정보 평가, 목표물 식별, 전장 시뮬레이션 수행 등을 했다고 전했다.

이를테면 거리의 CCTV와 일반 가정의 초인종 카메라, 고속도로 요금소 등 수많은 센서에서 추출한 데이터를 AI로 분석하는 식이다.

한편 미국 국무부는 최근 자체 개발 챗봇 '스테이트챗'에 탑재한 AI 모델을 앤트로픽 '클로드'에서 오픈 AI의 'GPT-4.1'로 교체하고 있다.

앤트로픽 측이 자사 모델을 대규모 감시나 자율 살상 무기 개발에 사용할 수 없다는 윤리적 입장을 고수했기 때문이다.

이에 도널드 트럼프 미국 대통령은 앤트로픽을 '급진 좌파 기업'으로 규정하며 계약 중단을 지시했다.