유로폴 보고서…공유된 현실 믿지 못하는 '정보 종말론', '현실 무관심' 이어질 것

특정 인물의 얼굴을 인공지능(AI) 기술을 이용해 특정 영상에 합성한 편집물을 뜻하는 '딥페이크' 기술이 사실에 대한 신뢰를 잠식하는 범죄에 사용될 수 있다는 경고가 유럽으로부터 나왔다.

AFP통신에 따르면 28일(현지시간) 유로폴(유럽연합 법집행협력청)이 지하 범죄세계에서 딥페이크 기술 사용이 증가하고 있으며 이를 최우선 해결과제로 삼아야 한다고 경고했다. 

유로폴은 딥페이크를 이용해 사람들이 온라인에서 결코 하지 않았을 말이나 행동을 하도록 하거나 완전히 새로운 인물을 만들어내는 행위가 악인의 손을 거치면 파괴적인 결과를 낳을 수 있다고 진단했다.

유로폴은 딥페이크 기술이 신뢰를 잠식하는 것 뿐 아니라 범죄에 어떻게 활용될 수 있는지에 대한 23장 보고서를 발표하며 "위장정보와 딥페이크의 이용 가능성이 높아진 것은 사람들이 권위와 정보매체를 인지하는 방식에 큰 영향을 미칠 것"이라고 설명했다.

"더 이상 시민들이 공유된 현실을 믿지 못하는 상황으로 이어질 수 있고 어떤 정보원이 신뢰가능한 인물인지에 대한 사회적 혼란을 야기할 수도 있다고 전문가들은 우려했다"며 "때때로 '정보 종말론' 혹은 '현실 무관심'으로 일컬어지는 상황으로 귀결될 수 있다"고 유로폴은 꼬집었다.

기업들도 위험으로부터 예외는 아니다.

범죄자들이 3500만 달러(약 444만원)를 송금하도록 명령하기 위해 회사 최고 경영자의 얼굴을 딴 딥페이크 기술을 사용한 사례가 있다고 했다.

유로폴은 "기술의 발전적 사용과 악의적 사용을 구별하기 위해서라도 딥페이크 기술을 인지하고 현상에 대처할 준비는 필수"라고 강조했다.

다만 여전히 딥페이크 기술은 주변의 흐릿한 가장자리나 깜빡임 부족 혹은 다른 불일치 사안들로 가짜임을 감지할 수 있다. 그러나 기술은 계속 발전중이며 앞으로 감지하기 더 어려울 수 있다.

유로폴은 "딥페이크 기술이 결코 완벽하지 않을 가능성이 높지만 딥페이크 기술의 정교함이 늘어감에 따라 수동 감시보다 정교한 수준의 시스템적 감지로 확실성을 갖는 게 필요할 것"이라고 부연했다.

페이스북과 인스타그램을 소유한 메타 뿐 아니라 틱톡, 레딧, 유튜브와 같은 소셜 미디어 거물들을 포함한 많은 인터넷 회사들은 딥페이크를 불법화하기 위한 시스템을 장착한 상태다.

유로폴은 "정책 입안자들과 법 집행 기관들은 현재 정책과 관행을 평가해 딥페이크가 가져올 새로운 현실에 대비해야 한다"고 당부했다.

기사제공=뉴스1(시애틀N 제휴사)