딥페이크 영상, 페이스북 등 다른 SNS로 공유도 가능해

딥페이크 앱, 누구나 무료로 다운받을 수 있어…처벌도 미미

인공지능(AI)을 기반으로 한 이미지 합성기술인 딥페이크(deepfake)는 누구든, 무료로, 쉽게 이용할 수 있어서 많은 부작용을 만들어내고 있다.

27일 정보기술(IT)업계에 따르면 딥페이크 애플리케이션(앱)을 다운받으면 10초 만에 가짜 영상을 만들어낼 수 있다.

구글 스토어에서 리페이스(reface)라는 무료 AI 얼굴합성 앱은 다운로드 수가 1억회를 넘어섰고, 미보(MIVO)도 5000만이 넘는 다운로드 수를 기록 중이다.

미보 앱에는 다양한 영상 탬플릿이 있는데, 출처도 없는 일반인 영상이 대다수다.

만드는 과정은 간단하다.

원하는 영상을 클릭한 후 합성을 원하는 얼굴 이미지 하나만 선택하면 된다.

이소룡 영상에다 챗GPT에서 만든 가상의 한국 여성 이미지 사진을 넣었더니 금세 얼굴을 갈아 끼운 영상이 만들어졌다.

이렇게 만든 영상은 페이스북, 인스타그램, 카카오톡 등으로 공유할 수 있다. 모든 과정은 무료다.

농염한 춤을 추는 여성의 신체에 다른 사람 얼굴을 합성할 수 있고, 수영복을 입은 남녀 영상에도 각각 다른 남자와 여자 얼굴을 넣을 수 있다.

누구나 딥페이크 기술을 이용할 수 있게 되면서 각종 범죄로 이어지고 있다. 여성을 얼굴을 합성한 성범죄, 금융사기 등이 발생하면서 전 세계는 대책 마련에 분주하다.

최근 세계 최대 오픈소스 저장소인 깃허브(Github)는 최근 딥페이크 영상 제작에 활용되는 코드를 삭제했다.

방심위는 딥페이크 음란물 피해 신고 전용 배너를 신설하고, 딥페이크 파문이 불거진 텔레그램 측과 핫라인을 개설하는 등 대책을 마련할 계획이다.

하지만 딥페이크 관련 앱은 여전히 누구나 무료로 다운받을 수 있고, 딥페이크 영상 제작의 어려움도 없다. 불법 행위를 처벌할 수 있는 법적 근거도 미약하다.

김명주 서울여자대학교 정보보호학과 교수는 "현행법으로는 '배포'를 목적으로 하지 않으면 처벌을 할 수 없다"면서 "유포하지 않더라도 재미로 딥페이크 성착취물을 가지고 있는 것도 처벌해야 한다"고 말했다.