"잘못된 정보 또는 허위 정보를 구성할 수 있는 소스는 금지"

딥페이크 활용한 범죄 늘어나…엑스 "불법 콘텐츠 단속 강화"

세계 최대 오픈소스 저장소인 깃허브(github)가 딥페이크(deepfake) 영상 제작에 활용되는 코드를 삭제했다. 딥페이크를 이용한 각종 범죄가 늘어나고 있는 영향으로 풀이된다.

딥페이크는 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어로 가짜 이미지 합성 기술이다.

26일 정보기술(IT)업계에 따르면 이달 24일 깃허브는 딥페이크 영상 제작에 활용되어 온 '딥페이스랩'(DeepFaceLab)의 코드를 삭제했다.

깃허브는 "잘못된 정보 또는 허위 정보를 구성할 수 있는 콘텐츠 생성을 설계, 장려, 홍보, 지원 또는 제안하는 어떤 프로젝트도 허용하지 않는다"며 삭제 이유를 밝혔다.

그러자 해당 코드 제작자는 "칼도 위험하니 금지돼야 한다"며 비꼬는 내용의 게시글을 올렸다.

깃허브는 자신이 개발한 소스 코드를 저장하고, 다른 사람들과 공유할 수 있도록 하는 플랫폼이지만, 범죄에 악용될 우려가 있는 경우에는 소스 공유를 금지한다는 조항을 두고 있다.

실제 깃허브는 '성적으로 외설스러운 콘텐츠는 금지한다'는 규정으로 지난 2019년 딥페이크 포르노 콘텐츠 관련 소스 공유를 금지한 바 있다.

이번 깃허브의 딥페이크 소스 삭제는 이를 이용한 각종 범죄가 늘어나는 영향으로 풀이된다.

최근 이스라엘과 하마스 등 전쟁 중인 국가는 딥페이크로 여론을 선동하는 데 활용하고 있고, 딥페이크를 이용한 글로벌 금융 사기도 늘어나고 있다.

소셜미디어 X(엑스·옛 트위터)는 딥페이크를 활용한 아동 성 착취물 등 불법 콘텐츠 단속을 강화하고 있다.

국내에서도 딥페이크가 논란이다. 방송통신심의위원회가 발표한 자료에 따르면 딥페이크 등 성적 허위 영상물을 차단하거나 삭제해달라고 요구한 사례는 지난 2020년 473건에서 지난해 7187건으로 15배 늘었다.