추가금 내면 신체 특성·나이 반영…온라인 성범죄 악용

딥페이크 앱 활개치는데…법적 제재·피해 구제 지지부진

"어떤 사진이든 옷을 벗겨드립니다(UNDRESS ANY PHOTO)!"

인공지능(AI) 합성으로 유명해진 한 온라인 앱의 문구입니다. 해당 문구 위엔 평범한 원피스를 입고 있는 한 여성의 사진이 있지만 앱 변환을 거치면 나체 상태로 변신합니다. 현실에서 직접 찍었다고 해도 믿을 정도로 자연스럽게 구현됩니다.

추가금을 지급하면 사진 특성을 반영한 정교한 합성도 가능합니다. 딥페이크(deepfake·인공지능에 기반해 신체를 실제처럼 조작) 기술의 발달로 인체 합성에 쓰이는 소프트웨어가 더욱 정교해진 탓입니다. 기술 발달과 앱 사용자의 증가로 온라인 성범죄 등에 악용될 수 있다는 우려가 커지고 있지만 이를 규제할 법과 제도는 갈 길이 멉니다. 

◇딥페이크 실체

'2분'

기자가 실제로 해당 사이트 및 앱에 접속해 딥페이크 기술로 조작된 나체 합성 사진을 만들어내기까지 걸린 시간입니다.

접근 장벽도 높지 않았습니다. 사회관계망서비스(SNS)에서 자주 언급된 몇몇 합성 사이트 이름을 검색해 들어가 보면 안드로이드 등 소프트웨어 운영체제별로 앱 설치 방법을 상세하게 설명해 주는 모습이 눈에 띄었습니다.

온라인에 게시된 불특정 다수의 사진을 앱에 올린 후 버튼을 누르면 옷과 신체의 경계선을 자동으로 구분한 뒤 몇 분 이내로 나체 구현이 가능했습니다. 적게는 월 5000원, 많게는 월 5~6만원 선의 돈을 지불하면 사진 속 인물의 나이, 신체적 특성 등을 반영한 정교한 합성물을 제공하거나 합성 사진임을 알리는 식별무늬(워터마크)를 지워주기도 했습니다.

미국 등 해외에선 이용자가 폭증하며 해당 기술의 범죄 악용 우려도 커지는 상황입니다. 일부 외신에 따르면 소셜네트워크 분석 기업 그래피카(Graphika)는 지난 9월 한 달간 약 2400만명의 사람이 이같은 딥페이크 웹사이트 또는 앱을 이용했다고 발표했습니다. SNS에서 해당 사이트의 홍보 링크는 올해 초 대비 지난 9월 기준 약 2400% 가량 증가한 것으로 알려졌습니다.

이같은 기술을 실제 범죄에 활용해 중형에 처해진 사례도 있습니다. 지난 11월 노스캐롤라이나 서부 연방지방법원은 인공지능을 활용해 1000개 이상의 아동 성 착취물을 제작한 아동 정신과 의사에게 징역 40년을 선고했습니다. 그는 본인이 치료하던 10대 환자들을 몰래 찍거나, 옷을 입은 미성년자의 사진을 딥페이크 기술로 디지털 변환하는 방식으로 음란물을 제작한 것으로 드러났습니다.

◇법적 처벌 받은 사례 찾기 어려워

딥페이크 기술이 상용화된 지 오래되지 않은 만큼, 아직 국내에선 '옷 벗기기' 앱을 범죄에 활용해 법적 처벌을 받은 사례는 찾기 힘듭니다. 하지만 최근 일부 온라인 커뮤니티 등을 중심으로 해당 사이트 링크가 '지인 옷 벗기기에 추천', '기술 수준이 높다'는 글과 함께 공유되고 있다는 점을 고려할 때 안심하긴 이른 상황입니다.

지인 등 실제 사람을 대상으로 해당 앱을 활용해 나체 합성 사진을 제작할 경우 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법) 혐의 적용을 검토 가능합니다.

성폭력처벌법 제 14조2항(허위영상물 등의 반포 등)에 따르면 반포등을 할 목적으로 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물 대상자 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공하면 5년 이하의 징역 또는 5천만원 이하의 벌금형에 처할 수 있습니다.

하지만 이마저도 반포 등 목적이 드러나야 하는 만큼 단순 소유만으로는 처벌하기 어려울 것으로 보입니다. 성범죄 전문 이승혜 변호사(법무법인 이승혜앤파트너스)는 "앱을 활용해 정상적 복장 상태를 나체로 변환하는 것은 편집 및 가공에 해당한다고 볼 수 있어 처벌이 가능하다"면서도 "다만 특정 사이트에 이를 게시하거나 카카오톡으로 전달하는 등 반포할 목적이 전제돼야 한다"고 설명했습니다.

해당 기술로 유포 등 피해를 본다 해도 실질적인 구제 조치는 쉽지 않습니다. 민형배 더불어민주당 의원실이 방송통신심의위원회(방심위)로부터 제출받은 자료에 따르면 방심위는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물 9006건에 시정을 요구했습니다. 하지만 실제 삭제로 이어진 영상은 전체의 4.55%에 불과했습니다.

한국성폭력상담소 관계자는 "촬영물 재가공 등과 관련해 처벌할 수 있는 법적 조항이 있긴 하지만 실질적 제재가 이뤄지고 있다고 보긴 어려운 상황"이라며 "기술 발전으로 온라인 성 착취 형태가 다양해지고 있는 만큼 피해 인정 범위를 확대하고 관련 정책 과제를 면밀히 검토할 필요가 있다"고 지적했습니다.