유명인에서 여동급생으로…AI 음란 딥페이크 만드는 美청소년들
- 24-04-09
학교마다 대응 달라…짧은 정학에서 퇴학 처분까지
경찰 신고 않는 학교, 가해자가 보호받는 상황도
인공지능(AI)으로 만든 음란 딥페이크가 미국에서는 청소년들 사이에서 퍼지고 있다. 연예인이나 정치인 딥페이크가 아닌 여자 동급생들의 음란 이미지를 만들어 공유하는 일이 벌어져 사회 문제가 되고 있다.
8일(현지시간) 뉴욕타임스(NYT)에 따르면 지난해 10월 뉴저지주 웨스트필드 고등학교의 10학년 여학생들은 같은 반 남학생들이 AI를 사용해 성적으로 노골적인 이미지를 조작하고 가짜 사진을 유포하고 있다고 관리자에게 알렸다. 하지만 5개월이 지난 현재 교육구가 이 문제를 공개적으로 다루거나 학교 정책이 바뀌는 일은 일어나지 않았다.
지난해 챗GPT와 같은 AI 기반 챗봇이 갑작스럽게 인기를 끌자, 미국 전역의 학교들은 학생들의 부정행위를 막기 위해 앞다퉈 텍스트 생성 봇을 억제했다. 하지만 이제 더 충격적인 AI 이미지 생성 현상이 학교를 뒤흔들고 있다고 NYT는 전했다.
미국 여러 주의 남학생은 '누드화(nudification)' 앱을 사용해 학교 무도회와 같은 행사에 참석하는 여성 급우의 사진을 AI로 누드 이미지로 만들었다. 학교와 경찰 보고서에 따르면 남학생들은 학교 급식실, 스쿨버스 또는 스냅챗 및 인스타그램과 같은 플랫폼의 그룹 채팅을 통해 가짜 이미지를 공유하기도 했다.
지난달 미국 연방수사국(FBI)은 신원이 확인할 수 있는 미성년자에 대한 음란 AI 생성 이미지를 포함해 컴퓨터로 생성된 아동 성적 학대 자료를 배포하는 것은 불법이라고 경고했다.
하지만 학생들과 학교는 AI 딥페이크 누드가 너무 갑작스럽고 새로운 현상이기에 아직 대비가 되지 않은 것으로 보인다. 예를 들어 시애틀의 이사콰 고등학교에서 동급생 딥페이크 누드가 발생했지만, 학교는 이를 경찰에 신고하지 않았다. 이사콰 경찰은 학교가 신고하는 의무가 있다고 했지만 학교는 "무엇을 신고해야 하느냐"고 되물었고, 교육구 법무팀은 경찰 신고가 의무는 아니라고 주장했다.
한편 동급생에 대한 딥페이크 누드를 만든 남학생들에게 강력한 벌을 내린 학교도 있다. 캘리포니아주 베벌리힐스에 있는 베벌리 비스타 중학교의 행정관들은 지난 2월 남학생 5명이 인공지능으로 생성한 여성 급우들의 음란 이미지를 만들어 공유했다는 사실을 알고 경찰에 신고했다. 교육구 문서에 따르면 2주 후, 교육위원회는 학생 5명의 퇴학을 승인했다.
베벌리힐스 통합교육구의 교육감인 마이클 브레지는 학교가 또래 친구들의 음란 딥페이크 이미지를 만들고 유포하는 것을 허용해서는 안 된다는 전국적인 선례를 만들고 싶다고 말했다. 그는 "이는 학교에서의 극단적인 괴롭힘"이라며 노골적인 영상이 소녀들과 그 가족들에게 "충격적이고 폭력적"이라고 지적했다. 그리고 "우리는 이를 학교에서 절대 용납하지 않을 것"이라고 다짐했다.
하지만 웨스트필드 고등학교에서의 대응 방식은 달랐다. 10월 말에 조사가 시작됐는데, 가해 남학생들은 행정관들이 따로 데리고 나가서 조용히 조사했지만, 딥페이크 대상이 된 여학생들은 학교 인터폰을 통해 이름을 불러 교무실로 불려 와 조사를 받았다. 피해자는 공개되고 가해자는 보호받은 셈이다.
학교 측은 이번 일을 '매우 심각한 사건'이라고 묘사하면서도 피해자들의 우려를 무시한 채 "생성된 이미지가 모두 삭제되어 유포되지 않고 있다"고 말했다. 피해자들에 따르면 처벌은 남학생들을 하루나 이틀 정학 처분하는 데 그쳤다. 그 후 피해자와 가족은 공개적으로 목소리를 내면서 가해자와 그 부모를 고소했다. 또 교육구, 주 의회 의원, 의회에 음란 딥페이크를 구체적으로 금지하는 법과 정책을 제정할 것을 촉구했다.
웨스트필드 공립학교는 학생 기밀 유지를 이유로 징계 조치에 대해 언급할 수 없다고 밝혔다. 성명서에서 이 지역 교육감은 교육구가 "학생들을 교육하고 이러한 새로운 기술이 책임감 있게 사용되도록 명확한 지침을 수립함으로써" 노력을 강화하고 있다고 밝혔다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 시애틀 통일골든벨 ‘성공’…김환희군 1등 영광 차지(+영상,화보)
- <속보> 오늘 정부납품 세미나서 한인상공인 위한 플렉스 펀드도 설명
- [신앙칼럼-최인근 목사] 기다림의 미덕(美德)
- 오리건 김성주의원 차남 미 공군사관학교 졸업
- “윤혜성 교장선생님 수고하셨습니다”
- 타코마한인회, KWA‘비지니스 활성화 그랜트신청’돕기로
- 시애틀 한인마켓 주말세일정보(6월 7일~ 6월 10, 6월 13일)
- [하이킹 정보] 워싱턴주 시애틀산악회 8일 토요산행
- [하이킹 정보] 워싱턴주 대한산악회 8일 토요산행
- 한국 스타트업 미국진출 위해 중진공·시애틀총영사관 협력
- 시애틀시 ‘6월4일 한국 중소벤처기업진흥공단의 날’로 지정
- 6월 정부납품 세미나 이번 주말 열린다
- 시애틀 한인, 워싱턴주 EOC 커미셔너로 활동
- “시애틀 한인 여러분, 유언장이나 상속 문제는 이렇게”
- 한인 꿈나무들 학예경연대회로 그림ㆍ글 실력 맘껏 발휘(+영상,화보)
- 페더럴웨이 통합한국학교도 장날행사로 여름방학들어가(+화보)
- 벨뷰통합한국학교 풍성하고 즐거운 종업식(+영상,화보)
- 시애틀통합한국학교 신나는 장날행사로 방학 들어가(+화보)
- U&T파이낸셜, 워싱턴주 한인여성부동산협회 세미나 성황
- 워싱턴주음악협회 올해 정기연주회 젊고 밝고 맑았다(+영상,화보)
- FWYSO 2만4,600여달러 장학기금 모았다
시애틀 뉴스
- 시애틀고교서 또 총격사망사고 ‘캠퍼스 안전’우려
- 지구사진 찍은 워싱턴주 우주비행사, 소형 비행기 조종중 추락사(영상)
- 미국주택구매 희망자 71% “모기지 인하 기다린다”
- 시애틀서 트레이더 조스 인기 좋다-새 지점 개설한다
- 시애틀에 미국 최대규모 벽화 등장했다
- 워싱턴주 학생들 아직까지 FAFSA 결과 통보 못받아 전전긍긍
- 워싱턴주 오늘부터 범죄용의차량 추격 다시 가능해져
- 오늘, 내일 시애틀지역 바닷물 올해들어 가장 많이 빠진다
- 워싱턴 주민 "도살업자가 엉뚱하게 우리집 애완돼지 죽였다"
- 시애틀지역 평균 집값 100만 달러 돌파했다
- UW 순위 다소 밀렸지만 세계 명문대 맞다
- "시애틀지역에서 저렴한 탁아소 어디 없을까요"
- 시애틀 말썽꾸러기 ‘벨타운 헬캣’ 운전자에 거액벌금 요구
뉴스포커스
- 국힘, 野 단독 상임위에 국회 '보이콧' 결정…"강하게 맞설 것"
- 조국, '김건희 명품백 종결'에 "국민권익위, '여사권익위' 됐다"
- 이원석 검찰총장, 李 대북송금 의혹 "오로지 증거·법리 따라서만 처리"
- 오세훈 "이승만 기념관, 여론 지켜보는 중…공과 50대 50 전시"
- 외식물가 또 올랐다…삼겹살 1인분, 2만원 돌파
- "'재판 노쇼' 권경애, 학폭 피해 유족에 5000만원 배상하라"
- "범죄마저 비호"…정치 이어 스타로 확산하는 어긋난 '내 새끼 팬덤' 왜?
- 국토부 장관이 띄운 전세 폐지론…'월세로 전환' 시나리오 가능할까
- '벼랑 끝' 중국 축구 "한국 실수 잡으면 기회 있을 것"
- "김여사 명품백 무혐의 종결…배우자 제재규정 없다"
- 정부 "개원의 '18일 진료' 명령…휴진 땐 13일까지 신고해야"
- 민주, 오늘 11개 상임위원장 선출…"국힘 협상 거부시 18개 독식"
- 해외여행 다녀왔더니 '귀국 축하금'…벌써 100만 가입한 이것, 괜찮나
- 주택 종부세 중과 대상, 1년만에 '48만명→2600명' 99.5% 줄어
- '소주 한 잔 1000원' 잔술 판매 허용됐지만…반응은 떨떠름 왜?
- 건설경기 침체 언제까지…철강·시멘트, 생산 줄여도 재고 급증 '끙끙'