바이든 이어 스위프트까지 딥페이크 피해…美 탄력받는 'AI 규제' 여론
- 24-01-29
국민가수 성착취 이미지 확산…백악관, 의회에 규제입법 주문
여야 의원 한목소리로 규탄…전문가들 "워터마크도 무력화된다"
미국 팝가수 테일러 스위프트를 성적 대상화 한 이미지가 생성형 인공지능(AI) 기술로 합성된 것으로 알려지자 미국에선 AI 규제가 시급하다는 목소리가 다시 한번 힘을 얻고 있다. 오는 11월 대선을 앞두고 민주당 경선 과정에서 조 바이든 대통령의 가짜 목소리가 유포되면서 정치권도 AI 규제 논의가 재개됐다.
미국 정보기술(IT) 전문매체 404미디어에 따르면 지난 25일(현지시간) 소셜미디어 엑스(X·구 트위터) 등지에서 유포된 스위프트의 딥페이크(deep fake·현실과 거짓을 뒤섞은 이미지·음성·영상)는 익명 메신저앱 텔레그램 내 특정 그룹 사용자들이 생성형 AI로 만든 것으로 파악됐다. 해당 그룹에선 마이크로소프트(MS)의 이미지 생성 도구인 디자이너(Designer)로 만든 성착취 이미지가 그간 은밀하게 공유됐다고 한다.
이에 대해 사티아 나델라 MS 최고경영자(CEO)는 27일 미 NBC 방송과의 인터뷰에서 스위프트의 딥페이크물에 대해 "매우 끔찍한 일"이라고 규탄했다. 이어 "안전한 콘텐츠가 제작될 수 있도록 기술 주변에 가드레일(안전장치)을 설치해야 한다"며 규제 필요성을 인정했다. MS는 성명을 통해 디자이너 필터링을 강화하는 조치를 취했다고 밝혔다. 엑스도 문제의 이미지를 전량 삭제하고, 스위프트 관련 검색어를 잠정 차단했다.
표현의 자유를 이유로 콘텐츠 검열을 자제해 오던 미국 IT 업체들의 이례적인 강경 대처에도 불구하고 '사후 약방문'이란 지적이 나오고 있다. 해당 엑스 계정이 정지되기 전까지 스위프트 딥페이크는 17시간 동안 무려 4500만회의 조회수를 기록했기 때문이다. 심지어 '티엘러 스위프트 AI'란 검색어가 버젓이 엑스의 '실시간 트렌드' 상위권에 오르기도 했다. 이에 격분한 스위프트 팬들은 스위프트의 실제 공연 장면을 무더기로 해시태그 하는 방식으로 딥페이크물을 덮고자 고군분투했다.
스위프트는 투어 콘서트를 한 번 진행할 때마다 인근 도시의 숙박·요식업 매출을 폭발적으로 증대시키는 경제적 파급력을 몰고 다닌다. 지난해 7월 미 연방준비제도(Fed·연준)가 발간한 보고서에 이러한 경기부양 현상을 일컫는 '스위프트노믹스'(Swiftnomics)란 신조어가 나왔을 정도다. 미국 국민가수를 상대로 한 성착취물 소식에 카린 장 피에르 백악관 대변인은 26일 브리핑에서 "매우 우려스러운 일"이라며 의회를 향해 AI 규제와 관련한 입법에 나설 것을 주문했다.
조 모렐 민주당 하원의원(뉴욕주)은 디지털로 조작된 포르노 이미지를 동의없이 공유하는 것을 연방범죄로 규정하고 징역형과 벌금을 부과하는 법안을 통과시킬 것을 촉구했다. 모렐 의원은 현재 하원 법사위원회에 회부된 초당적 법안인 '은밀한 이미지 딥페이크 방지법'을 발의한 당사자다. 이에 대해 공화당 소속 톰 킨 주니어 하원의원도 "AI 기술이 필요한 보호 장치가 마련되는 속도보다 더 빠르게 발전하고 있다"며 "안전장치를 마련해야 한다"고 화답했다.
정치권에선 불과 사흘 전 조 바이든 대통령의 목소리를 흉내 낸 '로보콜'(robocall· 녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 이미 한차례 홍역을 치른 바 있다. 민주당 뉴햄프셔주 비공식 경선 전날인 지난 22일 '투표에 참여하지 말라'는 로보콜을 받았다는 유권자들의 증언이 쏟아지자 백악관이 나서서 해당 로보콜은 바이든 대통령의 녹음본이 아닌 AI에 의한 딥페이크라고 해명해야 했다.
물론 미국 정부도 AI 규제에 손을 놓은 것은 아니다. 바이든 행정부는 지난해 10월 AI의 잠재적인 위험으로부터 국가안보, 저작권자, 소비자, 근로자, 소수 집단을 보호하는 포괄적 행정명령에 서명했다. 행정명령에는 AI 개발 기업을 상대로 신제품 출시 전 안전검사를 실시하는 한편 AI가 생성한 자료에는 워터마크를 부착하는 것을 의무화하는 방안이 포함됐다. 같은해 7월 바이든 행정부는 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 워터마크 부착 약속을 받아냈는데, 이제는 기업 자율에만 맡기지 않고 정부가 적극 개입하겠다는 의지를 드러낸 것이다.
그럼에도 워터마크 부착 정도로는 각종 딥페이크물 피해를 예방하기 어렵다는 게 전문가들의 중론이다. AI 기술이 갈수록 고도화돼 탐지 소프트웨어와 워터마크 모두 사용자들에 의해 무력화될 수 있기 때문이다. 영국 경제전문지 이코노미스트가 지난달 미국 뉴올리언스에서 열린 세계 최대 AI 학회 '뉴립스'에 참석한 전문가들을 대상으로 진행한 설문조사 결과에 따르면 응답자 23명 중 17명은 이러한 이유로 AI가 생성한 딥페이크물은 점차 탐지가 불가능할 것으로 전망했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 벨뷰통합한국학교 풍성하고 즐거운 종업식(+영상,화보)
- 시애틀통합한국학교 신나는 장날행사로 방학 들어가(+화보)
- U&T파이낸셜, 워싱턴주 한인여성부동산협회 세미나 성황
- 워싱턴주음악협회 올해 정기연주회 젊고 밝고 맑았다(+영상,화보)
- FWYSO 2만4,600여달러 장학기금 모았다
- [신앙과 생활-김 준 장로] 김철훈 목사 소고(小考-4)
- KORAFF 한인입양가족재단 한국문화축제 연다
- 타코마한국학교, 특별한 한국어 여름학교 캠프 연다
- KWA대한부인회 평생교육원 봄학기 수료식
- UW 한인 이수인교수 삼성호암상 받았다
- [하이킹 정보] 시애틀산우회 1일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 2박3일 캠핑
- [하이킹 정보] 워싱턴주 대한산악회 1일 토요산행
- <속보>아동성폭행 타코마 한인군인, 택시기사 살해혐의로도 기소돼
- 600명 ‘코리아 나이트’서 스트레스 확 날렸다(+영상,화보)
- K-SCAN 한인상공인 길잡이 역할 돋보인다
- [화보] 코리아나이트 신나고 재미있었다
- 벨뷰통합한국학교 전통혼례식 "참 멋있어요"(+영상,화보)
- “FWYSO 봄 연주회에 한인 여러분을 초대합니다”
- UW동아시아도서관, 김봉준 작가 초청 행사
- [기고-샘 심] 제44선거구 워싱턴주 하원의원에 출마하는 이유
시애틀 뉴스
- 워싱턴주 경제 미국서 최고로 좋다
- MS, 스웨덴 AI·클라우드 인프라에 2년간 32억 달러 투자한다
- 긱하버 퍼레이드행사서 급발진해 5명 부상(+영상)
- 시애틀경전철 무임승차 단속 강화하니 "조심해야"
- 일부 페리 탑승대기 시간 길어졌다
- 오리건 해안 홍합채취 금지됐다
- 코스트코 핫도그 가격 '1.50달러' 안올린다
- 시애틀찾은 연방의무감 "고독은 전염병, 우리 모두 대처해야"
- 워싱턴주지사 출마한 퍼거슨장관 공직자 윤리위반 시비
- 워싱턴주 식당서 오늘부터 플라스틱용기 사용금지된다
- 워싱턴주 차나 주택 보험 왜이리 비싼가? "보험료 인상이유 밝혀라”
- 시애틀경찰국장은 ‘파리목숨’인가? 디아즈 국장 해임 놓고 논란
- 아마존 드론 장거리 배송 승인 얻었다
뉴스포커스
- 포항 석유 탐사 주도한 美 전문가 내일 방한…검증 결과 신뢰도 제고
- 국방부 조사본부, 재검토 보고서에 "임성근, 안전 의무 다 안 해" 적시
- 민주, '김정숙 기내식' 공세 되치기…"尹 술자리 비용도 공개하라"
- 5월 물가 2.7% 10개월來 최저…"할당관세 등 안정세 지속 총력"
- 9·19 군사합의 전부 효력정지…한 총리 "북 도발 즉각조치"
- 복귀명령 해제하고 사직서 수리…오늘 '전공의 출구' 연다
- 양양 가는 고속도로에 누군가 돈 뿌려… 차 세우고 줍기 소동
- "K-스낵 대표 주자 거듭"…오리온 '꼬북칩' 인기에 美 공장 짓나
- K-콘텐츠 수출 1% 늘면 관광객 0.25%↑…"관광 연계 정책 필요"
- 이종섭 측 "VIP 격노 접한 적 없다" vs 박정훈 측 "말 바뀌고 있다"
- 이번엔 '산유국의 꿈 이뤄질까'…첫 생산까지 남은 절차는
- 전 보듬 직원 "강형욱 한창 잘나가던 때, 정읍까지 부친상 조문 왔다"
- '가스 폭발' 기억하고 있는 포항 시민들 "산유국 되나" 들썩
- 백종원 찾은 청도 '그 맛집'…"밀양 성폭행범이 돈 없어 살려달라 해 고용"
- 참치김칫국·감자수제비…김호중 '서울구치소' 식단에 누리꾼 "잘 나오네"
- 尹 "동해에 140억 배럴 석유·가스 가능성…내년 상반기 중 결과"