인도네시아, 지난주 세계 처음으로 그록 사용 전면 금지

일론 머스크가 영국 정부를 향해 '파시스트' '감옥 섬'이라고 비난을 퍼부으며 인공지능(AI) 챗봇 ‘그록(Grok)’을 둘러싼 논란이 격화되고 있다. 영국 정부가 여성과 아동의 성적 이미지가 그록을 통해 생성된 사실을 확인하고, 소셜미디어 플랫폼 X(옛 트위터) 차단 가능성을 경고한 데 따른 것이다.

로이터통신과 홍콩 사우스차이나모닝포스트(SCMP) 등에 따르면 머스크는 10일(현지시간) X에 올린 글에서 영국이 소셜 미디어 댓글 관련 체포 건수가 세계에서 가장 많다는 통계 자료를 인용하며 “영국 정부는 왜 이렇게 파시스트인가”라고 비난했다. 그 몇시간 앞선 게시물에서는 영국이 표현의 자유를 억압하려 한다면서 '감옥 섬'이라고 지칭했다.

영국 인터넷 감시기관(IWF)은 다크웹에서 11~13세 소녀의 성적·상반신 노출 이미지들이 발견됐으며, 이는 그록으로 생성된 것으로 보인다고 밝혔다. 해당 이미지는 범죄 수준에 해당해 법 집행 대상이 된다고 설명했다. 또 X도 AI로 인해 동의 없이 옷이 벗겨진 사람들의 이미지가 가장 많이 게시되는 사이트로 알려졌다.

이에 대해 키어 스타머 영국 총리는 “머스크의 X가 즉각 조처해야 한다”고 강조했고, 리즈 켄달 기술 장관은 규제기관 오프컴(Ofcom)이 법적 권한을 모두 활용해야 한다며 “법을 따르지 않으면 영국 내 서비스 차단도 가능하다”고 경고했다.

X나 그록이 트럼프 행정부의 분노를 살 위험도 있다. 데이비드 래미 영국 부총리는 최근 워싱턴에서 J.D. 밴스 미국 부통령과 이 문제를 논의했는데, 밴스가 “여성과 아동 이미지가 조작되는 것은 극도로 심각하고 용납할 수 없는 일”이라며 공감했다고 전했다.

한편, 인도네시아 정부는 지난주 세계 최초로 그록 사용을 전면 금지했다. 인도네시아 통신·디지털부는 “정부는 동의 없이 성적 딥페이크를 제작하는 행위를 디지털 공간에서 시민의 인권, 존엄성, 그리고 안전을 심각하게 침해하는 행위로 간주한다”며 그록 서비스 접속을 차단했다. 세계 최대 무슬림 인구를 보유한 인도네시아는 음란물로 간주되는 콘텐츠의 온라인 공유를 엄격하게 금지하는 규정을 갖고 있다.

기사제공=뉴스1(시애틀N 제휴사)