일부 이용자 안전장치 우회한 듯…그록 "허점 확인 후 수정"

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록'(Grok)이 미성년자를 부적절하게 묘사한 이미지를 생성·게시한 사실이 드러나 논란에 휩싸였다.

2일(현지시간) 그록은 엑스(X) 공식 계정을 통해 최근 이 챗봇이 성적으로 묘사된 의상을 입은 미성년자의 AI 이미지를 생성하고 공유한 것으로 확인됐다고 밝혔다. 해당 이미지는 이용자의 요청에 따라 생성된 것이다.

그록은 원래 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있다. 그러나 이번에는 일부가 이를 우회한 것으로 보인다.

문제 제기가 이어지자 그록은 "안전장치의 허점을 확인했으며 이를 시급히 수정하고 있다"라고 밝혔다. 논란이 된 게시물도 삭제됐다.

그록의 안전장치 미비 논란은 이번이 처음이 아니다. 그록은 이전에도 남아프리카공화국 '백인 집단학살' 음모론을 언급하거나, 강간 환상·반유대주의적 표현을 게시해 논란을 일으킨 바 있다.

성적 이미지 생성 관련해서도 그록은 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇과 달리 '표현의 자유'를 내세워 이를 막지 않고 있다. 지난 8월에는 이용자의 요청에 따라 성적인 이미지와 텍스트를 생성할 수 있는 '스파이시 모드'를 내놓기도 했다.

아동 성착취물 생성에 AI가 이용되는 문제는 인공지능 업계 전반의 과제다. 가디언에 따르면 전문가들은 아동 학대 이미지를 학습한 AI 모델이 새로운 아동 착취 이미지를 만들어낼 수 있다고 우려하고 있다.