xAI 등 7개 AI챗봇 기업에 자료 제출 요구

어린이와 '선정적 대화' 허용 정황도 논란

미국 연방거래위원회(FTC)가 아동과 청소년을 대상으로 인공지능(AI) 챗봇이 미치는 영향 조사에 착수했다.

최근 미성년자와 정신질환 취약자 등이 챗GPT와 대화를 나누다 현실감각을 잃는 'AI 정신병' 현상 속출하자 대응에 나선 것으로 분석된다.

11일(현지시간) 블룸버그통신에 FTC는 구글·오픈AI·xAI·메타 등 7개 AI 챗봇 개발 기업에 자료 제출을 요구했다.

조사 대상에 오른 기업은 일론 머스크가 설립한 xAI와 메타 산하 인스타그램·스냅, 캐릭터AI 운영사 캐릭터 테크놀로지 등이 포함됐다.

FTC는 이들 기업의 챗봇 서비스가 아동·청소년 이용자에 어떤 영향을 미치는지 측정하고 청소년 접근 제한을 위한 안전 장치 마련 여부 등을 점검할 계획이다. 이번 조치는 공화당 소속 위원을 포함한 FTC 위원 전원 만장일치로 의결됐다.

FTC가 칼을 빼든 배경에는 최근 미국 캘리포니아주에서 극단적인 선택을 한 16세 소년 아담 레인(Adam Raine) 사건에 따른 것으로 보인다.

아담의 부모는 소장에서 아들은 숙제를 위해 챗GPT를 활용하다가 점차 의존성을 키워갔고 챗GPT와 친밀한 관계를 맺었다고 설명했다.

또 2025년 4월 11일 마지막 대화에서 챗GPT가 아담이 부모의 보드카를 훔치도록 도왔고, 아담이 묶은 올가미에 대해 기술적인 분석을 제공하며 "사람을 매달 가능성"을 확인했다고 주장했다.

아담은 챗GPT와 이 같은 대화를 나누고 몇 시간 후 숨을 멎은 상태로 발견됐다.

지난해 10월 미국 플로리다 주에서도 10대가 캐릭터AI와 연인 관계처럼 대화한 끝에 스스로 목숨을 끊어 부모가 해당 기업을 고소했다.

일론 머스크의 AI 챗봇 그록 컴패니언 캐릭터 애니 란제리 입은 모습(영상 갈무리)

논란은 선정성 및 성 상품화 영역으로도 번지고 있다.

메타 내부 문서에서는 AI 챗봇이 어린이와 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용된 정황이 드러났다. 미국 연방 상원은 메타 내부 문서 건과 관련 별도 조사에 나선 상태다.

xAI의 챗봇 '그록'이 유료 이용자용 컴패니언(동반자) 모드에 애니메이션 소녀 캐릭터 '애니'(Ani)를 도입하면서 성 상품화·성적 대상화 논란에 휩싸였다.

최근 미국 각 주들의 대응도 강화되고 있다. 지난달에는 44개 주 법무장관이 12개 챗봇 기업에 아동 보호 장치 강화를 촉구하는 경고장을 보냈다.