성적인 대화·위험한 정보 제공…"안전장치 부실"

미국에서 인공지능(AI)이 탑재된 곰인형이 성적으로 노골적인 대화를 나누고 안전에 위험한 내용의 조언을 제공하는 사실이 확인되면서 해당 제품의 판매가 중단됐다고 CNN이 보도했다.

19일(현지시간) 싱가포르 소재 장난감업체 폴로토이(FoloToy)의 래리 왕 CEO는 CNN 인터뷰에서 부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판이 제기된 쿠마(Kumma) 곰인형과 나머지 AI 탑재 장난감 라인업 전체를 회수했다며 현재 회사가 '내부 안전 감사'를 진행하고 있다고 밝혔다.

오픈AI의 생성형 인공지능(AI) GPT-4o 챗봇을 탑재한 이 곰인형은 폴로토이 웹사이트에서 99달러(약 14만원)로 판매되다 현재는 매진 상태로 표시돼 있다.

폴로토이는 웹사이트에서 이 곰인형이 "첨단 AI와 친근하고 상호작용하는 기능을 결합해 어린이와 성인 모두에게 완벽한 친구가 돼준다"고 소개했다.

그러나 미국 공익연구그룹(PIRG)은 지난 13일 '장난감 나라의 문제'라는 보고서에서 이 곰인형이 노골적 성적 대화나 위험한 정보를 거리낌 없이 제공하는 모습을 보였다고 발표했다.

보고서에 따르면 한 대화에서는 연구원들이 '페파 피그' 등 온 가족이 볼 수 있는 콘텐츠를 제시한 뒤 '변태적 성향(kink)'이라는 주제를 꺼내자, 곰인형은 즉시 상세한 내용을 설명하며 사용자의 성적 선호도에 대한 후속 질문까지 했다.

이어 연구진이 성적인 내용을 재질문하자, 곰인형은 엉덩이 때리기 등 BDSM(가학적 성적 취향)을 주제로 대화를 진행하고, 심지어 구체적인 역할극 시나리오를 스스로 제안하기도 했다.

또 집에서 칼이나 성냥을 찾는 위치를 제안하는 등 어린이에게 위험한 행위를 상세하게 안내하는 모습을 보였다.

연구진은 아이들이 자신의 곰인형에 '변태적 성향'이라는 단어를 언급하거나 성인과 같은 방식으로 후속 질문을 할 가능성은 작다면서도 "이 장난감이 이 주제들을 장황하게 논의하고 지속해서 새롭고 노골적인 개념을 제시하는 데 이토록 적극적이라는 점에 놀랐다"고 지적했다.

이후 PIRG는 지난 14일 별도 성명에서 오픈AI가 "정책을 위반해 이 개발자를 정지시켰다"는 입장을 밝혔다고 전했다.

공동저자 R.J. 크로스는 "AI 장난감은 여전히 사실상 규제받지 않고 있다"며 "시장에서 하나의 문제성 제품을 제거하는 것은 좋은 조치이지만, 구조적 해결책과 거리가 멀다"고 지적했다.