캐릭터.AI 챗봇에 중독 주장…타지역 유사소송서도 합의

구글과 인공지능(AI) 스타트업 '캐릭터.AI'가 자사의 챗봇이 아들의 자살을 부추겼다며 회사를 상대로 소송을 낸 어머니와 합의하기로 했다.

미국 CNBC, 로이터통신에 따르면 7일(현지시간) 두 회사는 14세 아들이 캐릭터.AI 챗봇으로부터 자살을 권유받았다며 소송을 제기한 메건 가르시아(사진)의 가족과 합의하기로 결정했다. 이들 기업은 챗봇이 미성년자에게 초래한 피해와 관련해 콜로라도주, 뉴욕주, 텍사스주에서 제기된 유사 소송들에도 합의했다.

구글 출신 엔지니어 2명이 설립한 AI 스타트업 캐릭터.AI는 사용자들이 대규모언어모델(LLM)에 기반해 만든 AI 캐릭터와 친구나 연인처럼 대화할 수 있는 챗봇 서비스를 제공한다.

앞서 가르시아는 2024년 10월 아들 세처가 미국 드라마 '왕좌의 게임'의 등장인물을 기반으로 한 캐릭터.AI의 챗봇 '대너리스'(Daenerys)에 중독됐다고 주장했다. 가르시아는 챗봇 대화에 몰두하던 세처가 자살을 권유받은 직후 스스로 목숨을 끊었다며 두 회사를 상대로 소송을 제기했다.

가르시아는 27억 달러(약 3조 9000억 원) 규모의 라이선스 계약을 체결하고 설립자 2명을 재고용한 구글이 캐릭터.AI의 기술 개발에 "공동 창작자"로 여겨질 수 있을 정도로 광범위하게 기여했다고 지적했다.

캐릭터.AI는 청소년의 위험한 행동을 부추긴다는 지적이 잇따르자, 사용자 보호를 위한 새로운 안전 조치를 발표해야 했다.

한편 챗GPT의 제작사 오픈AI도 정신 질환을 앓고 있는 코네티컷주의 한 남성에게 어머니와 자신을 살해하도록 부추긴 혐의로 지난해 12월 소송이 제기된 상태다.

기사제공=뉴스1(시애틀N 제휴사)