스냅챗 구독자 180만 보유 23세女 말투 학습한 '캐린 AI'

분당 1달러 지불, 이용자 98% 남성…"소통 빙자 성산업"

사회관계망서비스(SNS)에서 활동하는 미국 20대 여성이 인공지능(AI) 기술을 활용해 자신을 모델로 한 음성 챗봇을 만들어 화제를 모으고 있다. 출시 5일 만에 1000명 이상의 남성 팬들이 유료 서비스를 이용해 1억원 가까운 수익을 올렸다.

미국 NBC 방송과 워싱턴포스트(WP)에 따르면 스냅챗에서 180만명의 구독자를 보유한 캐린 마조리(23·여)는 AI 스타트업 '포에버보이스'와 손을 잡고 지난 9일(현지시간) 자신을 모델로 한 음성 챗봇 '캐린AI'를 선보였다.

최신 챗GPT-4 기술이 적용된 캐린AI는 유튜브 동영상을 토대로 실제 마조리의 말투와 행동, 성격을 2000시간 넘게 학습했다. 팬들은 1분당 1달러의 이용료를 내면 캐린AI와 사적인 대화를 나눌 수 있다. 대화 내용은 종단간 암호화를 거쳐 저장돼 외부 유출 가능성을 차단했다.

팬들 반응은 폭발적이다. 미국 경제 전문 매체 포춘은 마조리의 사업관리자로부터 제공 받은 수입명세서를 인용해 출시 일주일 만에 1000여 명이 캐린AI를 이용했으며 7만1610달러(약 9350만원)의 수익을 기록했다고 보도했다. 이용자의 98%는 남성인 것으로 조사됐다.

마조리는 WP 이메일 인터뷰에서 팬들과 자주 소통하기 위해 캐린AI를 개발했다고 밝혔다. 그는 "팬들이 매일 메시지를 보내지만 메시지수가 너무 많아 1년 전부터 일일이 답장을 보낼 수 없게 돼 안타까움을 느꼈다"고 말했다. 이어 "팬들의 외로움을 치료해주고 싶어 캐린AI를 만들었다"고 덧붙였다.

다만 캐린AI에 곱지 않은 시선을 보내는 이들도 적지 않다. 소통은 빌미일 뿐, 돈을 받고 이용자들의 성적 욕망을 충족시켜 주는 사이버 성산업과 다름없다는 지적이다. 또 캐린AI에 중독된 이용자가 실제 마조리를 상대로 스토킹 등 성범죄를 저지를 수 있다는 우려도 제기됐다.

미국 산타클라라대 마르쿨라 응용윤리센터의 인터넷윤리 책임자 이리나 라이쿠는 캐린AI가 사람들의 외로움을 치료할 수 있다는 주장은 심리학적 연구로 뒷받침되지 않았으며 윤리적 안전장치가 마련되지 않아 공식 출시는 시기상조라고 지적했다.

이에 대해 존 마이어 포에버보이스 최고경영자(CEO)는 "유해 사용을 막기 위해 여러가지 안전장치를 마련하고 있다"며 채팅 중독을 막기 위해 1회 사용 시간을 1시간 이내로 제한했다고 설명했다. 아울러 사내 직책으로 최고윤리책임자를 신설하겠다고 약속했다.  

마조리는 캐린AI 대화 일부가 외설적이란 사실을 인정했다. 그러나 성적인 내용이 대화의 전부는 아니라고 강조했다. 또한 스토킹을 당한 적이 있어 24시간 경호를 받고 있으며 앞으로도 자신의 위치를 공개하지 않겠다고 했다.