AI 페이크 영상 쏟아져…올트먼 GPU 훔치는 CCTV 마케팅까지
美영화계·유명인 잇단 반발에 옵트아웃→옵트인 정책 수정

 

오픈AI가 최근 공개한 인공지능(AI) 영상 생성 앱 '소라2'(Sora 2)가 출시 일주일 만에 '딥페이크 오용 및 저작권 침해' 논란에 휩싸였다.

샘 올트먼 오픈AI CEO는 "권리보유자에게 더 세밀한 통제권을 주겠다"며 수습에 나섰다.

11일 IT 업계에 따르면 오픈AI는 지난달 30일(현지시간) 동영상 생성 AI 소라2와 '소라2 앱'을 함께 출시하며 AI 생성 영상이 퍼블리시티권·저작권 등 침해 소지가 있을 시 저작권자가 직접 제외 요청을 해야 하는 '옵트아웃'을 채택했다.

오픈AI는 여기에 이용자가 영상·음성을 인증하면 AI가 외모·목소리를 학습해 다양한 영상에 삽입하는 '카메오'(Cameo) 기능을 강조했다.

이를 두고 전문가들은 이용자 동의 없이 타인의 모습을 생성하거나 허위 정보 유포에 악용될 것으로 우려했다. 실제로 이용자들은 유명인들이 등장하는 실제와 같은 가짜 AI 영상을 대량으로 쏟아냈다.

 

가장 인기를 끈 영상은 올트먼이 미국 할인 매장(타깃)에서 GPU를 훔치다가 보안 요원에게 잡히는 영상이다. 소라2 연구·개발에 관여한 가브리엘 피터슨(Gabriel Petersson)이 소라2 앱으로 생성·공유했다.

영상은 실제 보안 CCTV에 찍한 영상이 SNS에 노출된 것처럼 연출됐다. 올트먼의 얼굴·표정 등도 사실적이다.

이외 마이클 잭슨이 스탠드업 코미디를 하는 AI 생성영상, 존 F 케네디 전 미국 대통령과 마틴 루서 킹 목사의 연설 영상 등이 광범위하게 확산하고 있다.

 

유명 지식재산권(IP) 영상 생성에 따른 저작권 침해 문제도 불거졌다.

대표적으로 △스폰지밥이 마약을 제조하는 영상 △피카츄 ASMR 영상 △마리오 등 닌텐도 캐릭터가 전용 카트를 타고 실제 고속도로를 달리는 영상 등이다.

미국 영화협회(MPA)는 "소라2 출시 직후 회원사의 영화·프로그램·캐릭터 권리를 침해하는 영상이 폭증했다"며 즉각적인 대응을 요구했다.

찰스 리브킨 MPA CEO는 "기존 저작권법이 이 상황에 적용될 수 있을 것"이라며 "침해 방지 의무는 권리자가 아닌 오픈AI가 져야 한다"고 강조했다.

톰 행크스·스칼릿 요한슨 등이 소속된 엔터테인먼트 에이전시(CAA)도 성명에서 "오픈AI·소라가 우리의 지식재산을 상당하게 침해하고 있다"며 "신기술의 오용이 엔터테인먼트와 미디어 영역을 넘어 개인·기업·사회 전반에 심각한 위험을 초래하고 있다"고 지적했다.

 

오픈AI는 결국 옵트아웃 방식에서 권리자에게 사전 허가를 요청하는 옵트인 방식으로 정책을 수정했다.

올트먼은 소송으로 번지지 않도록 하기 위해 권리자들에게 수익 배분 방안도 제시했다.

그는 "많은 권리자가 새로운 형태의 '인터랙티브 팬픽션'에 매우 흥미를 느끼면서도 자신들의 캐릭터를 어떻게 사용할지 통제하길 원한다"며 "이들과 수익을 공유하는 방안을 모색하겠다"고 말했다.

딥페이크 오용·저작권 침해 논란이 불거지더라도 이를 돌파하겠다는 올트먼의 베팅은 시장에 통하고 있다.

빌 피블스 오픈AI 소라부문 대표는 X(옛 트위터)를 통해 "소라 출시 5일 만에 100만 다운로드를 돌파했다"며 "최근 주간 활성 이용자 8억 명을 돌파한 챗GPT보다 더 빠른 속도"라고 말했다.

현재 소라2 앱은 현재 미국·캐나다 등 북미에서만 사용할 수 있고 애플 아이폰에서만 내려받을 수 있다. 또 초대 코드가 있어야 접속할 수 있는 등 서비스 제공이 제한적이다.

이 같은 제약에도 소라2 앱은 애플 앱스토어 다운로드 1위를 기록했다. 오픈AI는 조만간 안드로이드 버전을 출시할 예정이다.

업계 관계자는 "오픈AI가 연내 한국을 포함한 주요 국가로 소라2 서비스를 확대할 전망"이라며 "AI 영상물은 매우 매력적이지만 다양을 위험을 초래할 수 있는 만큼 진짜와 가짜를 구분하는 능력이 더 중요해질 것"이라고 했다.