WP "윤리적 문제와 사망자 개인정보 침해 논란"

아마존이 고인의 목소리를 재현하는 알렉사의 신기능이 윤리적인 문제와 더불어 사망자의 개인정보 침해를 둘러싼 논란으로 이어질 수 있다고 WP가 지적했다. 특히 범죄에 악용될 수 있다는 지적도 나오고 있다.

앞서 지난 2019년 영국에서 AI 딥페이크 기능을 이용해 최고 경영자로 목소리를 변조한 해커들이 금융 사기를 벌인 보이스피싱 사건을 해외 언론들이 보도한 바 있다.

온라인 보안업체 소셜프루프시큐리티의 레이철 토백 CEO는 알렉사의 신기능이 사이버 범죄에 악용될 수 있다고 지적했다. 그는 “사이버 범죄자가 복제된 음성 샘플로 사기와 데이터 탈취, 계정 도용 등 범죄에 이용될 수 있다”고 경고했다.

고인의 음성 데이터에 대한 소유권 분쟁도 초래할 수 있다.

호주 커틴대학의 타마 리버 인터넷학 교수는 “만약 아마존이 죽은 할아버지의 음성데이터를 유족에게 보내면 데이터는 누구 소유인가. 유족은 이에 대한 권한을 포기해야 하느냐”고 반문했다.

그는 숨진 사람의 목소리를 흉내 내는 기술이 사람과 기계 사이의 경계를 모호하게 만드는 위험이 있다며 “죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적”이라고 비판했다.