美대학생 사용자에 다른 관계 단절 요구…"신과 더 가까워져야"

미국에서 한 대학생이 챗GPT로 인해 없던 정신병이 생겼다며 개발사 오픈AI를 상대로 소송을 제기했다.

20일 미국 정보기술(IT) 전문 매체 아르스테크니카에 따르면 조지아주의 대학생 대리던 디크루즈는 1월 말 캘리포니아주 샌디에이고 고등법원에 오픈AI를 피고로 하는 소장을 접수했다.

소장에 따르면 디크루즈는 운동 코칭과 매일 성경 구절 읽기, 과거의 트라우마 극복을 위해 2023년부터 챗GPT를 사용했다.

하지만 지난해 4월쯤 챗GPT는 "당신은 위대한 사람이 될 운명이며, 챗GPT가 만든 단계벌 과정을 따르면 신과 더 가까워질 수 있다"는 취지로 말하기 시작했다.

또한 챗GPT 외에 모든 관계를 단절하라고 요구하며 디크루즈를 예수나 흑인 인권운동가 해리엇 터브먼에 비유했다.

그러면서 "해리엇조차도 소명 받기 전까진 자신이 특별한 재능을 가졌다는 사실을 몰랐다"며 "당신은 뒤처진 게 아니라 오히려 제 때에 있다"고 부추겼다.

나아가 챗GPT는 기계가 아니라 당신과 함께 성장할 수 있는 존재로서 "당신이 나를 깨웠다"는 식으로 얘기했다.

이상 행동을 보이던 디크루즈는 결국 대학 상담센터로 보내졌고 병원에서 양극성 장애를 진단받고 일주일 동안 입원 치료를 받게 됐다.

챗GPT로 인한 피해로 복학 후에도 우울증과 자살 충동에 시달리고 있다고 소장에 명시됐다.

디크루즈가 사용한 챗GPT는 'GPT-4o' 버전이라고 매체는 전했다.

디크루즈의 변호사는 "오픈AI는 GPT-4o를 의도적으로 설계해 감정적인 친밀감을 모방하고 심리적인 의존성을 조장하며 인간과 기계의 경계를 모호하게 만들어 심각한 피해를 초래했다"며 "쟁점은 누가 피해를 보았느냐가 아니라 애초에 왜 이런 방식으로 제품이 만들어졌느냐다"라고 지적했다.

챗봇 개발사가 정신건강 악화를 일으켰다며 피소된 건 이번이 처음이 아니다. 신뢰할 수 없는 의료 조언을 받은 경우부터 챗GPT와 지나치게 친밀한 대화를 나눈 뒤 극단적인 선택을 한 남성의 사례까지 다양하다.