加고등학교 총격범, 지난해 6월 챗GPT 대화서 시나리오 묘사
오픈AI 직원 10여명 논의…일부는 신고 주장, 경영진은 묵살

캐나다 브리티시컬럼비아주 고등학교에서 발생한 총기 난사 사건의 용의자가 챗GPT와의 대화에서 범죄 시나리오를 묘사해, 이러한 범행 계획을 오픈AI 측이 사전에 알았음에도 경찰에 신고하지 않은 것으로 알려져 논란이 일고 있다.

20일(현지시간) 월스트리트저널(WSJ)에 따르면 지난 10일 캐나다 고등학교에 총기를 난사한 용의자인 18세 트랜스 여성 제시 반 루트셀라르가 사건 수개월 전인 지난해 6월 챗GPT 대화에서 총기 폭력 관련 시나리오를 묘사했다.

이 대화는 자동 검토 시스템에 따라 위험 신호가 발령됐고 게시물을 본 직원들 10여명은 이를 어떻게 할지 논의했다. 당시 일부는 게시물이 현실 세계에서의 폭력 가능성이 있다고 해석했고 경찰에 알리자고 촉구했지만, 오픈AI 경영진은 당국에 연락하지 않기로 결정했다.

사건 발생 후 대변인은 '즉각적이고 신뢰할 만한 위험' 기준에 해당하지 않는다고 판단해 계정만 차단했다고 설명했다.

하지만 이를 묵살한 대가로 지난 10일 반 루트셀라르의 총격에 8명이 숨지고 최소 25명이 부상했다. 본인도 사건 현장에서 스스로 목숨을 끊은 채 발견됐다.

사건 직후 그녀의 온라인 활동도 드러났다. 로블록스 플랫폼에 총기 난사 게임을 제작했고, 소셜미디어에서는 성별 전환 과정에 대한 고민, 애니메이션과 불법 약물에 대한 관심을 드러낸 게시물이 확인됐다.

오픈AI는 챗GPT 모델이 실제 피해를 막도록 훈련돼 있으며, 사용자가 위험한 의도를 드러낼 경우 인간 검토자가 경찰에 알릴 수 있다고 설명했다. 다만 불필요한 경찰 개입으로 개인과 가족에게 피해가 갈 수 있다는 점도 고려한다고 덧붙였다.

캐나다 경찰은 이미 반 루트셀라르를 정신건강 문제로 여러 차례 접촉한 바 있으며, 총기를 일시적으로 압수한 적도 있었다. 현재 수사팀은 반 루트셀라르의 온라인 활동과 과거 경찰·의료 기록을 면밀히 조사 중이다.

기사제공=뉴스1(시애틀N 제휴사)