"시간당 1000건 표적 설정…2000명분 작업 20명이 담당"
가디언 '검증 누락' 지적…"이의 제기할 시간도 없어"

지난달 28일(현지시간) 미국과 이스라엘이 초등학교를 폭격해 수업 중이던 어린이들이 숨진 참사의 주요한 원인으로 데이터 분석 기업 팔란티어의 인공지능(AI) 시스템 '메이븐'이 지목됐다.

25일 가디언은 미국의 대(對)이란 군사작전 '장대한 분노'(Epic Fury)의 표적 선정이 국방부 표적 시스템용 AI '메이븐'에 의해 이루어졌다고 보도했다.

공습 당일인 지난달 28일 이란 호르모즈간주 미나브 지역의 여학생 초등학교인 샤자레 타예베 학교가 수업 중 폭격을 받았다. 목요일과 금요일이 휴일인 이란에서는 토요일부터 등교와 출근이 시작된다.

사망한 어린이의 수는 많게는 181명까지 보고됐는데, 대부분이 7~12세 사이 여학생이었다.

폭격을 받은 초등학교 건물은 미 국방정보국 데이터베이스(DB)에 군사 시설로 분류돼 있었다. 이 건물이 2016년 이란 이슬람혁명수비대(IRGC) 시설과 분리되어 학교로 바뀐 사실이 업데이트되지 않았던 것이다.

이러한 오류가 시간당 1000건의 표적을 설정하는 '메이븐'의 시스템적 특성과 맞물려 참사를 불러왔다는 것이 가디언의 지적이다.

구글은 2018년 직원들의 강한 반대로 '메이븐'의 개발 프로젝트 계약을 포기했으나, 2019년 팔란티어가 이를 넘겨받았다.

이후 팔란티어는 6년간 위성 이미지, 신호 정보, 센서 데이터 등을 통합해 표적을 식별하고 최초 탐지부터 모든 단계를 수행하는 시스템을 구축했다. 개발 과정에서는 과거 수천 명이 담당하던 표적 설정 작업을 소규모 팀이 수행하도록 하는 목표가 설정됐다.

메이븐 도입 이전에는 표적 설정 과정에서 8~9개의 서로 다른 시스템이 동시에 운영되며 복잡한 교차 검증이 이루어졌다. 그러나 메이븐은 표적 설정 전 과정을 단일 시스템으로 통합, 과거 2000명이 담당하던 작업을 20명이 처리할 수 있도록 '고도화'됐다.

가디언은 이와 관련해 "표적 설정에 대한 의견 불일치는 사라졌고, 숙고와 망설임, 그리고 누군가가 이의를 제기하거나 무언가 잘못되었다는 것을 알아차릴 시간도 없어졌다"며 검증이 누락될 수밖에 없었다는 점을 지적했다.

기사제공=뉴스1(시애틀N 제휴사)