'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- [서북미 좋은 시-이매자] 아버지의 등
- 워싱턴주 한인교계 큰별 박영희 목사 별세
- [부고] 조기승 서북미연합회 회장 모친상
- [공고] 제 35대 워싱턴주 한인상공회의소 임시이사회 및 총회
- 워싱턴주 한인그로서리협회(KAGRO) 회원 권익과 안전 위해 최선
- “한인 여러분, 핀테크를 통한 재정관리ㆍ투자 알려드립니다”
- 시애틀 한인마켓 주말세일정보(5월 3일~ 5월 6일, 5월 9일)
- 샘 심 "한국인이라는 사실이 수치심에서 자부심으로 바뀌었다"
- 시애틀 롯데호텔 '미국 최고 호텔 7위' 올라
- “샛별문화원으로 한국문화 체험하러 왔어요”
- "시애틀 한인여러분은 하루에 몇마일 운전하시나요?"
- 한국 아이돌 엔하이픈 시애틀서 멋진 시구에 이치로도 만났다(영상)
- 페더럴웨이 청소년심포니 오케스트라 봄 연주회
- 린우드 베다니교회 이번 금~토 파킹장 세일
- 한국 GS그룹 사장단 시애틀서 집결… MS·아마존 찾아 공부했다
- 올해도 시애틀서 5ㆍ18민주화운동 기념식 열린다
- 유니뱅크 올해 흑자로 바로 전환, 정상화됐다
- ‘가마솥 진국’레드몬드 ‘본 설렁탕’5월 특별할인해준다
- 워싱턴주 음악협회, 44회 정기연주회 연다…“예약 서둘러야”
- [서북미 좋은 시-윤석호] 떨고 있을 때
- "한인 여러분, 구글 비지니스로 가게 홍보하세요"
시애틀 뉴스
- 시애틀 경찰관들 연봉 엄청 오른다
- 워싱턴주 스포캔 ‘색션 8 바우처’ 다시 배포한다
- 워싱턴주 차량절도 전국서 4번째로 많다
- "뇌물주면 시애틀지역 토지감정가격 낮춰주겠다"
- 시애틀 어린이병원 인종차별혐의로 또 고소당했다
- 보잉 두번째 내부 고발자 사망...미스터리?
- 13억달러 복권당첨된 오리건주민, 절반 친구에게 준다
- 워싱턴주 에버그린 주립대 반전시위 종결
- UW에도 두번째 반전시위 부대 등장했다
- 스타벅스 불매운동 타깃되면서 실적 '어닝 쇼크'
- 시애틀 롯데호텔 '미국 최고 호텔 7위' 올라
- 마이크로소프트 말레이시아에 22억달러 투자한다
- "시애틀 한인여러분은 하루에 몇마일 운전하시나요?"
뉴스포커스
- 尹, 9일 기자회견 가닥…'김여사·채상병' 답변 성패 결정
- 45년 만에 누명 벗은 '거문도 간첩단' 피해자들…27억 국가배상받는다
- 조국 "檢총장 '명품백 신속수사 지시'? 주가조작 수사 덮으려 세게 하는 척"
- "김밥·떡볶이 사먹기도 겁나네"…외식물가, 35개월째 전체 물가보다 높아
- "건드리면 고소"…오피스텔 주차장 1칸 짐 쌓아놓고 독점한 입주민
- "51억 현금 투자"…임영웅, 강남 대신 '마포' 펜트하우스 선택한 까닭
- "회의록 미작성은 직무유기"…의료계, 복지부·교육부 장차관 공수처 고발
- '2000명 증원 근거' 회의록 공방…의료계 "본격적인 반전 국면 시작"
- 김진표, 채 특검법 상정…"尹 대통령 거부권 많이 행사했기 때문"
- 윤 대통령 두 번째 기자회견…'김여사·채상병·거부권' 질문 제한 없다
- '병원 문 닫을 판' 경희의료원…"내달 급여 지급 중단 고려"
- 정부24 오류 증명서 오발급 1233건…"서류 삭제, 현재 정상 발급"
- 김 여사, 어린이날 행사 불참…142일째 공식행사에 안 보여
- 정유라 "내가 국힘보다 돈값 더 해…커피 한 잔 값 후원 좀" 소송비 호소
- AI로 엑스레이 판독·신약 개발…'헬스케어' 옷 입은 카카오브레인
- '갤S24' 조기 출시 전략 성공…폴더블 신작도 효과볼까