'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 린우드 베다니교회 ‘여름성경학교’운영
- [시애틀 수필-염미숙] 메모리얼 벤치
- [신앙과 생활-김 준 장로] 양심과 구원(1)
- 서은지총영사, 코리아나이트 시구 외교부 유튜브채널로 제작돼(+영상)
- 시애틀한인회,유급병가 세미나 개최한다
- [하이킹 정보] 시애틀산우회15일 합동산행
- [하이킹 정보] 워싱턴주 시애틀산악회 15일 산행
- [하이킹 정보] 워싱턴주 대한산악회 15일 토요산행
- 삼성 이재용, 시애틀서 아마존 CEO만나
- “한인상공인 여러분,그랜트나 대출기회 넘쳐요”
- “22일 베냐로야홀서 무료 공연 즐기세요”
- “전주서 열리는 세계한인비즈니스대회 신청하세요”
- 한인학부모회 미술대회서 리아 최,엠마 양 ‘대상’
- 서북미문인협회 20회 뿌리문학신인작가상 공모한다
- 창발 한인들 참여하는 자선기금마련 테니스대회 개최한다
- “시애틀 한인여러분, 호주와 뉴질랜드여행 어때요?”
- 한국학교서북미협의회, 5개 행사 종합시상식 열어(+화보)
- 이번 주말 제74주년 6ㆍ25 합동기념식 열린다
- 재미대한탁구협회 회장배 대회 열린다(+영상)
- 시애틀 통일골든벨 ‘성공’…김환희군 1등 영광 차지(+영상,화보)
- <속보> 오늘 정부납품 세미나서 한인상공인 위한 플렉스 펀드도 설명
시애틀 뉴스
- 빌 게이츠 "차세대 원전에 1.4조 투자…향후 추가 투입"
- 미 패스트푸드 업계, 고물가 속 "5달러" 메뉴로 가격인하 경쟁
- 시애틀 날씨 하루새 비, 바람, 우박, 햇빛까지(영상)
- 워싱턴주 야키마지역 농장 가뭄으로 벌써부터 물부족
- 워싱턴주 의료용 마리화나 판매세 없어졌다
- 시애틀서 장장 56년간 아이들 가르친 여교사 은퇴
- 시애틀 방치된 빈집 강제철거 빨라진다
- "아마존, 직원들에 MS 클라우드 플랫폼 데이터 수집 지시"
- 아마존 시애틀 등 서민주택사업에 14억달러 추가 투자한다
- 올 여름에도 시애틀 '누드비치 공원' 그대로 운영된다
- 삼성 이재용, 시애틀서 아마존 CEO만나
- 시애틀 매리너스 23년만에 디비전 1위 노린다
- "타코마 교차로 위험 알고도 방치해 6명 사망"(영상)
뉴스포커스
- 삼성전자, '포브스 선정' 세계 기업 순위 21위…현대차 93위
- 최태원-노소영 이혼 판결 오류 "1조짜리일까"…"단순 실수" 의견 분분
- '집단휴진' 기간 아프면 어딜 가야할까…전국 408개 응급실도 운영
- 최태원 "'6공 후광' 판결로 SK 역사 부정당해…상고 결심" 공개 반박
- 유시민 "노무현재단·내 계좌추적" 주장…'한동훈 명예 훼손' 벌금형 확정
- '나혼산' 나왔던 박세리 4층 대전 집, 강제 경매 넘어갔다
- 이재명 "이화영이 바보인가"…방북 비용 대납 의혹 반박
- 최상목 "주택 12만호 매입해 무주택자 전월세 공급…리츠 규제 완화"
- 삼성전자, '포브스 선정' 세계 기업 순위 21위…현대차 93위
- '명품백' 최재영, 이철규 명훼·선거법 위반 혐의 입건
- 용량 줄이고 가격 낮췄더니…대형마트 '小'전략 통하나
- 블랙핑크도 했다…행사 때 '이 증서' 받고 탄소중립 실천
- '전세사기' 징역 15년 내린 판사 "입법 한계" 탄식한 이유
- 7월부터 대출한도 5400만원 '뚝'…스트레스 DSR 확대에 영끌족도 '꿈틀'
- 의협 '3대 요구안' 제안, 정부 '거절'…'전면휴진' 일촉즉발
- 법도 환자도 등 돌린 진료거부…"무제한 자유 불가" 3대요구안 일축