'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- UW 한인 이수인교수 삼성호암상 받았다
- [하이킹 정보] 시애틀산우회 1일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 2박3일 캠핑
- [하이킹 정보] 워싱턴주 대한산악회 1일 토요산행
- <속보>아동성폭행 타코마 한인군인, 택시기사 살해혐의로도 기소돼
- 600명 ‘코리아 나이트’서 스트레스 확 날렸다(+영상,화보)
- K-SCAN 한인상공인 길잡이 역할 돋보인다
- [화보] 코리아나이트 신나고 재미있었다
- 벨뷰통합한국학교 전통혼례식 "참 멋있어요"(+영상,화보)
- “FWYSO 봄 연주회에 한인 여러분을 초대합니다”
- UW동아시아도서관, 김봉준 작가 초청 행사
- [기고-샘 심] 제44선거구 워싱턴주 하원의원에 출마하는 이유
- 오리건 한인, 어머니 숨지게 한 양로원에 1,000만달러 소송
- 한국 유명베이커리 파리바게뜨, 린우드점 드디어 내일 오픈한다
- [서북미 좋은 시-이춘혜] 나그네 길에 길동무
- 샘 심 시애틀한인회 부회장도 워싱턴주 하원 출마한다
- 시애틀 영사관, 중소벤처기업 지원협의체 개최
- 한인2세들이 시애틀 영자신문 인수했다
- 미국프로축구 열린 시애틀 축구장서도 "Korea"
- 코리아나이트 행사 전‘코리안 푸드트럭’운영
- 시애틀영사관 청사 경비 및 청소용역 입찰
시애틀 뉴스
- 워싱턴주 차나 주택 보험 왜이리 비싼가? "보험료 인상이유 밝혀라”
- 시애틀경찰국장은 ‘파리목숨’인가? 디아즈 국장 해임 놓고 논란
- 아마존 드론 장거리 배송 승인 얻었다
- 애드리언 디아즈 시애틀 경찰국장 잘렸다
- 시애틀지역 집값도 큰 폭으로 올랐다
- 워싱턴주 10대 소년 하이킹중 400피트 절벽 아래로 추락했는데 경미한 상처만
- 빌 게이츠 전처 멀린다, 여성 인권단체에 10억달러 기부
- 시애틀지역 정신질환자 자연환경서 치료한다
- 시애틀서 가족부양하기 전국 '탑5'
- 시애틀지역 주민들 여행 선호지가 바뀌고 있다
- 시애틀 유명 정치로비회사 파산 모면했다
- 미국 대선 앞두고 국가부채 '부각'…"10년물 국채금리 10%"
- 한국 유명베이커리 파리바게뜨, 린우드점 드디어 내일 오픈한다
뉴스포커스
- '주점 간판' 달고 불법 게임장 운영한 30대 우즈벡 여성 체포
- 라운드 예약도 앱으로 손쉽게…선호도 1위는 '카카오골프예약'
- "때려죽일…누굴 가르친다고" 얼차려 사망 동료 훈련병 父 분노
- 野 "22대 국회 '해병대원 특검법' 재발의 촉구…반드시 통과 시킬 것"
- “의사는 자기 역할에 충실한 전문가일 뿐…돌아올 명분 달라”
- 홍준표 "SK가 통신 재벌로 큰 건 노태우 덕…1조4천억 정도는 각오해야"
- 전 육군훈련소장 "'훈련병 얼차려 사망' 전적으로 군 잘못"
- 국힘, 금투세·종부세 '감세카드'로 반전 노린다
- '구속 송치' 김호중 운명 가른 결정적 순간
- '尹 축하난' 거절 인증 릴레이 시끌…"난이 무슨 죄"
- 김정숙 여사, 文전용기 인도 순방때 '기내식 6292만원'
- '명품백' 최재영 11시간여 2차 조사…"김 여사, 대통령실·보훈처 직원 연결"
- SK 흘러간 '노태우 비자금'…국고환수 대신 노소영 몫, 왜?
- 이성윤, 김건희 7대의혹 '종합특검법' 발의…도움 준 공무원도 수사
- 정부 "오늘부터 '전공의 연속근무' 단축…복귀시 불이익 최소화"
- 최태원 1.4조 어디서 마련하나…'세기의 이혼'에 SK 지배구조 영향권 2