'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 한국 연예인 홍진경, 이번 주 김치홍보차 시애틀 H-마트온다
- [부고] 강화남 전 워싱턴주 밴쿠버한인회장 별세
- 한국, 40세부터 복수국적 허용 추진
- 한국학교 서북미협의회 개최 학력어휘경시대회서 5명 만점 받아
- 재미한인장학기금 올해 장학생 총 80명으로 확대
- <속보>부인 생매장하려했던 워싱턴주 한인 징역 13년 선고돼(영상)
- KAC, 한인서비스날 맞아 대전정 청소했다
- [신앙과 생활-김 준 장로] 김철훈 목사 소고(小考-1)
- [서북미 좋은 시-오인정] 복수초
- 한국 아이돌그룹, 시애틀 매리너스 경기장서 시구한다
- ‘인기짱’시애틀영사관 국적ㆍ병역설명회 개최…“선착순 접수”
- 시애틀과 대전 자매결연 35년 교류확대 추진한다
- “킹카운티 도서관 공청회에 참석하세요”
- 전북자치도, 시애틀 경제사절단 대상 투자 설명
- [하이킹 정보] 시애틀산우회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 20일 토요산행
- 한인운영 더블트리 호텔서 경찰총격 1명 사망
- 영오션 시애틀 한인들에게 한국산김치 판매 시작
- 시애틀, 벨뷰, 부산시장이 만났다
- 워싱턴주 체육회 기금마련 골프대회
- 시애틀태권도 대부 故윤학덕 회장 추모식 열린다
시애틀 뉴스
- 시애틀지역 운전자 테슬라 자율주행으로 운전하다 사망사고
- <속보> 한인운영 더블트리 호텔 총격 사망자는 해군 의사 출신(영상) -
- 머클슛 카지노서 '이유없이' 칼로 찔러 살해
- 워싱턴주 주민들 도박 중독 얼마나 빠져있을까?
- 워싱턴주내 늑대 크게 늘어났다
- 워싱턴주지사 후보 세미 버드, 공화당 공식 지지따냈지만
- 골드만삭스 "소비자 지출 호조…아마존주식 '매수'를"
- 시애틀 비지니스 시작하기에 얼마나 좋을까?
- 나이키 비용절감 위해 오리건 비버튼 본사직원 740명 해고
- 타코마 할머니 106살 생일잔치...장수비결 물어보니?
- 벨뷰 경전철 이번 주 토요일 오전 11시부터 운항시작
- 시애틀시 24개 ‘마을센터’ 조성추진 여론 수렴한다
- 워싱턴주 다용량 탄창 금지법 계속 유효할까?
뉴스포커스
- "시XXX" "개저씨" 뉴진스 엄마의 거친 입…하이브는 '민희진 고발장' 냈다
- '패륜 가족' 상속권 박탈…국민 상식 통했다
- 박정희 동상 건립 논란에 홍준표 "정치적 이유로 반대 옳지 않아"
- 테이저건 맞고 사망?…안전성 논란에도 현장선 필수인 이유
- "마늘 더 달라고요?" 식당들 울상…수입산도 1년새 50% 급등
- 티빙, 이용자 역대 최대 경신…넷플과는 역대 최소 격차 기록도
- 국민연금 소득보장안 논란 지속…IMF "보험료율 20% 이상으로"
- "웃기는 일 하고싶다"던 김제동, 27일 文 평산책방 행사 간다
- 분당·일산 등 1기 신도시 재건축 '윤곽' 내달 나온다…"최대 3만가구 규모"
- 대법 "일용노동자 월 근로일수 20일"…21년 만에 바뀐 판단
- 정부 "의대증원 원점재검토 또는 1년 유예? 선택할 수 없는 대안"
- SSG 최정, 이승엽 넘어 '468호' 홈런 新…추신수는 한-미 2000안타
- 日 후쿠시마 원전, 정전으로 중단된 오염수 방류 재개
- 기재부, 野 '25만원 지급' 추경 요구에 난감…영수회담 결과 촉각
- 의협 "5월이면 우리가 경험 못한 대한민국 경험할 것"
- '오송참사 원인' 부실 제방공사 감리단장 징역 6년 구형