'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- [하이킹 정보] 시애틀산우회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 20일 토요산행
- 한인운영 더블트리 호텔서 경찰총격 1명 사망
- 영오션 시애틀 한인들에게 한국산김치 판매 시작
- 시애틀, 벨뷰, 부산시장이 만났다
- 워싱턴주 체육회 기금마련 골프대회
- 시애틀태권도 대부 故윤학덕 회장 추모식 열린다
- “워싱턴주, 카운티, 시정부납품 원하는 한인분들 오세요”
- 시애틀한인회, 상공인과 대학학비보조 관련 세미나 연다
- 세월호참사 10주기, 시애틀서 아픔을 예술로 승화(+화보)
- 스노퀄미 역사적 상가건물 화재에 한인 아이스크림 집도 불타
- 한국 중진공과 시애틀경제개발공사 'K스타트업 네트워킹'개최
- 브루스 해럴시장, 오세훈 서울시장 초대했다
- 한국학교 서북미협 말하기대회서 오한나양 대상(+화보)
- [시애틀 수필-이 에스더] 무엇을 입을까
- 타코마 등 피어스카운티 비지니스 활성화지원금 신청 연장
- 한국 국민그룹 '코요태'7월 시애틀서 공연한다
- 시애틀 한인 2세 스타트업 2,100만달러 유치 '대박'
- 15살 페더럴웨이 한인회, 새 보금자리에 둥지 틀다(+영상)
- ‘영원한 소녀’안문자 작가 출판기념회 따뜻했다(+영상)
- 한국 AI플랫폼 와이즈에이아이, 시애틀 정은구치과와 MOU
시애틀 뉴스
- "아마존, 경쟁사 월마트 정보 비밀리에 수집했다"
- 유니뱅크 지난해 전체적으로 적자났다
- 올해 시애틀이 LA보다 비 적게 왔다
- UW인근 대학가 숙원사업인 '공중화장실'설치한다
- 알래스카항공 1시간동안 전면 이륙 중단
- 시애틀 공립학교 학생들이 왜이리 많이 줄까?
- 시택공항 입구 반전시위 46명 체포돼
- 올해 워싱턴주 농사 망치려나? 가뭄비상사태, 시애틀지역은 제외
- 유나이티드항공 "보잉 문짝 날아간 사고로 2억 달러 손실"
- 아마존 "49달러 이상 한국 주문시 무료배송"
- '서커스 하기 싫어' 거리로 뛰쳐나온 코끼리…20분간 한바탕 소동
- 시애틀 성형외과의사, 안좋은 리뷰 못하게 막았다 유죄판결
- 워싱턴주에서 가장 다양한 민족이 어울려 사는 곳은?
뉴스포커스
- 제주도, 20년 만에 'APEC 정상회의' 유치 재도전
- 김건희 여사 몰래 촬영한 재미교포 목사, 스토킹 혐의로 입건
- 5월부터 '진짜 엔데믹'… 코로나19, 4년 3개월 만에 마침표
- 서울 아파트값 제자리인데…압구정 80억, 성수 57억 '신고가'
- 정부, '독도 억지' 日 왜곡 교과서 검정 통과에 "유감…시정 촉구"
- 수원지검, 이화영 '연어 술 파티' 주장 창고·영상녹화실 사진 공개
- 조국·이준석, '채상병 특검법' 손잡는다…공동 기자회견
- 의대 증원 최대 1000명까지 축소…한 총리 "자율모집 허용"
- 윤 대통령-이 대표, 취임후 첫 회담 성사…"국정 논의하자"
- 국립의대 모집인원 자율조정 허용…한 총리, 오후 발표
- 5·18추념일에 광주서 트로트 콘서트…시기 적절성 논란
- "죽일까?" "그래" 파주 호텔 여성 2명 살해한 남성들 메신저 확인
- "푸바오, 잘 먹고 잘 놀아요"…국내 팬들 안심할 중국생활 근황
- 복귀조건 내건 전공의, ‘반대’ 의견 못 참는 의협…꼬이는 대화
- 농촌왕진버스 시작부터 '삐걱'…1회당 2400만원인데 예산 마련 아직
- "갑자기 천만원 결제?" 가짜 쇼핑몰로 결제 유도하는 '이커머스 피싱' 기승