"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
목록시애틀 뉴스/핫이슈
한인 뉴스
- 시애틀영사관 청사 경비 및 청소용역 입찰
- [하이킹 정보] 워싱턴주 시애틀산악회 25일 토요산행
- [하이킹 정보] 워싱턴주 대한산악회 25일 토요산행
- 워싱턴주 태권도와 체육계 대부 윤학덕 관장 추모식 열려
- “워싱턴주 정부납품 원하는 한인분들 오세요”
- 시애틀통합한국학교 온라인 교사연수 실시
- “한인여러분, 부동산 매매 및 투자 정보를 알려드립니다”
- 한인 비즈니스를 위한 안전세미나 성황리에 열려
- 시애틀영사관 전문직 행정직원 채용한다
- 구순 앞둔 성옥순시인 두번째 시집냈다
- 워싱턴주 음악협회 정기연주회 매진임박 “20% 할인 혜택도”
- 시애틀오페라 '한국인의 날'행사 성황리에 열려(+영상,화보)
- 귀여운 시애틀통합 한국학교 유치부 졸업식 개최(+영상,화보)
- 벨뷰통합 한국학교 신나는 장날행사 성황리에 열려(+화보)
- 박용국ㆍ케이 전ㆍ리디아 리 “상공회의소 징계는 원천무효”
- ‘모두의 오월, 하나되는 오월’된 시애틀 5ㆍ18기념식(+영상,화보)
- [신앙과 생활-김 준 장로] 김철훈목사 소고(小考-3)
- 경찰 총에 사망한 LA한인 사건 바디캠 공개돼...문열리고 8초만에 탕탕탕
- ‘민중미술 거목’ 김봉준 화백 "‘다문화 공생’출발을 시애틀서…"(영상)
- 서은지 시애틀총영사, 오레곤 한인단체장들과 간담회 개최
- "서울대 워싱턴주 동창회 장학금 신청하세요"
시애틀 뉴스
- 미·중 갈등에 보잉 등터지고 있다…"中에 항공기 인도 지연"
- 시애틀 다운타운 콘도 옥상에 170만달러 차량 전시?
- <속보> 타코마흑인 엘리스 사망연루됐던 경관 '명예훼손'주장하며 거액소송
- 아마존도 연말에 '대화형 AI 비서'출시한다
- 시애틀지역 등산로 직행 셔틀버스 운행 재개한다
- "아마존, 알렉사 음성비서에 생성형AI 탑재…구독료 받는다"
- MS '애저 코발트100 기반 VM(가상머신)' 출시…"성능 40% 향상"
- 타겟도, 맥도날도 가격 내리겠다
- “올해 워싱턴주지사선거 박빙의 승부 될 것 같다”
- 30년간 시애틀지역 전염병과 싸워왔던 제프 두친 국장 은퇴
- UW내 친팔레스타인 점거시위 오늘 해체된다
- 중국, 라이칭더 취임날 미국 보잉 등 제재 …"대만 무기 판매 관여"
- 시애틀타임스 40년 발행인 물러난다
뉴스포커스
- 검찰, '서울대 N번방' 허위영상물 제작·반포 20대 남성 구속기소
- 채상병 특검법 '이탈 17표' 어림없다지만…與 부담 크다
- 강형욱, 여직원 탈의실 CCTV 설치 주장 반박 "탈의실 없다…제보 사진은 회의실"
- 대통령실 "연금개혁, 국회 특위에서 협의해 결정 할 사안"
- 27년 만의 의대 증원 확정…31일까지 학칙 개정 안 하면 시정명령
- 김호중 꾸짖은 판사 "같은 사람인데 막내 매니저는 처벌받아도 되나"
- 외국인 관광객 증가에 올리브영·다이소 '수혜'…1위 아이템은
- 신동빈 특명 '콘텐츠 강화' 프로젝트…포켓몬으로 대박 났다
- 반려동물행동지도사 첫 필기 8월 시행…자격시험 누리집은 오늘 공개 예정
- 법무부, '김건희 명품백' 최재영 출국 정지…31일 검찰 재소환
- 한국 이혼했어도 '혼인무효' 가능…대법, 40년 만에 판례 변경
- '외국인 가사 도우미' 저출생 효과 있겠지만…'월 200만원'은 장벽
- 尹, '26조' 특단 지원으로 '칩워' 승부수…반도체 경쟁 고삐
- '기준금리 3.5%' 11연속 동결…한은 "긴축 충분히 유지할 것"
- "전공의들 일용직 전전"…1646명이 생계 지원금 신청
- '추미애 법사위원장' 카드에 與 '황당'…민주, 당원 달래기 '구상'