"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- [하이킹 정보] 워싱턴주 시애틀산악회 18일 토요산행
- ‘불타는 트롯맨’탑7 “한인 여러분 정말 감사드립니다”
- 킹카운티 법원 정상기 판사 사실상 당선 확정
- 벨뷰통합한국학교 신나는 운동회 개최
- 한국 ‘민중미술 거목’ 김봉준 화백 시애틀온다
- '불타는 트롯맨' 탑7 시애틀 공연 신나고 재미었다(+영상.화보)
- 아시아나항공 “한국행 최대 30% 할인 등 여름 특가이벤트”
- KWA대한부인회 "피어스카운티 비지니스 활성화 그랜트 신청하세요"
- 타코마서미사 자비 넘치는 부처님 오신 날(영상,화보)
- 윤요한 앵커리지한인회 전 회장 모친상
- '불타는 트롯맨' 탑7 시애틀 공연 성황리에 열려(동영상)
- [시애틀 수필-박보라] 왠지, 웬즈데이
- 한인 제이슨 문 머킬티오시의원, 워싱턴주 하원 출마한다
- 워싱턴주 시애틀산악회 미국 하이킹코스에 무궁화 심었다
- 시애틀 방문중인 김동연 경기지사 가슴아픈 사연 전해져
- 어젯밤과 오늘 새벽 시애틀에 환상적인 오로라 관찰돼(영상)
- 서은지시애틀총영사 28일 코리아나이트 시구한다
- 김동연 경기지사, 시애틀방문해 제이 인슬리 주지사 만났다
- 이무상,이현숙씨 부부 페더럴웨이 한우리정원 조성위해 10만달러 기부
- “시조이야기도 참 재미있고 흥미로웠다”
- “한인 여러분, 챗GPT로 가게 홍보하세요”
시애틀 뉴스
- '보잉 공급업체' 스피릿에어로 시스템스, 직원 500명 감원
- 시애틀시 인구 성장 많이 주춤해졌다
- 시혹스 9월8일 개막전으로 ‘마이크 맥도널드’시대 연다
- 올 여름 시택공항 혼잡 면할 수 있을까
- 468명 태운 가루다항공 보잉기종여객기, 엔진 화재로 비상 착륙
- "비밀번호 70%는 1초 안에 뚫린다”
- 매리너스 시애틀야구장서 파울볼 2개가 한 팬에게 '기적'벌어져
- 워싱턴주지사 후보에 밥 퍼거슨이 3명? "워싱턴주 공화당 꼼수"
- 워싱턴주 교통사고 사망자 33년만에 최다
- 미국 집값 최근 4년간 47% 올랐다
- 빌 게이츠 전 부인 멀린다, 125억달러 받고 게이츠 재단떠나 별도 활동
- 교회단체가 UW몰려가 이스라엘 옹호 맞시위 벌여
- 시애틀 사회생활 시작하기에 좋은 도시긴 하지만
뉴스포커스
- '5·18 기념식' 사진 잘못 쓴 정부… 5·18재단 "실무자 곤혹 없길"
- 민주, 尹에 채상병 특검법 수용 압박…"특검 반대는 결국 진실 은폐"
- 법원 결정 이후 더 완고해진 의료계…전공의 ‘요지부동’
- 뉴진스 5인 전원, 법원에 탄원서 제출…민희진에 힘 실었나
- 조국 '4년 중임제' 개헌 제안에 야권발 '개헌론' 시동
- ‘수출부담’ 줄여주는 우수선화주기업 인증제?…“세제혜택 받기 바늘구멍”
- 2% 중반 모이는 성장률 전망…내수 회복은 여전히 안갯속
- "한밤중 취객 발길"…김호중 방문 유흥주점, 오늘은 손님 대신 가드만
- 김호중 술자리에 유명 가수도 동석…매니저·소속사 대표 입건
- '동거녀와 6차례 해외출장' 조용돈 가스기술공사 사장 해임
- 김정숙 단골 의상실 디자이너 딸 '출국정지'…다혜 씨와 금전거래 정황
- 박정훈 대령 측, 대통령에 '특검법 수용' 촉구…이종섭 증인 채택
- 반포써밋 40.7억원 '최고가' 터졌다…강남권 매수세 뚜렷
- 정부 "의대 증원, 법원 결정에 추진동력 확보…의료개혁 박차"
- 우원식 "너무 바빠 문자 폭탄 볼 시간이…거부권 넘어설 8석이 제 관심사"
- 오동운 공수처장 후보자 "국민 신뢰받는 공수처 만들겠다"