"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- “시애틀 한인여러분, 호주와 뉴질랜드여행 어때요?”
- 한국학교서북미협의회, 5개 행사 종합시상식 열어(+화보)
- 이번 주말 제74주년 6ㆍ25 합동기념식 열린다
- 재미대한탁구협회 회장배 대회 열린다(+영상)
- 시애틀 통일골든벨 ‘성공’…김환희군 1등 영광 차지(+영상,화보)
- <속보> 오늘 정부납품 세미나서 한인상공인 위한 플렉스 펀드도 설명
- [신앙칼럼-최인근 목사] 기다림의 미덕(美德)
- 오리건 김성주의원 차남 미 공군사관학교 졸업
- “윤혜성 교장선생님 수고하셨습니다”
- 타코마한인회, KWA‘비지니스 활성화 그랜트신청’돕기로
- 시애틀 한인마켓 주말세일정보(6월 7일~ 6월 10, 6월 13일)
- [하이킹 정보] 워싱턴주 시애틀산악회 8일 토요산행
- [하이킹 정보] 워싱턴주 대한산악회 8일 토요산행
- 한국 스타트업 미국진출 위해 중진공·시애틀총영사관 협력
- 시애틀시 ‘6월4일 한국 중소벤처기업진흥공단의 날’로 지정
- 6월 정부납품 세미나 이번 주말 열린다
- 시애틀 한인, 워싱턴주 EOC 커미셔너로 활동
- “시애틀 한인 여러분, 유언장이나 상속 문제는 이렇게”
- 한인 꿈나무들 학예경연대회로 그림ㆍ글 실력 맘껏 발휘(+영상,화보)
- 페더럴웨이 통합한국학교도 장날행사로 여름방학들어가(+화보)
- 벨뷰통합한국학교 풍성하고 즐거운 종업식(+영상,화보)
시애틀 뉴스
- 스타벅스 '단골도 등돌려'...좋은 시절 끝났나
- 시애틀지역 세입자 강제퇴거 소송 빨라진다
- 킹 카운티 홈리스 업무수장 돌연 해고돼 '논란'
- 시애틀고교서 또 총격사망사고 ‘캠퍼스 안전’우려
- 지구사진 찍은 워싱턴주 우주비행사, 소형 비행기 조종중 추락사(영상)
- 미국주택구매 희망자 71% “모기지 인하 기다린다”
- 시애틀서 트레이더 조스 인기 좋다-새 지점 개설한다
- 시애틀에 미국 최대규모 벽화 등장했다
- 워싱턴주 학생들 아직까지 FAFSA 결과 통보 못받아 전전긍긍
- 워싱턴주 오늘부터 범죄용의차량 추격 다시 가능해져
- 오늘, 내일 시애틀지역 바닷물 올해들어 가장 많이 빠진다
- 워싱턴 주민 "도살업자가 엉뚱하게 우리집 애완돼지 죽였다"
- 시애틀지역 평균 집값 100만 달러 돌파했다
뉴스포커스
- '18일 총파업' 동네의원 절반 이상 동참…"후배들 다침에 선배의사 분노"
- 공매도 금지, 내년 1분기까지 연장…"전산시스템 구축 먼저"
- 최재영 "김건희 여사, 대통령 사칭하고 국정농단"
- 유재환 母 "신변 비관 아들, 산소호흡기 떼려고 몸부림…소변줄도 뽑아"
- 이재용 "삼성답게 미래 개척하자"…저커버그 8번째 만난 美 출장
- '롤스로이스男' 마약 처방 의사 징역 17년 중형…마취 환자 준강간까지
- '부안 지진' 중대본 "향후 일주일, 큰 규모 여진 발생할 수 있어"
- "네이버와 선긋나"…라인야후, 日에서만 '라인페이' 서비스 종료
- 민주, 김건희 특검법 당론 채택…'주가조작·명품백' 타깃
- 박세리 부친 "딸, 골프 시킨 이유? '돈' 될 거라 생각" 인터뷰 재조명
- 정청래 주도 법사위, 오늘 첫 전체회의…'해병대원 특검법' 상정
- 빅5도 동참 ‘18일 총파업’ 판 커진다…환자들 “엄정 대응해야”
- '대왕고래'에 주가 치솟자 "이때가 기회?"…가스공사 임원들 '현금화' 러시
- 나경원, 한동훈 '이재명 대통령직 상실'에 "허망한 기대"
- '300만 달러=이재명 방북비용'…법원이 판단한 결정적 이유는?
- '세기의 이혼' 머리 아파진 SK…상고심 대비 속 '플랜B' 마련 분주