MS·오픈AI 보고서 발간…러시아·중국·이란도 챗GPT 로 사이버 공격

"제한적 수준 악용" 일축에도…"우려 현실로, 안전한 모델 구축" 지적

북한을 비롯한 러시아, 중국, 이란이 생성형 인공지능(AI) 챗봇 '챗GPT'를 해킹 공격에 사용한 것으로 드러났다. 미국 민간기업이 만든 첨단 기술이 적대국들의 사이버 작전에 활용된 셈이다. 문제가 된 계정 5개는 개발사에 의해 일단 삭제됐지만 공개된 기술인 만큼 언제든 재발할 수 있다는 지적이 제기된다.

AFP 통신과 영국 일간지 가디언에 따르면 챗GPT 개발사인 오픈AI와 최대 주주 마이크로소프트(MS)는 14일(현지시간) 이들 4개국의 지원을 받은 해킹 조직들이 챗GPT를 해킹 공격에 사용했다는 보고서를 발표했다. 해킹 조직들은 주로 해킹 예비단계에서 신분을 위장하는 피싱(전자금융사기) 이메일 제작이나 기술적인 문제를 해결하기 위한 정보 수집에 챗GPT를 사용했다.

오픈AI는 이날 MS와 협력해 챗GPT를 악의적인 사이버 활동에 사용하는 사이버 행위자의 계정 5개를 삭제했다고 밝혔다. 이들 행위자는 중국, 이란, 북한, 러시아와 각각 연계됐다. 국가가 지원하는 사이버 조직들이 공개된 AI 기술을 이용해 자신들의 해킹 능력을 향상하고 있다는 게 MS의 설명이다.

이 중 북한의 해킹 조직은 '에메랄드 슬릿'으로 이들은 북한을 연구하는 외국 싱크탱크를 조사하고 피싱 메일을 작성하는 데 챗GPT를 활용했다. 에메랄드 슬릿은 북한 해킹 조직 '김수키'의 또 다른 이름으로 김수키는 그간 한국, 미국, 일본의 군 당국과 정부 기관을 공격해 주요 첩보를 빼돌려 왔다.

러시아의 해킹 조직 '포레스트 블리자드'는 우크라이나를 상대로 한 재래식 군사 작전에 쓸 다양한 위성 및 레이더 기술 연구를 위해 챗GPT를 사용했다. 이란 혁명수비대의 '크림슨 샌드스톰'은 악성코드를 프로그래밍하는 데, 중국의 '매버릭 팬더'와 '아쿠아틱 팬더'는 미국 내부 정보를 수집하고 기존 해킹 기술을 강화하는 데 챗GPT를 사용했다.

이러한 해킹 공격에 대해 오픈AI는 "공개적으로 사용 가능한 비(非) AI 기반 도구로도 이미 달성할 수 있다"며 "그 수준을 넘어서는 악성 사이버 작전에 대해선 제한적이고 점진적인 기능만 제공한다"고 선을 그었다. 그러나 전문가들은 미국의 기술이 미국과 동맹국을 공격할 것이란 우려가 현실화했다며 개발사들이 좀 더 책임감을 가져야 한다고 지적했다.

컴퓨터 보안 전문가이자 베리빌 머신러닝 연구소의 공동 설립자인 게리 맥그로우는 이날 가디언에 "자신들이 만들고 있는 문제에 대한 방어 도구를 판매하는 대신 처음부터 안전한 AI 모델을 만드는 게 어떻겠느냐"고 반문했다. 통신기업 AT&T 최고보안책임자였던 에드워드 아모로소 뉴욕대 교수는 AI가 당장의 위협은 안 되더라도 "결국 모든 국가와 군에서 가장 강력한 무기 중 하나가 될 것"이라며 대응 필요성을 시사했다.

기사제공=뉴스1(시애틀N 제휴사)