영국 왕실·미국 마가 인사들까지 서명 참여

세계적 석학, 인공지능(AI) 과학자, 그리고 마가(MAGA) 인사, 영국 왕실 인사들이 초지능(super intelligence) AI 개발 금지를 촉구하는 공개서한을 22일 발표했다. 이들은 기계가 세상을 지배하지 않도록, 초지능 AI가 안전하고 통제 가능하다는 것이 입증되고 강력한 대중적 지지가 있을 때까지는 개발되어서는 안 된다고 주장했다.

초지능은 인간의 지능을 모든 면에서 압도적으로 능가하는 지능을 의미하며, AI의 궁극적 진화 단계로 간주한다.

타임지에 따르면 서명자 중에는 노벨경제학상 수상자인 다론 아제모을루, ‘AI의 대부’로 불리는 제프리 힌턴(사진)과 요슈아 벤지오, 역사학자 유발 하라리, 애플 공동창업자 스티브 워즈니악, 버진그룹 설립자 리처드 브랜슨 등이 포함됐다. 도널드 트럼프 미국 대통령의 측근 스티브 배넌 등의 마가 인사들, 교황의 자문역 파올로 베난티, 그리고 해리 왕자와 메건 마클 부부, 매리 로빈슨 전 아일랜드 대통령도 서명했다.

이 서한은 생명의미래 연구소(FLI)가 주도해 발표한 것으로, 이 단체는 2023년에도 강력한 AI 시스템 개발을 6개월간 중단하자는 공개서한을 발표한 바 있다. 당시 서한은 널리 회람됐지만 실질적인 중단 효과는 없었다. 이번 서한에는 1100명 이상이 서명했다.

FLI의 앤서니 아기레 소장은 “시간이 얼마 남지 않았다”며, 초지능 개발을 막을 수 있는 유일한 방법은 “사회 전반에서 이것이 우리가 원하는 방향이 아니라는 인식이 확산하는 것”이라고 말했다.

서한과 함께 발표된 여론조사에 따르면, 미국인의 64%는 초지능이 “안전하고 통제 가능하다는 것이 입증되기 전까지 개발돼서는 안 된다”고 응답했으며, 단 5%만이 “가능한 한 빨리 개발돼야 한다”고 답했다. 아기레 소장은 “초지능을 개발하는 것은 소수의 매우 부유한 기업들이며, 훨씬 더 많은 사람이 다른 길을 원하고 있다”고 강조했다.