"국내 감시 사용, 민주적 가치와 배치…위험한 무기 운용할 만큼 AI 신뢰 못해"

미국의 인공지능(AI) 스타트업인 앤트로픽이 미 국방부의 압박에도 자사 인공지능(AI) 기술을 무제한적으로 사용하도록 허용하지 않겠다는 입장을 내놨다.

26일(현지시간) AFP에 따르면, 다리오 아모데이 앤트로픽 최고경영자(CEO)는 "이러한 위협은 우리의 입장을 바꾸지 않는다. 우리는 양심상 그들의 요청에 응할 수 없다"고 밝혔다.

앞서 지난 24일 악시오스(Axios)는 피트 헤그세스 미 국방장관이 아모데이와 만나 27일 오후 5시 1분까지 군이 앤트로픽의 AI 모델 '클로드'를 군사적으로 제한 없이 사용할 수 있도록 정책을 수정하라고 요구했다고 보도했다.

헤그세스 장관은 앤트로픽이 이를 수용하지 않을 경우 △계약을 중단하고 '공급망 위험(supply chain risk)' 기업으로 지정하거나 △국방물자생산법(DPA)을 발동해 모델을 군 요구에 맞게 강제 조정하도록 할 수 있다고 경고한 것으로 알려졌다. '공급망 위험' 기업 지정은 통상 적대국 기업에 적용된다.

당시 국방부 고위 관계자는 "최종 사용자로서 합법성 판단은 국방부의 책임"이라며 "국방부는 합법적인 명령만 내렸다"고 앤트로픽 측의 우려를 일축했다.

또한 국방부는 일론 머스크가 소유한 xAI의 인공지능 챗봇 '그록'(Grok)의 기밀 환경 사용이 승인됐으며, 오픈AI와 구글도 비슷한 절차를 앞두고 있다고 앤트로픽을 압박해 왔다.

당국자들에 따르면, 앤트로픽은 국방부와 대륙간탄도미사일(ICBM)과 관련된 논의를 했던 것으로 전해졌다.

아모데이는 앤트로픽이 국가 방위를 위해 국방부와 정보기관에서 쓰였지만, 미국 시민에 대한 대규모 감시와 완전 자율 무기 운용에 쓰이는 데 대해서는 윤리적 기준을 두고 있다고 선을 그었다.

아모데이는 "이러한 시스템을 대규모 국내 감시에 사용하는 것은 민주적 가치와 양립할 수 없다"고 강조했다.

또한 "앤트로픽은 군사 결정을 내리는 것은 민간 기업이 아니라 국방부임을 이해하고 있다"면서도 "우리는 일부 제한된 경우 AI가 민주적 가치를 수호하기보다는 훼손할 수 있다고 믿는다"고 밝혔다.

여기에 인간이 최종 통제권을 갖지 않는 상태에서 치명적인 무기를 운용하도록 맡기기에는, 현재의 선도적인 AI 시스템들을 아직 충분히 신뢰할 수 없다며 "우리는 미국의 전투원과 민간인을 위험에 빠뜨리는 제품을 의도적으로 제공하지 않을 것"이라고 덧붙였다.

앤트로픽은 2021년 오픈AI 출신들이 설립한 기업으로, AI의 안전성과 윤리성을 핵심 가치로 내세운다. 지난해 앤트로픽은 국방부와 오픈AI·구글과 함께 다양한 군사 적용을 위한 AI 모델을 공급하는 2억 달러(약 2900억 원) 규모의 계약을 체결했다.

기사제공=뉴스1(시애틀N 제휴사)