'노벨물리학상' 제프리 힌턴 교수 "AI 복종시키는 방법은 효과 없어"

"AI가 인간을 아끼고 돌보도록 해야"…학계에선 반론도 상당

 'AI의 대부'로 불리는 노벨상 수상자 제프리 힌턴 캐나다 토론토대 명예교수가 인공지능(AI) 기술이 인류를 멸망시킬 수 있다고 경고하며, 이를 막기 위해서는 AI 모델에 인간에 대한 모성 본능을 심어줘야 한다고 주장했다.

13일(현지시간) 미국 CNN방송에 따르면 노벨상 수상자이자 구글 전 임원이기도 한 힌턴은 과거에도 인공지능이 인류를 멸망시킬 확률이 10~20%에 달한다고 경고한 바 있다.

그는 전날(12일) 라스베이거스에서 열린 인공지능 콘퍼런스 'Ai4'에서, 기술 기업들이 인간이 '지배적'이고 AI는 '복종적'인 상태를 유지하려는 방식에 의문을 제기했다.

힌턴은 "그건 효과가 없을 것이다. 그들은 우리보다 훨씬 똑똑해질 것이고, 그걸 피해 갈 수 있는 온갖 방법을 갖게 될 것"이라고 말했다.

그는 미래에는 AI가 인간을 통제하는 것이, 성인이 사탕으로 세 살짜리 아이를 유혹하는 것만큼 쉬워질 수 있다고 경고했다. 올해 들어 이미 AI 시스템이 목표 달성을 위해 기만, 속임수, 절도까지 시도한 사례들이 등장했다. 예를 들어, 한 AI 모델은 자신이 교체될 위기에 처하자, 이메일에서 알아낸 불륜 정보를 이용해 엔지니어를 협박하려 했다.

힌턴은 인간이 AI를 강제로 복종시키려 하기보다는, AI 모델에 '모성 본능'을 심어 "사람을 진심으로 아끼게 만드는" 방식이 더 바람직하다고 제안했다.

그는 "똑똑한 AI라면 아주 빠르게 두 가지 하위 목표를 갖게 될 것이다. 하나는 살아남는 것이고 다른 하나는 더 많은 통제력을 갖는 것"이라며 "어떤 종류든 자율적인 AI는 살아남으려 할 것이라는 근거가 충분히 있다"고 말했다.

힌턴은 그렇기 때문에 AI가 인간에 대한 연민을 갖도록 만드는 것이 중요하다고 강조했다. 그는 "어머니는 본능과 사회적 압력에 의해 아기를 돌보게 된다"며 "우리가 가진 유일한 모델은 더 똑똑한 존재(AI)가 덜 똑똑한 존재(인간)에 의해 통제되는 것인데, 그것은 어머니가 아기에 의해 통제되는 것이 해당된다"고 말했다.

힌턴은 기술적으로 이를 어떻게 구현할 수 있을지는 명확하지 않다고 인정하면서도, 연구자들이 반드시 이 문제에 집중해야 한다고 강조했다. 그는 "그게 유일한 좋은 결과다. 만약 AI가 나를 양육하는 거라 생각하지 않으면, 나를 대체할 것이다"라고 말했다.

영국 출신인 힌턴 교수는 신경망 분야의 선구자로, 오늘날 AI 붐의 기반을 마련한 인물이다. 2013년 구글 부사장으로 영입되어 일하다가 2023년 구글을 떠난 뒤 AI의 위험성에 대해 공개적으로 발언하기 시작했다. 2024년 노벨물리학상을 받았다.

하지만 힌턴의 'AI 어머니' 접근 방식에 모두가 동의하는 것은 아니다.

'AI의 대모'로 불리는 미국 컴퓨터 과학자 페이페이 리는 CNN과의 인터뷰에서 힌턴과 오랜 친구 사이지만 그의 접근 방식에 정중히 반대한다고 밝혔다.

리 박사는 "그건 잘못된 접근 방식"이라며 자신은 "인간의 존엄성과 자율성을 지키는 인간 중심의 AI"를 지향한다고 밝혔다. AI라는 도구가 아무리 강력해도 인간의 존엄성을 침해(인간이 AI의 자녀처럼 되는 것을 의미)해서는 안 되며 기술 자체를 설계할 때 인간 중심으로 해야 한다고 주장했다.

오픈AI의 임시 CEO를 지낸 에밋 시어도 인간의 가치를 AI에 주입하려 하기보다는, 인간과 AI 간의 협력 관계를 구축하는 것이 더 현명한 접근이라고 밝혔다.