챗GPT 개인정보 유출사고에 AI 부작용 우려↑

규제 고삐 죄는 각국 정부…서비스 차단하기도

생성형 인공지능(AI) 기반 채팅로봇인 챗GPT가 개인정보를 무단 수집했다는 의혹이 제기된 데 대해 이탈리아에 이어 캐나다도 개발사를 상대로 한 진상 조사에 착수했다. 

AFP 통신·CBC 방송에 따르면 4일(현지시간) 캐나다 국민의 사생활 정보 보호를 감독하는 독립기관인 프라이버시위원회는 성명을 내고 챗GPT가 사용자 동의 없이 개인정보를 수집·사용·공개했다는 내용의 진정서가 접수돼 오픈AI에 대한 조사를 시작했다고 밝혔다. 

필립 뒤프레센 프라이버시위원회 위원장은 AI가 사생활에 미치는 영향을 우선적으로 고려하고 있으며 위원회가 빠르게 바뀌는 기술 발전에 앞장서야 한다고 강조했다. 

그러면서 디프레센 위원장은 보다 자세한 내용은 공개하지 않겠다고 덧붙였다. 그러나 프라이버시위원회는 조사 결과를 공개 보고하도록 의무화돼있어 조사가 끝나는 대로 진위 여부를 알 수 있을 것으로 보인다.

캐나다 당국의 이번 조사는 지난달 20일 발생한 챗GPT 개인정보 유출 사고가 발단이 됐다. 파이낸셜타임스(FT)에 따르면 오픈AI 측이 가입 확인 이메일을 잘못 발송하는 바람에 다른 사용자 이름, 이메일 주소, 결제 주소, 신용카드 정보 등이 약 9시간 동안 고스란히 노출됐다.

이에 오픈AI는 공식 성명을 내고 "챗GPT와 같은 AI 시스템을 훈련할 때 개인 데이터 수집을 줄이기 위해 노력하고 있다"고 말했다. AI 챗봇은 인터넷상의 데이터를 기반으로 인간처럼 자연스럽게 대화하는 방법을 학습하는데 챗GPT의 대화 능력이 일정 수준에 오른 만큼 데이터 수집을 최소화하겠다는 설명이다.

개발사의 이 같은 해명에도 불구하고 그동안 챗GPT가 개인정보를 무단으로 사용한 것 아니냐는 의혹은 걷잡을 수 없이 커졌다. 챗GPT 학습 과정에서 개인정보 외에도 저작권이 침해된다는 불만도 예술계를 중심으로 터져 나왔다. 나아가 AI 기술 고도화로 인해 노동 소외가 심화하고 인간의 문명에 대한 통제권을 상실한다는 주장도 제기됐다.

실제로 지난달 30일 미국의 기술 분야 비영리단체인 인공지능 및 디지털 정책센터(CAIDP)는 오픈AI가 최근 출시한 챗GPT-4가 "편향적이고 기만적이며 공공안전에 위협이 된다"는 이유로 신규 출시를 중단할 것을 미 연방거래위원회(FTC)에 요청했다.

또 다른 비영리단체인 미래생명연구소(FLI)도 지난달 28일 '거대한 AI 실험 일시중지'란 공개서한을 내고 AI 활용과 관련한 안전 규약이 마련될 때까지 챗GPT-4보다 강력한 생성형 AI 기술 개발을 6개월간 중단할 것을 제안했다. 서한에는 전 세계 정보기술(IT) 전문가 및 업계 전현직 직원 1800명이 서명했다.

이에 각국 정부도 챗GPT 등 AI 기술에 대한 규제 강도를 높이는 분위기다. 이날 조 바이든 미국 대통령은 백악관 회의에서 AI의 위험성을 언급하며 의회를 상대로 IT기업의 개인정보 수집을 제한하는 개인정보보호법안을 통과시킬 것을 거듭 촉구했다.  

이탈리아는 지난달 31일 개인정보 보호를 이유로 서방 최초로 챗GPT 접속을 차단하고 자체 조사에 들어갔다. 이를 통해 챗GPT가 이용자 연령 미확인으로 미성년자에게 부적절한 답변을 하고 개인정보를 무단으로 사용했는지 여부 등을 들여다볼 계획이다.

독일은 지난 3일 챗GPT 차단 조치를 취할 수 있다고 언급했으며 이탈리아 측에 챗GPT를 금지한 배경과 관련한 추가 정보를 요청했다고 밝혔다. 프랑스와 아일랜드도 자국 내 데이터 정보기관을 통해 이탈리아의 조사 결과를 공유받기로 했다.

기사제공=뉴스1(시애틀N 제휴사)