판례 요구했더니 6건 '위조'…챗GPT 끝까지 "진짜다" 주장

미국의 한 변호사가 인공지능(AI) 챗봇 챗GPT를 이용하려다 혼쭐이 났다. 법률 자료를 찾아달라고 요청했더니 챗GPT가 가상의 '창작물'로 판례를 내놓았기 때문이다. 

28일 뉴욕타임스(NYT)에 따르면 로베르토 마타는 지난 2019년 8월 엘살바도르에서 뉴욕으로 가는 콜롬비아 아비앙카항공의 여객기에서 음식 운반용 철제 카트에 부딪혀 무릎을 다쳤다며 법원에 소송을 냈다.

아비앙카항공은 공소시효가 지났다며 뉴욕남부연방법원에 기각해줄 것을 요청했으나, 마타의 변호인인 스티븐 슈워츠는 소송을 계속 진행해야 한다며 6건 이상의 유사 판례를 담은 10페이지 분량의 의견서를 법원에 제출했다.

문제는 항공사측 변호인도 판사도 슈워츠 변호사의 의견서에 담긴 판례와 인용 문구를 도저히 찾을 수 없었다는 점이다.

예를 들어 아비앙카 측 변호인은 슈워츠 변호사의 의견서에 담긴 중국 남방항공 사건 판례는 물론 그 안에 인용된 지난 2008년 제11 연방고등법원의 대한항공 판결문도 도저히 찾을 수 없다고 케빈 카스텔 뉴욕남부연방지법 판사에게 호소했다.

결국 아비앙카를 대리한 바트 바니노 변호사는 의견서에 담긴 판례들이 실제 판결이 아닐 수 있다며 AI 챗봇이 관여됐을 가능성을 제시했다.

카스텔 판사의 문의를 받은 제11 연방고법도 슈워츠가 제시한 판례의 사건번호로 검색한 결과 전혀 무관한 다른 사건의 번호였다고 답했다. 나머지 5건의 판례 역시 가짜로 밝혀졌다.

이에 카스텔 판사는 "위조된 가짜 사법부 결정과 가짜 인용문으로 가득찬 의견서"라며 다음달 8일 슈워츠 변호사에 대한 제재 여부를 논의하기 위한 공판을 열겠다고 밝혔다.

슈워츠 변호사는 지난 25일 법원에 선처를 호소하면서 챗GPT의 도움을 받았다는 사실을 인정했다.

30년 경력의 슈워츠 변호사는 법원과 항공사를 속일 의도가 아니었다며 AI 챗봇을 한 번도 써본 적이 없어서 "그 콘텐츠가 가짜일 수도 있다는 가능성에 대해 알지 못했다"고 호소했다.

심지어 슈워츠 변호사는 챗GPT에 '진짜 판례가 맞느냐'고 거듭 확인했으나, 챗GPT가 끝까지 "그렇다"고 주장했다고 전했다.

슈워츠 변호사가 법원에 제출한 진술서에 따르면 그가 챗GPT에 '남방항공 판례가 실제 사건이냐'고 묻자 챗GPT는 "그렇다. 실제 사건이다"고 답했고, '네가 제시한 다른 판례들은 가짜냐'는 슈워츠의 추가 질문에도 "아니다. 내가 제공한 다른 사건들도 진짜이고 저명한 법률 데이터베이스에서 찾을 수 있다"라고 주장했다.