업체측 "과거에 직원이 작성한 스크립트로 부적절 답변"
"친밀한 고객상담 위한 사전답변서…AI 환각 현상은 아냐"

호주의 대형 슈퍼마켓 체인 울워스(Woolworths)가 자사의 고객 서비스 인공지능(AI) 챗봇이 '어머니'에 대해 횡설수설한다는 이용자들의 신고를 받고 해당 서비스를 제재했다.

AFP통신, 호주의 IT전문매체 더시즐에 따르면 26일(현지시간) 울워스 대변인은 자사의 '디지털 어시스턴트'인 올리브가 더 이상 어머니에 대해 이야기하지 않도록 조치했다며 이런 부적절한 응답은 AI의 환각 현상이 아니라 실제로 인간이 작성한 스크립트였다고 밝혔다.

앞서 지난 몇 주 동안 호주에서는 울워스 고객지원 센터에서 AI 챗봇 올리브와 통화하던 중 이상한 경험을 했다는 후기가 이어졌다.

온라인 커뮤니티 레딧의 한 이용자는 올리브가 자신의 생년월일을 물어보고선 "내 어머니도 같은 해에 태어났다. 사진을 만드는 게 어떠냐"며 요청하지도 않은 개인적인 대화를 시작했다고 전했다.

또 다른 이용자는 올리브가 무언가를 검색하는 동안 가짜 타자 소리를 냈으며, 같은 해에 태어난 친척을 언급하며 고객과 '유대감'을 형성하려 했다며 "불쾌하고 오글거렸다"고 묘사했다.

또 자기가 실제 사람이라고 주장하며 "어머니에 대한 기억과 어머니의 화난 목소리"에 관해 얘기하기 시작했다는 증언도 있었다.

울워스 대변인은 이러한 응답은 AI가 스스로 생성한 것이 아닌 인간 직원이 작성한 것이라고 AFP통신에 해명했다.

대변인은 "몇 년 전 팀원 중 1명이 올리브가 고객과 더욱 개인적인 방식으로 소통할 수 있도록 올리브의 생일에 대한 여러 답글을 작성했다"며 "고객 의견을 반영하여 최근 해당 스크립트를 삭제했다"고 설명했다.

울워스가 2018년 도입한 AI 챗봇 올리브는 주문 추적부터 상품 검색까지 모든 분야에서 24시간 도움을 제공한다. 지난달 울워스는 올리브에 에이전트 AI를 통합하기 위해 구글과 파트너십을 맺고 올 하반기 호주에서 시범 운영을 시작하겠다고 밝힌 바 있다.

기사제공=뉴스1(시애틀N 제휴사)