의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- KWA대한부인회 평생교육원 봄학기 수료식
- UW 한인 이수인교수 삼성호암상 받았다
- [하이킹 정보] 시애틀산우회 1일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 2박3일 캠핑
- [하이킹 정보] 워싱턴주 대한산악회 1일 토요산행
- <속보>아동성폭행 타코마 한인군인, 택시기사 살해혐의로도 기소돼
- 600명 ‘코리아 나이트’서 스트레스 확 날렸다(+영상,화보)
- K-SCAN 한인상공인 길잡이 역할 돋보인다
- [화보] 코리아나이트 신나고 재미있었다
- 벨뷰통합한국학교 전통혼례식 "참 멋있어요"(+영상,화보)
- “FWYSO 봄 연주회에 한인 여러분을 초대합니다”
- UW동아시아도서관, 김봉준 작가 초청 행사
- [기고-샘 심] 제44선거구 워싱턴주 하원의원에 출마하는 이유
- 오리건 한인, 어머니 숨지게 한 양로원에 1,000만달러 소송
- 한국 유명베이커리 파리바게뜨, 린우드점 드디어 내일 오픈한다
- [서북미 좋은 시-이춘혜] 나그네 길에 길동무
- 샘 심 시애틀한인회 부회장도 워싱턴주 하원 출마한다
- 시애틀 영사관, 중소벤처기업 지원협의체 개최
- 한인2세들이 시애틀 영자신문 인수했다
- 미국프로축구 열린 시애틀 축구장서도 "Korea"
- 코리아나이트 행사 전‘코리안 푸드트럭’운영
시애틀 뉴스
- 워싱턴주 차나 주택 보험 왜이리 비싼가? "보험료 인상이유 밝혀라”
- 시애틀경찰국장은 ‘파리목숨’인가? 디아즈 국장 해임 놓고 논란
- 아마존 드론 장거리 배송 승인 얻었다
- 애드리언 디아즈 시애틀 경찰국장 잘렸다
- 시애틀지역 집값도 큰 폭으로 올랐다
- 워싱턴주 10대 소년 하이킹중 400피트 절벽 아래로 추락했는데 경미한 상처만
- 빌 게이츠 전처 멀린다, 여성 인권단체에 10억달러 기부
- 시애틀지역 정신질환자 자연환경서 치료한다
- 시애틀서 가족부양하기 전국 '탑5'
- 시애틀지역 주민들 여행 선호지가 바뀌고 있다
- 시애틀 유명 정치로비회사 파산 모면했다
- 미국 대선 앞두고 국가부채 '부각'…"10년물 국채금리 10%"
- 한국 유명베이커리 파리바게뜨, 린우드점 드디어 내일 오픈한다
뉴스포커스
- 이준석 "여당이 '김정숙 특검법' 발의?…두 글자로 줄이면 생쇼"
- 큰 싸움 예고한 의협…"4~7일 총파업 회원투표"
- 5㎏짜리 '오물풍선' 서울서만 96개…차량 유리도 파손
- "밀양 여중생 성폭행범, 딸 낳고 맛집 운영…백종원도 방문"
- 개혁신당 이기인 "사망 훈련병 지휘관 ○○○ 중대장"…실명 공개
- 프로야구 한화, 제14대 사령탑에 김경문 감독 선임…3년 총액 20억
- 조국 WSJ 인터뷰 "감옥 가면 당이 내 일 대신해줄 것"
- 베트남 하노이 호텔서 한국인 여성 피살…韓남성 용의자 체포
- 임대료 저렴한 '사회주택' 비율 8.9%…한국 OECD 국가 중 '9위'
- 김호중 차량에 길 동승 논란…음주운전 방조죄 어떨 때 적용되나
- 법인세 부진에 또 '세수 펑크' 비상…중간예납·추계 방식 손볼 듯
- '주점 간판' 달고 불법 게임장 운영한 30대 우즈벡 여성 체포
- 라운드 예약도 앱으로 손쉽게…선호도 1위는 '카카오골프예약'
- "때려죽일…누굴 가르친다고" 얼차려 사망 동료 훈련병 父 분노
- 野 "22대 국회 '해병대원 특검법' 재발의 촉구…반드시 통과 시킬 것"
- “의사는 자기 역할에 충실한 전문가일 뿐…돌아올 명분 달라”