의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 워싱턴주 한인교계 큰별 박영희 목사 별세
- [부고] 조기승 서북미연합회 회장 모친상
- [공고] 제 35대 워싱턴주 한인상공회의소 임시이사회 및 총회
- 워싱턴주 한인그로서리협회(KAGRO) 회원 권익과 안전 위해 최선
- “한인 여러분, 핀테크를 통한 재정관리ㆍ투자 알려드립니다”
- 시애틀 한인마켓 주말세일정보(5월 3일~ 5월 6일, 5월 9일)
- 샘 심 "한국인이라는 사실이 수치심에서 자부심으로 바뀌었다"
- 시애틀 롯데호텔 '미국 최고 호텔 7위' 올라
- “샛별문화원으로 한국문화 체험하러 왔어요”
- "시애틀 한인여러분은 하루에 몇마일 운전하시나요?"
- 한국 아이돌 엔하이픈 시애틀서 멋진 시구에 이치로도 만났다(영상)
- 페더럴웨이 청소년심포니 오케스트라 봄 연주회
- 린우드 베다니교회 이번 금~토 파킹장 세일
- 한국 GS그룹 사장단 시애틀서 집결… MS·아마존 찾아 공부했다
- 올해도 시애틀서 5ㆍ18민주화운동 기념식 열린다
- 유니뱅크 올해 흑자로 바로 전환, 정상화됐다
- ‘가마솥 진국’레드몬드 ‘본 설렁탕’5월 특별할인해준다
- 워싱턴주 음악협회, 44회 정기연주회 연다…“예약 서둘러야”
- [서북미 좋은 시-윤석호] 떨고 있을 때
- "한인 여러분, 구글 비지니스로 가게 홍보하세요"
- 오리건출신 한인 2세 미 해군항공학교 수석졸업
시애틀 뉴스
- 시애틀 경찰관들 연봉 엄청 오른다
- 워싱턴주 스포캔 ‘색션 8 바우처’ 다시 배포한다
- 워싱턴주 차량절도 전국서 4번째로 많다
- "뇌물주면 시애틀지역 토지감정가격 낮춰주겠다"
- 시애틀 어린이병원 인종차별혐의로 또 고소당했다
- 보잉 두번째 내부 고발자 사망...미스터리?
- 13억달러 복권당첨된 오리건주민, 절반 친구에게 준다
- 워싱턴주 에버그린 주립대 반전시위 종결
- UW에도 두번째 반전시위 부대 등장했다
- 스타벅스 불매운동 타깃되면서 실적 '어닝 쇼크'
- 시애틀 롯데호텔 '미국 최고 호텔 7위' 올라
- 마이크로소프트 말레이시아에 22억달러 투자한다
- "시애틀 한인여러분은 하루에 몇마일 운전하시나요?"
뉴스포커스
- '2000명 증원 근거' 회의록 공방…의료계 "본격적인 반전 국면 시작"
- 김진표, 채 특검법 상정…"尹 대통령 거부권 많이 행사했기 때문"
- 윤 대통령 두 번째 기자회견…'김여사·채상병·거부권' 질문 제한 없다
- '병원 문 닫을 판' 경희의료원…"내달 급여 지급 중단 고려"
- 정부24 오류 증명서 오발급 1233건…"서류 삭제, 현재 정상 발급"
- 김 여사, 어린이날 행사 불참…142일째 공식행사에 안 보여
- 정유라 "내가 국힘보다 돈값 더 해…커피 한 잔 값 후원 좀" 소송비 호소
- AI로 엑스레이 판독·신약 개발…'헬스케어' 옷 입은 카카오브레인
- '갤S24' 조기 출시 전략 성공…폴더블 신작도 효과볼까
- 민간도, 국제기구도 '韓 성장률 2% 초반→중반'…관건은 금리·물가
- 국민연금 월 200만원 넘는 수급자 첫 3만명 돌파
- "BTS도 군대 갔는데"…50년 만에 '체육·예술요원 병역특례 폐지' 수면 위로
- 의대교수들 "정부, 증원 근거자료·회의록 명명백백히 공개해야"
- 검찰, '김건희 명품백' 건넨 목사 고발인 9일 소환조사
- '채상병 수사외압' 김계환, 9시간째 조사중…변호인 동석 안해
- 가혹한 5월 가정의달…물가는 천정부지, 임금체불은 사상 최고