의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
목록시애틀 뉴스/핫이슈
한인 뉴스
- [신앙과 생활-김 준 장로] 양심과 구원(1)
- 서은지총영사, 코리아나이트 시구 외교부 유튜브채널로 제작돼(+영상)
- 시애틀한인회,유급병가 세미나 개최한다
- [하이킹 정보] 시애틀산우회15일 합동산행
- [하이킹 정보] 워싱턴주 시애틀산악회 15일 산행
- [하이킹 정보] 워싱턴주 대한산악회 15일 토요산행
- 삼성 이재용, 시애틀서 아마존 CEO만나
- “한인상공인 여러분,그랜트나 대출기회 넘쳐요”
- “22일 베냐로야홀서 무료 공연 즐기세요”
- “전주서 열리는 세계한인비즈니스대회 신청하세요”
- 한인학부모회 미술대회서 리아 최,엠마 양 ‘대상’
- 서북미문인협회 20회 뿌리문학신인작가상 공모한다
- 창발 한인들 참여하는 자선기금마련 테니스대회 개최한다
- “시애틀 한인여러분, 호주와 뉴질랜드여행 어때요?”
- 한국학교서북미협의회, 5개 행사 종합시상식 열어(+화보)
- 이번 주말 제74주년 6ㆍ25 합동기념식 열린다
- 재미대한탁구협회 회장배 대회 열린다(+영상)
- 시애틀 통일골든벨 ‘성공’…김환희군 1등 영광 차지(+영상,화보)
- <속보> 오늘 정부납품 세미나서 한인상공인 위한 플렉스 펀드도 설명
- [신앙칼럼-최인근 목사] 기다림의 미덕(美德)
- 오리건 김성주의원 차남 미 공군사관학교 졸업
시애틀 뉴스
- 시애틀서 장장 56년간 아이들 가르친 여교사 은퇴
- 시애틀 방치된 빈집 강제철거 빨라진다
- "아마존, 직원들에 MS 클라우드 플랫폼 데이터 수집 지시"
- 아마존 시애틀 등 서민주택사업에 14억달러 추가 투자한다
- 올 여름에도 시애틀 '누드비치 공원' 그대로 운영된다
- 삼성 이재용, 시애틀서 아마존 CEO만나
- 시애틀 매리너스 23년만에 디비전 1위 노린다
- "타코마 교차로 위험 알고도 방치해 6명 사망"(영상)
- 애완견 데리고 캐나다 가는 것 어려워진다
- <속보> 지난 주 사망한 유명 워싱턴주 우주인 앤더스 사망원인은 ‘타박상’
- MS-애플-엔비디아 시총 1위 두고 사투…‘시총 삼국지’
- 억울한 살인죄 뒤집어쓰고 23년 복역했지만 "보상은 안돼"
- 시애틀 차이나타운 전 베트남마켓 건물서 화재 발생
뉴스포커스
- 의협 '3대 요구안' 제안, 정부 '거절'…'전면휴진' 일촉즉발
- 법도 환자도 등 돌린 진료거부…"무제한 자유 불가" 3대요구안 일축
- 당정 "130만 취약가구에 5.3만원…경로당 폭염지원금 6만원 인상"
- 대통령실 "상속세 전면 개편…종부세 폐지 필요"
- 민주 '명품백 수수 청문회' 추진…출석 불응시 '동행명령장' 검토
- 노소영 "서울대 후배들에게 실망…지방대 학생들에 감동" 무슨 일?
- 새마을금고 전무·상무·차장·과장·대리 모두 처벌받아…무슨 일?
- 499일 눈물의 기억 '이태원 참사 분향소' 이전…슬픔도 함께 옮겨지길
- "아내도 6억 투자"…견미리 남편 허위공시 주가조작 '무죄→파기환송'
- 경로당 '무상점심' 주5회로 늘지만 '지역간 격차' 우려…국비지원 목소리도
- 대박 난 '1만원대 청바지'…이랜드리테일 NC베이직, 라이프웨어 브랜드 도약
- "넘사벽 팔도·유재석의 농심·재도전 오뚜기"…뜨거워지는 비빔면 전쟁
- "미워도 다시 한번"…외국인 복귀에 '8만전자' 보인다
- 문·이과 통합수능 '서연고→서고연' 순위 바꿨다
- "희대의 조작사건" "법치 파괴 공작"…여야, 이재명 추가기소 공방
- 서울의대 교수 비대위 "17~22일 교수 529명 휴진…54.7% 해당"