의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
목록시애틀 뉴스/핫이슈
한인 뉴스
- 시애틀 한인, 워싱턴주 EOC 커미셔너로 활동
- “시애틀 한인 여러분, 유언장이나 상속 문제는 이렇게”
- 한인 꿈나무들 학예경연대회로 그림ㆍ글 실력 맘껏 발휘(+영상,화보)
- 페더럴웨이 통합한국학교도 장날행사로 여름방학들어가(+화보)
- 벨뷰통합한국학교 풍성하고 즐거운 종업식(+영상,화보)
- 시애틀통합한국학교 신나는 장날행사로 방학 들어가(+화보)
- U&T파이낸셜, 워싱턴주 한인여성부동산협회 세미나 성황
- 워싱턴주음악협회 올해 정기연주회 젊고 밝고 맑았다(+영상,화보)
- FWYSO 2만4,600여달러 장학기금 모았다
- [신앙과 생활-김 준 장로] 김철훈 목사 소고(小考-4)
- KORAFF 한인입양가족재단 한국문화축제 연다
- 타코마한국학교, 특별한 한국어 여름학교 캠프 연다
- KWA대한부인회 평생교육원 봄학기 수료식
- UW 한인 이수인교수 삼성호암상 받았다
- [하이킹 정보] 시애틀산우회 1일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 2박3일 캠핑
- [하이킹 정보] 워싱턴주 대한산악회 1일 토요산행
- <속보>아동성폭행 타코마 한인군인, 택시기사 살해혐의로도 기소돼
- 600명 ‘코리아 나이트’서 스트레스 확 날렸다(+영상,화보)
- K-SCAN 한인상공인 길잡이 역할 돋보인다
- [화보] 코리아나이트 신나고 재미있었다
시애틀 뉴스
- 시애틀지역 평균 집값 100만 달러 돌파했다
- UW 순위 다소 밀렸지만 세계 명문대 맞다
- "시애틀지역에서 저렴한 탁아소 어디 없을까요"
- 시애틀 말썽꾸러기 ‘벨타운 헬캣’ 운전자에 거액벌금 요구
- 미국 항공사 요금반환법 제정엔 시애틀 고교 영향도 컸다
- 시애틀 역사풍물인 길거리 시계 ‘부활’한다
- 워싱턴주 경제 미국서 최고로 좋다
- MS, 스웨덴 AI·클라우드 인프라에 2년간 32억 달러 투자한다
- 긱하버 퍼레이드행사서 급발진해 5명 부상(+영상)
- 시애틀경전철 무임승차 단속 강화하니 "조심해야"
- 일부 페리 탑승대기 시간 길어졌다
- 오리건 해안 홍합채취 금지됐다
- 코스트코 핫도그 가격 '1.50달러' 안올린다
뉴스포커스
- 아브레우 액트지오 고문 "포항 석유·가스 유망…전 세계 주목"
- 서울대병원이 쏘아올린 '집단휴진', 동네 의원까지 확산할까
- '첫 파업' 삼성 노조, 연가 투쟁 참여율 낮아…생산 차질 없을 듯
- 도종환 "못 참겠다, 이게 공식 초청장…호화 기내식? 50명이 같은 도시락"
- '울산판 전청조' 남성 5명 동시 교제하며 수십억원 뜯어
- 이재명·조국, 2시간 비공개 회동…'22대 국회 협력 방안' 모색
- '현충일 욱일기' 부산 의사, 결국 내렸다…성난 민심 '신상 공개' 돌진
- 페이커 이상혁 "돈·명예 한시적…선한 영향력 고민하고 실천하겠다"
- 美도 놀란 '필름형' 조현병치료제…CMG제약 “이번엔 FDA 벽 넘는다”
- 서울대병원 17일부터 전면 휴진…응급 제외한 외래·수술 중단
- "맘에 들지 모르지만 핸드백 장만"…최재영 카톡 내용 공개
- 전공의 사직서 받는 정부…의대생 '휴학계'도 받을까
- 탈북자 단체, 북한에 '임영웅 노래' 보냈다…전단 20만 장 살포
- 김정숙 인도행 동행 고민정 "나도 그 기내식 먹었다, 엄청났다 기억 없어…"
- 한일 국민소득 '절반→역전'까지 18년…1인당 GDP도 추월 전망
- 최태원·노소영 역대급 재산분할…같은 듯 다른 10조 갑부 권혁빈 이혼소송