의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- [하이킹 정보] 시애틀산우회 27일 토요정기산행
- 시애틀지역 인기 한식당‘스톤’(Stone) 레드몬드본점 이전 신장개업했다
- 한인생활상담소 입주할 건물 공사시작됐다
- 미국서 국내선 3시간, 국제선 6시간 지연되면 자동 환불
- 한국 연예인 홍진경, 이번 주 김치홍보차 시애틀 H-마트온다
- [부고] 강화남 전 워싱턴주 밴쿠버한인회장 별세
- 한국, 40세부터 복수국적 허용 추진
- 한국학교 서북미협의회 개최 학력어휘경시대회서 5명 만점 받아
- 재미한인장학기금 올해 장학생 총 80명으로 확대
- <속보>부인 생매장하려했던 워싱턴주 한인 징역 13년 선고돼(영상)
- KAC, 한인서비스날 맞아 대전정 청소했다
- [신앙과 생활-김 준 장로] 김철훈 목사 소고(小考-1)
- [서북미 좋은 시-오인정] 복수초
- 한국 아이돌그룹, 시애틀 매리너스 경기장서 시구한다
- ‘인기짱’시애틀영사관 국적ㆍ병역설명회 개최…“선착순 접수”
- 시애틀과 대전 자매결연 35년 교류확대 추진한다
- “킹카운티 도서관 공청회에 참석하세요”
- 전북자치도, 시애틀 경제사절단 대상 투자 설명
- [하이킹 정보] 시애틀산우회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 20일 토요산행
- 한인운영 더블트리 호텔서 경찰총격 1명 사망
시애틀 뉴스
- 시애틀 연방검찰, 바이낸스 창업자에 징역 3년 구형
- 워싱턴주 전기차 리베이트 준다…조건은 다소 까다로워
- 시애틀지역 운전자 테슬라 자율주행으로 운전하다 사망사고
- <속보> 한인운영 더블트리 호텔 총격 사망자는 해군 의사 출신(영상) -
- 머클슛 카지노서 '이유없이' 칼로 찔러 살해
- 워싱턴주 주민들 도박 중독 얼마나 빠져있을까?
- 워싱턴주내 늑대 크게 늘어났다
- 워싱턴주지사 후보 세미 버드, 공화당 공식 지지따냈지만
- 골드만삭스 "소비자 지출 호조…아마존주식 '매수'를"
- 시애틀 비지니스 시작하기에 얼마나 좋을까?
- 나이키 비용절감 위해 오리건 비버튼 본사직원 740명 해고
- 타코마 할머니 106살 생일잔치...장수비결 물어보니?
- 벨뷰 경전철 이번 주 토요일 오전 11시부터 운항시작
뉴스포커스
- 여중생 3개월간 성폭행·촬영한 담임교사…사후피임약까지 먹였다
- 이재명 유튜브 '골드버튼' 받는다…국내 정치인 중 최초
- 이부진의 K-미소, 인천공항 온 외국 관광객 사로잡았다
- '장밋빛' 물든 성장률 전망…전문가들 "유가·수출·환율이 관건"
- '의대교수 집단사직·주1회 셧다운' 예고…"최악의 5월이 온다"
- "오른다" "내린다" 엇갈리는 지표…'집 살까요 말까요' 시장은 혼란
- 홍준표 "또 끈 떨어진 외국감독 데려온다고 부산 떨어"…축협 비판
- "조국에 1000만원 배상"…'MB·박근혜 국정원 불법사찰' 첫 대법 판단
- "화제성 미쳤다"…민희진 울분 쏟아낸 기자회견 티셔츠 '완판'
- 고국에 비수 꽂은 신태용 감독 "행복하지만 처참하고 힘들어"
- 형님도 아우도 '도하 참사'…아시아 '고양이'로 전락한 한국축구의 민낯
- "시XXX" "개저씨" 뉴진스 엄마의 거친 입…하이브는 '민희진 고발장' 냈다
- '패륜 가족' 상속권 박탈…국민 상식 통했다
- 박정희 동상 건립 논란에 홍준표 "정치적 이유로 반대 옳지 않아"
- 테이저건 맞고 사망?…안전성 논란에도 현장선 필수인 이유
- "마늘 더 달라고요?" 식당들 울상…수입산도 1년새 50% 급등