촘스키, AI챗봇 '악의 평범성' 경고…"기존 입장 베끼기만 한다"
- 23-03-10
NYT 기고글서 기계학습의 한계 지적
가정적 사고 불가능…창의적 설명 못해
세계적인 언어학 석학 노엄 촘스키(94) 미국 메사추세츠공대(MIT) 명예교수가 챗GPT로 화제가 된 인공지능(AI) 기술에 대해 "인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다"며 AI가 지닌 기술적·도덕적 한계를 명확히 지적했다.
촘스키 교수는 8일(현지시간) 이언 로버츠 케임브리지대 언어학 교수, AI 기업 제프리 와터멀과 함께 뉴욕타임스(NYT)에 '챗GPT의 거짓 약속'이란 제목의 기고문을 냈다.
촘스키 교수는 AI가 "엄청난 양의 데이터를 다루며 그 안에서 패턴을 찾고 통계적으로 그럴듯한 결과물을 도출해 낸다"고 평가했다. 이어 "기계가 정보처리 속도와 양뿐만 아니라 통찰 능력에서도 인간을 뛰어넘는 순간이 올 것이라는 오랜 예언이 있다"고 소개했다.
그러면서도 "새벽은 밝지 않았다"며 "AI가 인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다는 것을 언어학과 지식철학을 통해 알 수 있다"고 주장했다. 또한 "인간과 AI의 차이는 프로그램상 제거할 수 없는 결함으로 프로그램이 할 수 있는 것에 상당한 제약을 가한다"고 강조했다.
촘스키 교수는 AI가 기계학습을 위해 다량의 데이터에 의존한다고 지적했다. 그는 "인간은 패턴을 찾기 위해 수백테라바이트의 데이터를 먹어 치우는 통계학적 기계가 아니다. 언어를 배우는 어린아이들은 아주 적은 양의 데이터로부터 부지불식간에 완벽한 문법 체계를 습득한다"고 지적했다. 그러면서 "인간의 '운영체계'는 생득적이며 유전적으로 설치된다"고 덧붙였다.
또한 AI가 내놓는 그럴듯한 결과물들이 실상은 "인간의 인지적 혁명단계 이전에 갇혀있다"라고도 지적했다. AI는 현상을 묘사하고 예측할 뿐 가정을 기반으로 한 추론은 불가능하다는 게 촘스키 교수의 판단이다.
촘스키 교수는 '사과를 손에 들고 있는' 상황에서 사과에서 손을 뗀 뒤 벌어지는 결과를 보고 '사과가 떨어진다'고 말하는 것과 '손을 떼면 사과가 떨어질 것이다'라고 말하는 것은 각각 '묘사'와 '예측'이라고 설명했다. 묘사와 예측은 AI가 반복 학습함을 통해 지금도 충분히 가능하다.
반면 촘스키 교수는 '모든 물체는 반드시 떨어진다'란 추론은 오직 인간만 가능하다고 분석했다. 경험법칙을 기반으로 현실에 없는 상황을 가정하는 능력은 AI로서는 역부족이다. 이 같은 '가정적 추론'의 결여로 인해 '중력으로 모든 물체는 떨어진다' 혹은 '시공간이 뒤틀렸기 때문에 모든 물체는 떨어진다'는 '인과관계 설명'도 AI는 할 수 없다.
촘스키 교수는 '묘사'와 '예측'은 물론 '가정적 추론'과 '인과관계 설명'까지가 인간 사고의 총체라고 강조했다. 그는 AI가 기계학습을 통해 그럴듯한 추론에 도달하더라도 "사이비 과학에 불과하다"고 선을 그었다.
촘스키 교수는 AI의 최대 결함으로는 윤리적 판단 능력의 결여를 꼽았다. 그는 "진정한 지성은 도덕적 사고를 할 수 있다"며 "이는 무엇이 돼야 하고 무엇이 돼서는 안 되는지를 결정하는 일련의 윤리적 원칙을 통해 가능하다"고 지적했다.
그러면서 촘스키 교수는 챗GPT와 나눈 대화를 토대로 "챗GPT가 악의 평범성을 보여준다"고 직격했다. 그는 챗GPT가 "표준적인 입장을 일종의 자동완성 기능으로 요약만 할 뿐 어떤 입장을 취하는 것을 거부한다"며 "그저 명령을 따른다는 식으로 자신을 방어하고 모든 책임을 프로그래머들에게 전가한다"고 지적했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 전북자치도, 시애틀 경제사절단 대상 투자 설명
- [하이킹 정보] 시애틀산우회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 20일 토요산행
- 한인운영 더블트리 호텔서 경찰총격 1명 사망
- 영오션 시애틀 한인들에게 한국산김치 판매 시작
- 시애틀, 벨뷰, 부산시장이 만났다
- 워싱턴주 체육회 기금마련 골프대회
- 시애틀태권도 대부 故윤학덕 회장 추모식 열린다
- “워싱턴주, 카운티, 시정부납품 원하는 한인분들 오세요”
- 시애틀한인회, 상공인과 대학학비보조 관련 세미나 연다
- 세월호참사 10주기, 시애틀서 아픔을 예술로 승화(+화보)
- 스노퀄미 역사적 상가건물 화재에 한인 아이스크림 집도 불타
- 한국 중진공과 시애틀경제개발공사 'K스타트업 네트워킹'개최
- 브루스 해럴시장, 오세훈 서울시장 초대했다
- 한국학교 서북미협 말하기대회서 오한나양 대상(+화보)
- [시애틀 수필-이 에스더] 무엇을 입을까
- 타코마 등 피어스카운티 비지니스 활성화지원금 신청 연장
- 한국 국민그룹 '코요태'7월 시애틀서 공연한다
- 시애틀 한인 2세 스타트업 2,100만달러 유치 '대박'
- 15살 페더럴웨이 한인회, 새 보금자리에 둥지 틀다(+영상)
- ‘영원한 소녀’안문자 작가 출판기념회 따뜻했다(+영상)
시애틀 뉴스
- "아마존, 경쟁사 월마트 정보 비밀리에 수집했다"
- 유니뱅크 지난해 전체적으로 적자났다
- 올해 시애틀이 LA보다 비 적게 왔다
- UW인근 대학가 숙원사업인 '공중화장실'설치한다
- 알래스카항공 1시간동안 전면 이륙 중단
- 시애틀 공립학교 학생들이 왜이리 많이 줄까?
- 시택공항 입구 반전시위 46명 체포돼
- 올해 워싱턴주 농사 망치려나? 가뭄비상사태, 시애틀지역은 제외
- 유나이티드항공 "보잉 문짝 날아간 사고로 2억 달러 손실"
- 아마존 "49달러 이상 한국 주문시 무료배송"
- '서커스 하기 싫어' 거리로 뛰쳐나온 코끼리…20분간 한바탕 소동
- 시애틀 성형외과의사, 안좋은 리뷰 못하게 막았다 유죄판결
- 워싱턴주에서 가장 다양한 민족이 어울려 사는 곳은?
뉴스포커스
- 민주 "검찰 이화영 술자리 회유 의혹, 국조·특검 검토"
- '특검 정국' 칼 빼든 민주…尹-李 영수회담 계기로 다시 칼집 넣을까
- 현대차·기아, 美 '최고 가치 전기차' 1~3위 석권…1분기 판매량도 56% 증가
- 50세 이상이면 '단돈 천 원'에 국수 한 그릇…뜨거운 '열풍'
- 앞차는 수배범, 뒤차는 만취…황당한 교통사고 나란히 재판행
- 거야 추경요구에 기재부도 강경모드…재점화된 추경 갈등
- '계곡살인' 이은해, 피해자 남편과 결혼 무효…"일방적 착취"
- 국립대 총장 건의 전격 수용한 尹…'의정갈등' 출구 모색
- 제주도, 20년 만에 'APEC 정상회의' 유치 재도전
- 김건희 여사 몰래 촬영한 재미교포 목사, 스토킹 혐의로 입건
- 5월부터 '진짜 엔데믹'… 코로나19, 4년 3개월 만에 마침표
- 서울 아파트값 제자리인데…압구정 80억, 성수 57억 '신고가'
- 정부, '독도 억지' 日 왜곡 교과서 검정 통과에 "유감…시정 촉구"
- 수원지검, 이화영 '연어 술 파티' 주장 창고·영상녹화실 사진 공개
- 조국·이준석, '채상병 특검법' 손잡는다…공동 기자회견
- 의대 증원 최대 1000명까지 축소…한 총리 "자율모집 허용"