촘스키, AI챗봇 '악의 평범성' 경고…"기존 입장 베끼기만 한다"
- 23-03-10
NYT 기고글서 기계학습의 한계 지적
가정적 사고 불가능…창의적 설명 못해
세계적인 언어학 석학 노엄 촘스키(94) 미국 메사추세츠공대(MIT) 명예교수가 챗GPT로 화제가 된 인공지능(AI) 기술에 대해 "인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다"며 AI가 지닌 기술적·도덕적 한계를 명확히 지적했다.
촘스키 교수는 8일(현지시간) 이언 로버츠 케임브리지대 언어학 교수, AI 기업 제프리 와터멀과 함께 뉴욕타임스(NYT)에 '챗GPT의 거짓 약속'이란 제목의 기고문을 냈다.
촘스키 교수는 AI가 "엄청난 양의 데이터를 다루며 그 안에서 패턴을 찾고 통계적으로 그럴듯한 결과물을 도출해 낸다"고 평가했다. 이어 "기계가 정보처리 속도와 양뿐만 아니라 통찰 능력에서도 인간을 뛰어넘는 순간이 올 것이라는 오랜 예언이 있다"고 소개했다.
그러면서도 "새벽은 밝지 않았다"며 "AI가 인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다는 것을 언어학과 지식철학을 통해 알 수 있다"고 주장했다. 또한 "인간과 AI의 차이는 프로그램상 제거할 수 없는 결함으로 프로그램이 할 수 있는 것에 상당한 제약을 가한다"고 강조했다.
촘스키 교수는 AI가 기계학습을 위해 다량의 데이터에 의존한다고 지적했다. 그는 "인간은 패턴을 찾기 위해 수백테라바이트의 데이터를 먹어 치우는 통계학적 기계가 아니다. 언어를 배우는 어린아이들은 아주 적은 양의 데이터로부터 부지불식간에 완벽한 문법 체계를 습득한다"고 지적했다. 그러면서 "인간의 '운영체계'는 생득적이며 유전적으로 설치된다"고 덧붙였다.
또한 AI가 내놓는 그럴듯한 결과물들이 실상은 "인간의 인지적 혁명단계 이전에 갇혀있다"라고도 지적했다. AI는 현상을 묘사하고 예측할 뿐 가정을 기반으로 한 추론은 불가능하다는 게 촘스키 교수의 판단이다.
촘스키 교수는 '사과를 손에 들고 있는' 상황에서 사과에서 손을 뗀 뒤 벌어지는 결과를 보고 '사과가 떨어진다'고 말하는 것과 '손을 떼면 사과가 떨어질 것이다'라고 말하는 것은 각각 '묘사'와 '예측'이라고 설명했다. 묘사와 예측은 AI가 반복 학습함을 통해 지금도 충분히 가능하다.
반면 촘스키 교수는 '모든 물체는 반드시 떨어진다'란 추론은 오직 인간만 가능하다고 분석했다. 경험법칙을 기반으로 현실에 없는 상황을 가정하는 능력은 AI로서는 역부족이다. 이 같은 '가정적 추론'의 결여로 인해 '중력으로 모든 물체는 떨어진다' 혹은 '시공간이 뒤틀렸기 때문에 모든 물체는 떨어진다'는 '인과관계 설명'도 AI는 할 수 없다.
촘스키 교수는 '묘사'와 '예측'은 물론 '가정적 추론'과 '인과관계 설명'까지가 인간 사고의 총체라고 강조했다. 그는 AI가 기계학습을 통해 그럴듯한 추론에 도달하더라도 "사이비 과학에 불과하다"고 선을 그었다.
촘스키 교수는 AI의 최대 결함으로는 윤리적 판단 능력의 결여를 꼽았다. 그는 "진정한 지성은 도덕적 사고를 할 수 있다"며 "이는 무엇이 돼야 하고 무엇이 돼서는 안 되는지를 결정하는 일련의 윤리적 원칙을 통해 가능하다"고 지적했다.
그러면서 촘스키 교수는 챗GPT와 나눈 대화를 토대로 "챗GPT가 악의 평범성을 보여준다"고 직격했다. 그는 챗GPT가 "표준적인 입장을 일종의 자동완성 기능으로 요약만 할 뿐 어떤 입장을 취하는 것을 거부한다"며 "그저 명령을 따른다는 식으로 자신을 방어하고 모든 책임을 프로그래머들에게 전가한다"고 지적했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 세월호참사 10주기, 시애틀서 아픔을 예술로 승화(+화보)
- 스노퀄미 역사적 상가건물 화재에 한인 아이스크림 집도 불타
- 한국 중진공과 시애틀경제개발공사 'K스타트업 네트워킹'개최
- 브루스 해럴시장, 오세훈 서울시장 초대했다
- 한국학교 서북미협 말하기대회서 오한나양 대상(+화보)
- [시애틀 수필-이 에스더] 무엇을 입을까
- 타코마 등 피어스카운티 비지니스 활성화지원금 신청 연장
- 한국 국민그룹 '코요태'7월 시애틀서 공연한다
- 시애틀 한인 2세 스타트업 2,100만달러 유치 '대박'
- 15살 페더럴웨이 한인회, 새 보금자리에 둥지 틀다(+영상)
- ‘영원한 소녀’안문자 작가 출판기념회 따뜻했다(+영상)
- 한국 AI플랫폼 와이즈에이아이, 시애틀 정은구치과와 MOU
- 이번 주말 SNU포럼, 주제는 ‘사우디의 추억과 이슬람문화 이해’
- 평통 시애틀협의회 ‘청소년 통일골든벨 퀴즈대회’연다
- 시애틀영사관 아이다호 보이시 순회영사 업무
- 한국인의 날 행사로 오페라 <세빌리아의 이발사> 공연
- ‘워싱턴주 한인의 날’이름‘미주 한인의 날’로 변경
- KSEA 수학과학경시대회 풍성하고 알차게 열려(+화보)
- “시애틀한인 여러분, 쇼팽으로 음악여행을”
- 페더럴웨이 한인회 창립 15주년 행사에 초대합니다
- 양남주 여사 또 30만달러 기부, UW한국학센터에 총 150만달러(+영상,화보)
시애틀 뉴스
- 유나이티드항공 "보잉 문짝 날아간 사고로 2억 달러 손실"
- 아마존 "49달러 이상 한국 주문시 무료배송"
- '서커스 하기 싫어' 거리로 뛰쳐나온 코끼리…20분간 한바탕 소동
- 시애틀 성형외과의사, 안좋은 리뷰 못하게 막았다 유죄판결
- 워싱턴주에서 가장 다양한 민족이 어울려 사는 곳은?
- 워싱턴 주민들 "주택 더 많이 지어도 집값 안떨어진다"
- 워싱턴주 명소 로자리오 리조트 영업 일부재개
- 워싱턴, 오리건 등 서북미 전력대책 암울하다
- 시애틀에서 집 사려면 얼마 벌어야할까?
- 미국 우푯값 또다시 인상해 74센트로 오른다
- 워싱턴주 기름값 비싼데 이렇게 하면 비용 줄인다
- 이번에는 시애틀경찰관 증원 이뤄지려나?
- 아마존 AI 투자 박차, 주가 사상최고…시총 2조달러 눈앞
뉴스포커스
- 복귀조건 내건 전공의, ‘반대’ 의견 못 참는 의협…꼬이는 대화
- 농촌왕진버스 시작부터 '삐걱'…1회당 2400만원인데 예산 마련 아직
- "갑자기 천만원 결제?" 가짜 쇼핑몰로 결제 유도하는 '이커머스 피싱' 기승
- "고물가에 이젠 그렇게 비싸지 않아"…부활 시작된 패밀리레스토랑
- "팔겠다" vs "그 가격엔 안 사"… 아파트거래 '줄다리기'에 매물 月 3000건씩 '쑥'
- '삼성家 차녀' 이서현, 경영 복귀 후 첫 출장…父가 '혁신' 외친 그곳
- 검찰, '김만배 돈거래' 前 언론사 간부 3명 압수수색
- 민주, '尹 1호 거부권' 양곡관리법 개정안 본회의 직회부 의결
- 대학 총장들, 의료계 '소송 동참' 내용증명에 "증원 그대로 추진"
- 박종철 열사 모친 별세…고교선배 조국 "어무이 편히 가소서, 여기는 제가"
- “얼굴이 시뻘게지게 될 때까지 술 마셔”…이화영 vs 수원지검 ‘점입가경’
- 윤 대통령, 장제원 비서실장 기용 '결심'
- IMF, 올해 韓 성장률 2.3% 유지…세계 성장률 3.2%로 0.1%p 상향
- 화성 동탄 아파트, 8년만에 8억 '껑충'…매물도 1년새 2배 늘었다
- 국민연금 의무가입 59세→64세 현실화 되나…공론화위 토론
- "이윤희를 아시나요" 87세 父 절규…전북경찰 "18년전 실종사건 재검토"