촘스키, AI챗봇 '악의 평범성' 경고…"기존 입장 베끼기만 한다"
- 23-03-10
NYT 기고글서 기계학습의 한계 지적
가정적 사고 불가능…창의적 설명 못해
세계적인 언어학 석학 노엄 촘스키(94) 미국 메사추세츠공대(MIT) 명예교수가 챗GPT로 화제가 된 인공지능(AI) 기술에 대해 "인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다"며 AI가 지닌 기술적·도덕적 한계를 명확히 지적했다.
촘스키 교수는 8일(현지시간) 이언 로버츠 케임브리지대 언어학 교수, AI 기업 제프리 와터멀과 함께 뉴욕타임스(NYT)에 '챗GPT의 거짓 약속'이란 제목의 기고문을 냈다.
촘스키 교수는 AI가 "엄청난 양의 데이터를 다루며 그 안에서 패턴을 찾고 통계적으로 그럴듯한 결과물을 도출해 낸다"고 평가했다. 이어 "기계가 정보처리 속도와 양뿐만 아니라 통찰 능력에서도 인간을 뛰어넘는 순간이 올 것이라는 오랜 예언이 있다"고 소개했다.
그러면서도 "새벽은 밝지 않았다"며 "AI가 인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다는 것을 언어학과 지식철학을 통해 알 수 있다"고 주장했다. 또한 "인간과 AI의 차이는 프로그램상 제거할 수 없는 결함으로 프로그램이 할 수 있는 것에 상당한 제약을 가한다"고 강조했다.
촘스키 교수는 AI가 기계학습을 위해 다량의 데이터에 의존한다고 지적했다. 그는 "인간은 패턴을 찾기 위해 수백테라바이트의 데이터를 먹어 치우는 통계학적 기계가 아니다. 언어를 배우는 어린아이들은 아주 적은 양의 데이터로부터 부지불식간에 완벽한 문법 체계를 습득한다"고 지적했다. 그러면서 "인간의 '운영체계'는 생득적이며 유전적으로 설치된다"고 덧붙였다.
또한 AI가 내놓는 그럴듯한 결과물들이 실상은 "인간의 인지적 혁명단계 이전에 갇혀있다"라고도 지적했다. AI는 현상을 묘사하고 예측할 뿐 가정을 기반으로 한 추론은 불가능하다는 게 촘스키 교수의 판단이다.
촘스키 교수는 '사과를 손에 들고 있는' 상황에서 사과에서 손을 뗀 뒤 벌어지는 결과를 보고 '사과가 떨어진다'고 말하는 것과 '손을 떼면 사과가 떨어질 것이다'라고 말하는 것은 각각 '묘사'와 '예측'이라고 설명했다. 묘사와 예측은 AI가 반복 학습함을 통해 지금도 충분히 가능하다.
반면 촘스키 교수는 '모든 물체는 반드시 떨어진다'란 추론은 오직 인간만 가능하다고 분석했다. 경험법칙을 기반으로 현실에 없는 상황을 가정하는 능력은 AI로서는 역부족이다. 이 같은 '가정적 추론'의 결여로 인해 '중력으로 모든 물체는 떨어진다' 혹은 '시공간이 뒤틀렸기 때문에 모든 물체는 떨어진다'는 '인과관계 설명'도 AI는 할 수 없다.
촘스키 교수는 '묘사'와 '예측'은 물론 '가정적 추론'과 '인과관계 설명'까지가 인간 사고의 총체라고 강조했다. 그는 AI가 기계학습을 통해 그럴듯한 추론에 도달하더라도 "사이비 과학에 불과하다"고 선을 그었다.
촘스키 교수는 AI의 최대 결함으로는 윤리적 판단 능력의 결여를 꼽았다. 그는 "진정한 지성은 도덕적 사고를 할 수 있다"며 "이는 무엇이 돼야 하고 무엇이 돼서는 안 되는지를 결정하는 일련의 윤리적 원칙을 통해 가능하다"고 지적했다.
그러면서 촘스키 교수는 챗GPT와 나눈 대화를 토대로 "챗GPT가 악의 평범성을 보여준다"고 직격했다. 그는 챗GPT가 "표준적인 입장을 일종의 자동완성 기능으로 요약만 할 뿐 어떤 입장을 취하는 것을 거부한다"며 "그저 명령을 따른다는 식으로 자신을 방어하고 모든 책임을 프로그래머들에게 전가한다"고 지적했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 한인운영 더블트리 호텔서 경찰총격 1명 사망
- 영오션 시애틀 한인들에게 한국산김치 판매 시작
- 시애틀, 벨뷰, 부산시장이 만났다
- 워싱턴주 체육회 기금마련 골프대회
- 시애틀태권도 대부 故윤학덕 회장 추모식 열린다
- “워싱턴주, 카운티, 시정부납품 원하는 한인분들 오세요”
- 시애틀한인회, 상공인과 대학학비보조 관련 세미나 연다
- 세월호참사 10주기, 시애틀서 아픔을 예술로 승화(+화보)
- 스노퀄미 역사적 상가건물 화재에 한인 아이스크림 집도 불타
- 한국 중진공과 시애틀경제개발공사 'K스타트업 네트워킹'개최
- 브루스 해럴시장, 오세훈 서울시장 초대했다
- 한국학교 서북미협 말하기대회서 오한나양 대상(+화보)
- [시애틀 수필-이 에스더] 무엇을 입을까
- 타코마 등 피어스카운티 비지니스 활성화지원금 신청 연장
- 한국 국민그룹 '코요태'7월 시애틀서 공연한다
- 시애틀 한인 2세 스타트업 2,100만달러 유치 '대박'
- 15살 페더럴웨이 한인회, 새 보금자리에 둥지 틀다(+영상)
- ‘영원한 소녀’안문자 작가 출판기념회 따뜻했다(+영상)
- 한국 AI플랫폼 와이즈에이아이, 시애틀 정은구치과와 MOU
- 이번 주말 SNU포럼, 주제는 ‘사우디의 추억과 이슬람문화 이해’
- 평통 시애틀협의회 ‘청소년 통일골든벨 퀴즈대회’연다
시애틀 뉴스
- 알래스카항공 1시간동안 전면 이륙 중단
- 시애틀 공립학교 학생들이 왜이리 많이 줄까?
- 시택공항 입구 반전시위 46명 체포돼
- 올해 워싱턴주 농사 망치려나? 가뭄비상사태, 시애틀지역은 제외
- 유나이티드항공 "보잉 문짝 날아간 사고로 2억 달러 손실"
- 아마존 "49달러 이상 한국 주문시 무료배송"
- '서커스 하기 싫어' 거리로 뛰쳐나온 코끼리…20분간 한바탕 소동
- 시애틀 성형외과의사, 안좋은 리뷰 못하게 막았다 유죄판결
- 워싱턴주에서 가장 다양한 민족이 어울려 사는 곳은?
- 워싱턴 주민들 "주택 더 많이 지어도 집값 안떨어진다"
- 워싱턴주 명소 로자리오 리조트 영업 일부재개
- 워싱턴, 오리건 등 서북미 전력대책 암울하다
- 시애틀에서 집 사려면 얼마 벌어야할까?
뉴스포커스
- 국립의대 모집인원 자율조정 허용…한 총리, 오후 발표
- 5·18추념일에 광주서 트로트 콘서트…시기 적절성 논란
- "죽일까?" "그래" 파주 호텔 여성 2명 살해한 남성들 메신저 확인
- "푸바오, 잘 먹고 잘 놀아요"…국내 팬들 안심할 중국생활 근황
- 복귀조건 내건 전공의, ‘반대’ 의견 못 참는 의협…꼬이는 대화
- 농촌왕진버스 시작부터 '삐걱'…1회당 2400만원인데 예산 마련 아직
- "갑자기 천만원 결제?" 가짜 쇼핑몰로 결제 유도하는 '이커머스 피싱' 기승
- "고물가에 이젠 그렇게 비싸지 않아"…부활 시작된 패밀리레스토랑
- "팔겠다" vs "그 가격엔 안 사"… 아파트거래 '줄다리기'에 매물 月 3000건씩 '쑥'
- '삼성家 차녀' 이서현, 경영 복귀 후 첫 출장…父가 '혁신' 외친 그곳
- 검찰, '김만배 돈거래' 前 언론사 간부 3명 압수수색
- 민주, '尹 1호 거부권' 양곡관리법 개정안 본회의 직회부 의결
- 대학 총장들, 의료계 '소송 동참' 내용증명에 "증원 그대로 추진"
- 박종철 열사 모친 별세…고교선배 조국 "어무이 편히 가소서, 여기는 제가"
- “얼굴이 시뻘게지게 될 때까지 술 마셔”…이화영 vs 수원지검 ‘점입가경’
- 윤 대통령, 장제원 비서실장 기용 '결심'