촘스키, AI챗봇 '악의 평범성' 경고…"기존 입장 베끼기만 한다"
- 23-03-10
NYT 기고글서 기계학습의 한계 지적
가정적 사고 불가능…창의적 설명 못해
세계적인 언어학 석학 노엄 촘스키(94) 미국 메사추세츠공대(MIT) 명예교수가 챗GPT로 화제가 된 인공지능(AI) 기술에 대해 "인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다"며 AI가 지닌 기술적·도덕적 한계를 명확히 지적했다.
촘스키 교수는 8일(현지시간) 이언 로버츠 케임브리지대 언어학 교수, AI 기업 제프리 와터멀과 함께 뉴욕타임스(NYT)에 '챗GPT의 거짓 약속'이란 제목의 기고문을 냈다.
촘스키 교수는 AI가 "엄청난 양의 데이터를 다루며 그 안에서 패턴을 찾고 통계적으로 그럴듯한 결과물을 도출해 낸다"고 평가했다. 이어 "기계가 정보처리 속도와 양뿐만 아니라 통찰 능력에서도 인간을 뛰어넘는 순간이 올 것이라는 오랜 예언이 있다"고 소개했다.
그러면서도 "새벽은 밝지 않았다"며 "AI가 인간이 언어를 사용하고 사유하는 방법과 본질적으로 다르다는 것을 언어학과 지식철학을 통해 알 수 있다"고 주장했다. 또한 "인간과 AI의 차이는 프로그램상 제거할 수 없는 결함으로 프로그램이 할 수 있는 것에 상당한 제약을 가한다"고 강조했다.
촘스키 교수는 AI가 기계학습을 위해 다량의 데이터에 의존한다고 지적했다. 그는 "인간은 패턴을 찾기 위해 수백테라바이트의 데이터를 먹어 치우는 통계학적 기계가 아니다. 언어를 배우는 어린아이들은 아주 적은 양의 데이터로부터 부지불식간에 완벽한 문법 체계를 습득한다"고 지적했다. 그러면서 "인간의 '운영체계'는 생득적이며 유전적으로 설치된다"고 덧붙였다.
또한 AI가 내놓는 그럴듯한 결과물들이 실상은 "인간의 인지적 혁명단계 이전에 갇혀있다"라고도 지적했다. AI는 현상을 묘사하고 예측할 뿐 가정을 기반으로 한 추론은 불가능하다는 게 촘스키 교수의 판단이다.
촘스키 교수는 '사과를 손에 들고 있는' 상황에서 사과에서 손을 뗀 뒤 벌어지는 결과를 보고 '사과가 떨어진다'고 말하는 것과 '손을 떼면 사과가 떨어질 것이다'라고 말하는 것은 각각 '묘사'와 '예측'이라고 설명했다. 묘사와 예측은 AI가 반복 학습함을 통해 지금도 충분히 가능하다.
반면 촘스키 교수는 '모든 물체는 반드시 떨어진다'란 추론은 오직 인간만 가능하다고 분석했다. 경험법칙을 기반으로 현실에 없는 상황을 가정하는 능력은 AI로서는 역부족이다. 이 같은 '가정적 추론'의 결여로 인해 '중력으로 모든 물체는 떨어진다' 혹은 '시공간이 뒤틀렸기 때문에 모든 물체는 떨어진다'는 '인과관계 설명'도 AI는 할 수 없다.
촘스키 교수는 '묘사'와 '예측'은 물론 '가정적 추론'과 '인과관계 설명'까지가 인간 사고의 총체라고 강조했다. 그는 AI가 기계학습을 통해 그럴듯한 추론에 도달하더라도 "사이비 과학에 불과하다"고 선을 그었다.
촘스키 교수는 AI의 최대 결함으로는 윤리적 판단 능력의 결여를 꼽았다. 그는 "진정한 지성은 도덕적 사고를 할 수 있다"며 "이는 무엇이 돼야 하고 무엇이 돼서는 안 되는지를 결정하는 일련의 윤리적 원칙을 통해 가능하다"고 지적했다.
그러면서 촘스키 교수는 챗GPT와 나눈 대화를 토대로 "챗GPT가 악의 평범성을 보여준다"고 직격했다. 그는 챗GPT가 "표준적인 입장을 일종의 자동완성 기능으로 요약만 할 뿐 어떤 입장을 취하는 것을 거부한다"며 "그저 명령을 따른다는 식으로 자신을 방어하고 모든 책임을 프로그래머들에게 전가한다"고 지적했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 한국학교서북미협의회, 5개 행사 종합시상식 열어(+화보)
- 이번 주말 제74주년 6ㆍ25 합동기념식 열린다
- 재미대한탁구협회 회장배 대회 열린다(+영상)
- 시애틀 통일골든벨 ‘성공’…김환희군 1등 영광 차지(+영상,화보)
- <속보> 오늘 정부납품 세미나서 한인상공인 위한 플렉스 펀드도 설명
- [신앙칼럼-최인근 목사] 기다림의 미덕(美德)
- 오리건 김성주의원 차남 미 공군사관학교 졸업
- “윤혜성 교장선생님 수고하셨습니다”
- 타코마한인회, KWA‘비지니스 활성화 그랜트신청’돕기로
- 시애틀 한인마켓 주말세일정보(6월 7일~ 6월 10, 6월 13일)
- [하이킹 정보] 워싱턴주 시애틀산악회 8일 토요산행
- [하이킹 정보] 워싱턴주 대한산악회 8일 토요산행
- 한국 스타트업 미국진출 위해 중진공·시애틀총영사관 협력
- 시애틀시 ‘6월4일 한국 중소벤처기업진흥공단의 날’로 지정
- 6월 정부납품 세미나 이번 주말 열린다
- 시애틀 한인, 워싱턴주 EOC 커미셔너로 활동
- “시애틀 한인 여러분, 유언장이나 상속 문제는 이렇게”
- 한인 꿈나무들 학예경연대회로 그림ㆍ글 실력 맘껏 발휘(+영상,화보)
- 페더럴웨이 통합한국학교도 장날행사로 여름방학들어가(+화보)
- 벨뷰통합한국학교 풍성하고 즐거운 종업식(+영상,화보)
- 시애틀통합한국학교 신나는 장날행사로 방학 들어가(+화보)
시애틀 뉴스
- 시애틀지역 세입자 강제퇴거 소송 빨라진다
- 킹 카운티 홈리스 업무수장 돌연 해고돼 '논란'
- 시애틀고교서 또 총격사망사고 ‘캠퍼스 안전’우려
- 지구사진 찍은 워싱턴주 우주비행사, 소형 비행기 조종중 추락사(영상)
- 미국주택구매 희망자 71% “모기지 인하 기다린다”
- 시애틀서 트레이더 조스 인기 좋다-새 지점 개설한다
- 시애틀에 미국 최대규모 벽화 등장했다
- 워싱턴주 학생들 아직까지 FAFSA 결과 통보 못받아 전전긍긍
- 워싱턴주 오늘부터 범죄용의차량 추격 다시 가능해져
- 오늘, 내일 시애틀지역 바닷물 올해들어 가장 많이 빠진다
- 워싱턴 주민 "도살업자가 엉뚱하게 우리집 애완돼지 죽였다"
- 시애틀지역 평균 집값 100만 달러 돌파했다
- UW 순위 다소 밀렸지만 세계 명문대 맞다
뉴스포커스
- 정청래 주도 법사위, 오늘 첫 전체회의…'해병대원 특검법' 상정
- 빅5도 동참 ‘18일 총파업’ 판 커진다…환자들 “엄정 대응해야”
- '대왕고래'에 주가 치솟자 "이때가 기회?"…가스공사 임원들 '현금화' 러시
- 나경원, 한동훈 '이재명 대통령직 상실'에 "허망한 기대"
- '300만 달러=이재명 방북비용'…법원이 판단한 결정적 이유는?
- '세기의 이혼' 머리 아파진 SK…상고심 대비 속 '플랜B' 마련 분주
- '기말고사만 끝나면'…의대 증원에 반수생 등록 20% 늘었다
- "되갚아 드리겠다" 동료에게 문자…대법 "협박 아냐"
- 전북 4.8 지진, 한반도 지역 역대 7번째 강력…여진 3회
- 북한군 수십명, 9일 중부전선 MDL 침범…경고사격에 퇴각
- '아버지 고발' 박세리 "200억 넘는 스폰서 계약금, 부모님 다 드렸다" 재조명
- "범죄마저 비호"…정치 이어 스타로 확산하는 어긋난 '내 새끼 팬덤' 왜?
- 국토부 장관이 띄운 전세 폐지론…'월세로 전환' 시나리오 가능할까
- 국힘, 野 단독 상임위에 국회 '보이콧' 결정…"강하게 맞설 것"
- 조국, '김건희 명품백 종결'에 "국민권익위, '여사권익위' 됐다"
- 이원석 검찰총장, 李 대북송금 의혹 "오로지 증거·법리 따라서만 처리"