Мински, Розенблатт и перцептрон: как книга «Перцептроны» повлияла на «зиму ИИ»
В 1969 году вышла книга «Перцептроны: введение в вычислительную геометрию» Марвина Мински и Сеймура Пейперта. Авторы математически доказали, что простейший однослойный перцептрон — модель искусственного нейрона, предложенная Фрэнком Розенблаттом в конце 1950-х — не может реализовать даже логическую функцию XOR. Этот результат часто называют одной из причин, по которой исследования нейросетей почти прекратились на десятилетие: наступила «зима ИИ».
История противостояния была глубже, чем кажется. Мински и Розенблатт знали друг друга с юности: оба с разницей в год учились в Бронксской школе науки. Розенблатт в 1957 году опубликовал первую модель перцептрона, а Мински и Пейперт посвятили свою книгу именно ему. Несмотря на острые научные споры, они оставались друзьями и были центральными фигурами дискуссий в сообществе ИИ.
Главный вывод книги касался ограниченных («локальных») перцептронов: если каждый скрытый нейрон соединён только с небольшой областью входного изображения, такая сеть не может вычислить чётность (определить, чётное или нечётное число пикселей активно) и не может определить, связна ли фигура на картинке. Авторы показали, что для решения этих задач нейронам нужны связи со всем входом сразу, что на практике было трудно реализовать.
Однако критики книги отмечали, что выводы Мински и Пейперта относились только к узкому классу перцептронов с локальными связями. Сам Розенблатт доказал, что его «элементарный перцептрон» с неограниченным числом скрытых элементов теоретически может решить любую задачу классификации. Кроме того, ещё в 1943 году Уоррен Мак-Каллок и Уолтер Питтс показали, что сети из формальных нейронов способны вычислить любую булеву функцию — факт, упомянутый и в самой книге.
Вокруг книги до сих пор идут споры о её реальном влиянии. С одной стороны, после её публикации финансирование нейросетевых исследований резко сократилось, и сообщество переключилось на символический ИИ, который в итоге также столкнулся с проблемами и привёл к «зиме ИИ» 1980-х. С другой стороны, сами авторы в 1988 году в расширенном издании утверждали, что упадок перцептронов был вызван не книгой, а внутренними проблемами: неспособностью обучать многослойные сети и отсутствием способа представления знаний.
В 1980-х исследования нейросетей пережили возрождение благодаря многослойным сетям и алгоритму обратного распространения ошибки. Дэвид Румельхарт и коллеги заявили, что преодолели ограничения, описанные Мински и Пейпертом, и что их пессимизм по поводу обучения многослойных машин был ошибочным. Расширенное издание книги 1988 года добавило пролог и эпилог, где авторы реагировали на критику, но новых научных результатов не содержало.
Сегодня, в эпоху глубокого обучения, книга «Перцептроны» остаётся важным историческим документом: она не только описывает математические ограничения ранних нейросетей, но и иллюстрирует, как научная полемика может повлиять на развитие целой области. В 2017 году её переиздали с предисловием Леона Ботту, специалиста по глубинному обучению, который рассматривает книгу с точки зрения современных достижений.
Первоисточник: en.wikipedia.org ↗