Мозг для машины

Работы этого учёного в 1950-1960-е годы произвели фурор в американской прессе и академической среде, а их реализация и развитие в последующие годы стали основой современных информационных технологий.

Фрэнк Розенблатт — первопроходец искусственного интеллекта, создатель первого компьютера, способного к самообучению и распознаванию образов, а также значимый учёный в области психологии, нейрофизиологии и астрономии. 

Фрэнк Розенблатт родился в жилом пригороде Нью-Йорка, городке Нью-Рошелл, в семье доктора Фрэнка Фердинанда и Кэтрин Розенблатт. Он был третьим (самым младшим) ребенком в семье эмигрантов из Российской Империи (родина отца – село Лабунь, ныне Хмельницкая область Украины). Отец умер за несколько месяцев до рождения младшего сына.

С юношеских времен Фрэнк начал проявлять интерес к работе человеческого мозга и возможностям моделирования интеллекта. Он окончил среднюю научную школу Бронкса в 1946 году, получил степень бакалавра математики в Корнеллском университете в 1950, где позднее начал развивать свои идеи о системах параллельной распределенной обработки данных и нейронных сетях, вдохновленный начавшимися в те годы передовыми исследованиями структур и функций человеческого мозга.

До 1955 года молодой специалист работал в Национальной корпорации здравоохранения (в Исследовательском центре социальных наук США), а затем перешёл в Корнеллскую авиационную лабораторию, где последовательно занимал должности психолога и руководителя отдела когнитивных систем. В 1956 году Фрэнк защитил докторскую диссертацию по психологии. Опыт комплексных исследований Розенблатта в области математики и психологии позволил ему стать в дальнейшем передовым исследователем на стыке когнитивной науки и вычислительной техники.

В 1940-1950-е годы область кибернетики переживала расцвет, и это сильно повлияло на мышление Фрэнка Розенблатта. Он особенно заинтересовался работой Уоррена Маккаллоха и Уолтера Питтса, которые в 1943 году разработали математическую модель нейронной сети, описав её вычислительные свойства и потенциальные применения в обработке информации.

Эта модель, известная как «нейрон Маккаллоха-Питтса», представляет собой упрощенное математическое представление биологического нейрона в виде нескольких бинарных операций, отличается простотой, что послужило фундаментальным строительным блоком для искусственных нейронных сетей.

Именно в лаборатории Корнелла Фрэнк Розенблатт начал работать над персептронами. Первая версия была программно смоделирована на компьютере IBM-704 при лаборатории — уже тогда его программа вполне неплохо запоминала и училась узнавать образы (буквы латинского алфавита).

Персептрон (англ. Perceptron от лат. «perceptio» — восприятие) — это простейший вид нейронных сетей. В основе лежит математическая модель восприятия информации мозгом живых организмов, состоящая из сенсоров, ассоциативных и реагирующих элементов.

В 1958 году Фрэнк опубликовал свою знаменитую статью «Персептрон: Вероятностная модель хранения информации и организации мозга», которая принесла ему всемирную известность. Компьютерно-ориентированная статья поразила воображение инженеров и физиков, несмотря на то, что приведенные в ней результаты вычислительных экспериментов, математические доказательства и описания не отличались особой логической стройностью.

Главное, что любой специалист в области теории систем и организации вычислений увидел, что персептрон представляет собой «самообучающуюся машину», способную решать задачи классификации множеств образов путем настройки весов и связей между отдельными блоками или узлами.

Позже, в 1958-1960 годах дальнейшие разработки привели Фрэнка к созданию аппаратной версии реализации первого в мире компьютера «Mark-1 Perceptron», способного учиться методом «проб и ошибок» и работавшего на основе нейронной сети. Mark-1 был способен уже отличать различные геометрические фигуры: круги, квадраты, треугольники, а также изображения мужчины и женщины.

Когда персептрон наконец был явлен миру в качестве действующего устройства, фурор это произвело невероятный как среди специалистов, так и среди журналистов. Электронное устройство демонстрировало вполне реальную способность к обучению. За перспетронами видели будущее информационных технологий.

Персептрон прославил Фрэнка, но он и далее совершенствовал свое изобретение, надеясь «понять фундаментальные законы организации, общие для всех систем обработки информации, включая как машины, так и человеческий разум».

Суть новой системы и модели, предложенной Розенблаттом, в использовании нескольких, так называемых, слоёв нейросети: входной слой (буквально «сенсорный») распознает основные группы или части информации, далее идут внутренние (скрытые) слои «нейронов», связанных для решения задач многокритериального выбора (на основе бинарного сложения) и выходной слой, который фиксирует результат обработки.

В начальной модели Розенблатта внутренний слой был всего 1, т.е. вся система состояла из трёх слоев: входной, внутренний и выходной.

Сравните схему выше с представленной ниже, современной, используемой в нейросетях систем искусственного интеллекта с многослойной структурой.

Работы Фрэнка составили основу интенсивно развивающегося направления в исследовании и дальнейшей разработке многослойных нейронных сетей, получившего название «коннекционизм», который Розенблатт сформулировал как: «связи – всё, структура – ничто», определив экспериментально, что информация сохраняется именно связями нейронов между собой, при этом топология сети практически не важна.

Далее Фрэнком и его командой был создан огромный персептон «Тобермори» (названный так в честь его кота, а тот, соответственно, в честь говорящего кота из сказки Монро). Аппарат предназначался для распознавания речи и состоял из тысяч детекторов, сенсоров и прочих электронных элементов.

По-прежнему работая в Корнеллском университете, Розенблатт в 1959 возглавил научную программу в области когнитивных систем и получил должность лектора по психологии. Начиная с этого времени, он в течение нескольких лет читал студентам младших курсов курс лекций «Теория механизмов мозга», который пользовался у них огромным успехом.

Этот курс был невероятной смесью идей и открытий из самых различных областей знаний: результаты, полученные во время операций на мозге эпилептических больных, находящихся в сознании; эксперименты по изучению активности нейронов зрительной коры головного мозга кошек; работы по изучению нарушений психических процессов в результате травм отдельных областей мозга; принципы работы различных аналоговых и цифровых электронных устройств, моделирующих механизмы поведения нейронов (и в том числе персептрона как модели мозга).

В своем курсе Фрэнк приводил удивительные на то время рассуждения и вычисления на основе своих моделей о поведении и работе мозга задолго до появления методов компьютерной и позитронно-эмиссионной томографии, которые во многом подтвердились в наши дни. 

В 1966-м Фрэнк примкнул к новой группе исследования нейробиологии и поведения на свежесозданном факультете биологических наук. В то время он с большим интересом исследовал вопросы передачи выученных механизмов поведения от одних крыс другим с помощью вытяжек из головного мозга (как он их называл – «способы материальной передачи информации»). По этой тематике Розенблатт опубликовал немало работ и, в конечном итоге постановил, что если перенос памяти и навыков с помощью физических воздействий на мозг и имеется, то «лишь чрезвычайно незначительный».

Но не всё шло гладко. В 1969 году бывшие сокурсники Розенблатта Марвин Минский и Сеймур Пейперт опубликовали книгу «Персептроны», в которой привели строгое математическое доказательство того, что персептрон не способен к обучению в большинстве интересных для практики случаев, например, не может решать логические операторы типа «исключающее ИЛИ».

При этом Минский и Пейперт сознательно приуменьшили аппаратные возможности машины Розенблатта, например, они описали её как содержащую два логических слоя, в то время как она была трёхслойной, а в плане — и многослойной, о чём они, конечно, знали.

Целью этой критики была попытка перехватить финансирование разработок искусственного интеллекта, но результатом стало то, что работы по нейронным сетям были свернуты во многих научных центрах США, а финансирование существенно урезано. В связи с этим, в 1970-м Фрэнк стал полевым представителем команды по изучению нейробиологии и поведения, а в 1971-м он стал действующим председателем этой секции в университете.

Кстати, в середине 1980-х Марвин Минский публично выразил сожаление, что его выступление нанесло урон концепции персептронов для США, заявив, что «для реального прорыва вперед в создании разумных машин потребуется устройство, во многом похожее на персептрон».

Следует сказать, что эти сложности с разработками нейросетей в США практически не коснулись аналогичных разработок в Советском Союзе, которые уже применялись в различных приложениях, включая работы по закрытой оборонной тематике. Научные исследования в СССР не прекращались. Более того, длительный период закрытых (для западных коллег) советских исследований был крайне продуктивен. В числе пионеров и энтузиастов этого направления в СССР были такие видные ученые, как В.М. Глушков, А.И. Галушкин, В.Л. Дунин-Барковский, А.Б. Коган и другие.

Что касается разногласий во взглядах Розенблатта и Минского, то они изначально носили принципиальный характер. Фрэнк исходил из биологического «видения» персептрона как модели мозга, использующего основные положениях нейрофизиологии и нейроанатомии, а Марвин рассматривал нейронную сеть как «черный ящик», характеристики которого настраиваются под определенную задачу путем подбора весов (обучения) межнейронных связей. История показала в дальнейшем, что оба эти подхода имеют равное право на существование.

За свои работы и новаторство в области искусственного интеллекта учёный получил множество наград и почетных званий, в том числе Стипендию Гуггенхайма (1960) и Национальную научную медаль (1969).

У Фрэнка было много увлечений. Интересовала его даже астрономия, для работы он создал собственную небольшую обсерваторию, построенную на холме за его домом в Бруктондейле. Здесь за недолгое время Розенблатт разработал новую технологию наблюдений и вычислений, которая позволяла определять наличие планетных систем у звезд. Фрэнк был активным участником проекта SETI по поиску внеземных цивилизаций.

Современники вспоминают, что Фрэнк был очень увлекающимся человеком. Занимался скульптурой, живописью, горным туризмом. За две недели он мог достаточно глубоко освоить любой предмет, о котором раньше не имел понятия. Идеи свои он записывал на чём угодно — если под рукой не было тетрадки, — то на салфетках, чековых корешках, — «на всём белом».

Розенблатт был очень яркой личностью среди преподавателей Корнелльского университета. По меркам многих красивый холостяк, он мастерски водил классический красный спортивный автомобиль MGA и часто прогуливался по улицам со своим котом Тобермори, но, как вспоминают коллеги, был довольно застенчивым.

Фрэнк был и одарённым музыкантом. Он купил домой рояль и часто играл на нём Моцарта, Бетховена и других классиков, но больше всего любил импровизировать на тему известной песенки «Три слепых мышонка».

По трагической случайности Фрэнк погиб в день своего 43-летия во время плавания на яхте в устье Чесапикского залива (Балтимор, Атлантика). Кроме того, что он не завершил множество научных работ, не оставил наследников, он также не смог аргументировано ответить на критику по исследованиям нейронных сетей, которые приостановились тогда практически на десятилетие.

В 2004 году IEEE установила награду в его честь, которую присуждают за «выдающийся вклад в продвижение проектов, практику, методы или теорию, которые используют биологические и лингвистические вычислительные парадигмы включая, но не ограничиваясь нейронными сетями, коннективистскими системами, эволюционными вычислениями, нечеткими системами, и гибридными интеллектуальными системами, в которых содержатся эти парадигмы».

Несмотря на развитие науки и технологий в наши дни существует сложность в том, что сейчас мы не можем полностью моделировать мозг – мы тоже не можем собрать схему управляемого персептрона. Это слишком сложно с современной глубиной многослойных нейронных сетей, т.к. разные задачи требуют различных настроек узлов.

Суть в том, что нет способа вручную изменять веса (реализованные, например, как сопротивления) в слоях сети для каждой связи, чтобы настраивать модель под различные задачи обработки информации. Это должно происходить автоматически и быстро (как в живом мозге), чтобы соответствовать требованиям реального времени.

Устройства памяти с фазовым переходом, которые обычно используются в качестве карт твердотельной памяти (флеш-карт), сейчас пристально изучаются для применения в качестве физической основы нейронных сетей. Исследуется возможность быстрого и точного управления током в элементах отдельных транзисторов в модулях такой памяти.

А пока реализованные мультимодальные архитектуры нейросетей в виде распространенных предобученных трансформеров (GPT) или даже рекурентные нейросети (RNN) не продемонстрировали способности выполнять логические рассуждения, которые требуются для реализации когнитивных функций мозга.

Фрэнк Розенблатт завершил свою основную статью 1958 года оптимистичными и в значительной степени, пророческими, словами:

«Изучая такие системы, как персептрон, можно надеяться, что те фундаментальные законы организации, которые являются общими для любых систем обработки информации, включая человека, в конце концов – будут поняты».

#историческое