Использование нейронных сетей в системе Matlab. Курсовая работа (т). Информационное обеспечение, программирование.
⚡ 👉🏻👉🏻👉🏻 ИНФОРМАЦИЯ ДОСТУПНА ЗДЕСЬ ЖМИТЕ 👈🏻👈🏻👈🏻
Информационное обеспечение, программирование
Вы можете узнать стоимость помощи в написании студенческой работы.
Помощь в написании работы, которую точно примут!
Похожие работы на - Использование нейронных сетей в системе Matlab
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Скачать Скачать документ
Информация о работе Информация о работе
Нужна качественная работа без плагиата?
Не нашел материал для своей работы?
Поможем написать качественную работу Без плагиата!
ПОЯСНИТЕЛЬНАЯ ЗАПИСКА К КУРСОВОЙ
РАБОТЕ
ИСПОЛЬЗОВАНИЕ НЕЙРОННЫХ СЕТЕЙ В
СИСТЕМЕ MATLAB
по дисциплине: ИНФОРМАЦИОННЫЕ
ТЕХНОЛОГИИ
.1 Распознавание образов и классификация
.6 Сжатие данных и ассоциативная память
. Самоорганизующиеся нейронные сети
Теория нейронных сетей возникла из исследований в области искусственного
интеллекта, а именно из попыток воспроизвести способность нервных биологических
систем обучаться и исправлять ошибки, моделируя низкоуровневую структуру мозга.
Основой исследований по искусственному интеллекту в 60-80-е гг. были экспертные
системы. Такие системы основывались на высокоуровневом моделировании процесса
мышления (в частности, на представлении, что процесс нашего мышления построен
на манипуляциях с символами).
Теория нейронных сетей включают широкий круг вопросов из разных областей
науки: биофизики, математики, информатики, схемотехники и технологии. Поэтому
понятие "нейронные сети" детально определить сложно.
Искусственные нейронные сети (НС) - совокупность моделей биологических
нейронных сетей.
Представляют собой сеть элементов - искусственных нейронов - связанных
между собой синоптическими соединениями. Сеть обрабатывает входную информацию и
в процессе изменения своего состояния во времени формирует совокупность
выходных сигналов. Работа сети состоит в преобразовании входных сигналов во
времени, в результате чего меняется внутреннее состояние сети и формируются выходные
воздействия. Обычно НС оперирует цифровыми, а не символьными величинами.
.1 Распознавание образов и классификация
В качестве образов могут выступать различные по своей
природе объекты: символы текста, изображения, образцы звуков и т. д. При
обучении сети предлагаются различные образцы образов с указанием того, к какому
классу они относятся. Образец, как правило, представляется как вектор значений
признаков. При этом совокупность всех признаков должна однозначно определять
класс, к которому относится образец. В случае, если признаков недостаточно,
сеть может соотнести один и тот же образец с несколькими классами, что неверно.
По окончании обучения сети ей можно предъявлять неизвестные ранее образы и
получать ответ о принадлежности к определённому классу.
Топология такой сети характеризуется тем, что
количество нейронов в выходном слое, как правило, равно количеству определяемых
классов. При этом устанавливается соответствие между выходом нейронной сети и
классом, который он представляет. Когда сети предъявляется некий образ, на
одном из её выходов должен появиться признак того, что образ принадлежит этому
классу. В то же время на других выходах должен быть признак того, что образ
данному классу не принадлежит. Если на двух или более выходах есть признак
принадлежности к классу, считается, что сеть «не уверена» в своём ответе.
Эта задача близка к задаче классификации.
Классификации подлежат ситуации, характеристики которых поступают на вход
нейронной сети. На выходе сети при этом должен появиться признак решения,
которое она приняла. При этом в качестве входных сигналов используются
различные критерии описания состояния управляемой системы.
Под кластеризацией понимается разбиение множества
входных сигналов на классы, при том, что ни количество, ни признаки классов
заранее не известны. После обучения такая сеть способна определять, к какому
классу относится входной сигнал. Сеть также может сигнализировать о том, что
входной сигнал не относится ни к одному из выделенных классов - это является
признаком новых, отсутствующих в обучающей выборке, данных. Таким образом,
подобная сеть может выявлять новые, неизвестные ранее классы сигналов.
Соответствие между классами, выделенными сетью, и классами, существующими в
предметной области, устанавливается человеком. Кластеризацию осуществляют
например, нейронные сети Кохонена.
Способности нейронной сети к прогнозированию напрямую
следуют из ее способности к обобщению и выделению скрытых зависимостей между
входными и выходными данными. После обучения сеть способна предсказать будущее
значение некой последовательности на основе нескольких предыдущих значений
и/или каких-то существующих в настоящий момент факторов. Следует отметить, что
прогнозирование возможно только тогда, когда предыдущие изменения действительно
в какой-то степени предопределяют будущие. Например, прогнозирование котировок
акций на основе котировок за прошлую неделю может оказаться успешным (а может и
не оказаться), тогда как прогнозирование результатов завтрашней лотереи на
основе данных за последние 50 лет почти наверняка не даст никаких результатов.
Нейронные сети могут аппроксимировать непрерывные
функции. Доказана обобщённая аппроксимационная теорема: с помощью линейных
операций и каскадного соединения можно из произвольного нелинейного элемента
получить устройство, вычисляющее любую непрерывную функцию с некоторой наперёд
заданной точностью. Это означает, что нелинейная характеристика нейрона может
быть произвольной: от сигмоидальной до произвольного волнового пакета или
вейвлета, синуса или многочлена. От выбора нелинейной функции может зависеть
сложность конкретной сети, но с любой нелинейностью сеть остаётся универсальным
аппроксиматором и при правильном выборе структуры может достаточно точно
аппроксимировать функционирование любого непрерывного автомата.
.6 Сжатие данных и ассоциативная память
Способность нейросетей к выявлению взаимосвязей между
различными параметрами дает возможность выразить данные большой размерности
более компактно, если данные тесно взаимосвязаны друг с другом. Обратный
процесс - восстановление исходного набора данных из части информации -
называется (авто)ассоциативной памятью. Ассоциативная память позволяет также
восстанавливать исходный сигнал/образ из зашумленных/поврежденных входных
данных. Решение задачи гетероассоциативной памяти позволяет реализовать память,
адресуемую по содержимому.
Neural Network Toolbox - это пакет расширения MATLAB, содержащий средства для проектирования,
моделирования, разработки и визуализации нейронных сетей.
Нейросетевые технологии позволяют решать такие задачи,
решение которых классическими формальными методами затруднено или не возможно.
Пакет обеспечивает всестороннюю поддержку типовых нейросетевых парадигм и имеет
открытую модульную архитектуру. Пакет содержит функции командной строки и
графический интерфейс пользователя для быстрого пошагового создания нейросетей.
Линейные нейронные сети по своей структуре аналогичны персептрону и
отличаются лишь функцией активации, которая является линейной. Выход линейной
сети может принимать любое значение, в то время как выход персептрона ограничен
значениями 0 или 1. Линейные сети, как и персептроны, способны решать только
линейно отделимые задачи классификации, однако в них используется другое
правило обучения, основанное на методе наименьших квадратов, которое является
более мощным, чем правило обучения персептрона. Настройка параметров
выполняется таким образом, чтобы обеспечить минимум ошибки. Поверхность ошибки
как функция входов имеет единственный минимум, и определение этого минимума не
вызывает трудностей. В отличие от персептрона настройка линейной сети может
быть выполнена с помощью как процедуры адаптации, так и процедуры обучения.
По команде help linnet можно получить следующую информацию
об М-функциях, входящих в состав ППП Neural Network
Toolbox и относящихся к построению линейных
нейронных сетей:
Формирование адаптируемого
линейного слоя
Инициализация нулевых весов и смещений
Функции настройки параметров
персептрона
Оценка максимального значения параметра настройки
Пример функционирования линейной
сети
Задача с линейно зависимыми данными
Оценка влияния параметра скорости настройки
Адаптивная идентификация линейной
системы
3. Самоорганизующиеся нейронные сети
В процессе анализа больших информационных массивов данных неизменно
возникают задачи, связанные с исследованием топологической структуры данных, их
объединением в группы (кластеры), распределением по классам и т. п. Это могут
быть экономические, финансовые, научно-технические, медицинские и другие
приложения, где требуется решение таких практических задач, как сжатие данных,
их хранение и поиск, определение характеристик объекта по ограниченному набору
признаков. Такие задачи могут быть успешно решены с применением специального
класса самоорганизующихся нейронных сетей.
Нейронные сети Кохонена - класс нейронных сетей, основным элементом
которых является слой Кохонена. Слой Кохонена состоит из адаптивных линейных
сумматоров («линейных формальных нейронов»). Как правило, выходные сигналы слоя
Кохонена обрабатываются по правилу «победитель забирает всё»: наибольший сигнал
превращается в единичный, остальные обращаются в ноль.
По способам настройки входных весов сумматоров и по
решаемым задачам различают много разновидностей сетей Кохонена. Наиболее
известные из них:
· Сети векторного квантования сигналов,
тесно связанные с простейшим базовым алгоритмом кластерного анализа (метод
динамических ядер или K-средних)
· Сети векторного квантования,
обучаемые с учителем (Learning Vector Quantization)
Где: p -евклидово расстояние (начальное
значение), IW 11 - матрица весов, n 1 - вход функции активации, b - расстояние вектора смещения, a 1 -вектор выхода слоя.
Для создания самоорганизующихся нейронных сетей, являющихся слоем или
картой Кохонена, предназначены М-функции newc и newsom
соответственно.
По команде help selforg можно получить следующую информацию
об М-функциях, входящих в состав ППП Neural Network
Toolbox и относящихся к построению сетей
Кохонена:
Создание слоя Кохонена Создание карты Кохонена
Моделирование Инициализация Адаптация Обучение
Прямоугольная сетка Гексагональная сетка Сетка со случайно
распределенными узлами
Евклидово расстояние Расстояние максимального координатного
смещения Расстояние суммарного координатного смещения Расстояние связи
Послойная инициализация Инициализация весов и смещений
Инициализация смещений с учетом чувствительности нейронов Инициализация весов
по правилу средней точки
Правило настройки весов для слоя Кохонена Правило настройки
смещений для слоя Кохонена Правило настройки весов карты Кохонена
Повекторное обучение весов и смещений
Настройка слоя Кохонена Одномерная карта Кохонена Двумерная
карта Кохонена
Сети для классификации входных векторов, или LVQ (Learning Vector Quantization)-сети. Как правило, они выполняют и
кластеризацию и классификацию векторов входа. Эти сети являются развитием
самоорганизующихся сетей Кохонена.
LVQ-cеть
имеет 2 слоя: конкурирующий и линейный. Конкурирующий слой выполняет кластеризацию
векторов, а линейный слой соотносит кластеры с целевыми классами, заданными
пользователем
По команде help lvq можно получить следующую информацию
об М-функциях, входящих в состав ППП Neural Network
Toolbox и относящихся к построению LVQ-сетей:
Создание сети для классификации входных векторов
Моделирование Инициализация Адаптация Обучение
Функция отрицательного расстояния Скалярное произведение
Послойная инициализация Инициализация весов и смещений
Инициализация весов по правилу средней точки
Функция настройки lv1 Функция настройки lv2
Повекторное обучение весов и смещений
Радиальные базисные нейронные сети состоят из большего количества
нейронов, чем стандартные сети с прямой передачей сигналов и обучением методом
обратного распространения ошибки, но на их создание требуется значительно
меньше времени. Эти сети особенно эффективны, когда доступно большое количество
обучающих векторов.
По
команде help radbasis можно получить следующую
информацию об М-функциях, входящих в состав ППП Neural
Network Toolbox и относящихся к
построению радиальных базисных сетей:
Создание радиальной базисной сети с нулевой ошибкой
Создание обобщенной регрессионной сети
Нормированное скалярное произведение
Функция активации с жесткими ограничениями
Радиальная базисная функция активации
Преобразование индексного вектора в матрицу связности
Преобразование матрицы связности в индексный вектор
Пример неперекрывающихся функций активации
Пример перекрывающихся функций активации
Бывают 2 типа рекуррентных нейронных сетей, представляющих наибольший
интерес для пользователей, - это класс сетей Элмана (Elman) и класс сетей Хопфилда (Hopfield). Характерной особенностью
архитектуры рекуррентной сети является наличие блоков динамической задержки и
обратных связей. Это позволяет таким сетям обрабатывать динамические модели.
Нейронная сеть Элмана - один из видов рекуррентной сети, состоящая из
двух слоев в которой скрытый слой охвачен динамической обратной связью
получаемого из многослойного перцептрона введением обратных связей, только
связи идут не от выхода сети, а от выходов внутренних нейронов. Это позволяет
учесть предысторию наблюдаемых процессов и накопить информацию для выработки
правильной стратегии управления. Эти сети могут применяться в системах
управления движущимися объектами, так как их главной особенностью является
запоминание последовательностей.
На основе сети Элмана строится нейронная сеть класса RAAM, которая по своей структуре
повторяет элмановскую. RAAM
(Рекурсивная авто-ассоциативная память) - это двойная сеть Элмана вида 2N-N-2N, которую используют
для сжатия и шифрования информации. На вход сети подаётся битовый сигнал из 2N битов. Обычно сеть имеет размер
20-10-20, первые 10 бит называются «левыми», вторые 10 бит - «правыми». В самом
начале на левую матрицу подаётся нулевой вектор бит (0000000000), а на правую -
код символа или предложения (например, 0010000000="А"). То же самое
подаётся на выходные матрицы. Методом обратного распространения ошибки сеть
обучается. Затем 10 бит из скрытого слоя передаются на левую входную матрицу, а
на правую поступает очередной символ. В процессе такого рекурсивного обучения
информация сжимается и шифруется, что было применено на практике французским
профессором Томасом Вёгтленом в 2002 году в работе «Neural Networks and Self-Reference».
По команде help elman можно получить следующую информацию
об М-функциях, входящих в состав ППП Neural Network
Toolbox и относящихся к построению сетей
Элмана:
Моделирование Инициализация
Адаптация Обучение
Скалярное произведение Производная скалярного произведения
Сумма взвешенных входов Производная суммы взвешенных входов
purelin tansig logsig dpurelin
dtansig dlogsig
Линейная Гиперболический тангенс Логистическая Производная
линейной функции Производная гиперболического тангенса Производная
логистической функции
Среднеквадратичная ошибка обучения Среднеквадратичная
ошибка обучения при применении регуляризации Производная среднеквадратичной
ошибки обучения Производная среднеквадратичной ошибки обучения при применении
регуляризации
Послойная инициализация Функция NW (Nguyen - Widrow)
Функция настройки методом градиентного спуска Функция
настройки методом градиентного спуска с возмущением
Градиентный спуск по правилу обратного распространения
ошибки Градиентный спуск с возмущением Градиентный спуск с адаптацией
параметра скорости настройки
Нейро́нная сеть Хопфилда - полносвязная
нейронная сеть с симметричной матрицей связей. В процессе работы динамика таких
сетей сходится (конвергирует) к одному из положений равновесия. Эти положения
равновесия являются локальными минимумами функционала, называемого энергией
сети (в простейшем случае - локальными минимумами отрицательно определённой
квадратичной формы на n-мерном
кубе). Такая сеть может быть использована как автоассоциативная память, как
фильтр, а также для решения некоторых задач оптимизации. В отличие от многих
нейронных сетей, работающих до получения ответа через определённое количество
тактов, сети Хопфилда работают до достижения равновесия, когда следующее
состояние сети в точности равно предыдущему: начальное состояние является
входным образом, а при равновесии получают выходной образ.
По команде help hopfield можно получить следующую информацию
об М-функциях, входящих в состав ППП Neural Network
Toolbox и относящихся к построению
модифицированных сетей Хопфилда:
Рекуррентная модифицированная сеть Хопфилда
Создание модифицированной сети
Хопфилда
Симметричная линейная функция с ограничениями
demohop1 demohop2 demohop3 demohop4
Пример двумерной модифицированной сети Хопфилда Пример
неустойчивой точки равновесия Пример трехмерной модифицированной сети
Хопфилда Пример устойчивых паразитных точек равновесия
Сеть Элмана. Исследуется на примере такой задачи детектирования амплитуды
гармонического сигнала. Пусть известно, что на вход нейронной сети поступают
выборки из некоторого набора синусоид. Требуется выделить значения амплитуд
этих синусоид.
%Требуется выделить значения амплитуд этих синусоид.
%Далее рассматриваются выборки из набора двух синусоид с амплитудами 1.0
и 2.0:= sin(1:20);= sin(1:20)*2;
%Целевые выходы сети являются векторы= ones(1,20);= ones(1,20)*2;
%Сформированный набор векторов входа и целевых выходов
%Сформирование обучающих последовательностей в виде массивов ячеек:
R = 1; % Число элементов входа= 1;% Число нейронов выходного слоя= 10; %
Число нейронов рекуррентного слоя= newelm([-2 2],[S1
S2],{'tansig','purelin'},'traingdx');
%Обучение сети .trainParam.epochs = 1000; %Максимальное количество эпох
тренировки;.trainParam.show = 25; %Количество эпох между
графиками;.trainParam.goal = 0.01; %Условие остановки по отклонению от эталона;
[net,tr] = train(net,Pseq,Tseq); % Pseq и Tseq входные элементы
time = 1:length(p);(time, t, '--', time, cat(2,a{:}))([1 80 0.8 2.2]) % график 1
t3 = ones(1,20)*1.6;= sin(1:20)*1.2;= ones(1,20)*1.2;= [p3 p4
p3 p4];= [t3 t4 t3 t4];= con2seq(pg);(3)= sim(net,pgseq);= 1:length(pg);(time,
tg, '--', time, cat(2,a{:}))
Как следует из анализа графика 1, сеть справляется с решением задачи
детектирования амплитуды на наборах обучающего множества. Однако неясно, как
она будет вести себя на других наборах входа, поэтому мы подадим на сеть набор
сигналов, составленный из двух синусоид с амплитудами 1.6 и 1.2
соответственно. Потом посмотрим, обладает ли построенная сеть Элмана свойством
обобщения.
На графике 2 мы видим, что сеть хуже справляется с задачей. Сеть
стремится детектировать значение амплитуды, но делает это не очень точно.
Улучшенное обобщение могло быть получено, обучая сеть на большее количество
амплитуд, чем только на значения 1.0 и 2.0. Использование трех или четырех
гармонических сигналов с различными амплитудами может привести к намного
лучшему датчику амплитуд.
Развитие нейронных сетей вызвало немало энтузиазма и критики. Некоторые
сравнительные исследования оказались оптимистичными, другие - пессимистичными.
Для многих задач, таких как распознавание образов, пока не создано доминирующих
подходов. Нужно пытаться понять возможности, предпосылки и область применения
различных подходов и максимально использовать их дополнительные преимущества
для дальнейшего развития интеллектуальных систем. Множество надежд в отношении
нейронных сетей сегодня связывают именно с аппаратными реализациями, но пока
время их массового выхода на рынок, видимо, еще не пришло. Они или выпускаются
в составе специализированных устройств, или достаточно дороги, а зачастую и то
и другое. На их разработку тратится значительное время, за которое программные
реализации на самых последних компьютерах оказываются лишь на порядок менее
производительными, что делает использование нейропроцессоров нерентабельным. Но
все это только вопрос времени - нейронным сетям предстоит пройти тот же путь,
по которому еще совсем недавно развивались компьютеры, увеличивая свои
возможности и производительность, захватывая новые сферы применения по мере
возникновения новых задач и развития технической основы для их разработки.
Сегодня нейронные сети используются для работы в относительно узких
областях, и неизвестно, доверят ли им когда-нибудь решение вопросов, которые
требуют понимания социального контекста. Между тем нейронные сети уверенно
продолжают проникать в нашу жизнь, и примеров тому немало.
1) Медведев В.С. Нейронные сети. MATLAB 6 / В.С. Медведев, В.Г. Потёмкин // М: Диалог-МИФИ. -
2008
2) Хайкин С. Нейронные сети - полный курс 2006
3) Уоссермен Ф. - Нейрокомпьютерная техника. Теория и практика
4) Круглов, Борисов - Искусственные нейронные сети. Теория и
практика, 2012
5) Гольдштейн Б.С. - Интеллектуальные сети, 2010
6) Смоленцев - Основы теории вейвлетов в MatLab
Похожие работы на - Использование нейронных сетей в системе Matlab Курсовая работа (т). Информационное обеспечение, программирование.
Реферат: Статистика цен 4
Курсовая Работа На Тему Новая Экономическая Политика (Нэп)
Реферат Узи Молочных Желез
Дипломная работа по теме Назначение двухосной тележки
Курсовая Работа На Тему Розробка Приладу Для Вимірювання Удою На Стійловому Молокопроводі
Дипломная работа по теме Формирование региональной политико-административной элиты (на примере Краснодарского края)
Курсовая работа по теме Рынок труда и оплата труда
Контрольная Работа По Математике Проверка
Сочинение Описание Пластова Летом
Реферат На Тему Ароматические Соединения С Конденсированными Ядрами
Дипломная работа по теме Доказательства и доказывание в международном гражданском процессе
Отчет По Практике По Медицине
Реферат по теме Особенности биологического уровня развития материи
Понятие Об Утомление И Переутомление Реферат
Темы Эссе Ielts Academic
Методические Рекомендации Курсовая Работа 2022
Реферат На Тему Модели Единства Мира
Курсовая Работа На Тему Организация Рекламы В Розничной Торговле
Учебное пособие: Теория финансов
Реферат: Основные формы бухгалтерской отчетности
Похожие работы на - Характеристика отраслевой и межотраслевой конкуренции
Сочинение: Цветаева m. и. - Блоковская тема в поэзии м. цветаевой
Реферат: Человек-маятник