Многослойная нейронная сеть

Cтраница 3

В главе 2 представлены основные структуры одно и многослойных нейронных сетей и алгоритмы их обучения. В первой части описывается перцептрон и системы типа Адалайн. Далее приводятся два алгоритма обучения многослойных нейронных сетей: классический и наиболее часто применяемый алгоритм обратного распространения ошибки, а также значительно более быстрый алгоритм, основанный на рекуррентном методе наименьших квадратов. [31]

Сводка результатов для сетей различной конфигурации. [32]

Хотя недостаток степеней свободы делает оценку сомнительной, мы приводим здесь результаты работы 13 - 27 - 1 модели, чтобы проиллюстрировать доказанную Колмогоровым в 1957 г. и популяризованную Хехт-Нильсеном [137] теорему о существовании отображения. Эта теорема утверждает, что любая непрерывная функция может быть реализована трехслойной нейронной сетью, имеющей во входном слое т ( в нашем случае 13) элементов, промасштабированных на [0,1], ( 2т - 1 - 1) элементов-процессоров в единственном скрытом слое и п элементов в выходном слое. Таким образом, гарантируется, что иерархическая многослойная нейронная сеть может решить любую нелинейно отделимую задачу и может точно реализовать любое отображение га-мерных входных векторов в и-мерные выходные. При этом теорема ничего не говорит нам ни о возможности реализовать отображение посредством сети меньших размеров, ни о том, что для этого подойдут обычно используемые сигмоидные преобразования. [33]

Пространство входных образов для функции исключающее ИЛИ. [34]

Минского, также выполненные в 60 - е годы, показали, что этих функций очень много, что персептронной представляемостыо не обладают даже очень простые функции. Возрождение интереса к интерполирующим сетям в 80 - е годы было связано с переходом к многослойным нейронным сетям и к новым алгоритмам обучения. [35]

Назначение пакета BrainMaker - решение задач, для которых пока не найдены - формальные методы и алгоритмы, а входные данные неполны, зашумлены и противоречивы. К таким задачам относятся прогнозирование курсов валют и акций на биржах, моделирование кризисных ситуаций, распознавание образов и многие другие. В оперативной памяти строится модель многослойной нейронной сети, которая обладает свойством обучаться на множестве примеров, оптимизируя свою внутреннюю структуру. [36]

Назначение пакета Brain Maker - решение задач, для которых пока не найдены - формальные методы и алгоритмы, а входные данные неполны, зашумлены и противоречивы. К таким задачам относятся прогнозирование курсов валют и акций на биржах, моделирование кризисных ситуаций, распознавание образов и многие другие. В оперативной памяти строится модель многослойной нейронной сети, которая обладает свойством обучаться на множестве примеров, оптимизируя свою внутреннюю структуру. [37]

Свыше 80 % всех приложений нейронных сетей относится к так называемым многослойным сетям без обратных связей. В них сигнал пересылается в направлении от входного слоя через скрытые слои ( если они имеются) к выходному слою. Сети именно такого типа будут рассматриваться в последующих главах книги в контексте генетических алгоритмов и нечетких систем. Поэтому в настоящей главе мы обсудим в первую очередь базовые элементы многослойных нейронных сетей - персептрон и системы типа Адалайн ( с линейным и нелинейным выходом), после чего определим два алгоритма обучения этих сетей: алгоритм обратного распространения ошибки и рекуррентный алгоритм метода наименьших квадратов. [38]

Такие свойства нейронных сетей как параллельная обработка, высокая отказоустойчивость, обучение на примерах, способность к обобщению и классификации данных позволяют их успешно применять в задачах создания нейросетевых регуляторов. При разработке нейросетевого регулятора в качестве ключевых критериев функционирования системы управления выбираются оптимальный по быстродействию принцип управления и инвариантность системы к внешним воздействиям. В этом случае конструируемый нейросетевой регулятор характеризуется простотой структуры и, как следствие, несложностью технической реализации, отсутствием внутренних обратных связей. Настройка нейросетевого регулятора осуществляется с использованием алгоритмов обучения с учителем, заключающихся в изменении параметров многослойной нейронной сети прямого распространения на основании функции оценки по обучающим примерам. Для формирования обучающей выборки разработаны алгоритмы ее формирования по линейной и нелинейной моделям объекта управления, основанные на введении обратного времени в модель объекта управления. Такой подход к задаче настройки параметров нейросетевого регулятора по обучающей выборке основан на использовании методов нелинейного программирования в совокупности с методом обратного распространения ошибки, что позволяет существенно ускорить процедуру обучения. К настоящему времени опубликованы данные по успешному промышленному применения систем управления химическими реакторами, ректификационными колоннами на базе нейросетевых регуляторов. [39]

Нейронно-сетевой подход реализуется с помощью нейронных сетей, являющихся мощнейшим инструментом поиска закономерностей, прогнозирования, качественного анализа. Нейронные сети представляют собой самообучающиеся системы, имитирующие деятельность человеческого мозга. Они так же, как и мозг человека, состоят из большого числа связанных между собой однотипных элементов-нейронов, которые имитируют нейроны головного мозга. Искусственный нейрон состоит из синапсов, связывающих входы нейрона с ядром, ядро нейрона, которое осуществляет обработку входных сигналов, и аксона, который связывает нейрон с нейронами следующего слоя. Каждый синапс имеет вес, который определяет, насколько соответствующий вход нейрона влияет на его состояние. Многослойная нейронная сеть характеризуется топологией, свойствами узлов ( единичных нейронов), а также правилами обучения или тренировки для получения желаемого выходного сигнала. Каждый нейрон произвольного слоя связан со всеми аксонами нейронов предыдущего слоя или, в случае первого слоя - со всеми входами нейронной сети. [40]

Страницы: 1 2 3