Метод - обратное распространение - ошибка
Cтраница 2
Испытано 16 ИНС с различным количеством нейронов в каждом слое. При обучении нейронных сетей с прямой передачей сигнала был использован метод обратного распространения ошибки, а именно алгоритм BFGS, или квазиньютоновский алгоритм. [16]
 |
Исходные входные векторы и разделяющая линия. [17] |
В предыдущем примере настройка НС производилась адаптивно. Отличие такой настройки от выполняемой, например, с помощью метода обратного распространения ошибки, заключается в том, что векторы обучающей выборки поступают на вход сети не все одновременно, а последовательно, по одному, при этом после предъявления очередного вектора производится корректировка весов и смещений и может быть произведен опрос сети, затем все повторяется. Адаптивная настройка особенно удобна при работе НС в реальном масштабе времени. [18]
Дело в том, что ошибка сети определяется по ее выходам, т.е. непосредственно связаня лишь с выходным слоем весов. Вопрос состоял в том, как определить ошибку для нейронов на скрытых слоях, чтобы найти производные по соответствующим весам. Нужна была процедура передачи ошибки с выходного слоя к предшествующим слоям сети, в направлении обратном обработке входной информации. Поэтому такой метод, когда он был найден, получил название метода обратного распространения ошибки. [19]
На втором этапе следует обучить выбранную сеть, т.е. подобрать такие значения ее весов, чтобы сеть работала нужным образом. Необученная сеть подобна ребенку - ее можно научить чему угодно. В используемых на практике неиросетях количество весов может составлять несколько десятков тысяч, поэтому обучение - действительно сложный процесс. Для многих архитектур разработаны специальные алгоритмы обучения, которые позволяют настроить веса сети определенным образом. Наиболее популярный из этих алгоритмов - метод обратного распространения ошибки ( Error Back Propagation), используемый, например, для обучения персептрона. [20]
Такие свойства нейронных сетей как параллельная обработка, высокая отказоустойчивость, обучение на примерах, способность к обобщению и классификации данных позволяют их успешно применять в задачах создания нейросетевых регуляторов. При разработке нейросетевого регулятора в качестве ключевых критериев функционирования системы управления выбираются оптимальный по быстродействию принцип управления и инвариантность системы к внешним воздействиям. В этом случае конструируемый нейросетевой регулятор характеризуется простотой структуры и, как следствие, несложностью технической реализации, отсутствием внутренних обратных связей. Настройка нейросетевого регулятора осуществляется с использованием алгоритмов обучения с учителем, заключающихся в изменении параметров многослойной нейронной сети прямого распространения на основании функции оценки по обучающим примерам. Для формирования обучающей выборки разработаны алгоритмы ее формирования по линейной и нелинейной моделям объекта управления, основанные на введении обратного времени в модель объекта управления. Такой подход к задаче настройки параметров нейросетевого регулятора по обучающей выборке основан на использовании методов нелинейного программирования в совокупности с методом обратного распространения ошибки, что позволяет существенно ускорить процедуру обучения. К настоящему времени опубликованы данные по успешному промышленному применения систем управления химическими реакторами, ректификационными колоннами на базе нейросетевых регуляторов. [21]
Фирма Pavilion Technologies разработала нейросеть, которая используется в ряде компаний для управления качеством продукции. Одна из таких сетей используется в управлении дебутанайзером - системой, которая разделяет углеводороды по их молекулярным весам. Это требует точного управления температурами, давлениями и скоростями потоков. Семнадцатичасовой цикл подвержен постоянной нестабильности. Нейросеть из семи входных и двух выходных нейронов была обучена на 1500 примерах и способна предупреждать ошибки до того, как они появляются, обеспечивая высокое качество продукта в периоды нестабильности. США) использует нейросеть для предотвращения нарушений в процессе выплавки стали. Система обучалась методом обратного распространения ошибки и успешно работает с 1990 г. В химической и пищевой промышленности нейросеть CAD / Chem фирмы AI Ware ( США) используется для оптимизации рецептуры производимых продуктов. [22]
Страницы: 1 2