Коэффициент - скорость - обучение
Cтраница 1
Коэффициенты скорости обучения и скорости изменения момента имеют различные константы, контролирующие их увеличение и уменьшение. [1]
Коэффициент скорости обучения г / вначале обычно полагается равным 0 7 и может затем постепенно уменьшаться в процессе обучения. Это позволяет делать большие начальные шаги для быстрого грубого обучения и меньшие шаги при подходе к окончательной величине. [2]
 |
Вращение весового вектора в процессе обучения ( WH - вектор новых весовых коэффициентов, Wc - вектор старых весовых коэффициентов. [3] |
Переменная к является коэффициентом скорости обучения, который вначале обычно равен - 0 7 и может постепенно уменьшаться в процессе обучения. Это позволяет делать большие начальные шаги для быстрого грубого обучения и меньшие шаги при подходе к окончательной величине. [4]
 |
Диалоговое окно ввода векторов обучения. [5] |
Опция Learning rate ( коэффициент скорости обучения) определяет скорость изменения веса синапсов в течение каждого цикла обучения сети. [6]
Определяемое таким образом значение коэффициента скорости обучения позволяет кратчайшим путем обеспечить минимальное рассогласование между требуемым и текущим значениями активности выходных нейронов нейронной сети при ее обучении. [7]
 |
Окно установки параметров процесса обучения нейронной сети. [8] |
Параметры процесса обучения следующие: коэффициент скорости обучения Learning Rate; импульс ( Momentum); максимально допустимая ошибка ( Maximum Error); максимальное число итераций в процессе обучения ( об этих параметрах более подробно - в разд. [9]
 |
Линейная неразделимость функции Исключающее ИЛИ. [10] |
Н-1) - номера текущей и следующей итераций; - коэффициент скорости обучения, 0 TJ 1; / - номер входа) - номер нейрона в слое. [11]
Таким образом, в каждом конкретном случае возникает проблема определения оптимального значения коэффициента скорости обучения нейронной сети, при котором процедура обучения реализуется за минимальное число циклов. [12]
Следует также отметить, что когда обучающая страница состоит более чем из одной пары векторов, не существует оптимального значения коэффициента скорости обучения, при котором обучение нейронной сети можно было бы производить за один шаг. Но тем не менее, как показывают результаты численных расчетов, и в этом случае существует оптимальное значение коэффициента е, обеспечивающее максимальную скорость обучения нейронной сети и изменяющее свое значение от цикла к циклу ее обучения. На рис. 11.3 показана зависимость числа циклов обучения нейронной сети, состоящей из 23 входных и 36 выходных нейронов. [13]
Коэффициент скорости обучения определяет степень изменений, которые претерпевают веса сети за один шаг обучения. [14]
С другой стороны, слишком большие коррекции весов могут привести к постоянной неустойчивости процесса обучения. Поэтому в качестве коэффициента скорости обучения т / обычно выбирается число меньше 1 ( например, 0 1), которое постепенно уменьшается в процессе обучения. Кроме того, для исключения случайных попаданий сети в локальные минимумы иногда, после стабилизации значений весовых коэффициентов, г ] кратковременно значительно увеличивают, чтобы начать градиентный спуск из новой точки. Если повторение этой процедуры несколько раз приведет сеть в одно и то же состояние, можно предположить, что найден глобальный минимум. [15]
Страницы: 1 2