Cтраница 4
Ко второй группе методов относятся различные обобщения методов спуска, которые применялись для задач безусловной минимизации. [46]
Во многих случаях при минимизации функционалов применение метода фадиентного спуска и его модификаций дает отличные результаты. Именно поэтому под разными названиями в различных областях исследований он неоднократно переоткрывался. То же самое относится и к алгоритму обратного распространения ошибки. Он тоже является одним из самых известных, простых и надежных методов обучения ней-росетей. [47]
В заключение отметим, что если при применении методов спуска уравнения ( IV, 168) и ( IV, 169) можно было решать раздельно, то в данном случае их необходимо решать совместно, поскольку они образуют совместную систему уравнений. [48]
Получение таких оценок основывается на использовании стандартной процедуры метода наибыстрейшего спуска. [49]
Итак, метод изменения масштабов в сочетании с методом спуска вдоль антиградиента можно интерпретировать как обобщенный метод градиентного спуска, где в качестве Ak выбирается диагональная матрица А вторых производных. [50]