Cтраница 4
Во-первых, в нашем примере функция цели убывала очень быстро, и притом заметно быстрее, чем расстояние до экстремума. Автор спешит заверить читателя, что это - обычное явление при использовании схем спуска. Это уже не является правилом, а скорее следствием того, что мы решали двумерную задачу, в которой вычисление производных - дело несложное. В задаче же более многомерной эти расчеты усложнятся, а выбор 0 по-прежнему останется одномерной проблемой. Впрочем, здесь все же сказывается обратная сторона медали: если применяется обычный градиентный поиск с постоянным малым шагом, то необходимость в вычислении 6 отпадает. Число итераций, возможно, станет большим, но каждая итерация упростится. Наконец, читатель может сказать, что и вообще все расчеты для столь простой задачи оказываются ужасно сложны. Но опять-таки стоит ответить так: расчеты хоть и громоздки, но однотипны, носят повторяющийся характер, а потому удобны для вычислительных машин. [46]