Cтраница 4
Так как линейный функционал не обязан достигать минимума на единичной сфере, то направление наискорейшего спуска может и не существовать. Нетрудно, однако, указать условия, когда в формуле ( 1) реализуется минимум. Это можно гарантировать, например, в случае, когда X - пространство, сопряженное к некоторому банахову пространству Y, а функционалы Ф ( х) ( х е X) входят в Y. Действительно, единичный шар в X Y компактен в () - слабой топологии, и потому Ф ( х) достигает минимума на этом шаре, а следовательно и на сфере. В частности, если пространство X рефлексивно, то направление наискорейшего спуска заведомо существует. [46]
Индекс k указывает на последовательность вычислений в процессе итераций. Новые направления называются сопряженными и соответствуют текущей локальной квадратичной аппроксимации функции. Затем по новому направлению проводят одномерный поиск и, найдя минимум, проверяют, достигнута ли требуемая степень сходимости. Если проверка показывает, что это так, то счет прекращается. В противном случае определяют новые сопряженные направления, k увеличивают на единицу и продолжают процесс до тех пор, пока не будет обеспечена сходимость или пока поиск не будет проведен по всем Ы направлениям. Закончив цикл поиска по N - - направлениям, начинают новый цикл, в котором опять используется направление наискорейшего спуска. Достоинство этого алгоритма состоит в том, что он позволяет использовать преимущества градиентных методов, проявляющиеся при исследовании целевой функции с разрывными производными. Так как N - - направлений поиска второй совокупности отличаются от направлений единичных векторов градиента, то поиск не зависает на изломе, а идет вдоль линии, соединяющей точки изломов линии уровня, которая, как правило, проходит через точку оптимума. Вообще можно утверждать, что методы, основанные на определении новых направлений поиска на основе накопленных данных о локальном поведении функции, по самой своей природе более эффективны, чем методы, в которых направление поиска задается заранее. Именно поэтому метод Флетчера - Ривса обладает большими преимуществами по сравнению с методами наискорейшего спуска или подъема. Его недостаток состоит в том, что, будучи сложнее указанных методов, он требует разработки более сложных программ. [47]