Cтраница 4
В случае, когда применение этих методов нецелесообразно, имеет смысл проанализировать возможности применения простейших по своей структуре итерационных методов: простой итерации, Зейделя, сверхрелаксации, наискорейшего спуска. Если решается отдельная задача, то вследствие простоты соответствующих программ применение этих методов может быть вполне целесообразным. Если применение этих методов требует больших затрат машинного времени, то следует проанализировать возможности применения более сложных по своей структуре методов: оптимального линейного итерационного процесса, метода с использованием корней многочлена Чебышева, метода сопряженных градиентов, итерационных методов, использующих спектрально эквивалентные операторы. [46]
Квазиньютоновские методы являются эффективным средством решения задач безусловной оптимизации. Их отличает высокая скорость сходимости, в то же время при реализации квазиньютоновских алгоритмов не приходится выполнять такие трудоемкие операции, как вычисление матрицы вторых производных или обращение матрицы. Однако при большой размерности пространства необходимость хранения и пересчета на каждом шаге матриц Hk обусловливает высокие требования к объему занимаемой памяти ЭВМ. Этот недостаток не присущ изучаемому в следующем параграфе методу сопряженных градиентов. [47]
Оптимум имеет место при х1 10, x 2i, z 3 - i. Однако прп х 0 61 п х3 - 1 32 минимум относительно хг не существует, и по этой причине метод Дэвпса, Сваина п Кэмин ( С в а и н, 1964) и метод Пауолла ( 1964) оказываются nejiaooTO - способнымп. Предположите, что положение минимума на выбранном направлении не определяется точно. Как это повлияет на поведение метода Ньютона - Рафсона, метода сопряженных градиентов и метода переменной метрики. [48]
Поясним смысл такого управления. Временное исключение переменных имеет следующую цель: пусть переменная sn вышла на s; можно предположить, что и в дальнейшем в целях минимизации x e эту переменную следует увеличить, но это уже неосуществимо. Но этот вывод нестрог, так как после выхода sn на s точка х за счет изменения других sn изменилась и, может быть, нужно менять sn в другую сторону. Поэтому различаются два случая ( с и d) при % 20: если в цикле 2 не было случаев выхода на границу, но часть переменных была исключена ( Sxl), то следует снова включить все sn в работу. Если же 0 при 0, то это означает, что в решении задачи ( 10) ограничения s -, s перестали играть роль ( тоже, может быть, лишь временно) и задача ( 10) стала задачей минимизации без ограничений. В этой ситуации метод покоординатного спуска становится неэффективным, и целесообразно перейти к методу сопряженных градиентов. Если анализ показывает необходимость более точного решения задачи ( 10), это делается следующим образом. [49]