Метода - сопряженное направление
Cтраница 1
Методы сопряженных направлений основаны на таком выборе векторов направлений поиска, при котором они были бы сопряженными относительно матрицы Гессе. [1]
Методы сопряженных направлений широко распространены, так как обеспечивают хорошую сходимость процесса поиска и вместе с тем достаточно просты для реализации на ЭВМ. [2]
Методы сопряженных направлений различаются способами построения сопряженных направлений. [3]
Поскольку методы сопряженных направлений за / С шагов имитируют один шаг метода Ньютона - Рафсона, они, вообще говоря, обладают квадратичной скоростью сходимости. Однако это их свойство проявляется лишь в достаточной близости к экстремальной точке. В случае расчета стабильных структур использование известной структурной информации позволяет достаточно хорошо выбирать начальное приближение. [4]
 |
Траектория поиска максимума по методу наискорейшего подъема ( а и по градиенту с уточнением шага ( б. [5] |
В методах сопряженных направлений используют некоторое характерное свойство квадратичной функции, существенно облегчающее поиск ее максимума. [6]
Благодаря квадратичной сходимости метод сопряженных направлений позволяет находить минимум с высокой точностью. Методы с линейной сходимостью обычно определяют экстремальные значения координат менее точно. [7]
Интересный подкласс методов минимизации гладких функций составляют методы сопряженных направлений [92], которые являются в известном смысле модификацией метода Ньютона и обладают тем преимуществом, что не требуют обращения матрицы вторых производных, а получают ее в процессе вычислений по рекуррентным формулам. [8]
В случае произвольных ( неквадратичных) функций методы сопряженных направлений не позволяют отыскивать минимум за конечное число шагов, однако и в этом случае они оказываются весьма эффективными. В [92, 94, 320] доказывается сходимость этих и подобных методов, если / ( X) выпуклая функция и показано, что скорость сходимости их не ниже сверхлинейной. В [261, 358] доказана квадратичная сходимость. В [94, 476] рассматриваются методы типа методов сопряженных направлений, в которых не требуется вычисление производных. [9]
Преимущество методов сопряженных градиентов по сравнению с методами сопряженных направлений состоит в том, что они требуют хранения только вектора, в то время как методы сопряженных направлений требуют хранения п X -матрицы. Это особенно важно при решении задач большой размерности. В то же время практический опыт показывает, что методы сопряженных направлений, как правило, обеспечивают большую скорость сходимости, чем методы сопряженных градиентов. [10]
К другому классу методов, улучшающих градиентный поиск, относятся методы сопряженных направлений. [11]
В ней подробно описаны методы оптимизации для задач без ограничений, включая методы сопряженных направлений и сопряженных градиентов, а также способы ускорения сходимости. Специальные главы посвящены методам оптимизации для задач с линейными ограничениями и квадратичного программирования, методам штрафных функций и барьеров, возможных направлений, отсечений и ряду других принципов оптимизации. Вместе с тем следует подчеркнуть, что автор, видимо, недостаточно знаком с исследованиями по нелинейному программированию, проводимыми в Советском Союзе. Поэтому в книге не затронуты, например, методы оптимизации негладких выпуклых функций, методы типа алгоритма фиктивной игры и ряд других. [12]
Для функций общего вида комбинация метода Коши или метода координатного спуска с методами сопряженных направлений приводит к эффективным алгоритмам, так как получающиеся при этом смешанные алгоритмы используют квадратичную аппроксимацию оптимизируемой функции, избегая вместе с тем трудоемких вычислений вторых частных производных. [13]
Можно показать, что если оптимальная точка ищется на каждом направлении, то для квадратичных функций метод сопряженных направлений ( см. алгоритм I) эквивалентен методу [ 59, с. [14]
Преимущество методов сопряженных градиентов по сравнению с методами сопряженных направлений состоит в том, что они требуют хранения только вектора, в то время как методы сопряженных направлений требуют хранения п X -матрицы. Это особенно важно при решении задач большой размерности. В то же время практический опыт показывает, что методы сопряженных направлений, как правило, обеспечивают большую скорость сходимости, чем методы сопряженных градиентов. [15]
Страницы: 1 2