Квазиньютоновский метод

Cтраница 1

Квазиньютоновский метод с памятью для решения неразряженных нелинейных систем был рассмотрен ранее. [1]

Хотя квазиньютоновский метод сходится быстрее двух других методов, он тратит больше времени на расчет одной итерации. [2]

Основной идеей квазиньютоновских методов является объединение этапов сбора информации и поиска. Причем информация, которую получают во время поиска, используется для построения аппроксимации BJ матрицы Якоби Jj либо аппроксимации Я / матрицы, обратной к матрице Якоби. [3]

Для вывода квазиньютоновских методов здесь будут использованы вариационные методы и аппарат псевдообратных матриц. [4]

Вид матрицы Якоб и системы уравнений ( 11 4, описывающей схему, приведенную на 5. [5]

При построении квазиньютоновских методов желательно учесть как можно больше свойств самой матрицы Якоби. Общим для этих методов является то, что строится аппроксимация самой матрицы Якоби, а не обратной. Это связано с тем, что сама матрица может иметь большое число нулевых и постоянных элементов, в то время как обратная обычно является заполненной, имеющей мало нулевых и постоянных элементов. Якоби равен нулю, то и соответствующий элемент матрицы Bt должен быть равен нулю. То же требование относится к случаю, когда элемент матрицы Якоби является либо легко вычисляемым, либо постоянным. Все дальнейшее изложение будет вестись применительно к параллельному методу расчета ХТС. [6]

Хотя скорость сходимости квазиньютоновских методов достаточно велика, они требуют на каждой итерации вычисления вторых частных производных и обращения матрицы Гессе, размер которой может оказаться большим. [7]

Все что было сказано относительно квазиньютоновских методов 2-го рода для решения систем нелинейных уравнений ( см. с. [8]

Сравним теперь рассмотренный метод с обычным квазиньютоновским методом. При применении последнего для хранения матрицы Ht или BI потребуется п2 ячеек памяти, и минимум будет достигнут за п шагов. [9]

В заключение следует отметить, что квазиньютоновский метод позволяет лучше использовать информацию, полученную на предыдущем шаге, чем методы DEM, GDEM и Вольфа. Действительно, в последних трех методах могут использовать только значения переменных х, полученные на предыдущем шаге [ см. выражения ( II, 199) ], в то время как квазиньютоновский метод использует информацию и о матрице Якоби, полученную на предыдущем шаге. Поэтому в данном случае он может оказаться предпочтительнее упомянутых методов. [10]

Существует ( Шуберт ( 1970)) квазиньютоновский метод решения систем нелинейных уравнений со слабо заполненными матрицами Якоби, в котором пересчитывается только часть элементов аппроксимирующих матриц, а остальные тождественно равны нулю. Поправки в его формуле пересчета имеют полный ранг. [11]

Эти формулы будут получены также при рассмотрении квазиньютоновских методов 2-го рода. Там же будет показано что несмотря на то, что в обоих случаях матрица Bt, HI удовлетворяет только одному квазиньютоновскому условию ( II, 25), ( II, 31) в текущей точке поиска, оба эти метода обеспечивают нахождение минимума положительно определенной квадратичной формы за конечное число шагов. Таким образом, если при конструировании квазиньютоновских методов расчета систем нелинейных уравнений лучшие результаты дает минимизация нормы Фробениуса матрицы Е при аппроксимации самой матрицы Якоби, то при конструировании квазиньютоновских методов минимизации лучшие результаты дает минимизация нормы Фробениуса взвешенной матрицы Е при аппроксимации самого гессиана и минимизация взвешенной матрицы D при аппроксимации обратного гессиана. [12]

Вообще говоря, с увеличением их числа эффективность квазиньютоновских методов падает. [13]

Аналогично тому, как было сделано при разработке квазиньютоновских методов решения систем нелинейных уравнений, рассмотрим квазиньютоновские методы 1-го рода, в которых матрицы Bt, Hj будут удовлетворять соотношениям ( II, 25) ( II, 31) соответственно, и квазиньютоновские методы 2-го рода, в которых матрицы BI, HI будут удовлетворять соотношениям ( II, 29), ( II, 32) соответственно. [14]

На этом мы заканчиваем обсуждение скорости сходимости метода Ньютона - Рафсона и квазиньютоновского метода, а именно алгоритмов (2.1.39), (3.1.9) и (2.1.42), при различных предположениях о дифференцируемости функций g () и Vf (), для отыскания нулей которых предназначены эти алгоритмы. [15]

Страницы: 1 2 3