Cтраница 1
![]() |
Решение задачи максимизации функции с помощью градиентного метода второго порядка. [1] |
Методы второго порядка не лишены собственных недостатков. [2]
Методы второго порядка используют первые и вторые производные целевой функции. [3]
Недостатком метода второго порядка является не только необходимость вычисления матрицы вторых производных, но и обязательная проверка этой матрицы на положительную определенность. Поэтому интересны методы, которые обладают сходимостью, близкой к квадратичной, но не требуют вычисления вторых производных. [4]
В методах второго порядка организация поиска экстремума ведется с учетом значений целевой функции, ее первых и вторых производных. [5]
В методах второго порядка для поиска экстремума используются значения целевой функции, ее первых и вторых частных производных. [6]
Наибольшей эффективностью поиска характеризуются методы второго порядка. Однако они требуют вычисления матрицы Гессе, что значительно затрудняет или даже делает невозможным их использование для решения конкретных задач оптимизации. В связи связи были разработаны квазиньютоновские методы, в которых осуществляется аппроксимация матрицы Гессе. [7]
Метод Ньютона относится к методам второго порядка. В процессе поиска экстремума этим методом используется информация о целевой функции и ее первых и вторых частных производных по управляемым параметрам. Это обеспечивает более высокую скорость сходимости метода Ньютона по сравнению с методами нулевого и первого порядков. [8]
Были предложены также методы, связанные с методами второго порядка. По-видимому, методы, использующие развертку постоянного потенциала, являются самыми многообещающими. [9]
Стоит упомянуть еще одну причину, по которой методы второго порядка представляются интересными. Это связано с выбором шага спуска S. В методах первого порядка эту величину приходится назначать, тогда как в методах второго порядка учет квадратичных членов разложения приводит к естественному выбору абсолютной величины вариации Su ( t) без введения искусственных ограничений. [10]
Используя лемму 4.2, доказать, что в методе второго порядка отображение Л МЧ4 замкнуто. [11]
![]() |
Зоны притяжения локальных экстремумов целевой функции двух переменных.| Зона притяжения глобального экстремума S и зона глобальности S многоэкстремальной целевой функции F ( x. [12] |
Для функций, имеющих вид, близкий к квадратичному, предпочтительно использовать методы второго порядка. Когда переменные совершенно несходны и лишь выбором масштабов могут быть приведены к внешне однородному безразмерному виду, то лучше всего, по-видимому, использовать методы случайного поиска. [13]
Так, различают методы по наивысшему порядку используемой в методе производной функции: методы первого порядка, если используется первая производная; методы второго порядка, если используется вторая производная. Методы выше второго порядка для многомерных задач практически не применяются. Далее, называют метод А: - шаговым, если при построении очередной итерации используется к предыдущих: существуют методы нулыпаго-вые, одношаговые, а также методы, в которых используются все предыдущие итерации. Кроме того, делят методы на стационарные и нестационарные в соответствии с тем, зависит ли явно способ построения n - й итерации от п или нет. Впрочем, непрерывные методы могут быть использованы, например, при решении задач на аналоговых машинах. Имеется классификация методов и по другим признакам. В [430] приводится классификация методов решения многоэкстремальных задач. В [270, 271] дана общая теория итерационных процессов. [14]
Требования к объему памяти обычно оказываются выше для методов второго порядка, так как в методах первого порядка нужно запоминать лишь управления, а в методах второго порядка для решения проварьированного процесса надо запоминать, кроме того, значения фазовых переменных и переменных сопряженного процесса, а также временно хранить информацию, относящуюся к расчету проварьированного процесса. Однако, если расчет производных в методе первого порядка осуществляется с помощью сопряженного процесса по формулам ( VII13), а это имеет смысл делать в большинстве случаев, то и в методе первого порядка требуется хранить в памяти фазовые переменные основного процесса, и разница в объеме запоминаемой информации становится менее значительной. [15]