Cтраница 1
Методы первого порядка являются градиентными методами. В градиентных методах используются значения целевой функции и ее первых частных производных по управляемым параметрам. [1]
Формулы ( VI 1 41) достаточно для организации поиска методами первого порядка, например наискорейшим спуском или методом ДФП. [2]
Критический шаг интегрирования для методов высоких порядков не больше его значения Ткр для метода первого порядка. [3]
Так, различают методы по наивысшему порядку используемой в методе производной функции: методы первого порядка, если используется первая производная; методы второго порядка, если используется вторая производная. Методы выше второго порядка для многомерных задач практически не применяются. Далее, называют метод А: - шаговым, если при построении очередной итерации используется к предыдущих: существуют методы нулыпаго-вые, одношаговые, а также методы, в которых используются все предыдущие итерации. Кроме того, делят методы на стационарные и нестационарные в соответствии с тем, зависит ли явно способ построения n - й итерации от п или нет. Впрочем, непрерывные методы могут быть использованы, например, при решении задач на аналоговых машинах. Имеется классификация методов и по другим признакам. В [430] приводится классификация методов решения многоэкстремальных задач. В [270, 271] дана общая теория итерационных процессов. [4]
Критический шаг интегрирования для методов высоких порядков не больше его значения Ткр для метода первого порядка. [5]
Требования к объему памяти обычно оказываются выше для методов второго порядка, так как в методах первого порядка нужно запоминать лишь управления, а в методах второго порядка для решения проварьированного процесса надо запоминать, кроме того, значения фазовых переменных и переменных сопряженного процесса, а также временно хранить информацию, относящуюся к расчету проварьированного процесса. Однако, если расчет производных в методе первого порядка осуществляется с помощью сопряженного процесса по формулам ( VII13), а это имеет смысл делать в большинстве случаев, то и в методе первого порядка требуется хранить в памяти фазовые переменные основного процесса, и разница в объеме запоминаемой информации становится менее значительной. [6]
Сделаем несколько общих замечаний относительно сравнения методов решения оптимальных задач, основанных на принципе максимума, с методами первого порядка. В главе I отмечались пункты, по которым целесообразно производить сравнение методов ( см. стр. С точки зрения быстродействия все преимущества на стороне методов, основанных на принципе максимума, так как эти методы являются методами второго порядка, обладающими квадратичной сходимостью. Выше был рассмотрен пример определения оптимальной температурной последовательности для последовательной реакции ( см. стр. [7]
Методы поиска экстремума классифицируются по следующим признакам: в зависимости от характера экстремума существуют методы условной и безусловной, локальной и глобальной оптимизации; по числу переменных проектирования различают методы одномерного и многомерного поиска, а по характеру информации о виде целевой функции - методы нулевого, первого и второго порядков, причем в методах первого порядка используют градиент целевой функции, поэтому эти методы называются градиентными, в методах второго порядка применяют вторые производные, а в методах нулевого порядка производные не используют. [8]
Единственная предосторожность, которую следует иметь в виду, связана с тем, что каждый узел tn сетки ( 10) является возможной точкой разрыва и ( t), поэтому при численном интегрировании ( 1) в каждом отрезке [ tn, t должно содержаться целое число шагов интегрирования ( 1): если разрывы функции и ( t) оказываются внутри дискретных интервалов численного интегрирования ( 1), методы интегрирования высокого порядка точности эту точность теряют и превращаются в методы первого порядка. [9]
В методах случайного поиска в этот процесс вносится элемент случайности. В методах первого порядка переход от вектора xt к вектору xt i производится с использованием первой производной от целевой функции в точке, определяемой вектором внутренних параметров xt, а в методах второго порядкас этой же целью вычисляют вторую производную в этой же точке. В задачах многомерного поиска с целевыми функциями сложного вида применение методов безусловной оптимизации первого и второго порядков нецелесообразно. Методы нулевого порядка проще программируются и требуют меньших затрат машинного времени. [10]
В § § 18 - 23 были описаны методы построения минимизирующей последовательности управлений, использующие лишь первые производные входящих в задачу функционалов. Поэтому эти методы называют методами первого порядка. Давно было замечено, что при решении задач поиска минимума методом первого порядка сходимость оказывается очень медленной в окрестности точки минимума. Это и понятно: ведь в этой окрестности, грубо говоря, первая производная минимизируемого функционала обращается в нуль, и приращение его при вариации аргумента ( управления) определяется вторым членом разложения. Стремясь повысить скорость поиска и получить более точные результаты без существенного увеличения времени счета, естественно приходят к идее использования в вычислениях также вторых производных от функционалов задачи. Кроме того, с этим же связаны и надежды повысить эффективность поиска в условиях применения штрафных функций, когда сходимость методов первого порядка оказывается очень медленной даже сравнительно далеко от искомой точки минимума. Методы второго порядка разработаны не так подробно, как методы первого порядка, а опыт их фактического применения совсем невелик. Ниже будет описана общая схема метода второго порядка и рассмотрены возникающие при его реализации вычислительные проблемы. [11]
Для расчетов силовых передач использование этого метода первого порядка наряду с записью уравнений движения в интегральной форме можно признать оптимальным по следующим причинам: достигается максимально компактная запись нелинейных уравнений, число которых равно числу нелинейных соединений; сходимость метода может быть достигнута при любых параметрах системы за счет выбора начального приближения. Метод Ньютоне - Канторовича обладает максимальной скоростью сходимости для кусочно-линейных функций, какими н являются типичные упругие характеристики силовых передач. [12]
Требования к объему памяти обычно оказываются выше для методов второго порядка, так как в методах первого порядка нужно запоминать лишь управления, а в методах второго порядка для решения проварьированного процесса надо запоминать, кроме того, значения фазовых переменных и переменных сопряженного процесса, а также временно хранить информацию, относящуюся к расчету проварьированного процесса. Однако, если расчет производных в методе первого порядка осуществляется с помощью сопряженного процесса по формулам ( VII13), а это имеет смысл делать в большинстве случаев, то и в методе первого порядка требуется хранить в памяти фазовые переменные основного процесса, и разница в объеме запоминаемой информации становится менее значительной. [13]
Моделирующие программы, как правило, достаточно гибки, чтобы работать в сочетании с программой оптимизации. Можно, конечно, применять упомянутые выше моделирующие программы при оптимизации методами первого порядка с вычислением градиента критерия разностным способом. Но большое время счета, трудности выбора шагов приращений варьируемых переменных и неточности в расчете частных производных критерия ( см. главу VII) делают данный подход малообещающим. [14]
В данном параграфе излагаются методы, относящиеся к числу наиболее эффективных способов решения задач безусловной оптимизации. В его модификациях ( квазиньютоновских алгоритмах) матрица вторых производных аппроксимируется с помощью информации о значениях градиентов функции /, и эти модификации, таким образом, являются методами первого порядка. [15]