Cтраница 1
Безусловная оптимизация: методы нулевого, первого и второго порядков; методы, использующие сопряженные направления. [1]
Безусловная оптимизация начинается с первого шага. [2]
Задачи безусловной оптимизации, которым мы уделили внимание в этом разделе, довольно редко встречаются в экономических исследованиях, основной особенностью которых является ограниченность используемых ресурсов. [3]
Методы безусловной оптимизации по способу определения направления поиска делятся на методы нулевого, первого и второго порядков. Для методов нулевого порядка типичен выбор направления поиска по результатам последовательных вычислений целевой функции. По способу выбора совокупности оптимизируемых параметров эти методы делятся на детерминированные и случайного поиска. [4]
Применение методов безусловной оптимизации, использующих производные, в ряде случаев затруднительно или нецелесообразно. Это относится к задачам оптимизации со многими переменными и с целевыми функциями сложного вида. Построение аналитических выражений для производных целевой функции в таких задачах может оказаться затруднительным либо вообще невозможным. Использование разностных схем выч исле-ния производных в этих случаях усложняет программирование, повышает затраты машинного времени и снижает точность решения. [5]
Различают методы условной и безусловной оптимизации по наличию или отсутствию ограничений. Для реальных задач характерно наличие ограничений, однако методы безусловной оптимизации также представляют интерес, поскольку задачи условной оптимизации с помощью специальных методов могут быть сведены к задачам без ограничений. [6]
Для алгоритмов безусловной оптимизации функций общего вида построено довольно много тестовых задач, но даже в этом случае возникают некоторые из трудностей, описанных выше. Например, рассматриваются в основном задачи очень малой размерности; кроме того, не ясно, какие свойства алгоритмов проявляются на выбранных тестовых функциях. [7]
При применении методов безусловной оптимизации справедливо следующее: чем больше шаг вдоль направления, тем лучше. В том случае, когда первый уровень ( расчет схемы) является безытерационным ( з адача4), это справедливо и для многоуровневых процедур. В случае, когда первый уровень ( расчет схемы) является итерационным ( задача 1 для замкнутой схемы), это правило, вообще говоря, неверно. Действительно, при увеличении шага вдоль поискового направления действуют следующие противоположно направленные тенденции. С одной стороны увеличение шага вдоль направления дает хорошие результаты, поскольку уменьшается число итераций на втором уровне, но с другой стороны, увеличение шага ухудшает начальное пр иближение при решении системы ( I, 65), что может привести к уве-л ичению числа итераций на первом уровне. При очень большом шаге квазиньютоновский метод на этом уровне вообще может перестать сходиться. Должен существовать некоторый компромисс, при котором шаг вдоль направления будет наилучшим с точки зрения общего числа итераций на первом и втором уровнях. [8]
Для завершения обсуждения безусловной оптимизации мы докажем полезный ( хотя и простой) результат о том, что минимизация функции эквивалентна минимизации возрастающего преобразования этой функции. [9]
Используется какой-нибудь алгоритм безусловной оптимизации, например, метод градиента, усиленный привлечением идей метода сопряженных градиентов. Точка и используется, как начальная в этом процессе спуска. [10]
Среди прямых методов безусловной оптимизации один из наиболее эффективных - симплексный поиск, первоначально предложенный Спендли, Хекстом и Химсвортом. Основу метода составляет правило замены наихудшей вершины симплекса, которое заключается в следующем. В данном симплексе определяется вершина с наибольшим значением целевой функции. Она симметрично отображается относительно центра тяжести остальных п вершин. С полученным симплексом повторяется та же операция. Нелдер и Мид улучшили этот метод, дав иное правило определения новой вершины симплекса: вдоль прямой, проходящей через наихудшую вершину исходного симплекса и центр тяжести остальных вершин, кроме отражения, делаются дополнительные пробные шаги растяжения и сжатия для определения точки с меньшим значением целевой функции. [11]
Рассмотренные методы решения одномерной задачи безусловной оптимизации могут быть распространены и на многомерный случай. [12]
Исходную задачу приводим к задаче безусловной оптимизации. [13]
Наиболее многочисленную группу составляют методы безусловной оптимизации. Некоторое представление о широко применяемых методах этой группы дает рис. 3.2, В зависимости от порядка используемых производных целевой функции по управляемым параметрам методы безусловной оптимизации делят на методы нулевого, первого и второго порядков. [14]
Таким образом, для задачи безусловной оптимизации ( X Rn) теорема 1.2 не дает ничего нового в сравнении со знакомыми результатами ( теоремы 1.2 и 1.9 гл. [15]