Cтраница 3
Для тех случаев, когда нормаль к границе может быть вычислена аналитически, Розен [29] предложил соответствующую модификацию метода градиента ( см. разд. Направление наискорейшего спуска отыскивается обычным способом. Однако когда текущая точка на границе, это направление не используется, если оно выводит из допустимой области. Вместо этого направление наискорейшего спуска проектируется на плоскость, касательную к границе в текущей точке. [31]
Этот вариант градиентного метода называется методом наискорейшего спуска. Поскольку один шаг в направлении наискорейшего спуска в общем случае не приводит в точку минимума F ( X), формула (14.11) должна применяться несколько раз, до тех пор пока минимум не будет достигнут. [32]
![]() |
Геометрическое представление точки искомого минимума функции S ( u. [33] |
Этот метод, предложенный Дэвидоном [146] и затем развитый в работе Флетчера и Поуэлла [151], является итерационным методом спуска для нахождения локального минимума функции нескольких переменных в виде квадратичного полинома. При этом оптимум функции ищется в направлении, которое не является направлением наискорейшего спуска ( за исключением первой итерации), а является направлением, параметры которого вычисляются с использованием информации о характере поверхности, получаемой на предыдущей итерации. Метод заключается в следующем. [34]
Этот метод является частным случаем метода поиска экстремума, рассмотренного в разд. Он недостаточно эффективен, но зато здесь относительно легко можно найти частные производные, необходимые для определения направления наискорейшего спуска. [35]
Описанная операция сводится к решение нескольких задач квадратичного программирования. Их количество определится числом точек во множестве Ja ( 0) K С) Из ( 18) слеДУет также, что направление наискорейшего спуска может оказаться не единственным. [36]
Хотя предыдущий алгоритм представлен в виде, пригодном для итеративных вычислений в автономном режиме, метод может найти более выгодное применение в диалоговом режиме. II) г [; ( III) /; ( IV) бЬ1; ( V) г зс, тогда он знает: ( I) как функционирует его система; ( II) какие ограничения активны, ( III) какие переменные проектирования имеют наиболее существенное влияние на функционал качества и ограничения, ( IV) допустимое ( удовлетворяющее ограничениям) направление наискорейшего спуска, ( V) как ведет себя функционал качества системы. [37]
При этом получаем новую информацию в трех точках. Продолжаем двигаться в направлении наискорейшего спуска. [38]
Подобным же образом к решению третьей задачи был применен метод наискорейшего спуска. Уравнение ( 29) решено аналитически для того, чтобы найти оптимальное число шагов в поиске. Для других двух примеров направление наискорейшего спуска отыскивалось аналитически, однако частный минимум вдоль этого направления был получен численной процедурой, которая использовалась в предыдущем методе. [39]
Для тех случаев, когда нормаль к границе может быть вычислена аналитически, Розен [29] предложил соответствующую модификацию метода градиента ( см. разд. Направление наискорейшего спуска отыскивается обычным способом. Однако когда текущая точка на границе, это направление не используется, если оно выводит из допустимой области. Вместо этого направление наискорейшего спуска проектируется на плоскость, касательную к границе в текущей точке. [40]
Для тех случаев, когда нормаль к границе может быть вычислена аналитически, Розен [29] предложил соответствующую модификацию метода градиента ( см. разд. Направление наискорейшего спуска отыскивается обычным способом. Однако когда текущая точка на границе, это направление не используется, если оно выводит из допустимой области. Вместо этого направление наискорейшего спуска проектируется на плоскость, касательную к границе в текущей точке. [41]
Классический метод наискорейшего спуска в этом смысле далек от идеала. Значительно более эффективные способы выбора направления, использующие вторые производные целевой функции, представлены Гиллом и Мюр-рэем в гл. Определяя в этом разделе понятие направления наискорейшего спуска, мы называли скоростью спуска приращение функции F ( x) за счет сдвига ее аргумента на вектор единичной длины, причем длина эта измерялась евклидовой нормой. [42]
Здесь исследуется влияние вариации проекта с применением прежде всего аппроксимации нелинейных функций задачи линейными выражениями относительно рассматриваемых переменных. Переменная состояния в некотором смысле является помехой, поскольку она описывает не проект системы, а отклик. Представленный здесь алгоритм получен предварительным исключением зависимости от переменной состояния в линеаризованной задаче и последующим решением задачи для направления наискорейшего спуска. [43]
Другой трудностью использования динамического программирования является то, что функция качества не является выпуклой функцией и поэтому достигаемый этим методом эстремум не является глобальным. Однако примеры решения задач методом динамического программирования показывают, что полученные решения имеют достаточно хорошее качество. В ряду методов оптимизации ТС заслуживают упоминания метод наискорейшего спуска и метод покоординатного спуска. Особую эффективность эти методы имеют в случае имитационного моделирования ТС, применяемого в том случае, если производные критерия качества по управляющим переменным не могут быть выражены из-за сложности ММ в явном виде через управляющие переменные. Направление наискорейшего спуска оценивается по отклику критерия качества на изменения управляющих переменных. Оба указанных метода являются в настоящее время наиболее универсальными численными методами оптимизации и могут быть реализованы в виде конкретных алгоритмов, позволяющих получить локальные, а в случае выпуклости функции качества и глобальные экстремумы. [44]
Поставим вопрос о нахождении направления s убывания функции х) 0 ( Ь) векторного аргумента Ъ 6 Rk, задающей критерий качества. Наиболее простым является метод наискорейшего спуска, или градиентный метод. Существо метода наискорейшего спуска очевидно из его названия. Требуется найти такое приращение 6Ь вектора Ь, имеющего значение Ь1, чтобы уменьшение 0 ( Ь) было максимальным. Направление этого приращения называется направлением наискорейшего спуска в пространстве проектирования. [45]