МЕТОДЫ ОДНОМЕРНОЙ ОПТИМИЗАЦИИ

Задача одномерной оптимизации заключается в минимиза­ции или максимизации целевой функции, зависящей от одной переменной, на допустимом множестве в виде отрезка веществен­ной оси. Поскольку максимизация целевой функции/(х) эквива­лентна минимизации противоположной величины -/(*), то бу­дем рассматривать только задачи минимизации. Под минимиза­цией функции/(х) понимается определение точки минимума этой функции на допустимом множестве, а также и ее минимального значения. Таким образом, приходим к следующей постановке. Решить задачу одномерной оптимизации

min {f[x)\aix<b}, (1.1)

т.е. найти число х*е[а; Ь] такое, что

Дх*)<Дх), Чхе[а;Ь], где а,Ь- заданные числа, причем а < Ь;

Дх) функция одной переменной, унимодальная на отрез­ке [а; Ь].

Поставленная задача (1.1) может быть, вообще говоря, ре­шена классическим методом с помощью необходимых и доста­точных условий безусловного экстремума, а именно: используя необходимое условие экстремума

/'<*) = 0, (1.2)

находят все стационарные точки на интервале (а; Ь). В найден­ных стационарных точках проверяется достаточное условие

и выделяются из них точки локального минимума, в которых вы­полнилось условие

/"(*)>0. (1.3)

Далее сравниваются значения функции Дх) в выделенных точках и на концах отрезка [а, Ь]. Наименьшему из этих значений и будет соответствовать точка глобального минимума функции f(x) на отрезке [а, Ь].

Однако, даже если функцияД*) задана аналитически и про­изводная/'^) найдена, решение уравнения (1.2) зачастую вызы­вает затруднения. Кроме того, вычисление производных может быть весьма трудоемко или же функция/(х) может быть задана не аналитически. Поэтому классический метод имеет ограничен­ное применение и для решения задачи (1.1) на практике, как пра­вило, применяют приближенные методы.

Начнем изучение с простейших приближенных методов, позволяющих найти решение задачи (1.1) с необходимой точнос­тью в результате определения конечного числа значений функ-ции/(л) в некоторых точках отрезка [а; Ь]. Такие методы называ­ют прямыми методами одномерного поиска.

1.1. Методы перебора 1.1.1. Метод равномерного поиска

Метод равномерного поиска является простейшим из пря­
мых методов одномерной оптимизации и состоит в следующем.
Отрезок [а; Ь] разбивается на и равных частей точками деления
x = a + i(b-a)/n,i=O,...,n. (1.4)

Сравнением значений функции^*) во всех точках.v, / = 0,и, находится точка х_к: О < к < п, для которой

),/Ы,...,/(*,,)}. (1-5)

Полагая х'&х_к,/'ъ/(х_к), получаем решение задачи (1.1) с по­грешностью, не превосходящей величины

в.=^. (1.6)

Для того, чтобы обеспечить требуемую точность s опреде­ления точки х', число п отрезков разбиения необходимо выбирать из условия г_п < s, т.е. назначить

Ъ-а

(1.7)

1.1.2. Метод поразрядного поиска

Усовершенствуем рассмотренный метод равномерного по­иска с целью уменьшения количества значений функции/(х), ко­торые необходимо находить в процессе минимизации.

Очевидно, если окажется, что /(х,._и)>/(х,),то отпадает необходимость вычислять/(*) в точках х_м, х_м,..., х_п, так как в силу унимодальности функции х"<х_м. Кроме того, целесообразно сначала грубо определить отрезок, содержащий а', т.е. найти точку х' с небольшой точностью, а затем искать ее на этом отрезке с меньшим шагом, повышая точность. Реализация этих возможностей улучшения метода перебора и приводит к методу поразрядного поиска.

В методе поразрядного поиска перебор точек отрезка предлагается выполнять сначала с достаточно большим шагом А= х_ж- х. >е (например, h = (b - а)1А) до тех пор, пока не выполнится условие/(*„,) >f(x) или пока очередная точка не совпадет с концом отрезка. После этого шаг уменьшается и перебор точек с новым шагом производится в противоположном направлении до тех пор, пока значения функции снова не перестанут уменьшаться или пока очередная точка не совпадет с другим концом отрезка. Описанный процесс завершается, когда перебор в данном направлении закончен, а использованный при этом шаг h не превосходит е.

Таким образом,получается следующий алгоритм метода поразрядного поиска.

Ш^аг О, Задать параметр точности е > 0, выбрать начальный шаг Л = (Ь - а)/4, положить х_о = а, вычислить/О^).

UUar_L Найти очередную точку х= x+h, вычислить/^) 4, л Л^Г?' ^{Сравнить} качения функции / (*) и /(*,). Если Л*„) >/ (*,), то перейти к шагу 3, иначе - к шагу 4.

^Шаг3- Положить х~ х_х и/(*„)=/(*,). Проверить условие *_о^е(^а; о). Если а < х_о< Ь, то перейти к шагу 1, иначе - к шагу 4.

Щаг_£ Проверить условие окончания поиска |й| < е. Если оно выполняется, то вычисления завершить, положив х'кх f'~f(x₀), иначе - перейти к шагу 5.

Шаг 5. Изменить направление и шаг поиска, положив h = - -, ^xo^=x\>f(^xJ ⁼f(^xi)- Перейти к шагу 1.

1.2. Методы исключения отрезков

Рассмотрим ту же задачу одномерной минимизации (1.1), что и в подразд. 1.1. Эффективность поиска точки минимума можно повысить, если использовать информацию, содержащуюся в уже найденных значениях/(х).

Пусть на интервале (а; Ь) выбраны две пробные точки x_t и х_г такие, что а < х,< х₂< Ъ и вычислены значения/(х,)и/(л:₂). В силу унимодальности минимизируемой функции/(х) можно сократить отрезок поиска точки х', перейдя к отрезку [a; xj, еслиДх,) ^/(х₂), или к отрезку [x_t;b], еслиДх,) >/(х₂). Повторяя эту процедуру до тех пор, пока длина последнего из полученных отрезков не станет достаточно малой, в качестве точки минимума можно взять одну из точек последнего отрезка, например, его середину. Методы, использующие такой способ последовательного уменьшения отрезка, содержащего точку минимума, называют методами исключенных отрезков. Друг от друга они отличаются лишь способом выбора пробных точек. Наибольшее распространение на практике получили метод дихотомии и метод золотого сечения.

1.2.1. Метод дихотомии

Идея этого метода заключается в том, чтобы делить очеред­ной отрезок, содержащий точку минимума функции, пополам

и исключать из рассмотрения ту часть, где минимума быть не мо­жет. Отсюда и название метода - деление отрезка пополам (дихо­томия).

Итак, в методе дихотомии пробные точки выбираются близ­ко к середине очередного отрезка [а; Ь]

a+b-Ъ а+Ь+5

-; х₂=-

2 " 2 ^(L8)

где 5 > 0 - некоторое число, малое настолько, что еще можно отличить значения/Ох,) и/(а₂) друг от друга. При этом отношение длин нового и исходного отрезков близко к 1/2:

х₂ + а _ 1

Ъ-а Ъ-а 2 ' 2(b-a)

Поэтому, чем меньше число 8, тем больше относительное уменьшение длины отрезка на каждой итерации, т.е. при уменьшении 5 повышается скорость сходимости метода дихотомии. Рекомендуется значение 5 выбирать из интервала (0; 2е).

В конце вычислений по методу дихотомии в качестве при­ближенного значения х" берут середину последнего из найденных отрезков, убедившись предварительно, что достигнуто неравен­ство г_п < s, где

2"⁺¹ 4' 2"j2'

Находя п из этого условия, получаем число итераций мето­да дихотомии, необходимое для определения точки х* с заданной точностью е:

^Шаг2- Сравнить эти значения. Если/(*,) < f(x₂), то перейти к отрезку [а; х₂], положив Ь=х„ иначе - к отрезку [х- Ь], положив а = *,.

Шаг 3, Найти достигнутую точность г= (Ь - а)12. Если е„ > е, то перейти к шагу 1 для выполнения следующей итерации, иначе завершить поиск, положив х'*(а+Ь)/2.

Поиск по сайту: