АвтоАвтоматизацияАрхитектураАстрономияАудитБиологияБухгалтерияВоенное делоГенетикаГеографияГеологияГосударствоДомДругоеЖурналистика и СМИИзобретательствоИностранные языкиИнформатикаИскусствоИсторияКомпьютерыКулинарияКультураЛексикологияЛитератураЛогикаМаркетингМатематикаМашиностроениеМедицинаМенеджментМеталлы и СваркаМеханикаМузыкаНаселениеОбразованиеОхрана безопасности жизниОхрана ТрудаПедагогикаПолитикаПравоПриборостроениеПрограммированиеПроизводствоПромышленностьПсихологияРадиоРегилияСвязьСоциологияСпортСтандартизацияСтроительствоТехнологииТорговляТуризмФизикаФизиологияФилософияФинансыХимияХозяйствоЦеннообразованиеЧерчениеЭкологияЭконометрикаЭкономикаЭлектроникаЮриспунденкция

Метод наискорейшего спуска, метод градиента

Читайте также:
  1. I этап Подготовка к развитию грудобрюшного типа дыхания по традиционной методике
  2. I. ГИМНАСТИКА, ЕЕ ЗАДАЧИ И МЕТОДИЧЕСКИЕ ОСОБЕННОСТИ
  3. I. Методические основы
  4. I. Методические основы оценки эффективности инвестиционных проектов
  5. I. Предмет и метод теоретической экономики
  6. I. Что изучает экономика. Предмет и метод экономики.
  7. II. Метод упреждающего вписывания
  8. II. МЕТОДИЧЕСКИЕ УКАЗАНИЯ ДЛЯ ВЫПОЛНЕНИЯ САМОСТОЯТЕЛЬНОЙ РАБОТЫ
  9. II. Методы непрямого остеосинтеза.
  10. II. Проблема источника и метода познания.
  11. II. Рыночные методы.
  12. II. УЧЕБНО-МЕТОДИЧЕСКАЯ КАРТА ДИСЦИПЛИНЫ

В классическом методе наискорейшего спуска (методе Коши). в выражении (5) () матрица принимается равной , , где – единичная ()-матрица. Направлением движения здесь является наискорейшее убывание функции в данной точке:

(11)

Точки перехода на следующее направление определяются с помощью условия (10) , т. е. .

Отличием метода градиента от метода наискорейшего спуска заключается в том, что переход на следующее направление определяется с помощью условия (9) ).

На рисунке направление движения из точки касается линии уровня в точке . Траектория спуска зигзагообразная, причем соседние звенья зигзага ортогональны друг другу.

В методе наискорейшего спуска каждое новое направление ортогонально предыдущему, т.к. движение в одном направлении идет до тех пор, пока направление движения не окажется касательным к какой-либо линии постоянного уровня.

Отметим, что в методах наискорейшего спуска и градиента производные критерия оптимизации по варьируемым переменным определяются либо аналитически, либо с помощью разностей:

. (12)

В этой формуле нижний индекс обозначает номер компоненты вектора .

Использование уравнения (12) связано с тем, что, как правило, при оптимизации реальных систем (технических, химико-технологических и др.) вид математической модели и соответственно целевой функции в явном виде не задан. Имеется только алгоритм, который позволяет при заданных значениях поисковых переменных вычислить значение целевой функции.

Достоинство градиентных методов – простота реализации.

Недостатки:

1) метод является линейным – даже при минимизации квадратичной функции процесс поиска ее минимума теоретически бесконечен;

2) для функций с сильно вытянутыми линиями равного уровня (овражные функции) процесс поиска носит явно выраженный зигзагообразный характер и дает слабое продвижение к минимуму; точное определение минимума практически нереально. Направление антиградиента этих функций (см. рис) существенно отклоняется от направления в точку минимума, что приводит к замедлению скорости сходимости.


1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 |

Поиск по сайту:

Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав. Студалл.Орг (0.003 сек.)