Метод покоординатного спуска с эвристикой средневзвешенного направления

Предложена эвристика для метода покоординатного спуска, существенно улучшающая сходимость метода на “плохих” для его функциях. Описано теоретическое обоснование эффективности эвристики. Предложена эффективная реализация метода покоординатного спуска с эвристикой средневзвешенного направления на языке программирования C++. На примере известных тестовых функций экспериментально получены оценки качества работы данного алгоритма по сравнению с градиентными методами и методом Розенброка. Показаны сильные и слабые стороны предложенного метода. Сделаны выводы о целесообразности использования алгоритма в различных условиях.

Год издания: 
2012
Номер: 
1
УДК: 
519.6
С. 69—75. Іл. 4. Табл. 6. Бібліогр.: 8 назв.
Литература: 

1. Химмельблау Д. Прикладное нелинейное программирование. — М.: Мир, 1974. — 536 с.
2. Полак Э. Численные методы оптимизации. Единый подход. — М.: Мир, 1974. — 376 с.
3. Метод градієнтного спуску. — http://en.wikipedia.org/wiki Gradient_descent
4. Rosenbrock H.H. An automatic Method for finding the greatest or least Value of a Function // Computer Journal. — 1960. — N 3. — P. 175—184.
5. Касицкий А.В. Сравнение градиентных методов // Системные науки и кибернетика. — 2011. — № 1. — С. 42—55.
6. Касицкий А.В. Анализ сходимости метода Розенброка / /Системные технологии. — 2011. — № 6. — С. 35—43.
7. Метод покоординатного спуска. — http:/ /www.machinelearning.ru/wiki/index.php?title=Метод покоординатного спуска
8. Функция Розенброка. — http://en.wikipedia.org/wiki/ Rosenbrock_function

Полнотекстовый документSize
2012-1-9.pdf312.49 KB