Метод покоординатного спуску з евристикою середньозваженого напрямку

Запропоновано евристику для методу покоординатного спуску, що істотно покращує збіжність методу на “поганих” для нього функціях. Описано теоретичне обґрунтування ефективності евристики. Запропоновано ефективну реалізацію методу покоординатного спуску з евристикою середньозваженого напрямку на мові програмування C++. На прикладі відомих тестових функцій експериментально отримано оцінки якості роботи досліджуваного методу порівняно з градієнтними методами та методом Розенброка. Показано сильні і слабкі сторони запропонованого методу. Зроблено висновки щодо доцільності використання методу в різних умовах.

Рік видання: 
2012
Номер: 
1
УДК: 
519.6
С. 69—75. Іл. 4. Табл. 6. Бібліогр.: 8 назв.
Література: 

1. Химмельблау Д. Прикладное нелинейное программирование. — М.: Мир, 1974. — 536 с.
2. Полак Э. Численные методы оптимизации. Единый подход. — М.: Мир, 1974. — 376 с.
3. Метод градієнтного спуску. — http://en.wikipedia.org/wiki Gradient_descent
4. Rosenbrock H.H. An automatic Method for finding the greatest or least Value of a Function // Computer Journal. — 1960. — N 3. — P. 175—184.
5. Касицкий А.В. Сравнение градиентных методов // Системные науки и кибернетика. — 2011. — № 1. — С. 42—55.
6. Касицкий А.В. Анализ сходимости метода Розенброка / /Системные технологии. — 2011. — № 6. — С. 35—43.
7. Метод покоординатного спуска. — http:/ /www.machinelearning.ru/wiki/index.php?title=Метод покоординатного спуска
8. Функция Розенброка. — http://en.wikipedia.org/wiki/ Rosenbrock_function

Текст статтіРозмір
2012-1-9.pdf312.49 КБ