[loroogle]Ищу библиотеку с реализацией алгоритма Левенберга Макларена

http://en.wikipedia.org/wiki/Levenberg-Marquardt_algorithm#Implementations

> Макларена

ohshi, OMFG

зы, хоть бы задачу сказал

Дык оптимизация же

>>более лучший, чем Левенберга

От задачи зависит, от пространства параметров. Если оно дискретное и многомерное, то градиентные методы нафиг не сдались.

знатаков

Придавись монографиями Зализняка.

Алгоритм имитации отжига тоже повсеместно применяется для решения задач многопараметрической оптимизации: http://ru.wikipedia.org/wiki/Алгоритм_имитации_отжига Он хорош в случаях, когда пространство решений непрерывно или число параметров, по которым проводится оптимизация, очень велико.

Если число параметров, по которым проводится оптимизация, невелико, то достаточно эффективны генетические алгоритмы.

Но есть одно «но». После выбора алгоритма как правило создаются стратегии/эвристики под данную конкретную задачу для обеспечения требуемой производительности. Сильно параметризованых библиотек, позволяющих, например, в случае ГА задавать различные стратегии отбора, операторы мутации, скрещивания и т. д., не встречал. Поэтому частенько приходилось реализовывать всё самому. Если кто знает библиотеки, реализующие многопоточные генетические алгоритмы и алгоритм имитации отжига, поделитесь информацией.

имитация отжига (и прочий метрополис) бородатая древность, и малоэффективен. В GSL, например, есть.

ГА на численных задачах не более чем игрушка, я считаю. PSO куда интереснее.

Дык оптимизация же

Оптимизация бывает существенно разная. Приведи пример задачи: размерность, сложность, характер распределения, коррелированность данных, известны ли производные (первая, вторая), какой оптимум нужен (локальный, глобальный или он в задаче один), ну и т.д.

>Ищу библиотеку

Есть даже целый язык AMPL для задач оптимизации.

> PSO

Ух ты. Буду знать.

Да полно. Если на фортране, то хотя бы DNLS1 из SLATEC.

А лучших полно, тут уже отписались. Если оставаться в рамках классических численных алгоритмов, посмотри на квазиньютоновские:

http://en.wikipedia.org/wiki/Quasi-Newton_method

Ах да,

Макларена

Стыд-то какой. Это который на самом деле Марквардт?

Ладно, у меня знакомая была, на лекциях по философии писала вместо Бэкона «Бэкхема».

> имитация отжига (и прочий метрополис) бородатая древность, и малоэффективен.

Можете посоветовать что-нибудь более эффективное в случае, когда число параметров, по которым проводится оптимизация > 100K? Да еще и не попадающее в локальные экстремумы. ГА, PSO не подходят по причине того, что в этом случае каждое решение в популяции будет занимать более 100 Мб.

В GSL, например, есть.

Посмотрел. Интересует именно многопоточная реализация. В идеале для распределённых вычислений.

> Можете посоветовать что-нибудь более эффективное в случае, когда число параметров, по которым проводится оптимизация > 100K? Да еще и не попадающее в локальные экстремумы. ГА, PSO не подходят по причине того, что в этом случае каждое решение в популяции будет занимать более 100 Мб.

Упрощай задачу.

Серьезно. Имитация отжига тем более не в состоянии решить такое.

Серьезно. Имитация отжига тем более не в состоянии решить такое.

Решает. И вполне эффективно. За счёт стратегии отбора элементов и планировщика понижения температуры.