Euristica per l'ottimizzazione

Dal momento che è venerdì, è tempo di una domanda CW. Sto cercando euristiche che hanno un ampio uso in problemi di ottimizzazione. Per limitare il campo di applicazione a euristiche più "teoriche", ecco le regole (alcune arbitrarie, altre no)

• Dovrebbe essere un metodo ben definito senza numerosi parametri e con un tempo di esecuzione concreto (forse per iterazione)
• Dovrebbe avere alcuni risultati teorici noti associati (velocità di convergenza, limiti di approssimazione se presenti, proprietà stazionarie e così via)
• Dovrebbe avere un'ampia applicabilità e almeno un'applicazione di punta in cui è il metodo di scelta o uno dei pochi.
• non dovrebbe essere ispirato dalla natura (mentre questa sembra un'obiezione frivola, sto cercando di escludere algoritmi genetici, ottimizzazione delle colonie di formiche e simili).

Le risposte dovrebbero idealmente essere nel seguente formato: ecco un esempio.

Nome : ottimizzazione alternata

Obiettivo : ridurre a icona una funzione (generalmente non convessa) $f(x,y)$

h ( y ) = min x f ( x , y $g(x) = \min_y f(x,y)$$h(y) = \min_x f(x,y)$

Algoritmo : iterazione inizia con . x i , y $i^{\text{th}}$$x_i, y_i$

1. $x_{i+1} \leftarrow \arg \min_x f(x, y_i)$
2. $y_{i+1} \leftarrow \arg\min_y f(x_{i+1}, y)$

App più conosciuta : -means, coppia più vicina iterata.$k$

Teoria : risultati noti sui mezzi , condizioni generali sufficienti per l'ottimalità globale del framework$k$

ps Potresti scoprire che la tua risposta finisce come una lezione in un seminario sugli algoritmi che sto pianificando :)

$\sum w(\theta)F(\theta)^2$$\theta\in R^n$$F(\theta) \in R^m$$w(\theta)\in R$


$L_p$