Dichiarazioni disponibili sugli algoritmi genetici

Gli algoritmi genetici non ottengono molta trazione nel mondo della teoria, ma sono un metodo metauristico ragionevolmente ben utilizzato (per metaeuristico intendo una tecnica che si applica genericamente a molti problemi, come la ricottura, la discesa del gradiente e simili). In effetti, una tecnica simile a GA è abbastanza efficace per il TSP euclideo in pratica.

Alcune metaeuristiche sono ragionevolmente ben studiate teoricamente: c'è lavoro sulla ricerca locale e sulla ricottura. Abbiamo una buona idea di come funziona l'ottimizzazione alternata ( come k-medie ). Ma per quanto ne so, non c'è nulla di veramente utile noto sugli algoritmi genetici.

Esiste una solida teoria algoritmica / complessità sul comportamento degli algoritmi genetici, in qualche modo, forma o forma? Mentre ho sentito parlare di cose come la teoria dello schema , la escluderei dalla discussione basata sulla mia attuale comprensione dell'area per non essere particolarmente algoritmica (ma potrei sbagliarmi qui).

Y. Rabinovich, A. Wigderson. Tecniche per limitare il tasso di convergenza degli algoritmi genetici. Algoritmi di strutture casuali, vol. 14, n. 2, 111-138, 1999. (Disponibile anche dalla home page di Avi Wigderson )

Dai un'occhiata al lavoro di Benjamin Doerr del gruppo Algorithms di Max Planck (MPI). Si tratta solo di provare a dare un contributo dimostrabile agli algoritmi evolutivi.

In particolare, Doerr ha co-curato un recente libro pertinente, Theory of Randomized Search Heuristics

Oltre a lavorare sulla ricottura simulata, Ingo Wegener ha ottenuto alcuni risultati teorici sugli algoritmi evolutivi. Anche la tesi del suo dottorando Dirk Sudholt merita una visita.

Conosci questo documento:

Jens Jägersküpper. Combinazione di analisi della catena di Markov e analisi della deriva: l'algoritmo evolutivo (1 + 1) sulle funzioni lineari ricaricato .

$O(n\log n)$

Durante l'ultimo decennio, sono stati compiuti progressi significativi nell'analisi di runtime di algoritmi evolutivi, ottimizzazione delle colonie di formiche e altre metaeuristiche. Per un sondaggio, fare riferimento a Oliveto et al. (2007) .

$O^*(n^4)$

Controlla questi riferimenti:

Lothar Schmitt, Teoria degli algoritmi genetici II: modelli per operatori genetici sulla rappresentazione tensoriale di popolazioni e convergenza a optima globale per la funzione di fitness arbitraria in scala

Shiu Yin Yuen; BKS Cheung, Limiti per probabilità di successo dell'algoritmo genetico classico basato sulla distanza di martellamento

Chang CY Dorea; Judinor A. Guerra Jr .; Rafael Morgado; Andre GC Pereira, modellazione a catena multistrato di Markov dell'algoritmo genetico e risultati di convergenza

C. Dombry, un modello di camminata casuale ponderata. Applicazione a un algoritmo genetico

C'è anche un articolo di D. BHANDARI, CA MURTHY e SK PAL (purtroppo non disponibile online) che fornisce una prova di convergenza sotto due ipotesi:

• $t$$t+1$
• L'operatore di mutazione consente di passare da qualsiasi soluzione a un'altra in un numero finito di passaggi

La prova di convergenza utilizza un modello a catena Markov.

Qui il riferimento: Dinabandhu Bhandari, CA Murthy: algoritmo genetico con modello elitario e sua convergenza. IJPRAI 10 (6): 731-747 (1996)

I modelli matematici di algoritmi genetici con popolazioni finite ma non unitarie sono ingombranti e, finora, si sono rivelati inammissibili all'analisi per tutte le funzioni di fitness tranne la più banale. È interessante notare che, se si è disposti ad accettare un argomento di simmetria , un argomento, in altre parole, non fatto all'interno dei confini di un sistema assiomatico formale, allora c'è un risultato eccitante e bello da avere sul potere computazionale degli algoritmi genetici.

In particolare, un algoritmo genetico con crossover uniforme è in grado di valutare un gran numero di partizioni di schemi grossolani implicitamente e in parallelo e può identificare in modo efficiente partizioni i cui schemi costituenti hanno valori di fitness medi diversi. Questa forma di parallelismo implicito è in realtà più potente del tipo descritto da John Holland e dai suoi studenti e, diversamente dal parallelismo implicito descritto da Holland, può essere verificato sperimentalmente. (Vedi questo post sul blog.)

Il seguente documento spiega come algoritmi genetici con crossover uniforme paragonano il parallelismo implicito in un euristico di ottimizzazione globale per scopi generici chiamato hyperclimbing :

Spiegare l'ottimizzazione negli algoritmi genetici con crossover uniforme . Apparire negli atti della conferenza Foundations of Genetic Algorithms 2013.

(Dichiarazione di non responsabilità: sono l'autore del documento)

Raphael Cerf ha svolto la sua tesi di dottorato su algoritmi genetici a Montpellier sotto la supervisione di Alain Berlinet, da un punto di vista matematico. È piuttosto vecchio, ma probabilmente appartiene a qualsiasi bibliografia sugli algoritmi genetici.