In che modo gli algoritmi evolutivi presentano vantaggi rispetto ai metodi convenzionali di backpropagation?

In che modo l'impiego di algoritmi evolutivi per progettare e formare reti neurali artificiali presenta vantaggi rispetto all'uso degli algoritmi di backpropagation convenzionali?

A differenza della backpropagation, gli algoritmi evolutivi non richiedono che la funzione obiettivo sia differenziale rispetto ai parametri che si desidera ottimizzare. Di conseguenza, è possibile ottimizzare "più cose" nella rete, come funzioni di attivazione o numero di livelli, cosa impossibile nella backpropagation standard.

Un altro vantaggio è che definendo le funzioni di mutazione e crossover, è possibile influenzare il modo in cui esplorare lo spazio di ricerca dei parametri.

Oltre alla risposta di Franck, potrebbero esserci optima migliori (anche optima globali) che esistono nella direzione opposta al gradiente (che può essere nella direzione di alcuni optima locali). Gli algoritmi evolutivi hanno lo scopo di cercare l'area circostante, mentre la backpropagation si sposterà sempre nella direzione del gradiente. Senza alcuna garanzia (a causa della loro casualità), gli algoritmi evolutivi potrebbero essere in grado di trovare soluzioni che la backpropagation semplicemente non può.