Quando l'apprendimento approfondito è eccessivo?

Ad esempio, per classificare le e-mail come spam, vale la pena - dal punto di vista del tempo / della precisione - applicare l'apprendimento profondo (se possibile) anziché un altro algoritmo di apprendimento automatico? L'apprendimento profondo renderà inutili altri algoritmi di apprendimento automatico come l' ingenua Bayes ?

Si tratta di Return On Investment . Se DL "vale la pena fare", non è eccessivo.

Se il costo dell'utilizzo di DL (cicli del computer, archiviazione, tempo di addestramento) è accettabile e i dati disponibili per la formazione sono abbondanti e se il vantaggio marginale rispetto agli algoritmi alternativi è prezioso, allora DL è una vittoria.

Ma, come suggerisci, se il tuo problema è suscettibile a metodi alternativi, specialmente se offre un segnale che si abbina bene a metodi classici come la regressione o Bayes ingenui, o il tuo problema richiede una spiegazione del perché il confine decisionale è dove si trova (ad es. alberi delle decisioni) o se i tuoi dati mancano dei gradienti continui richiesti da DL (in particolare, CNN) o se i tuoi dati variano nel tempo, il che richiederebbe una riqualificazione periodica (specialmente, a intervalli imprevedibili), probabilmente DL non è adatto a te.

Apprendimento profondo è potente, ma è non è un metodo superiore rispetto bayesiano. Funzionano bene in ciò per cui sono progettati:

Usa l'apprendimento profondo:

• Il costo per il calcolo è molto più economico del costo del campionamento (ad esempio: elaborazione del linguaggio naturale)
• Se hai problemi altamente non lineari
• Se si desidera semplificare l'ingegneria delle funzionalità
• Se non si dispone di una distribuzione precedente (ad esempio: impostazione dei pesi su gaussiano casuale). Oppure lo fai ma non ti dispiace la complessità.
• Se vuoi la precisione per la velocità (l'apprendimento profondo è lento)

Usa bayesiano ingenuo:

• Se si dispone di una distribuzione precedente che si desidera utilizzare
• Se si desidera aggiornare il proprio modello in modo rapido e semplice (in particolare modelli di prestigio)
• Se hai la tua funzione di probabilità e desideri "controllare" come funziona esattamente il modello
• Se si desidera modellare modelli gerarchici
• Se non si desidera modificare i parametri
• Se vuoi un modello più veloce, sia in allenamento che in esecuzione
• Se vuoi fare il presupposto di indipendenza
• Se vuoi evitare un eccesso di adattamento (è un modello molto semplice)