Qual è la definizione di una rete neurale profonda? Perché sono così popolari o importanti?
Risposte:
Una rete neurale profonda (DNN) non è altro che una rete neurale che ha più livelli, in cui più può essere soggettiva.
IMHO, qualsiasi rete che ha 6 o 7 o più livelli è considerata profonda. Quindi, quanto sopra formerebbe una definizione di base di una rete profonda.
Le reti profonde hanno due differenze principali con le reti "normali".
Il primo è che la potenza computazionale e i set di dati di addestramento sono cresciuti immensamente, il che significa che è pratico gestire reti più grandi e statisticamente validi (vale a dire, abbiamo abbastanza esempi di addestramento da non incorrere in problemi di adattamento eccessivo con reti più grandi).
Il secondo è che la propagazione posteriore è limitata più livelli hai; ogni strato rappresenta un gradiente dell'errore, quindi quando uno è profondo circa sei strati non è rimasto molto errore per modificare i pesi dei neuroni. Ma ci si potrebbe ragionevolmente aspettare che i neuroni precedenti siano più importanti dei neuroni successivi, poiché rappresentano "concetti" più vicini agli input grezzi.
Nuove tecniche di formazione eludono questo problema, in genere facendo un apprendimento non supervisionato sugli input grezzi, creando "concetti" di livello superiore che sono quindi utili come input per l'apprendimento supervisionato.
(Ad esempio, considera il problema di determinare se un'immagine contenga o meno un gatto dai pixel. I primi strati della rete dovrebbero fare cose come rilevare i bordi, che ci si potrebbe aspettare di essere condivisi tra tutte le immagini e per lo più indipendenti da ciò si sta tentando di avere a che fare con gli strati di output, quindi anche difficile addestrare segnali "cat-not cat" su molti livelli.
Struttura generale di una rete neurale artificiale
Livello di input + livelli nascosti + livello di output
Se ci sono più strati nascosti nella rete neurale artificiale, la rete neurale viene chiamata rete neurale profonda. Quanti costituiscono esattamente una rete neurale profonda è un punto di discussione, ma in generale, più gli strati nascosti, la profondità è la rete neurale.
Venendo al motivo per cui sono così popolari o importanti, molti problemi come il rilevamento di oggetti, la classificazione, il riconoscimento facciale, il riconoscimento vocale sono stati risolti con l'avvento delle reti neurali profonde. Non è un'esagerazione affermare che, le prestazioni delle reti neurali profonde hanno attraversato anche le prestazioni umane in molti dei compiti sopra menzionati. Ciò significa che ora un computer è il migliore per eseguire le attività di cui sopra rispetto agli umani. Tutti i problemi di cui sopra giacciono nel campo della ricerca da quasi 5 decenni. Tutti sono stati risolti alla perfezione solo negli ultimi 4,5 anni solo grazie al successo delle reti neurali profonde. Ecco perché sono molto popolari e importanti. Ho citato pochissimi problemi su cui ho lavorato, ci sono molti compiti simili che le reti neurali profonde hanno risolto con facilità nell'ultimo decennio.
E, a questo punto nel tempo, molte persone in tutto il mondo stanno lavorando per risolvere innumerevoli applicazioni usando reti neurali profonde.