differenza tra rete neurale e apprendimento profondo

10

In termini di differenza tra la rete neurale e il deep learning, possiamo elencare diversi elementi, come sono inclusi più livelli, un set di dati di massa, un potente hardware per rendere possibile l'addestramento di modelli complicati.

Oltre a questi, ci sono spiegazioni più dettagliate riguardo alla differenza tra NN e DL?

— user3269
fonte

3

Per quanto ne so, è sufficiente avere diversi livelli nascosti per rendere "profonda" una rete; più dati e computer più grandi sono più un sintomo della crescente disponibilità di entrambi per le attività di apprendimento automatico.

— Sycorax dice di reintegrare Monica il

Forse questa domanda dovrebbe essere migrata al nuovo scambio di stack di intelligenza artificiale ?

— WilliamKF,

2

@WilliamKF Questo è assolutamente in argomento qui.

— Sycorax dice di reintegrare Monica il

7

Apprendimento profondo = reti neurali artificiali profonde + altri tipi di modelli profondi .

Reti neurali artificiali profonde = reti neurali artificiali con più di 1 strato. (vedi il numero minimo di strati in una rete neurale profonda )

— Franck Dernoncourt
fonte

4

Frank Dernoncourt ha una migliore risposta per scopi generali, ma penso che valga la pena menzionare che quando le persone usano il termine generale "Deep Learning" spesso implicano l'uso di tecniche recenti, come la convoluzione, che non troveresti nella vecchia / tradizionale reti neurali (completamente connesse). Per i problemi di riconoscimento delle immagini, la convoluzione può consentire reti neurali più profonde poiché i neuroni / filtri contorti riducono in qualche modo il rischio di sovralimentazione condividendo i pesi.

— Ryan Zotti
fonte

1

Le reti neurali con molti strati sono architetture profonde.

Tuttavia, l'algoritmo di apprendimento di backpropagation utilizzato nelle reti neurali non funziona bene quando la rete è molto profonda. Le architetture di apprendimento in architetture profonde ("apprendimento profondo") devono affrontare questo problema. Ad esempio, le macchine Boltzmann usano invece un algoritmo di apprendimento contrastante.

Arrivare con un'architettura profonda è facile. È stato difficile trovare un algoritmo di apprendimento che funzioni bene per un'architettura profonda.

— Neil G
fonte

Ma sembra che l'algoritmo di backpropagation sia ancora usato per addestrare rete di conv e reti ricorrenti, anche se sfruttano alcune tecniche di ottimizzazione numerica di recente sviluppo, come la normalizzazione batch.

— user3269

@ user3269 la normalizzazione batch e il dropout sono esempi di modifiche all'algoritmo di apprendimento per cercare di farli funzionare bene in architetture profonde.

— Neil G,

0

L'apprendimento profondo richiede una rete neurale con più livelli: ogni livello effettua trasformazioni matematiche e si inserisce nel livello successivo. L'output dell'ultimo layer è la decisione della rete per un determinato input. I livelli tra il livello di input e output sono chiamati layer nascosti.

Una rete neurale di apprendimento profondo è una massiccia raccolta di percetroni interconnessi in strati. I pesi e la tendenza di ciascun percettrone nella rete influenzano la natura della decisione di uscita dell'intera rete. In una rete neurale perfettamente sintonizzata, tutti i valori di pesi e distorsioni di tutto il percettrone sono tali che la decisione di output è sempre corretta (come previsto) per tutti i possibili input. Come sono configurati i pesi e la distorsione? Questo accade iterativamente durante l'allenamento della rete, chiamato deep learning. (Sharad Gandhi)

— Muhammed Shakir Misarwala
fonte