Scienza del computer neural-networks

1

Perché i pesi delle reti neurali sono inizializzati con numeri casuali?

Perché i pesi iniziali delle reti neurali sono inizializzati come numeri casuali? Avevo letto da qualche parte che questo è fatto per "rompere la simmetria" e questo fa sì che la rete neurale impari più velocemente. In che modo rompere la simmetria rende l'apprendimento più veloce? Inizializzare i pesi su …

9 machine-learning artificial-intelligence neural-networks

3

Trucco di kernel, per reti neurali

Ho imparato a conoscere reti neurali e SVM. I tutorial che ho letto hanno sottolineato l'importanza della kernelizzazione, per gli SVM. Senza una funzione del kernel, le SVM sono solo un classificatore lineare. Con la kernelizzazione, le SVM possono anche incorporare funzionalità non lineari, il che le rende un classificatore …

9 machine-learning artificial-intelligence neural-networks

1

Un algoritmo di rete neurale artificiale potrebbe essere espresso in termini di operazioni di riduzione della mappa?

Un algoritmo di rete neurale artificiale potrebbe essere espresso in termini di operazioni di riduzione della mappa? Sono anche interessato più in generale ai metodi di parallelizzazione applicati alle ANN e alla loro applicazione al cloud computing. Penso che un approccio implicherebbe l'esecuzione di un ANN completo su ciascun nodo …

9 parallel-computing artificial-intelligence neural-networks

1

Rete neurale divergente invece di convergere

Ho implementato una rete neurale (usando CUDA) con 2 livelli. (2 neuroni per strato). Sto cercando di far apprendere 2 semplici funzioni polinomiali quadratiche usando la backpropagation . Ma invece di convergere, è divergente (l'output sta diventando infinito) Ecco alcuni dettagli in più su ciò che ho provato: Avevo impostato …

9 machine-learning artificial-intelligence neural-networks

1

La funzione di attivazione dovrebbe essere monotona nelle reti neurali?

Molte funzioni di attivazione nelle reti neurali (sigmoide, tanh, softmax) sono monotone, continue e differenziabili (tranne che per un paio di punti, dove non esiste la derivata). Capisco il motivo della continuità e della differenziabilità, ma non riesco davvero a capire un motivo della monotonisità.

8 machine-learning neural-networks

1

Adattamento della rete neurale

In alcune occasioni ho addestrato reti neurali (reti di propagazione posteriore) con alcuni set di dati piuttosto complicati (posizioni di backgammon e OCR). Nel fare questo, sembra che gran parte del lavoro coinvolga la prova di diverse configurazioni delle reti, al fine di trovare la configurazione ottimale per l'apprendimento. Spesso …

8 machine-learning neural-networks learning-theory

2

Cosa si può imparare dai pesi in una rete neurale?

Sono molto nuovo alle reti neurali e ho cercato di capire alcune cose. Supponiamo quindi di imbatterti in una rete neurale che ha 100 input, un layer nascosto con 200 nodi e 32 output. Diciamo anche che tu, lo "scopritore" di questa particolare istanza di una rete neurale, sei in …

8 machine-learning neural-networks

1

Esiste un modo semplice per calcolare i pesi percettrici sulla base di un grafico di classificazione?

Sto studiando per un esame AI e sto cercando un modo migliore per risolvere il seguente problema: Il grafico mostra un problema di classificazione nel quadrato dell'unità , in cui la classe A è indicata dall'area grigia nella figura (esclusi i punti sulle linee tratteggiate) e la classe B si …

8 artificial-intelligence neural-networks

1

La differenza essenziale tra reti neurali spigolose e ANN di generazione precedente

Ho studiato Spiking Neural Networks online da vari articoli, principalmente Maass (1997) . Non sono del tutto sicuro di capire cosa rende il codice a impulsi di SNN in contrasto con le precedenti ANN che sono considerate rate-code. Ho un background in neuroscienze quindi capisco i termini e il rapporto, …

8 terminology artificial-intelligence neural-networks

Domande taggate «neural-networks»