Statistiche e Big Data neural-networks

4

Differenza tra feedback RNN e LSTM / GRU

Sto cercando di comprendere diverse architetture di reti neurali ricorrenti (RNN) da applicare ai dati delle serie temporali e mi sto confondendo un po 'con i diversi nomi che vengono frequentemente utilizzati nella descrizione di RNN. La struttura della memoria a breve termine (LSTM) e della Gated Recurrent Unit (GRU) …

20 neural-networks lstm rnn

2

Nelle reti neurali, perché usare metodi a gradiente piuttosto che altre metaeuristiche?

Nell'addestramento di reti neurali profonde e superficiali, perché sono comunemente usati i metodi a gradiente (ad es. Discesa a gradiente, Nesterov, Newton-Raphson) rispetto ad altre metaeuristiche? Per metaeuristica intendo metodi come ricottura simulata, ottimizzazione delle colonie di formiche, ecc., Che sono stati sviluppati per evitare di rimanere bloccati in un …

20 neural-networks optimization deep-learning gradient-descent backpropagation

2

Quali metodi di ottimizzazione funzionano meglio per gli LSTM?

Ho usato theano per sperimentare LSTM e mi chiedevo quali metodi di ottimizzazione (SGD, Adagrad, Adadelta, RMSprop, Adam, ecc.) Funzionino meglio per gli LSTM? Ci sono articoli di ricerca su questo argomento? Inoltre, la risposta dipende dal tipo di applicazione per cui sto usando LSTM? In tal caso, sto usando …

20 machine-learning neural-networks optimization lstm

2

Perché la backpropagation non funziona quando si inizializzano i pesi con lo stesso valore?

Perché la backpropagation non funziona quando si inizializza tutto il peso con lo stesso valore (diciamo 0,5), ma funziona bene quando si danno numeri casuali? L'algoritmo non dovrebbe calcolare l'errore e funzionare da lì, nonostante il fatto che inizialmente i pesi siano gli stessi?

20 machine-learning neural-networks backpropagation

5

Apprendimento profondo: come faccio a sapere quali variabili sono importanti?

In termini di gergo della rete neurale (y = Peso * x + bias) come faccio a sapere quali variabili sono più importanti di altre? Ho una rete neurale con 10 input, 1 layer nascosto con 20 nodi e 1 layer di output con 1 nodo. Non sono sicuro di …

20 machine-learning neural-networks bias tensorflow theano

4

È una buona idea usare la CNN per classificare il segnale 1D?

Sto lavorando alla classificazione della fase del sonno. Ho letto alcuni articoli di ricerca su questo argomento, molti dei quali hanno utilizzato il metodo SVM o ensemble. È una buona idea utilizzare una rete neurale convoluzionale per classificare il segnale EEG monodimensionale? Sono nuovo di questo tipo di lavoro. Mi …

20 neural-networks svm conv-neural-network signal-processing

3

Utilizzo di RNN (LSTM) per prevedere i vettori della serie temporale (Theano)

Ho un problema molto semplice ma non riesco a trovare lo strumento giusto per risolverlo. Ho una sequenza di vettori della stessa lunghezza. Ora vorrei addestrare LSTM RNN sul treno campione di queste sequenze e poi farlo predire una nuova sequenza di vettori di lunghezza basata su diversi vettori di …

19 neural-networks python lstm

3

Importanza del nodo di polarizzazione nelle reti neurali

Sono curioso di sapere quanto sia importante il nodo di polarizzazione per l'efficacia delle moderne reti neurali. Posso facilmente capire che può essere importante in una rete poco profonda con solo poche variabili di input. Tuttavia, le moderne reti neurali come l'apprendimento profondo spesso hanno un gran numero di variabili …

19 neural-networks deep-learning bias-node

2

Come si possono utilizzare le reti neurali ricorrenti per la classificazione delle sequenze?

RNN può essere utilizzato per la previsione o il mapping da sequenza a sequenza. Ma come si può usare RNN per la classificazione? Voglio dire, diamo un'intera sequenza un'etichetta.

19 machine-learning neural-networks rnn

2

Cosa fanno i layer completamente connessi nelle CNN?

Comprendo i livelli convoluzionali e di raggruppamento, ma non riesco a vedere il motivo di un livello completamente connesso nelle CNN. Perché il livello precedente non è collegato direttamente al livello di output?

19 neural-networks deep-learning conv-neural-network

5

Come ricodificare la variabile categoriale in variabile numerica quando si utilizza SVM o Neural Network

Per utilizzare SVM o la rete neurale è necessario trasformare (codificare) le variabili categoriali in variabili numeriche, il metodo normale in questo caso è utilizzare 0-1 valori binari con il k-esimo valore categoriale trasformato in (0,0, .. ., 1,0, ... 0) (1 è sulla posizione k-esima). Esistono altri metodi per …

19 machine-learning neural-networks categorical-data svm categorical-encoding

2

Significato di una rete neurale come una scatola nera?

Sento spesso persone che parlano delle reti neurali come qualcosa di simile a una scatola nera che non capisci cosa fa o cosa significano. In realtà non riesco a capire cosa intendano con questo! Se capisci come funziona la retro-propagazione, allora come è una scatola nera? Significa che non capiamo …

19 machine-learning neural-networks

2

Algoritmo di backpropagation

Ho avuto una leggera confusione sull'algoritmo di backpropagation utilizzato nel perceptron multistrato (MLP). L'errore viene corretto dalla funzione di costo. In backpropagation, stiamo cercando di regolare il peso degli strati nascosti. L'errore di output che posso capire, vale a dire, e = d - y[senza gli abbonati]. Le domande sono: …

19 machine-learning neural-networks backpropagation

1

Costruzione ottimale della funzionalità giornaliera nelle reti neurali

Lavorando sul problema della regressione, ho iniziato a pensare alla rappresentazione della funzione "giorno della settimana". Mi chiedo quale approccio avrebbe prestazioni migliori: una caratteristica; valore 1/7 per lunedì; 2/7 per martedì ... 7 caratteristiche: (1, 0, 0, 0, 0, 0, 0) per lunedì; (0, 1, 0, 0, 0, 0, …

19 machine-learning neural-networks feature-construction

3

Le reti neurali apprendono una funzione o una funzione di densità di probabilità?

La domanda potrebbe sembrare un po 'strana perché sono nuovo nell'inferenza statistica e nelle reti neurali. Quando in problemi di classificazione usando le reti neurali diciamo che vogliamo imparare una funzione f∗f∗f^* che mappa lo spazio degli ingressi xxx , allo spazio delle uscite yyy : f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y …

19 machine-learning neural-networks

Domande taggate «neural-networks»