Scienza dei dati deep-learning

3

Mi chiedo in quali situazioni è vantaggioso impilare gli LSTM?

14 machine-learning neural-network deep-learning lstm

3

Come usare LeakyRelu come funzione di attivazione in sequenza DNN in keras? Quando si perfeziona meglio di Relu?

Come si usa LeakyRelu come funzione di attivazione nella sequenza DNN in keras? Se voglio scrivere qualcosa di simile a: model = Sequential() model.add(Dense(90, activation='LeakyRelu')) Qual'è la soluzione? Metti LeakyRelu simile a Relu? La seconda domanda è: quali sono le migliori impostazioni generali per l'ottimizzazione dei parametri di LeakyRelu? Quando …

14 deep-learning keras activation-function

1

Qual è la differenza tra upsampling e upsampling bi-lineare in una CNN?

Sto cercando di capire questo documento e non sono sicuro di cosa sia il upsampling bi-lineare. Qualcuno può spiegare questo ad alto livello? https://arxiv.org/abs/1606.00915

13 deep-learning convnet cnn convolution

4

La pendenza del gradiente è centrale per ogni ottimizzatore?

Voglio sapere se la discesa gradiente è l'algoritmo principale utilizzato negli ottimizzatori come Adam, Adagrad, RMSProp e molti altri ottimizzatori.

13 machine-learning neural-network deep-learning optimization gradient-descent

2

Visualizzazione della formazione di reti neurali profonde

Sto cercando di trovare un equivalente dei diagrammi di Hinton per le reti multistrato per tracciare i pesi durante l'allenamento. La rete addestrata è in qualche modo simile a un Deep SRN, cioè ha un numero elevato di matrici a peso multiplo che renderebbero visivamente confuso il diagramma simultaneo di …

13 machine-learning neural-network visualization deep-learning

4

Perché l'aggiunta di un livello di dropout migliora le prestazioni di deep / machine learning, dato che il dropout elimina alcuni neuroni dal modello?

Se la rimozione di alcuni neuroni si traduce in un modello con prestazioni migliori, perché non utilizzare in primo luogo una rete neurale più semplice con meno strati e meno neuroni? Perché costruire un modello più grande e complicato all'inizio e sopprimerne parti in seguito?

13 machine-learning deep-learning keras regularization dropout

3

Perché le convoluzioni usano sempre i numeri dispari come filter_size

Se diamo uno sguardo al 90-99% dei lavori pubblicati utilizzando una CNN (ConvNet). La stragrande maggioranza di essi utilizza le dimensioni del filtro per i numeri dispari : {1, 3, 5, 7} per i più utilizzati. Questa situazione può comportare alcuni problemi: con queste dimensioni di filtro, di solito l'operazione …

13 deep-learning convnet computer-vision convolution

2

Perché l'inizializzazione di pesi e distorsioni dovrebbe essere scelta intorno a 0?

Ho letto questo: Per addestrare la nostra rete neurale, inizializzeremo ogni parametro W (l) ijWij (l) e ogni b (l) ibi (l) su un piccolo valore casuale vicino allo zero (diciamo secondo un normale (0, ϵ2) normale (0 , ϵ2) distribuzione per alcuni piccoli ϵϵ, diciamo 0.01) da Stanford Tutorial …

13 deep-learning stanford-nlp randomized-algorithms

1

Che cos'è uno strato convoluzionale 1D nell'apprendimento profondo?

Ho una buona comprensione generale del ruolo e del meccanismo dei livelli convoluzionali in Deep Learning per l'elaborazione delle immagini in caso di implementazioni 2D o 3D: "semplicemente" cercano di catturare modelli 2D nelle immagini (in 3 canali in caso di 3D). Ma recentemente mi sono imbattuto in strati convoluzionali …

13 deep-learning nlp convolution

3

Dovrei usare GPU o CPU per deduzione?

Sto gestendo una rete neurale di apprendimento profondo che è stata addestrata da una GPU. Ora voglio distribuire questo a più host per deduzione. La domanda è: quali sono le condizioni per decidere se dovrei usare GPU o CPU per deduzione? Aggiunta di maggiori dettagli dai commenti qui sotto. Sono …

13 deep-learning gpu

4

Intervallo di previsione attorno alla previsione delle serie temporali LSTM

Esiste un metodo per calcolare l'intervallo di previsione (distribuzione di probabilità) attorno a una previsione di serie temporali da una rete neurale LSTM (o altra rete ricorrente)? Supponiamo, ad esempio, che prevedo 10 campioni nel futuro (da t + 1 a t + 10), in base agli ultimi 10 campioni …

13 machine-learning deep-learning time-series prediction lstm

3

In che modo le NN di deep learning ora sono diverse (2016) da quelle che ho studiato solo 4 anni fa (2012)?

In Wikipedia e deeplearning4j si dice che i deep learning NN (DLNN) sono NN che hanno> 1 layer nascosto. Per me questo tipo di NN era standard all'università, mentre DLNN è molto entusiasta in questo momento. Ci sono stato, fatto - qual è il grosso problema? Ho sentito anche che …

13 neural-network deep-learning

2

È possibile modificare la metrica utilizzata dal callback di Early Stopping in Keras?

Quando si utilizza il callback con arresto anticipato in Keras, l'allenamento si interrompe quando alcune metriche (generalmente perdita di convalida) non aumentano. Esiste un modo per utilizzare un'altra metrica (come precisione, richiamo, misura f) anziché perdita di convalida? Tutti gli esempi che ho visto finora sono simili a questo: callbacks.EarlyStopping …

13 machine-learning neural-network deep-learning keras

2

Aggiornamento dei pesi dei filtri in una CNN

Attualmente sto cercando di capire l'architettura di una CNN. Comprendo la convoluzione, il livello ReLU, il livello di pooling e il livello completamente connesso. Tuttavia, sono ancora confuso riguardo ai pesi. In una normale rete neurale, ogni neurone ha il suo peso. Nello strato completamente connesso, ogni neurone avrebbe anche …

13 machine-learning neural-network deep-learning image-classification cnn

1

Apprendimento multi-task in Keras

Sto cercando di implementare livelli condivisi in Keras. Vedo che Keras ha keras.layers.concatenate, ma non sono sicuro della documentazione sul suo utilizzo. Posso usarlo per creare più livelli condivisi? Quale sarebbe il modo migliore per implementare una semplice rete neurale condivisa come mostrato di seguito usando Keras? Si noti che …

12 machine-learning neural-network deep-learning keras multitask-learning

Domande taggate «deep-learning»