Domande taggate «backpropagation»

Utilizzare per domande sulla Backpropagation, che viene comunemente utilizzata nell'addestramento di reti neurali insieme a un metodo di ottimizzazione come la discesa del gradiente.

3
Backprop attraverso i livelli di pooling massimo?
Questa è una piccola domanda concettuale che mi assilla da un po 'di tempo: come possiamo propagare indietro attraverso uno strato di max pooling in una rete neurale? Mi sono imbattuto nei livelli di max pooling durante questa esercitazione per la libreria nn di Torch 7. La libreria estrae il …
1
Deep Neural Network - Backpropogation con ReLU
Sto incontrando qualche difficoltà nel ricavare la propagazione indietro con ReLU e ho fatto un po 'di lavoro, ma non sono sicuro di essere sulla strada giusta. Funzione di costo: dove è il valore reale e è un valore previsto. Supponi anche che > 0 sempre.y y x12(y−y^)212(y−y^)2\frac{1}{2}(y-\hat y)^2yyyy^y^\hat yxxx …
1
propagazione indietro nella CNN
Ho la seguente CNN: Comincio con un'immagine di input di dimensioni 5x5 Quindi applico la convoluzione usando il kernel 2x2 e stride = 1, che produce una mappa delle caratteristiche di dimensioni 4x4. Quindi applico 2x2 max-pooling con stride = 2, che riduce la mappa delle caratteristiche a dimensioni 2x2. …
3
Come fare il prodotto interno in lotti a Tensorflow?
Ho due tensori a:[batch_size, dim] b:[batch_size, dim]. Voglio fare un prodotto interno per ogni coppia nel lotto, generando c:[batch_size, 1], dove c[i,0]=a[i,:].T*b[i,:]. Come?
10 tensorflow  scikit-learn  svm  cross-validation  feature-selection  bayesian  machine-learning  decision-trees  parameter-estimation  neural-network  convnet  neural-network  regularization  visualization  machine-learning  similarity  python  pandas  indexing  r  data-cleaning  machine-learning  predictive-modeling  data-cleaning  recommender-system  python  sequential-pattern-mining  software-recommendation  r  visualization  gaussian  distribution  machine-learning  data-mining  bigdata  apache-hadoop  predictive-modeling  logistic-regression  sampling  machine-learning  regression  feature-selection  mongodb  neural-network  inception  machine-learning  classification  dataset  databases  logistic-regression  deep-learning  backpropagation  classification  data-mining  multilabel-classification  text-mining  data-cleaning  unsupervised-learning  anomaly-detection  python  r  python  pandas 
2
Gradienti sintetici: qual è il vantaggio pratico?
Riesco a vedere due motivi per usare i gradienti sintetici in RNN: Per accelerare l'allenamento, correggendo immediatamente ogni strato con gradiente previsto Essere in grado di apprendere sequenze più lunghe Vedo problemi con entrambi. Tieni presente che mi piacciono molto i gradienti sintetici e vorrei implementarli. Ma devo capire dove …
1
Come applicare il gradiente di softmax nel backprop
Di recente ho fatto i compiti in cui ho dovuto imparare un modello per la classificazione a 10 cifre MNIST. L'HW aveva del codice per le impalcature e avrei dovuto lavorare nel contesto di questo codice. I miei compiti funzionano / superano i test, ma ora sto provando a fare …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.