Scienza dei dati deep-learning

3

Arresto anticipato sulla perdita di convalida o sulla precisione?

Attualmente sto addestrando una rete neurale e non riesco a decidere quale utilizzare per implementare i miei criteri di arresto anticipato: perdita di convalida o metriche come accuratezza / f1score / auc / qualunque cosa calcolata sul set di convalida. Nella mia ricerca, ho trovato articoli a difesa di entrambi …

10 machine-learning neural-network deep-learning classification

1

Utilizzo di RNN (LSTM) per il sistema di riconoscimento dei gesti

Sto cercando di costruire un sistema di riconoscimento dei gesti per classificare i gesti ASL (American Sign Language) , quindi il mio input dovrebbe essere una sequenza di fotogrammi da una telecamera o da un file video, quindi rileva la sequenza e la mappa sulla corrispondente lezione (dormire, aiutare, mangiare, …

10 neural-network deep-learning keras rnn lstm

5

Segmentazione delle immagini senza supervisione

Sto provando a implementare un algoritmo in cui data un'immagine con diversi oggetti su una tabella piana, desiderato è l'output di maschere di segmentazione per ogni oggetto. A differenza della CNN, l'obiettivo qui è quello di rilevare oggetti in un ambiente sconosciuto. Quali sono gli approcci migliori a questo problema? …

10 machine-learning deep-learning cnn computer-vision object-detection

1

Keras LSTM con serie storiche 1D

Sto imparando a usare Keras e ho avuto un discreto successo con il mio set di dati con etichetta usando gli esempi di Deep Learning for Python di Chollet . Il set di dati è ~ 1000 serie storiche con lunghezza 3125 con 3 potenziali classi. Vorrei andare oltre i …

10 python deep-learning time-series lstm rnn

1

Che cos'è il "nuovo algoritmo di apprendimento del rinforzo" in AlphaGo Zero?

Per qualche ragione, AlphaGo Zero non sta ottenendo la stessa pubblicità dell'originale AlphaGo, nonostante i suoi incredibili risultati. A partire da zero, ha già battuto AlphaGo Master e ha superato numerosi altri benchmark. Ancora più incredibilmente, lo ha fatto in 40 giorni. Google lo definisce "probabilmente il miglior giocatore Go …

10 machine-learning deep-learning

1

Rimodellamento dei dati per l'apprendimento profondo mediante Keras

Sono un principiante di Keras e ho iniziato con l'esempio MNIST per capire come funziona effettivamente la libreria. Lo snippet di codice del problema MNIST nella cartella di esempio di Keras è dato come: import numpy as np np.random.seed(1337) # for reproducibility from keras.datasets import mnist from keras.models import Sequential …

10 python neural-network deep-learning keras

1

Trasformazione dei codificatori automatici

Ho appena letto il documento di Geoff Hinton sulla trasformazione dei codificatori automatici Hinton, Krizhevsky e Wang: Transforming Auto-encoder . In reti neurali artificiali e apprendimento automatico, 2011. e mi piacerebbe davvero giocare con qualcosa del genere. Ma dopo averlo letto non ho potuto ottenere abbastanza dettagli dall'articolo su come …

10 neural-network deep-learning autoencoder

2

Quali sono le differenze tra Convolutional1D, Convolutional2D e Convolutional3D?

Ho imparato a conoscere le reti neurali convoluzionali. Guardando Kerasesempi, mi sono imbattuto in tre diversi metodi di convoluzione. Vale a dire, 1D, 2D e 3D. Quali sono le differenze tra questi tre strati? Quali sono i loro casi d'uso? Ci sono alcuni link o riferimenti per mostrare i loro …

10 machine-learning neural-network deep-learning keras cnn

2

Ordina i numeri usando solo 2 livelli nascosti

Sto leggendo l'articolo chiave Sequence to Sequence Learning con Neural Networks di Ilya Sutskever e Quoc Le. Nella prima pagina, menziona brevemente che: A surprising example of the power of DNNs is their ability to sort N N-bit numbers using only 2 hidden layers of quadratic size Qualcuno può delineare …

10 deep-learning

4

Perché accelera la discesa del gradiente se la funzione è fluida?

Ora ho letto un libro intitolato "Apprendimento automatico pratico con Scikit-Learn e TensorFlow" e nel capitolo 11, ha la seguente descrizione sulla spiegazione di ELU (Exponential ReLU). In terzo luogo, la funzione è fluida ovunque, incluso intorno a z = 0, il che aiuta ad accelerare la discesa del gradiente, …

10 deep-learning gradient-descent

1

Perché TensorFlow non può adattarsi al semplice modello lineare se sto minimizzando l'errore medio assoluto invece dell'errore quadrato medio?

In Introduzione sono appena cambiato loss = tf.reduce_mean(tf.square(y - y_data)) per loss = tf.reduce_mean(tf.abs(y - y_data)) e il modello non è in grado di apprendere che la perdita è diventata più grande con il tempo. Perché?

10 neural-network deep-learning tensorflow

2

Relu ha un gradiente 0 per definizione, quindi perché il gradiente svanire non è un problema per x <0?

Per definizione, Relu è max(0,f(x)). Poi la sua pendenza è definito come: 1 if x > 0 and 0 if x < 0. Questo non significherebbe che il gradiente è sempre 0 (svanisce) quando x <0? Allora perché diciamo che Relu non soffre del problema svanire gradiente?

10 deep-learning

1

COME: Inizializzazione del peso della rete neurale profonda

Dato il difficile compito di apprendimento (ad es. Alta dimensionalità, complessità intrinseca dei dati), le reti neurali profonde diventano difficili da addestrare. Per alleviare molti dei problemi si potrebbe: Normalizza && seleziona manualmente i dati di qualità scegliere un algoritmo di allenamento diverso (ad es. RMSprop invece di Discesa gradiente) …

10 machine-learning neural-network deep-learning randomized-algorithms

1

Come posso calcolare il termine delta di uno strato convoluzionale, dati i termini delta e i pesi del precedente strato convoluzionale?

Sto cercando di formare una rete neurale artificiale con due strati convoluzionali (c1, c2) e due strati nascosti (c1, c2). Sto usando l'approccio standard di backpropagation. Nel passaggio indietro calcolo il termine di errore di un livello (delta) in base all'errore del livello precedente, ai pesi del livello precedente e …

10 machine-learning data-mining neural-network deep-learning

2

La normalizzazione batch ha senso per una funzione di attivazione ReLU?

La normalizzazione in lotti è descritta in questo documento come una normalizzazione dell'input in una funzione di attivazione con variabili di scala e spostamentoγγ\gamma e ββ\beta. Questo documento descrive principalmente l'uso della funzione di attivazione sigmoid, che ha senso. Tuttavia, mi sembra che alimentare un input dalla distribuzione normalizzata prodotta …

10 machine-learning neural-network deep-learning batch-normalization

Domande taggate «deep-learning»