Statistiche e Big Data neural-networks

2

Rete neurale: per la classificazione binaria utilizzare 1 o 2 neuroni in uscita?

Supponiamo di voler fare una classificazione binaria (qualcosa appartiene alla classe A o alla classe B). Esistono alcune possibilità per farlo nel livello di output di una rete neurale: Usa 1 nodo di output. L'uscita 0 (<0,5) è considerata in classe A e 1 (> = 0,5) è considerata in …

26 machine-learning classification neural-networks

1

La perdita di allenamento scende e sale di nuovo. Che cosa sta succedendo?

La mia perdita di allenamento diminuisce e poi aumenta di nuovo. È molto strano. La perdita di convalida incrociata tiene traccia della perdita di addestramento. Cosa sta succedendo? Ho due LSTMS in pila come segue (su Keras): model = Sequential() model.add(LSTM(512, return_sequences=True, input_shape=(len(X[0]), len(nd.char_indices)))) model.add(Dropout(0.2)) model.add(LSTM(512, return_sequences=False)) model.add(Dropout(0.2)) model.add(Dense(len(nd.categories))) model.add(Activation('sigmoid')) …

26 machine-learning neural-networks loss-functions lstm

4

Rete neurale con connessioni skip-layer

Sono interessato alla regressione con le reti neurali. Le reti neurali con zero nodi nascosti + connessioni skip-layer sono modelli lineari. Che dire delle stesse reti neurali ma con nodi nascosti? Mi chiedo quale sarebbe il ruolo delle connessioni skip-layer? Intuitivamente, direi che se includi le connessioni skip-layer, il modello …

26 regression machine-learning neural-networks deep-learning

8

Perché è così importante avere teorie di principio e matematiche per l'apprendimento automatico?

Mi chiedevo, perché è così importante avere l'apprendimento automatico di principio / teorico? Da una prospettiva personale come essere umano, posso capire perché l'apprendimento automatico basato sui principi sarebbe importante: agli umani piace capire cosa stanno facendo, troviamo bellezza e soddisfazione per la comprensione. dal punto di vista della teoria, …

25 machine-learning neural-networks conv-neural-network theory

5

Qual è la differenza tra reti neurali convoluzionali e apprendimento profondo?

Voglio usare il deep learning nel mio progetto. Ho esaminato un paio di articoli e mi è venuta una domanda: c'è qualche differenza tra la rete neurale di convoluzione e l'apprendimento profondo? Queste cose sono uguali o presentano differenze sostanziali e quale è meglio?

25 machine-learning neural-networks deep-learning terminology conv-neural-network

6

In che modo la rete neurale riconosce le immagini?

Questa domanda è stata migrata dallo Stack Overflow perché è possibile rispondere su Convalida incrociata. Migrato 7 anni fa . Sto cercando di imparare come funziona Neural Network sul riconoscimento delle immagini. Ho visto alcuni esempi e sono diventato ancora più confuso. Nell'esempio del riconoscimento di lettere di un'immagine 20x20, …

25 machine-learning neural-networks image-processing

6

Per problemi convessi, il gradiente in Discesa gradiente stocastica (SGD) indica sempre il valore estremo globale?

Data una funzione di costo convesso, usando SGD per l'ottimizzazione, avremo un gradiente (vettore) ad un certo punto durante il processo di ottimizzazione. La mia domanda è, dato il punto sul convesso, il gradiente punta solo nella direzione in cui la funzione aumenta / diminuisce più velocemente, oppure il gradiente …

25 neural-networks optimization gradient-descent sgd convex

10

Perché non scaricare le reti neurali e l'apprendimento profondo? [chiuso]

Chiuso . Questa domanda è basata sull'opinione . Al momento non accetta risposte. Vuoi migliorare questa domanda? Aggiorna la domanda in modo che possa essere risolta con fatti e citazioni modificando questo post . Chiuso 2 anni fa . Problema fondamentale con l'apprendimento profondo e le reti neurali in generale. …

25 machine-learning neural-networks svm deep-learning

3

Quali sono i vantaggi di impilare più LSTM?

Quali sono i vantaggi, perché si dovrebbero usare più LSTM, accatastati uno accanto all'altro, in una rete profonda? Sto usando un LSTM per rappresentare una sequenza di input come un singolo input. Quindi una volta che ho quella singola rappresentazione, perché dovrei passarla di nuovo? Lo sto chiedendo perché l'ho …

25 classification neural-networks deep-learning lstm rnn

1

Perché le unità lineari rettificate sono considerate non lineari?

Perché le funzioni di attivazione delle unità lineari rettificate (ReLU) sono considerate non lineari? f( x ) = max ( 0 , x )f(x)=max(0,x) f(x) = \max(0,x) Sono lineari quando l'input è positivo e dalla mia comprensione per sbloccare il potere rappresentativo delle reti profonde, le attivazioni non lineari sono …

25 neural-networks deep-learning

3

Qual è la ragione per cui Adam Optimizer è considerato robusto per il valore dei suoi iper parametri?

Stavo leggendo dell'ottimizzatore Adam per Deep Learning e mi sono imbattuto nella frase seguente nel nuovo libro Deep Learning di Bengio, Goodfellow e Courville: Adam è generalmente considerato abbastanza robusto per la scelta dei parametri iper, sebbene il tasso di apprendimento a volte debba essere modificato rispetto al valore predefinito …

24 neural-networks deep-learning optimization hyperparameter adam

4

Cosa possiamo imparare sul cervello umano dalle reti neurali artificiali?

So che la mia domanda / titolo non è molto specifica, quindi cercherò di chiarirla: Le reti neurali artificiali hanno progetti relativamente rigidi. Naturalmente, generalmente, sono influenzati dalla biologia e cercano di costruire un modello matematico di reti neurali reali, ma la nostra comprensione delle reti neurali reali non è …

24 machine-learning neural-networks bioinformatics artificial-intelligence neuroscience

2

I codificatori automatici non possono apprendere funzioni significative

Ho 50.000 immagini come queste due: Rappresentano grafici di dati. Volevo estrarre funzionalità da queste immagini, quindi ho usato il codice di autoencoder fornito da Theano (deeplearning.net). Il problema è che questi codificatori automatici non sembrano apprendere alcuna funzionalità. Ho provato RBM ed è lo stesso. Il set di dati …

24 machine-learning neural-networks feature-construction rbm autoencoders

2

In che modo la CNN "12" di Krizhevsky ottiene 253.440 neuroni nel primo strato?

In Alex Krizhevsky, et al. La classificazione di Imagenet con reti neurali profonde convoluzionali enumera il numero di neuroni in ogni strato (vedi diagramma sotto). L'input della rete è di 150.528 dimensioni e il numero di neuroni negli strati rimanenti della rete è dato da 253.440–186.624–64.896–64.896–43.264– 4096–4096–1000. Una vista 3D …

24 neural-networks deep-learning conv-neural-network

2

Qual è la differenza tra dropout e drop connect?

Qual è la differenza tra dropout e drop connect? AFAIK, il dropout rilascia casualmente nodi nascosti durante l'allenamento ma li mantiene in fase di test e drop connect rilascia connessioni. Ma eliminare le connessioni equivale a eliminare i nodi nascosti? I nodi (o le connessioni) non sono solo un insieme …

24 neural-networks dropout

Domande taggate «neural-networks»