Programmazione neural-network

9

Ordinazione di normalizzazione batch e abbandono?

La domanda originale riguardava specificamente le implementazioni di TensorFlow. Tuttavia, le risposte riguardano le implementazioni in generale. Questa risposta generale è anche la risposta corretta per TensorFlow. Quando si utilizza la normalizzazione batch e il dropout in TensorFlow (in particolare utilizzando i contrib.layers) devo essere preoccupato per l'ordine? Sembra possibile …

116 python neural-network tensorflow conv-neural-network

4

Tensorflow Strides Argument

Sto cercando di capire l' argomento strides in tf.nn.avg_pool, tf.nn.max_pool, tf.nn.conv2d. La documentazione dice ripetutamente strides: un elenco di int che ha lunghezza> = 4. Il passo della finestra scorrevole per ogni dimensione del tensore di input. Le mie domande sono: Cosa rappresenta ciascuno dei 4+ numeri interi? Perché devono …

115 python neural-network convolution tensorflow conv-neural-network

4

Pytorch, quali sono gli argomenti del gradiente

Sto leggendo la documentazione di PyTorch e ho trovato un esempio in cui scrivono gradients = torch.FloatTensor([0.1, 1.0, 0.0001]) y.backward(gradients) print(x.grad) dove x era una variabile iniziale, da cui è stato costruito y (un 3-vettore). La domanda è: quali sono gli argomenti 0.1, 1.0 e 0.0001 del tensore dei gradienti? …

112 neural-network gradient pytorch torch gradient-descent

3

Qual è la differenza tra sparse_softmax_cross_entropy_with_logits e softmax_cross_entropy_with_logits?

Recentemente mi sono imbattuto in tf.nn.sparse_softmax_cross_entropy_with_logits e non riesco a capire quale sia la differenza rispetto a tf.nn.softmax_cross_entropy_with_logits . L'unica differenza è che i vettori di addestramento ydevono essere codificati a caldo quando si usano sparse_softmax_cross_entropy_with_logits? Leggendo l'API, non sono riuscito a trovare altre differenze rispetto a softmax_cross_entropy_with_logits. Ma allora …

111 neural-network tensorflow softmax cross-entropy

16

Quali sono alcune buone risorse per conoscere le reti neurali artificiali? [chiuso]

Chiuso. Questa domanda non soddisfa le linee guida di Stack Overflow . Attualmente non accetta risposte. Vuoi migliorare questa domanda? Aggiorna la domanda in modo che sia in argomento per Stack Overflow. Chiuso 6 anni fa . Migliora questa domanda Sono davvero interessato alle reti neurali artificiali, ma sto cercando …

109 neural-network

2

Molti a uno e molti a molti esempi LSTM in Keras

Cerco di capire gli LSTM e come costruirli con Keras. Ho scoperto che ci sono principalmente le 4 modalità per eseguire un RNN (le 4 a destra nella foto) Fonte immagine: Andrej Karpathy Ora mi chiedo come sarebbe uno snippet di codice minimalista per ciascuno di essi in Keras. Quindi …

108 machine-learning neural-network deep-learning keras recurrent-neural-network

5

Qual è il ruolo di "Flatten" in Keras?

Sto cercando di capire il ruolo della Flattenfunzione in Keras. Di seguito è riportato il mio codice, che è una semplice rete a due strati. Accetta dati bidimensionali di forma (3, 2) e genera dati monodimensionali di forma (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3, 2))) model.add(Activation('relu')) model.add(Flatten()) model.add(Dense(4)) model.compile(loss='mean_squared_error', …

108 machine-learning tensorflow neural-network deep-learning keras

9

Come inizializzare i pesi in PyTorch?

Come inizializzare i pesi e i bias (ad esempio, con l'inizializzazione He o Xavier) in una rete in PyTorch?

106 python neural-network deep-learning pytorch

9

Perché i pesi delle reti neurali dovrebbero essere inizializzati su numeri casuali? [chiuso]

Chiuso. Questa domanda non soddisfa le linee guida di Stack Overflow . Attualmente non accetta risposte. Vuoi migliorare questa domanda? Aggiorna la domanda in modo che sia in argomento per Stack Overflow. Chiuso 3 giorni fa . Migliora questa domanda Sto cercando di costruire una rete neurale da zero. In …

105 machine-learning neural-network artificial-intelligence mathematical-optimization gradient-descent

4

architettura multi-layer perceptron (MLP): criteri per la scelta del numero di strati nascosti e la dimensione dello strato nascosto?

Se abbiamo 10 autovettori allora possiamo avere 10 nodi neurali nel livello di input.Se abbiamo 5 classi di output, allora possiamo avere 5 nodi nel livello di output.Ma quali sono i criteri per scegliere il numero di livelli nascosti in un MLP e quanti neurali nodi in 1 livello nascosto?

104 machine-learning neural-network deep-learning perceptron

6

Caricamento di un modello Keras addestrato e continua formazione

Mi chiedevo se fosse possibile salvare un modello Keras parzialmente addestrato e continuare l'addestramento dopo aver caricato nuovamente il modello. La ragione di ciò è che avrò più dati di addestramento in futuro e non voglio riaddestrare nuovamente l'intero modello. Le funzioni che sto utilizzando sono: #Partly train model model.fit(first_training, …

98 python tensorflow neural-network keras resuming-training

10

Come aggiungere le regolarizzazioni in TensorFlow?

Ho riscontrato in molti codici di reti neurali disponibili implementati utilizzando TensorFlow che i termini di regolarizzazione vengono spesso implementati aggiungendo manualmente un termine aggiuntivo al valore di perdita. Le mie domande sono: Esiste un modo di regolarizzazione più elegante o consigliato rispetto a farlo manualmente? Trovo anche che get_variableabbia …

94 python neural-network tensorflow deep-learning

6

PyTorch - contiguo ()

Stavo esaminando questo esempio di un modello di linguaggio LSTM su GitHub (collegamento) . Quello che fa in generale è abbastanza chiaro per me. Ma sto ancora lottando per capire cosa contiguous()fa la chiamata , che si verifica più volte nel codice. Ad esempio, nella riga 74/75 del codice di …

94 neural-network deep-learning lstm pytorch contiguous

5

Cause comuni di nans durante l'allenamento

Ho notato che NANviene introdotto un evento frequente durante l'allenamento . Spesso sembra essere introdotto da pesi nel prodotto interno / completamente connesso o strati di convoluzione che esplodono. Questo accade perché il calcolo del gradiente sta esplodendo? O è a causa dell'inizializzazione del peso (in tal caso, perché l'inizializzazione …

86 machine-learning neural-network deep-learning caffe gradient-descent

9

Perché la rete neurale prevede errori sui propri dati di allenamento?

Questa taglia è finita . Le risposte a questa domanda hanno diritto a un premio di reputazione di +150 . Il periodo di grazia di Bounty termina in 16 ore . sirjay sta cercando una risposta da una fonte attendibile . Ho realizzato una rete neurale LSTM (RNN) con apprendimento …

17 python tensorflow machine-learning keras neural-network

Domande taggate «neural-network»