Statistiche e Big Data neural-networks

1

Cross-Entropy o Log Likelihood nel livello Output

Ho letto questa pagina: http://neuralnetworksanddeeplearning.com/chap3.html e diceva che lo strato di output sigmoideo con entropia incrociata è abbastanza simile allo strato di output softmax con verosimiglianza logaritmica. cosa succede se utilizzo sigmoid con verosimiglianza log o softmax con entropia incrociata nel livello di output? va bene? perché vedo che c'è …

31 neural-networks maximum-likelihood softmax

2

Cosa ha appena imparato la mia rete neurale? Di quali funzionalità si preoccupa e perché?

Una rete neurale apprende le caratteristiche di un set di dati come mezzo per raggiungere qualche obiettivo. Al termine, potremmo voler sapere cosa ha appreso la rete neurale. Quali erano le caratteristiche e perché gliene importava. Qualcuno può dare alcuni riferimenti sul corpo del lavoro che riguarda questo problema?

30 neural-networks deep-learning

2

Reti neurali convoluzionali: i neuroni centrali non sono sovrarappresentati nell'output?

[Questa domanda è stata posta anche in caso di overflow dello stack] La domanda in breve Sto studiando reti neurali convoluzionali e credo che queste reti non trattino tutti i neuroni di input (pixel / parametri) in modo equivalente. Immagina di avere una rete profonda (molti livelli) che applica la …

30 machine-learning neural-networks convolution

6

Differenza tra rete di Bayes, rete neurale, albero decisionale e reti di Petri

Qual è la differenza tra rete neurale , rete bayesiana , albero decisionale e reti di Petri , anche se sono tutti modelli grafici e descrivono visivamente la relazione causa-effetto.

30 machine-learning neural-networks bayesian-network fuzzy

7

Pericolo di azzeramento di tutti i pesi iniziali in Backpropagation

Perché è pericoloso inizializzare i pesi con zeri? C'è un semplice esempio che lo dimostra?

30 neural-networks backpropagation

2

Cosa significa saturare le non linearità?

Stavo leggendo il documento ImageNet Classification con Deep Convolutional Neural Networks e nella sezione 3 dove spiegavano l'architettura della loro Convolutional Neural Network spiegavano come preferivano usare: non linearità non saturataf( x ) = m a x ( 0 , x ) .f(X)=mun'X(0,X).f(x) = max(0, x). perché era più veloce …

30 machine-learning neural-networks terminology conv-neural-network

3

Perché i nodi di polarizzazione sono utilizzati nelle reti neurali?

Perché i nodi di polarizzazione sono utilizzati nelle reti neurali? Quanti dovresti usare? In quali livelli dovresti usarli: tutti i livelli nascosti e il livello di output?

29 machine-learning neural-networks bias-node

5

Come gestire i dati gerarchici / nidificati nell'apprendimento automatico

Spiegherò il mio problema con un esempio. Supponiamo di voler prevedere il reddito di un individuo in base ad alcuni attributi: {Età, Genere, Paese, Regione, Città}. Hai un set di dati di allenamento come questo train <- data.frame(CountryID=c(1,1,1,1, 2,2,2,2, 3,3,3,3), RegionID=c(1,1,1,2, 3,3,4,4, 5,5,5,5), CityID=c(1,1,2,3, 4,5,6,6, 7,7,7,8), Age=c(23,48,62,63, 25,41,45,19, 37,41,31,50), Gender=factor(c("M","F","M","F", …

29 regression machine-learning multilevel-analysis correlation dataset spatial paired-comparisons cross-correlation clustering aic bic dependent-variable k-means mean standard-error measurement-error errors-in-variables regression multiple-regression pca linear-model dimensionality-reduction machine-learning neural-networks deep-learning conv-neural-network computer-vision clustering spss r weighted-data wilcoxon-signed-rank bayesian hierarchical-bayesian bugs stan distributions categorical-data variance ecology r survival regression r-squared descriptive-statistics cross-section maximum-likelihood factor-analysis likert r multiple-imputation propensity-scores distributions t-test logit probit z-test confidence-interval poisson-distribution deep-learning conv-neural-network residual-networks r survey wilcoxon-mann-whitney ranking kruskal-wallis bias loss-functions frequentist decision-theory risk machine-learning distributions normal-distribution multivariate-analysis inference dataset factor-analysis survey multilevel-analysis clinical-trials

3

R: Random Forest lancia NaN / Inf nell'errore di "richiamo della funzione esterna" nonostante nessuna NaN nel set di dati [chiuso]

Chiuso. Questa domanda è fuori tema . Al momento non accetta risposte. Vuoi migliorare questa domanda? Aggiorna la domanda in modo che sia in argomento per Cross Validated. Chiuso 2 anni fa . Sto usando il cursore per eseguire una foresta casuale convalidata in modo incrociato su un set di …

29 r random-forest caret regression prediction fitting social-science poisson-distribution distributions characteristic-function bayesian prior regression normal-distribution interaction nonparametric skewness svm standard-deviation standard-error regression-coefficients igraph natural-language word2vec word-embeddings regression machine-learning sampling r regression machine-learning random-forest ensemble sampling unbiased-estimator proof estimators mse probability conditional-probability bayes anova missing-data neural-networks recommender-system r confidence-interval sample multiple-imputation r time-series forecasting mase

4

Come è possibile che la perdita di validazione stia aumentando mentre aumenta anche l'accuratezza della validazione

Sto addestrando una semplice rete neurale sul set di dati CIFAR10. Dopo qualche tempo, la perdita di validazione ha iniziato ad aumentare, mentre aumenta anche l'accuratezza della validazione. La perdita e l'accuratezza del test continuano a migliorare. Com'è possibile? Sembra che se aumenta la perdita di validazione, l'accuratezza dovrebbe diminuire. …

28 neural-networks deep-learning conv-neural-network overfitting

3

Ora non si può dire che i modelli di apprendimento profondo siano interpretabili? Le funzionalità dei nodi?

Per i modelli statistici e di apprendimento automatico, esistono diversi livelli di interpretabilità: 1) l'algoritmo nel suo insieme, 2) parti dell'algoritmo in generale 3) parti dell'algoritmo su input particolari e questi tre livelli si dividono in due parti ciascuno, uno per l'allenamento e uno per la valutazione delle funzioni. Le …

27 neural-networks deep-learning interpretation

2

Funzione di perdita del coefficiente di dadi vs entropia crociata

Durante l'addestramento di reti neurali a segmentazione di pixel, come reti convoluzionali, come si decide di utilizzare la funzione di perdita tra entropia e la funzione di perdita a coefficiente di dadi? Mi rendo conto che questa è una domanda breve, ma non sono del tutto sicuro di quali altre …

27 neural-networks loss-functions cross-entropy

5

La rete neurale profonda può approssimare la moltiplicazione senza normalizzazione?

Supponiamo di voler fare una regressione per l' f = x * yutilizzo semplice di una rete neurale profonda standardizzata. Ricordo che ci sono delle ricerche che dicono che NN con uno strato hiden può apoximare qualsiasi funzione, ma ho provato e senza normalizzazione NN non è stato in grado …

27 regression machine-learning neural-networks deep-learning

1

Che cos'è uno studio sull'ablazione? E c'è un modo sistematico per eseguirlo?

Che cos'è uno studio sull'ablazione? E c'è un modo sistematico per eseguirlo? Ad esempio, ho predittori in una regressione lineare che chiamerò come modello.nnn Come eseguirò uno studio di ablazione a questo? Quali metriche dovrei usare? Una fonte completa o un libro di testo sarebbe apprezzato.

27 regression machine-learning neural-networks

1

Perché le funzioni di attivazione non centrate sullo zero sono un problema nella backpropagation?

Ho letto qui il seguente: Le uscite Sigmoid non sono centrate sullo zero . Ciò è indesiderabile poiché i neuroni nei livelli successivi di elaborazione in una rete neurale (ne parleremo presto) riceveranno dati che non sono centrati sullo zero. Ciò ha implicazioni sulla dinamica durante la discesa del gradiente, …

26 neural-networks deep-learning backpropagation

Domande taggate «neural-networks»