Statistiche e Big Data

3

Come può la discesa stocastica del gradiente evitare il problema di un minimo locale?

So che la discesa gradiente stocastica ha un comportamento casuale, ma non so perché. C'è qualche spiegazione al riguardo?

19 machine-learning random-variable gradient-descent

1

Calibrazione di un classificatore potenziato multi-classe

Ho letto l'articolo di Alexandru Niculescu-Mizil e Rich Caruana "Come ottenere probabilità calibrate dall'aumento " e la discussione in questo thread. Tuttavia, ho ancora problemi a comprendere e implementare la logistica o il ridimensionamento di Platt per calibrare l'output del mio classificatore boosting multi-classe (boost delicato con blocchi di decisione). …

19 machine-learning boosting

5

Qual è la differenza tra "apprendimento di trasferimento" e "adattamento del dominio"?

C'è qualche differenza tra "apprendimento del trasferimento" e "adattamento del dominio"? Non conosco il contesto, ma la mia comprensione è che abbiamo un set di dati 1 e ci alleniamo su di esso, dopo di che abbiamo un altro set di dati 2 per il quale vogliamo adattare il nostro …

19 deep-learning terminology conv-neural-network transfer-learning domain-adaptation

3

Quando utilizzare gli effetti fissi rispetto all'utilizzo di cluster SE?

Supponiamo di avere una singola sezione trasversale di dati in cui gli individui si trovano all'interno di gruppi (ad esempio studenti all'interno delle scuole) e si desidera stimare un modello del modulo in Y_i = a + B*X_icui Xè un vettore di caratteristiche di livello individuale e auna costante. In …

19 econometrics multilevel-analysis fixed-effects-model endogeneity clustered-standard-errors

1

Che cos'è lo "spazio funzioni"?

Qual è la definizione di "spazio funzionalità"? Ad esempio, durante la lettura di SVM, ho letto di "mapping allo spazio delle caratteristiche". Durante la lettura di CART, ho letto di "partizionare nello spazio delle funzionalità". Capisco cosa sta succedendo, specialmente per CART, ma penso che ci sia qualche definizione che …

19 machine-learning svm feature-selection cart feature-construction

3

Le reti neurali apprendono una funzione o una funzione di densità di probabilità?

La domanda potrebbe sembrare un po 'strana perché sono nuovo nell'inferenza statistica e nelle reti neurali. Quando in problemi di classificazione usando le reti neurali diciamo che vogliamo imparare una funzione f∗f∗f^* che mappa lo spazio degli ingressi xxx , allo spazio delle uscite yyy : f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y …

19 machine-learning neural-networks

1

Quando scegliere SARSA vs. Q Learning

SARSA e Q Learning sono entrambi algoritmi di apprendimento per rinforzo che funzionano in modo simile. La differenza più evidente è che SARSA è in politica mentre Q Learning è fuori politica. Le regole di aggiornamento sono le seguenti: Q Learning: Q ( st, at) ← Q ( st, at) …

19 reinforcement-learning

3

In che modo la regressione logistica utilizza la distribuzione binomiale?

Sto cercando di capire come la regressione logistica utilizza la distribuzione binomiale. Diciamo che sto studiando il successo del nido negli uccelli. La probabilità che un nido abbia successo è 0,6. Usando la distribuzione binomiale, posso calcolare la probabilità di r successi dati n prove (numero di nidi studiati). Ma …

19 logistic binomial

4

Qual è la differenza tra Conv1D e Conv2D?

Stavo esaminando i documenti di convoluzione di keras e ho trovato due tipi di convulsioni Conv1D e Conv2D. Ho fatto qualche ricerca sul web e questo è ciò che capisco di Conv1D e Conv2D; Conv1D viene utilizzato per le sequenze e Conv2D utilizza per le immagini. Ho sempre pensato che …

19 machine-learning neural-networks conv-neural-network keras

4

Perché l'uso della pseudo-etichettatura influisce in modo non banale sui risultati?

Ho studiato metodi di apprendimento semi-supervisionati e mi sono imbattuto nel concetto di "pseudo-etichettatura". A quanto ho capito, con la pseudo-etichettatura hai una serie di dati etichettati e una serie di dati senza etichetta. Per prima cosa si addestra un modello solo sui dati etichettati. Quindi utilizzare tali dati iniziali …

19 machine-learning semi-supervised

1

Definizione matematica / algoritmica per overfitting

Esiste una definizione matematica o algoritmica di overfitting? Spesso le definizioni fornite sono il classico diagramma 2D di punti con una linea che attraversa ogni singolo punto e la curva di perdita di validazione sale improvvisamente. Ma esiste una definizione matematicamente rigorosa?

18 mathematical-statistics optimization overfitting

3

MCMC è senza memoria?

Sto cercando di capire quali sono le catene di Markov Monte Carlo (MCMC) dalla pagina Wikipedia francese. Dicono "che i metodi Monte Carlo della catena Markov consistono nel generare un vettore solo dai dati vettoriali , quindi è un processo" senza memoria ""Xioxix_ {i}Xi - 1xi−1x_ {i-1} I metodi di …

18 mcmc

3

La foresta casuale per la regressione è una regressione "vera"?

Le foreste casuali vengono utilizzate per la regressione. Tuttavia, da quello che ho capito, assegnano un valore target medio ad ogni foglia. Dato che ci sono solo foglie limitate in ogni albero, ci sono solo valori specifici che il target può raggiungere dal nostro modello di regressione. Quindi non è …

18 regression random-forest cart

2

LASSO soffre degli stessi problemi della regressione graduale?

I metodi di selezione delle variabili algoritmiche graduali tendono a selezionare per i modelli che influenzano più o meno ogni stima nei modelli di regressione ( e loro SE, valori p , statistiche F , ecc.) E hanno la probabilità di escludere predittori reali quanto includere falsi predittori secondo una …

18 regression feature-selection lasso regression-strategies stepwise-regression

1

Quando è stata la parola “polarizzazione” coniato per significare

Quando è stata coniata la parola "bias" per significare ?E [ θ^- θ ]E[θ^-θ]\mathbb{E}[\hat{\theta}-\theta] Il motivo per cui sto pensando a questo in questo momento è perché mi sembra di ricordare Jaynes, nel suo testo della teoria della probabilità , che criticava l'uso della parola "bias" usata per descrivere questa …

18 terminology bias history