Statistiche e Big Data

2

Stimatori di massima verosimiglianza - Gaussiano multivariato

Contesto Il gaussiano multivariato appare frequentemente in Machine Learning e i seguenti risultati sono utilizzati in molti libri e corsi ML senza derivazioni. Dati dati in forma di matrice di dimensioni , se assumiamo che i dati seguano una distribuzione gaussiana -variata con parametri mean ( ) e matrice di …

20 normal-distribution maximum-likelihood estimators multivariate-normal

3

Alberi potenziati con gradiente XGBoost vs Python Sklearn

Sto cercando di capire come funziona XGBoost. Capisco già come funzionano gli alberi con gradiente potenziato su Python sklearn. Ciò che non mi è chiaro è se XGBoost funziona allo stesso modo, ma più velocemente, o se ci sono differenze fondamentali tra esso e l'implementazione di Python. Quando ho letto …

20 scikit-learn boosting gbm xgboost

5

Apprendimento profondo: come faccio a sapere quali variabili sono importanti?

In termini di gergo della rete neurale (y = Peso * x + bias) come faccio a sapere quali variabili sono più importanti di altre? Ho una rete neurale con 10 input, 1 layer nascosto con 20 nodi e 1 layer di output con 1 nodo. Non sono sicuro di …

20 machine-learning neural-networks bias tensorflow theano

3

Quando gli algoritmi genetici sono una buona scelta per l'ottimizzazione?

Gli algoritmi genetici sono una forma di metodo di ottimizzazione. Spesso la discendenza stocastica a gradiente e i suoi derivati sono la scelta migliore per l'ottimizzazione delle funzioni, ma a volte vengono ancora utilizzati algoritmi genetici. Ad esempio, l'antenna del veicolo spaziale ST5 della NASA è stata creata con un …

20 machine-learning optimization gradient-descent genetic-algorithms

3

Perché i pesi delle reti RNN / LSTM sono condivisi nel tempo?

Di recente mi sono interessato agli LSTM e sono stato sorpreso di apprendere che i pesi sono condivisi nel tempo. So che se condividi i pesi nel tempo, le sequenze temporali di input possono avere una lunghezza variabile. Con i pesi condivisi hai molti meno parametri da allenare. Secondo la …

20 machine-learning lstm rnn

3

Intuizione per l'attesa condizionale di -algebra

Sia uno spazio di probabilità, data una variabile casuale e un -algebra possiamo costruire una nuova variabile casuale , che è l'aspettativa condizionale.( Ω , F , μ ) (Ω,F,μ)(\Omega,\mathscr{F},\mu)ξ : Ω → Rξ:Ω→R\xi:\Omega \to \mathbb{R} σ σ\sigmaG ⊆ FG⊆F\mathscr{G}\subseteq \mathscr{F} E [ ξ | G ]E[ξ|G]E[\xi|\mathscr{G}] Qual è esattamente …

20 probability conditional-probability conditional-expectation conditioning sigma-algebra

2

Qual è il significato del super script 2 subscript 2 nel contesto delle norme?

Sono nuovo di ottimizzazione. Continuo a vedere equazioni che hanno un apice 2 e un pedice 2 sul lato destro di una norma. Ad esempio, ecco l'equazione dei minimi quadrati min | | Ax-b | |22||Ax−b||22 ||Ax-b||^2_2 Penso di capire l'apice 2: significa quadrare il valore della norma. Ma qual …

20 regression optimization notation

3

Qual è la differenza tra errori e residui?

Mentre questi due termini onnipresenti sono spesso usati come sinonimi, a volte sembra esserci una distinzione. C'è davvero una differenza o sono esattamente sinonimi?

20 residuals error terminology

1

k-fold Convalida incrociata dell'apprendimento degli ensemble

Sono confuso su come partizionare i dati per la validazione incrociata k-fold dell'apprendimento d'insieme. Supponendo di avere un quadro di apprendimento dell'ensemble per la classificazione. Il mio primo livello contiene i modelli di classificazione, ad esempio svm, alberi decisionali. Il mio secondo livello contiene un modello di voto, che combina …

20 classification cross-validation ensemble

3

Errore di previsione previsto - derivazione

Faccio fatica a capire la derivazione dell'errore di predizione previsto per sotto (ESL), in particolare sulla derivazione di 2.11 e 2.12 (condizionamento, il passo verso il minimo puntuale). Eventuali puntatori o link molto apprezzati. Di seguito sto riportando l'estratto di ESL pag. 18. Le prime due equazioni sono, in ordine, …

20 regression prediction error

1

Supervisione a distanza: supervisionato, semi-supervisionato o entrambi?

La "supervisione a distanza" è uno schema di apprendimento in cui viene appreso un classificatore in base a un set di formazione debolmente etichettato (i dati di training vengono etichettati automaticamente in base a euristiche / regole). Penso che sia l'apprendimento supervisionato sia l'apprendimento semi-supervisionato possano includere tale "supervisione a …

20 machine-learning data-mining dataset references unsupervised-learning

1

Confronto tra SHAP (Shapley Additive Explanation) e LIME (Local Interpretable Model-Agnostic Explanations)

Sto leggendo su due popolari tecniche di interpretabilità del modello post hoc: LIME e SHAP Ho difficoltà a comprendere la differenza chiave in queste due tecniche. Per citare Scott Lundberg , il cervello dietro SHAP: I valori SHAP derivano dai vantaggi della stima locale della scatola nera di LIME, ma …

20 model-interpretation shapley-value lime

4

È una buona idea usare la CNN per classificare il segnale 1D?

Sto lavorando alla classificazione della fase del sonno. Ho letto alcuni articoli di ricerca su questo argomento, molti dei quali hanno utilizzato il metodo SVM o ensemble. È una buona idea utilizzare una rete neurale convoluzionale per classificare il segnale EEG monodimensionale? Sono nuovo di questo tipo di lavoro. Mi …

20 neural-networks svm conv-neural-network signal-processing

1

Quando si userebbe il campionamento di Gibbs invece di Metropolis-Hastings?

Esistono diversi tipi di algoritmi MCMC: Metropolis-Hastings Gibbs Campionamento di importanza / rifiuto (correlato). Perché si dovrebbe usare il campionamento di Gibbs invece di Metropolis-Hastings? Ho il sospetto che ci siano casi in cui l'inferenza è più trattabile con il campionamento di Gibbs che con Metropolis-Hastings, ma non sono chiaro …

20 bayesian simulation mcmc gibbs metropolis-hastings

1

Aiutami a capire il rapporto di probabilità aggiustato nella regressione logistica

Ho avuto difficoltà a capire l'uso della regressione logistica in un documento. Il documento disponibile qui utilizza la regressione logistica per prevedere la probabilità di complicanze durante la chirurgia della cataratta. Ciò che mi confonde è che il documento presenta un modello che assegna un rapporto di probabilità 1 alla …

20 logistic odds-ratio