Statistiche e Big Data

2

Mostrando l'equivalenza tra il Norm regolarizzata regressione e Norm Constrained Regressione Utilizzando KKT

Secondo i riferimenti libro 1 , libro 2 e carta . È stato menzionato che esiste un'equivalenza tra la regressione regolarizzata (Ridge, LASSO e Elastic Net) e le loro formule di vincolo. Ho anche esaminato Cross Validated 1 e Cross Validated 2 , ma non riesco a vedere una risposta …

11 regression optimization lasso ridge-regression elastic-net

4

Inferenza senza rischio: cosa significa?

Di recente sono venuto a conoscenza del fatto che i metodi "privi di probabilità" sono stati banditi in letteratura. Tuttavia, non sono chiaro su cosa significhi che un metodo di inferenza o ottimizzazione sia privo di probabilità . Nell'apprendimento automatico l'obiettivo è di solito massimizzare la probabilità di alcuni parametri …

11 machine-learning deep-learning maximum-likelihood generative-models abc

2

Il campionamento di Gibbs è un metodo MCMC?

Per quanto ho capito, è (almeno, così è come lo definisce Wikipedia ). Ma ho trovato questa affermazione di Efron * (enfasi aggiunta): La catena di Markov Monte Carlo (MCMC) è la grande storia di successo delle moderne statistiche bayesiane. MCMC, e il suo metodo gemello "Gibbs sampling", consentono il …

11 mcmc gibbs

5

Gli intervalli di confidenza sono utili?

Nelle statistiche del frequentista, un intervallo di confidenza al 95% è una procedura che produce intervalli che, se ripetuta un numero infinito di volte, conterrebbe il vero parametro il 95% delle volte. Perché è utile? Gli intervalli di confidenza sono spesso fraintesi. Essi sono non un intervallo che possiamo essere …

11 hypothesis-testing bayesian mathematical-statistics confidence-interval frequentist

5

Cosa significa precisamente prendere in prestito informazioni?

Spesso le persone parlano di prestito di informazioni o condivisione di informazioni in modelli gerarchici bayesiani. Non riesco a ottenere una risposta diretta su cosa significhi effettivamente questo e se sia univoco per i modelli gerarchici bayesiani. Ho capito l'idea: alcuni livelli nella tua gerarchia condividono un parametro comune. Non …

11 machine-learning bayesian multilevel-analysis terminology hierarchical-bayesian

2

Una probabilità verosimile ed esponenziale può portare a un posteriore improprio?

(Questa domanda è ispirata da questo commento di Xi'an .) È noto che se la distribuzione precedente è corretta e la probabilità è ben definita, allora la distribuzione posteriore è corretto quasi sicuramente.π(θ)π(θ)\pi(\theta)L(θ|x)L(θ|x)L(\theta | x)π(θ|x)∝π(θ)L(θ|x)π(θ|x)∝π(θ)L(θ|x)\pi(\theta|x)\propto \pi(\theta) L(\theta|x) In alcuni casi, utilizziamo invece una probabilità temperata o esponenziale, portando a uno …

11 bayesian prior posterior

1

Creazione di un set di dati non bilanciato

Vorrei testare il mio modello addestrato su un set di dati non bilanciato. Sono disponibili algoritmi per generare dati sintetici da un set di dati con etichette bilanciate (spam / non spam)?

11 unbalanced-classes synthetic-data

1

Perché viene utilizzato per indicare la correlazione?

Perché il simbolo scelto per denotare prodotto momento di correlazione di Pearson?rrr

11 correlation history

2

Perché le CNN si concludono con i livelli FC?

Da quanto ho capito, le CNN sono composte da due parti. La prima parte (livelli conv / pool) che esegue l'estrazione delle caratteristiche e la seconda parte (livelli fc) che esegue la classificazione delle caratteristiche. Dato che le reti neurali completamente connesse non sono i migliori classificatori (ovvero sono sovraperformate …

11 neural-networks svm random-forest conv-neural-network

1

Esistono distribuzioni diverse da Cauchy per le quali la media aritmetica di un campione segue la stessa distribuzione?

Se segue una distribuzione di Cauchy, allora segue esattamente la stessa distribuzione di ; vedi questa discussione .XXXY=X¯=1n∑ni=1XiY=X¯=1n∑i=1nXiY = \bar{X} = \frac{1}{n} \sum_{i=1}^n X_iXXX Questa proprietà ha un nome? Ci sono altre distribuzioni per le quali questo è vero? MODIFICARE Un altro modo di porre questa domanda: lascia che sia …

11 distributions expected-value central-limit-theorem cauchy

3

Una regressione lineare può essere significativa se i dati non sono lineari?

Ho eseguito una regressione lineare che ha prodotto un risultato significativo, tuttavia quando ho verificato la linearità del diagramma a dispersione non ero sicuro che i dati fossero lineari. Esistono altri modi per verificare la linearità senza ispezionare il diagramma a dispersione? La regressione lineare potrebbe essere significativa se non …

11 regression

3

Proprietà di una variabile casuale discreta

Il mio corso di statistica mi ha appena insegnato che una variabile casuale discreta ha un numero finito di opzioni ... Non me ne ero reso conto. Avrei pensato, come un insieme di numeri interi, potrebbe essere infinito. Cercare su Google e controllare diverse pagine Web, tra cui alcune provenienti …

11 random-variable discrete-data

4

Utilizzo dei decibel nelle statistiche

Sto lavorando a un progetto che prevede la lettura di tag RFID e il confronto dell'intensità del segnale che il lettore vede quando si modifica la configurazione dell'antenna (numero di antenna, posizione, ecc ...). Come parte del progetto, devo confrontare le configurazioni per vedere quali sono più efficaci. Idealmente, sarei …

11 data-transformation linear-model descriptive-statistics

2

Il teorema di Mercer funziona al contrario?

Un collega ha una funzione e per i nostri scopi è un black-box. La funzione misura la somiglianza di due oggetti.ssss(a,b)s(a,b)s(a,b) Sappiamo per certo che ha queste proprietà:sss I punteggi di somiglianza sono numeri reali compresi tra 0 e 1, inclusi. Solo gli oggetti identici a se stessi hanno punteggi …

11 kernel-trick distance similarities rbf-kernel

1

Normalità asintotica di una forma quadratica

Let essere un vettore casuale tratto da . Prendere in considerazione un campione . Definisci e . Lascia che \ boldsymbol {\ mu}: = \ mathbb {E} _ {\ mathbf {x} \ sim P} [\ mathbf {x}] e C: = \ mathrm {cov} _ {\ mathbf {x} \ sim P} …

11 normality-assumption central-limit-theorem asymptotics quadratic-form