In che modo i bayesiani confrontano le distribuzioni?

Quindi, penso di avere una buona conoscenza delle basi della probabilità frequentista e dell'analisi statistica (e di quanto male possa essere usato). In un mondo frequentista, ha senso porre una domanda come "questa distribuzione è diversa da quella distribuzione", perché si presume che le distribuzioni siano reali, oggettive e immutabili (almeno per una determinata situazione), e quindi possiamo capire la probabilità che un campione sia estratto da una distribuzione a forma di come un altro campione.

Nella visione del mondo bayesiano, ci preoccupiamo solo di ciò che ci aspettiamo di vedere, date le nostre esperienze passate (sono ancora un po 'vago in questa parte, ma capisco il concetto di aggiornamento bayesiano). Se è così, come può un bayesiano dire "questa serie di dati è diversa da quella serie di dati"?

Ai fini di questa domanda, non mi interessa il significato statistico, o simili, solo come quantificare la differenza. Sono ugualmente interessato alle distribuzioni parametriche e non parametriche.

Pensa alla tua dichiarazione come Frequentista e rendila prima più specifica. Un frequentatore non potrebbe dire che "il set di dati A è diverso dal set di dati B", senza ulteriori chiarimenti.

Innanzitutto, dovresti dichiarare cosa intendi con "diverso". Forse vuoi dire "hanno valori medi diversi". Quindi, potresti voler dire "avere varianze diverse". O forse qualcos'altro?

Quindi, dovresti indicare quale tipo di test utilizzeresti, che dipende da ciò che ritieni siano presupposti validi sui dati. Supponete che i set di dati siano entrambi distribuiti normalmente su alcuni mezzi? O credi che siano entrambi distribuiti in beta? O qualcos'altro?

Ora vedi che la seconda decisione è molto simile ai priori nelle statistiche bayesiane? Non è solo "la mia esperienza passata", ma è piuttosto ciò in cui credo, e ciò in cui credo che i miei colleghi crederanno, sono ipotesi ragionevoli sui miei dati. (E i bayesiani possono usare priori uniformi, che spingono le cose verso i calcoli del frequentista.)

EDIT: in risposta al tuo commento: il passaggio successivo è contenuto nella prima decisione che ho citato. Se vuoi decidere se le medie di due gruppi sono diverse, dovresti esaminare la distribuzione della differenza delle medie dei due gruppi per vedere se questa distribuzione contiene o non contiene zero, a un certo livello di confidenza. Esattamente quanto vicino a zero conti come zero ed esattamente quale parte della distribuzione (posteriore) che usi è determinata da te e dal livello di fiducia che desideri.

Una discussione di queste idee può essere trovata in un articolo di Kruschke , che ha anche scritto un libro molto leggibile Doing Bayesian Data Analysis , che copre un esempio alle pagine 307-309, "I gruppi diversi sono uguali?". (Seconda edizione: p. 468-472.) Ha anche un post sul blog sull'argomento , con alcune domande e risposte .

ULTERIORI MODIFICHE: anche la descrizione del processo bayesiano non è del tutto corretta. Ai bayesiani interessa solo ciò che i dati ci dicono, alla luce di ciò che sapevamo indipendentemente dai dati. (Come sottolinea Kruschke, il precedente non si verifica necessariamente prima dei dati. Questo è ciò che implica la frase, ma è in realtà solo la nostra conoscenza che esclude alcuni dei dati.) Ciò che sapevamo indipendentemente da un determinato insieme di dati può essere vago o specifico e può essere basato sul consenso, un modello del processo di generazione dei dati sottostante o potrebbe essere solo il risultato di un altro esperimento (non necessariamente precedente).

questo documento potrebbe essere interessante: http://arxiv.org/pdf/0906.4032v1.pdf

Fornisce un bel riassunto di alcuni approcci frequentisti e bayesiani al problema dei due campioni e discute sia i casi parametrici che non parametrici.

Potrebbe aggiungere qualcosa alle altre risposte per fare un semplice esempio. Diciamo che hanno due insiemi di dati ed y dove ogni x i ed ogni y j è o un 0 o 1 . Assumi un modello iid di Bernoulli in entrambi i casi, quindi ogni x i ∼ B e r n ( p ) e ogni y i ∼ B e r n ( q ) . Il tuo scenario di test di ipotesi sia in ambito frequentista che bayesiano può essere:$\mathbf{x}$$\mathbf{y}$$x_i$$y_j$$0$$1$$x_i\sim Bern(p)$$y_i\sim Bern(q)$

$\mathcal{H}_0: \: \: p=q$

non necessariamente uguale.$\mathcal{H}_1: \: \: p,q$

Le probabilità per i dati in ciascun caso sono:

Sotto : L 0 ( p ) = f ( x , y ; p ) = ∏ i p i ( 1 - p ) 1 - i ∏ j p j ( 1 - p ) 1 - $\mathcal{H}_0$$L_0(p) = f(\mathbf{x},\mathbf{y};p) = \prod_i p^i (1-p)^{1-i} \prod_j p^j(1-p)^{1-j}$

$\mathcal{H}_1$$L_1(p,q) = f(\mathbf{x},\mathbf{y};p,q) = \prod_i p^i (1-p)^{1-i} \prod_j q^j(1-q)^{1-j}$

$\mathcal{H}_0 \:\: q=p$

$W = -2\log\left\{ \frac{L_0(p_{max})}{L_1(p_{max},q_{max})}\right\},$

$p_{max},q_{max}$$p$$q$$p_{max}$$p_{max}$$W$$\chi^2_1$$\mathcal{H}_0$

$p\sim \pi_0$$\mathcal{H}_0$$p,q\sim \pi_1$$\mathcal{H}_1$

$BF = \frac{ f(\mathbf{x},\mathbf{y}|\mathcal{H}_0) }{f(\mathbf{x},\mathbf{y}|\mathcal{H}_1)} = \frac{ \int_0^1 L_0(p)\pi_0(p)dp}{\int_0^1 \int_0^1 L_1(p,q)\pi_1(p,q)dpdq}$.

The Bayes factor can be combined with some prior beliefs on the probability of $\mathcal{H}_0$ or $\mathcal{H}_1$ being true, to give the probability of $\mathcal{H}_0$ versus $\mathcal{H}_1$ after seeing the data. If we assume apriori that each hypothesis is equally likely, so $p(\mathcal{H}_0)=p(\mathcal{H}_1) = 1/2$, then this gives:

$\frac{p(\mathcal{H}_0|\mathbf{x},\mathbf{y})}{p(\mathcal{H}_1|\mathbf{x},\mathbf{y})} = BF \times \frac{p(\mathcal{H}_0)}{p(\mathcal{H}_1)} = BF \times \frac{1/2}{1/2} = BF.$

Intuitively, if this ratio is $>1$, then the posterior probability of $\mathcal{H}_0$ is larger than $\mathcal{H}_1$, so you would say that $\mathcal{H}_0$ has a higher probability of being true under these assumptions for the prior and model.

One nice thing about the Bayes factor is how it automatically penalises more complex models (such as $\mathcal{H}_1$ here). A nice paper offering some more intuition is here: http://quasar.as.utexas.edu/papers/ockham.pdf.

Hope that helps along with the other answers already posted.

Given data, how strongly do we believe that 2 groups do not come from the same population (H_1: they do not come from the same population vs H_0: they come from the same population). This can be done with a Bayesian t-test.

Complexity is used to figure out how much the prior is overlapping with one hypothesis. Fit is used to figure out how much the posterior is overlapping with one hypothesis. Combined you can compare the hypotheses and express your posterior belief in whether or not they come from the same population.