La distribuzione di probabilità di un'urna cambia mentre si trae da essa senza sostituirla in media?

Supponiamo che io abbia un'urna contenente N diversi colori di palline e che ogni colore diverso possa apparire un numero diverso di volte (se ci sono 10 palline rosse non è necessario che ci siano anche 10 palline blu). Se conosciamo il contenuto esatto dell'urna prima di disegnare possiamo formare una distribuzione di probabilità discreta che ci dice la probabilità di disegnare ogni colore di palla. Quello che mi chiedo è come cambia la distribuzione dopo aver disegnato k palle senza rimpiazzare l'urna in media. Capisco che mentre attingiamo dall'urna possiamo aggiornare la distribuzione con la conoscenza di ciò che è stato tolto, ma ciò che voglio sapere è ciò che ci aspetteremmo dalla forma della distribuzione dopo che avremo rimosso k palline. La distribuzione cambia in media o rimane invariata? Se non rimane lo stesso possiamo scrivere una formula per quello che ci aspettiamo che la nuova distribuzione assomigli in media dopo aver fatto k draw?

1. "Calcolo diretto": lascia che ci siano sfere di colori nell'urna. Concentriamoci sulla probabilità di disegnare un colore particolare, diciamo bianco , sul secondo disegno. Lascia che il numero di palline bianche sia . Lasciate essere il colore della palla ottenuta alla -esimo disegnare.m n w X i$n$$m$$n_w$$X_i$$i$

   $$\begin{eqnarray} P(X_2=W)&=&P(X_2=W|X_1=W)P(X_1=W)+P(X_2=W|X_1=\overline{W})P(X_1=\overline{W})\\ &=&\frac{n_w-1}{n-1}\frac{n_w}{n}+\frac{n_w}{n-1}\frac{n-n_w}{n}\\ &=&\frac{n_w(n-n_w+n_w-1)}{n(n-1)}\\ &=&\frac{n_w}{n}\\ &=&P(X_1=W) \end{eqnarray}$$

   Naturalmente questo stesso argomento si applica a qualsiasi colore sul secondo disegno. Possiamo applicare lo stesso tipo di argomento in modo ricorsivo quando si considerano i sorteggi successivi.

   [Si potrebbe ovviamente eseguire un calcolo ancora più diretto. Considera i primi disegni come costituiti da palline bianche e palline non bianche (con probabilità data dalla distribuzione ipergeometrica) ed esegui il calcolo corrispondente a quello sopra ma per il sorteggio nel passaggio ; si ottiene una semplificazione e una cancellazione simili, ma non è particolarmente illuminante da realizzare.]$k$k - i k + $i$$k-i$$k+1$

2. Un argomento più breve: considera di etichettare le palline in modo casuale con i numeri , e poi di disegnarle in ordine etichettato. La domanda ora diventa "La probabilità che una determinata etichetta, , sia posizionata su una palla bianca è uguale alla probabilità che l'etichetta sia posizionata su una palla bianca?"k $1,2,...,n$$k$$1$

   Ora vediamo che la risposta deve essere "sì" per simmetria delle etichette. Allo stesso modo, per simmetria dei colori delle sfere, non importa che abbiamo detto "bianco", quindi l'argomento che l'etichetta e l'etichetta hanno la stessa probabilità si applica a qualsiasi colore. Quindi la distribuzione al sorteggio -th è la stessa del primo sorteggio, purché non si disponga di ulteriori informazioni dai sorteggi precedenti (ovvero fino a quando non si vedono le palle disegnate in precedenza).1 $k$$1$$k$

L'unica ragione per cui non è perfettamente ovvio che la distribuzione rimane invariata (a condizione che rimanga almeno una palla) è che ci sono troppe informazioni. Eliminiamo il materiale che distrae.

Ignora, per un momento, il colore di ogni palla. Concentrati su una palla. Supponiamo che palle stiano per essere rimosse casualmente (e non osservate), quindi verrà disegnata e osservata una palla. Non fa differenza in quale ordine avvenga la selezione, quindi potresti anche osservare la prima palla estratta (e quindi rimuovere un'altra palla se insisti). La distribuzione ovviamente non è cambiata, perché non sarà influenzata dalla rimozione delle altre palle.k + 1 k $k$$k+1$$k$$k$

Questo argomento, sebbene perfettamente valido, potrebbe far sentire alcune persone a disagio. La seguente analisi potrebbe essere accettata come più rigorosa, perché non ci chiede di ignorare l'ordine di selezione.

Continua a concentrarti sulla tua palla. Avrà una certa probabilità di essere selezionata come palla. Sebbene sia facile da calcolare, non abbiamo bisogno di conoscerne il valore: tutto ciò che conta è che deve avere lo stesso valore per ogni palla (perché tutte le palle sono equivalenti) e che deve essere diverso da zero. Ma se fosse zero, nessuna palla avrebbe alcuna probabilità di essere selezionata: fino a quando rimane almeno una palla, . k + 1 p k p k ≠ $p_k$$k+1$$p_k$$p_{k}\ne 0$

Presta di nuovo attenzione ai colori. Per definizione, la possibilità che venga scelto un particolare colore (dopo che le palline vengono rimosse in modo casuale) è la somma delle probabilità di tutte le palline colorate in originali divisa per la somma delle probabilità di tutte le palline originali. Quando in origine ci sono sfere di colore e sfere totali, quel valore èk C k C C $C$$k$$C$$k_C$$C$$n$

Quando non dipende da , QED .$k\lt n$$k$

Lascia che la distribuzione del sorteggio di una singola palla - dopo aver già disegnato palle senza sostituzione - abbia una distribuzione categorica data la distribuzione su tali distribuzioni categoriche .$k$$E(D_k)$$D_k$

Immagino tu stia chiedendo se è costante.$E(D_k)$

Penso che sia. Supponi che alla fine tu disegni tutte le palle. Tutte le permutazioni delle palle sono ugualmente probabili. La probabilità di disegnare inizialmente è . Potresti riordinare le tue scelte a una permutazione altrettanto probabile per cui la prima palla scelta è stata scelta per ultima e la seconda scelta è stata scelta per prima. Quella palla ha aspettativa , che deve essere uguale a causa della simmetria. Per induzione, sono tutti uguali.$E(D_0)$$E(D_1)$$E(D_0)$$E(D_i)$

La "distribuzione prevista" non cambia. Si potrebbe usare un argomento martingala! Aggiungerò tale alla risposta più tardi (sto viaggiando ora).

La distribuzione, subordinata alle estrazioni precedenti (per le estrazioni successive) cambia solo quando si osservano effettivamente le estrazioni. Se disegni la palla dall'urna con una mano ben chiusa e poi la butti via senza osservarne il colore (ho usato il teatro in modo efficace come dimostrazione di classe), la distribuzione non cambia. Questo fatto ha una spiegazione: la probabilità riguarda le informazioni, la probabilità è un concetto di informazione.

Quindi le probabilità cambiano solo quando si ottengono nuove informazioni (probabilità condizionate, cioè). Disegnare la palla e gettarla via senza osservarla non ti dà alcuna nuova informazione, quindi nulla di nuovo da condizionare. Pertanto, quando si esegue il condizionamento sul set di informazioni effettive, ciò non è cambiato, quindi la distribuzione condizionale non può cambiare.

 EDIT

Non fornirò ora molti più dettagli a questa risposta, aggiungerò solo un riferimento: Hosam M. Mahmoud: "Pólya Urn Models" (Chapman & Hall), che tratta modelli di urne come quello in questa domanda, e anche un'urna molto più generalizzata schemi, anche utilizzando metodi martingala per ottenere risultati limite. Ma i metodi martingala non sono necessari per la domanda in questo post.