Aspettativa della somma dei numeri K senza sostituzione

Dati numeri, in cui il valore di ciascun numero è diverso, indicato come e la probabilità di selezionare ciascun numero è rispettivamente . $n$ $v_1, v_2, ..., v_n$ $p_1, p_2, ..., p_n$

Ora, se seleziono i numeri base alle probabilità date, dove , qual è l'aspettativa della somma di quei numeri ? Si noti che la selezione è senza sostituzione, quindi i numeri non possono comportare numeri duplicati. Comprendo che se la selezione è con sostituzione, l'aspettativa della somma dei numeri uguale a , dove $K$ $K \leq n$ $K$ $K$ $K$ $K \times E(V)$

E (V) = v_{1} \times p_{1} + v_{2} \times p_{2} + . . . + v_{n} \times p_{n} .

$E(V) = v_1 \times p_1 + v_2 \times p_2 + ... + v_n \times p_n.$

Inoltre, che dire dell'aspettativa della varianza di quei numeri ? $K$

Sono uno studente di dottorato di ricerca in CS che sta lavorando a un problema relativo ai big data e non ho alcun background statistico. Mi aspetto che qualcuno possa darmi una formula come risposta. Tuttavia, se la risposta è troppo complicata per essere descritta da una formula o deve essere coinvolto un calcolo intensivo, una risposta approssimativa è totalmente accettabile.

Puoi assumere qui è abbastanza grande e la probabilità può variare molto. In pratica, i valori di tali probabilità provengono da un registro delle query, che registra una serie di query di aggregazione. Il punto è che la frequenza di ciascun numero coinvolto nelle query può essere piuttosto distorta, cioè alcuni vengono interrogati raramente, mentre altri vengono interrogati molto frequentemente. Puoi presumere che la distribuzione di probabilità sia normale, zipf o qualsiasi altra alternativa ragionevole. $n$

La distribuzione del valore è solo un sottoinsieme contiguo di ogni possibile distribuzione. In altre parole, se si dispone di un istogramma che rappresenta una determinata distribuzione, tutti i numeri coinvolti in questo problema sono i numeri tutti all'interno di un singolo bucket.

In termini di valore di K, si può presumere che sia sempre inferiore al numero di elementi frequentemente interrogati.

probability

— SciPioneer
fonte

L'aspettativa della varianza della somma sarà diversa senza sostituzione; avrai bisogno di un fattore di correzione della popolazione finito se non c'è sostituzione. (Per vedere questo intuitivamente, nota che se K = n la varianza della somma è zero, perché sarà sempre lo stesso numero; così come K si avvicina a n la varianza della somma sarà inferiore.)

— zbicyclist

Questa domanda potrebbe essere più complicata di quanto sembri. Considera il caso e . La somma prevista di due valori estratti con la sostituzione è che è il doppio della somma prevista di un valore ovviamente; ma la somma prevista di due valori disegnati senza sostituzione ovviamente è tranne quando .

n = 2

$n=2$

(v_{1}, v_{2}) = (0, 1)

$(v_1,v_2)=(0,1)$

2 p_{2}

$2p_2$

v_{1} + v_{2} = 1 \neq 2 p_{2}

$v_1+v_2=1\ne 2p_2$

p_{1} = p_{2} = 1 / 2

$p_1=p_2=1/2$

— whuber

@zbicyclist Forse non ho indicato chiaramente il problema. Nel mio scenario, se K = N, la varianza di quei numeri K sarà la varianza della popolazione generale piuttosto che 0.

— SciPioneer

(1) Non mi sembra una domanda di autoapprendimento : sembra un vero problema applicato nella probabilità. (2) Quanto grande potrebbe essere ? Le soluzioni esatte sembrano impraticabili tranne quando è possibile elencare tutti i sottoinsiemi. (3) Se potrebbe essere molto più grande di o giù di lì, precludendo una rapida enumerazione, cosa puoi dire del ? Ad esempio, potrebbero variare o saranno tutti abbastanza vicini a ? Questo potrebbe informare gli sforzi per trovare risposte approssimative.

n

$n$

n

$n$

20

$20$

p_{i}

$p_i$

1 / n

$1/n$

— whuber

Grazie per le modifiche. Più puoi parlarci di , , e , meglio è. Ad esempio, se formule per il campionamento con la sostituzione dovrebbero essere buone approssimazioni (poiché pochissimi valori, se presenti, verrebbero selezionati più di una volta). Credo che i casi più difficili siano quelli in cui esiste una vasta gamma di valori di - così che non si può semplicemente sostituire la maggior parte di essi con zeri e tuttavia con per un numero apprezzabile di - e .

N

$N$

K

$K$

v_{i}

$v_i$

p_{i}

$p_i$

K max (p_{i}) ≪ 1

$K\max(p_i)\ll 1$

p_{i}

$p_i$

p_{i} > 1 / K

$p_i\gt 1/K$

i

$i$

K \approx N / 2

$K\approx N/2$

— whuber

Questo è probabilmente nella natura di una risposta che, sebbene accurata, probabilmente non è così utile. Horvitz e Thompson (1952) forniscono risultati che coprono questa situazione in generale. Questi risultati sono dati in termini di espressioni combinatorie che ci si potrebbe aspettare.

Per rimanere coerente con la loro notazione, e anche per corrispondere meglio con la notazione più ampiamente usata, vorrei ridefinire alcune quantità. Sia il numero di elementi nella popolazione e la dimensione del campione. $N$ $n$

Lascia che , , rappresenti gli elementi della popolazione, con i valori dati , e le probabilità di selezione . Per un dato campione di dimensione , lascia che i valori osservati nell'esempio siano . $u_i$ $i=1,...,N$ $N$ $V_i$ $i=1,...,N$ $p_1,...,p_N$ $n$ $v_1,..., v_n$

Ciò che si desidera sono la media e la varianza del totale del campione

\sum_{i = 1}^{n} v_{i} .

$\sum_{i=1}^n v_i.$

Come menzionato nei commenti, la probabilità di selezionare un particolare campione disegnato in quell'ordine è dove la probabilità iniziale di disegnare è data da , la seconda probabilità di disegnare è subordinata alla rimozione di dalla popolazione e così via. Quindi, ogni unità successiva disegnata genera una nuova distribuzione di probabilità per l'unità successiva (quindi, la scelta di diverse lettere indicative, perché ognuna rappresenta una distribuzione diversa). $s = \{u_i, u_j, ..., u_t\}$

Pr (s) = p_{i_{1}} p_{j_{2}} \dots p_{t_{n}},

$\textrm{Pr}(s) = p_{i_1}p_{j_2}\cdots p_{t_n},$

p_{i_{1}}

$p_{i_1}$

u_{i}

$u_i$

p_{i}

$p_i$

p_{j_{2}}

$p_{j_2}$

u_{j}

$u_j$

u_{i}

$u_i$

Ci sono campioni della dimensione che contengono dell'intera popolazione. Nota che questo tiene conto delpermutazioni del campione.

S^{(i)} = n! (\binom{N - 1}{n - 1})

$S^{(i)} = n! \binom{N-1}{n-1}$

n

$n$

u_{i}

$u_i$

n!

$n!$

Sia denota un campione specifico di dimensione che include . Quindi, la probabilità di selezionare l'elemento è data da dove la somma è sopra l'insieme della dimensione di tutti i possibili campioni di dimensione che contengono . (Ho cambiato un po 'la notazione dal foglio poiché mi sembrava confusa.) $s_n^{(i)}$ $n$ $u_i$ $u_i$

P (u_{i}) = \sum Pr (s_{n}^{(i)}),

$P(u_i) = \sum \textrm{Pr}(s_n^{(i)}),$

S^{(i)}

$S^{(i)}$

s_{n}^{(i)}

$s_n^{(i)}$

n

$n$

u_{i}

$u_i$

Allo stesso modo, definisci come numero di campioni contenenti sia che . Quindi possiamo definire la probabilità di un campione contenente entrambi come dove la somma è sopra l'insieme della dimensione di tutti i possibili campioni di dimensione che contengono e .

S^{(i j)} = n! (\binom{N - 2}{n - 2})

$S^{(ij)} = n! \binom{N-2}{n-2}$

u_{i}

$u_i$

u_{j}

$u_j$

P (u_{i} u_{j}) = \sum Pr (s_{n}^{(i j)}),

$\textrm{P}(u_i u_j) = \sum \textrm{Pr}(s_n^{(ij)}),$

S^{(i j)}

$S^{(ij)}$

s_{n}^{(i j)}

$s_n^{(ij)}$

n

$n$

u_{i}

$u_i$

u_{j}

$u_j$

Il valore atteso viene quindi derivato come

E (\sum_{i = 1}^{n} v_{i}) = \sum_{i = 1}^{N} P (u_{i}) V_{i} .

$E \left( \sum_{i=1}^n v_i \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i.$

Sebbene la varianza non sia derivata esplicitamente nel documento, potrebbe essere ottenuta dalle aspettative del ° momento e i prodotti incrociati $q$

E (\sum_{i = 1}^{n} v_{i}^{q}) = \sum_{i = 1}^{N} P (u_{i}) V_{i}^{q}

$E \left( \sum_{i=1}^n v_i^q \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i^q$

E (\sum_{i \neq j}^{n} v_{i} v_{j}) = \sum_{i \neq j} P (u_{i} u_{j}) V_{i} V_{j} .

$E \left( \sum_{i \ne j}^n v_iv_j \right) = \sum_{i \ne j} \textrm{P}(u_i u_j) V_i V_j.$

In altre parole, sembra che sarebbe necessario esaminare tutti i possibili sottoinsiemi per eseguire questi calcoli. Forse questo potrebbe essere fatto per valori più piccoli di , però. $n$

Horvitz, DG e Thompson, DJ (1952) Una generalizzazione del campionamento senza sostituzione da un universo finito. Journal of American Statistical Association 47 (260): 663-685.

— jvbraun
fonte