Determinazione della media vera dalle osservazioni rumorose

Ho un ampio set di punti dati del modulo (media, stdev). Vorrei ridurre questo a una media (migliore) e una deviazione standard (si spera) più piccola.

Chiaramente potrei semplicemente calcolare , tuttavia ciò non tiene conto del fatto che alcuni dei punti dati sono significativamente più accurati di altri. $\frac{\sum data_{mean}}{N}$

Per dirla semplicemente, desidero preformare una media ponderata di questi punti dati, ma non so quale dovrebbe essere la funzione di ponderazione in termini di deviazione standard.

normal-distribution repeated-measures weighted-mean

— Michael
fonte

Cerchi uno stimatore lineare per la media $\mu$ del modulo

\hat{μ} = \sum_{i = 1}^{n} α_{i} x_{i}

$\hat{\mu} = \sum_{i=1}^{n} \alpha_i x_i$

dove sono i pesi e sono le osservazioni. L'obiettivo è trovare valori adeguati per i pesi. Sia la vera deviazione standard di , che potrebbe o meno coincidere con la deviazione standard stimata che probabilmente si ha. Supponiamo che le osservazioni siano imparziali; cioè, le loro aspettative sono tutte uguali alla media . In questi termini si può calcolare che l'aspettativa di è $\alpha_i$ $x_i$ $\sigma_i$ $x_i$ $\mu$ $\hat{\mu}$

E [\hat{μ}] = \sum_{i = 1}^{n} α_{i} E [x_{i}] = μ \sum_{i = 1}^{n} α_{i}

$\mathbb{E}[\hat{\mu}] = \sum_{i=1}^{n} \alpha_i \mathbb{E}[x_i] = \mu \sum_{i=1}^{n} \alpha_i$

e (purché la non sia correlata) la varianza di questo stimatore è $x_i$

Var [\hat{μ}] = \sum_{i = 1}^{n} α_{i}^{2} σ_{i}^{2} .

$\operatorname{Var}\left[\hat{\mu}\right] = \sum_{i=1}^{n} \alpha_i^2 \sigma_i^2.$

A questo punto molte persone richiedono che lo stimatore sia imparziale; cioè, vogliamo che la sua aspettativa sia uguale alla media vera. Ciò implica che i pesi devono riassumere in unità. Fatta salva questa limitazione, l'accuratezza dello stimatore (misurata con errore quadratico medio) è ottimizzata minimizzando la varianza. La soluzione unica (facilmente ottenibile con un moltiplicatore di Lagrange o reinterpretando geometricamente la situazione come un problema di minimizzazione della distanza) è che i pesi devono essere proporzionali a . $\alpha_i$ $1/\sigma_i^2$ La restrizione somma-unità fissa i loro valori, cedendo

\hat{μ} = \frac{\sum_{i = 1}^{n} x_{i} / σ_{i}^{2}}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}}

$\hat{\mu} = \frac{\sum_{i=1}^{n} x_i / \sigma_i^2}{\sum_{i=1}^{n} 1 / \sigma_i^2}$

Var [\hat{μ}] = \frac{1}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}} = \frac{1}{n} {(\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{σ_{i}^{2}})}^{- 1} .

$\operatorname{Var}\left[\hat\mu\right] = \frac{1}{\sum_{i=1}^{n} 1 / \sigma_i^2} = \frac{1}{n} \left(\frac{1}{n} \sum_{i=1}^n \frac{1}{\sigma_i^2}\right)^{-1}.$

In parole,

lo stimatore imparziale a varianza minima della media si ottiene rendendo i pesi inversamente proporzionali alle varianze; la varianza di quello stimatore è volte la media armonica delle varianze. $1/n$

Di solito non conosciamo le variazioni reali . Tutto ciò che possiamo fare è rendere i pesi inversamente proporzionali alle varianze stimate (i quadrati delle vostre deviazioni standard) e confidare che funzionerà bene. $\sigma_i$

— whuber
fonte

e relativo a questa risposta, anche da whuber: stats.stackexchange.com/questions/9071/…

— Henry,

x_{i}

$x_i$