La deviazione standard può essere calcolata per la media armonica?

12

La deviazione standard può essere calcolata per la media armonica? Comprendo che la deviazione standard può essere calcolata per la media aritmetica, ma se si dispone di una media armonica, come si calcola la deviazione standard o il CV?

standard-deviation harmonic-mean

— kjetil b halvorsen
fonte

13

La media armonica delle variabili casuali è definita come $H$ $X_1,...,X_n$

H = \frac{1}{\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{X_{i}}}

$H=\frac{1}{\frac{1}{n}\sum_{i=1}^n\frac{1}{X_i}}$

Prendendo momenti di frazioni è un business disordinato, così invece io preferirei lavorare con il . Adesso $1/H$

\frac{1}{H} = \frac{1}{n} \sum_{i = 1}^{n} \frac{1}{X_{i}}

$\frac{1}{H}=\frac{1}{n}\sum_{i=1}^n\frac{1}{X_i}$ .

Usando il teorema del limite centrale lo capiamo immediatamente

\sqrt{n} (H^{- 1} - E X_{1}^{- 1}) \to N (0, V a r X_{1}^{- 1})

$\sqrt{n}\left(H^{-1}-EX_1^{-1}\right)\to N(0,VarX_1^{-1})$

se ovviamente e sono iid, poiché lavoriamo semplicemente con la media aritmetica delle variabili . $VarX_1^{-1}<\infty$ $X_i$ $Y_i=X_i^{-1}$

Ora usando il metodo delta per la funzione lo otteniamo $g(x)=x^{-1}$

\sqrt{n} (H - (E X_{1}^{- 1})^{- 1}) \to N (0, \frac{V a r X_{1}^{- 1}}{(E X_{1}^{- 1})^{4}})

$\sqrt{n}(H-(EX_1^{-1})^{-1})\to N\left(0, \frac{VarX_1^{-1}}{(EX_1^{-1})^4}\right)$

Questo risultato è asintotico, ma per semplici applicazioni potrebbe essere sufficiente.

Aggiornamento Come giustamente sottolineato da @whuber, le applicazioni semplici sono un termine improprio. Il teorema del limite centrale vale solo se , il che è un presupposto piuttosto restrittivo. $VarX_1^{-1}$

Aggiornamento 2 Se si dispone di un campione, quindi per calcolare la deviazione standard, inserire semplicemente i momenti del campione nella formula. Quindi per il campione , la stima della media armonica è $X_1,...,X_n$

\begin{aligned} \hat{H} = \frac{1}{\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{X_{i}}} \end{aligned}

$\begin{align} \hat{H}=\frac{1}{\frac{1}{n}\sum_{i=1}^n\frac{1}{X_i}} \end{align}$

i momenti di esempio e sono rispettivamente: $EX_1^{-1}$ $Var(X_1^{-1})$

\begin{aligned} {\hat{μ}}_{R} & = \frac{1}{n} \sum_{i = 1}^{n} \frac{1}{X_{i}} \\ {\hat{σ}}_{R}^{2} & = \frac{1}{n} \sum_{i = 1}^{n} {(\frac{1}{X_{i}} - μ_{R})}^{2} \end{aligned}

$\begin{align} \hat{\mu}_{R}&=\frac{1}{n}\sum_{i=1}^n\frac{1}{X_i}\\\\ \hat{\sigma}_{R}^2&=\frac{1}{n}\sum_{i=1}^n\left(\frac{1}{X_i}-\mu_R\right)^2 \end{align}$

qui sta per reciproco. $R$

Infine, la formula approssimativa per la deviazione standard di è $\hat{H}$

\begin{aligned} s d (\hat{H}) = \sqrt{\frac{{\hat{σ}}_{R}^{2}}{n {\hat{μ}}_{R}^{4}}} \end{aligned}

$\begin{align*} sd(\hat{H})=\sqrt{\frac{\hat{\sigma}_R^2}{n\hat{\mu}_R^4}} \end{align*}$

Ho eseguito alcune simulazioni Monte-Carlo per variabili casuali distribuite uniformemente nell'intervallo . Ecco il codice: $[2,3]$

hm <- function(x)1/mean(1/x)
sdhm <- function(x)sqrt((mean(1/x))^(-4)*var(1/x)/length(x))

n<-1000

nn <- c(10,30,50,100,500,1000,5000,10000)

N<-1000

mc<-foreach(n=nn,.combine=rbind) %do% {

    rr <- matrix(runif(n*N,min=2,max=3),nrow=N)

    c(n,mean(apply(rr,1,sdhm)),sd(apply(rr,1,sdhm)),sd(apply(rr,1,hm)))

}
colnames(mc) <- c("n","DeltaSD","sdDeltaSD","trueSD")

> mc
             n     DeltaSD    sdDeltaSD      trueSD
result.1    10 0.089879211 1.528423e-02 0.091677622
result.2    30 0.052870477 4.629262e-03 0.051738941
result.3    50 0.040915607 2.705137e-03 0.040257673
result.4   100 0.029017031 1.407511e-03 0.028284458
result.5   500 0.012959582 2.750145e-04 0.013200580
result.6  1000 0.009139193 1.357630e-04 0.009115592
result.7  5000 0.004094048 2.685633e-05 0.004070593
result.8 10000 0.002894254 1.339128e-05 0.002964259

Ho simulato Ncampioni di campioni di ndimensioni. Per ciascun ncampione di dimensioni ho calcolato la stima della stima standard (funzione sdhm). Quindi confronto la media e la deviazione standard di queste stime con la deviazione standard del campione della media armonica stimata per ciascun campione, che probabilmente dovrebbe essere la vera deviazione standard della media armonica.

Come puoi vedere, i risultati sono abbastanza buoni anche per campioni di dimensioni moderate. Naturalmente la distribuzione uniforme è molto ben condotta, quindi non sorprende che i risultati siano buoni. Lascerò che qualcun altro indaghi sul comportamento di altre distribuzioni, il codice è molto facile da adattare.

Nota: nella versione precedente di questa risposta c'era un errore nel risultato del metodo delta, varianza errata.

— mpiktas
fonte

2

@mpiktas Questo è un buon inizio e fornisce alcune indicazioni quando il CV è basso. Ma anche in situazioni pratiche e semplici non è chiaro che si applichi il CLT. Mi aspetto che i reciproci di molte variabili non abbiano secondi o addirittura primi momenti finiti quando c'è una probabilità apprezzabile che i loro valori possano essere vicini allo zero. Mi aspetterei anche che il metodo delta non si applichi a causa dei derivati potenzialmente grandi del reciproco vicino allo zero. Pertanto, potrebbe aiutare a caratterizzare più precisamente le "semplici applicazioni" in cui il metodo potrebbe funzionare. A proposito, che cos'è "D"?

— whuber

@whuber, D sta per varianza, . Per semplici applicazioni intendevo quelle per le quali esistono varianza e media del reciproco. Come dici per le variabili casuali con una probabilità apprezzabile che i loro valori possano essere vicini a zero, il reciproco potrebbe non avere nemmeno la media. Ma poi la risposta alla domanda originale è no. Ho ipotizzato che l'OP chiedesse se fosse possibile calcolare la deviazione standard quando esiste. Chiaramente non lo fa per molte variabili casuali.

D X = E (X - E X)^{2}

$DX=E(X-EX)^2$

— mpiktas,

@whuber, BTW per curiosità è una notazione abbastanza standard per me, ma si potrebbe dire che vengo dalla scuola di probabilità russa. Non è così comune nel "West capitalistico"? :)

D X

$DX$

— mpiktas,

@mpiktas Non ho mai visto questa notazione per la varianza. La mia prima reazione è stata che è un operatore differenziale! Le notazioni standard sono mnemoniche, come .

D

$D$

V a r [X]

$Var[X]$

— whuber

1

L'articolo "Inverted Distributions" di EL Lehmann e Juliet Popper Shaffer è una lettura interessante per quanto riguarda le distribuzioni di variabili casuali invertite.

— emakalic,

2

La mia risposta a una domanda correlata sottolinea che la media armonica di un insieme di dati positivi è una stima dei minimi quadrati ponderati (WLS) (con pesi ). È quindi possibile calcolare il suo errore standard utilizzando i metodi WLS. Ciò presenta alcuni vantaggi, tra cui semplicità, generalità e interpretabilità, oltre ad essere prodotto automaticamente da qualsiasi software statistico che consenta pesi nel calcolo della regressione. $x_i$ $1/x_i$

Il principale svantaggio è che il calcolo non produce intervalli di buona confidenza per le distribuzioni sottostanti fortemente distorte. Questo è probabilmente un problema con qualsiasi metodo di uso generale: la media armonica è sensibile alla presenza anche di un singolo valore minuscolo nel set di dati.

Per illustrare, qui ci sono distribuzioni empiriche di campioni generati indipendentemente di dimensioni da una distribuzione Gamma (5) (che è modestamente inclinata). Le linee blu mostrano la media armonica reale (uguale a ) mentre le linee tratteggiate rosse mostrano le stime dei minimi quadrati ponderati. Le bande grigie verticali attorno alle linee blu sono intervalli di confidenza approssimativi bilaterali del 95% per la media armonica. In questo caso, in tutti i campioni l'IC copre la vera media armonica. Le ripetizioni di questa simulazione (con semi casuali) suggeriscono che la copertura è vicina alla percentuale prevista del 95%, anche per questi piccoli set di dati. $20$ $n=12$ $4$ $20$

Ecco il Rcodice per la simulazione e le figure.

k <- 5             # Gamma parameter
n <- 12            # Sample size
hm <- k-1          # True harmonic mean
set.seed(17)

t.crit <- -qt(0.05/2, n-1)
par(mfrow=c(4, 5))
for(i in 1:20) {
  #
  # Generate a random sample.
  #
  x <- rgamma(n, k)
  #
  # Estimate the harmonic mean.
  #
  fit <- lm(x ~ 1, weights=1/x)
  beta <- coef(summary(fit))[1, ]
  message("Harmonic mean estimate is ", signif(beta["Estimate"], 3), 
          " +/- ", signif(beta["Std. Error"], 3))
  #
  # Plot the results.
  #
  covers <- abs(beta["Estimate"] - hm) <= t.crit*beta["Std. Error"]
  plot(ecdf(x), main="Empirical CDF", sub=ifelse(covers, "", "***"))
  rect(beta["Estimate"] - t.crit*beta["Std. Error"], 0, 
       beta["Estimate"] + t.crit*beta["Std. Error"], 1.25, 
       border=NA, col=gray(0.5, alpha=0.10))
  abline(v = hm, col="Blue", lwd=2)
  abline(v = beta["Estimate"], col="Red", lty=3, lwd=2)
}

— whuber
fonte

1

Ecco un esempio di Exponential r.v's.

La media armonica per punti dati è definita come $n$

S = \frac{1}{\frac{1}{n} \sum_{i = 1}^{n} X_{i}}

$S = \frac{1}{\frac{1}{n} \sum_{i=1}^n X_i}$

Supponiamo di avere campioni iid di una variabile aleatoria esponenziale, . La somma di variabili esponenziali segue una distribuzione gamma $n$ $X_i \sim {\rm Exp}(\lambda)$ $n$

\sum_{i = 1}^{n} X_{i} \sim G a m m a (n, θ)

$\sum_{i=1}^n X_i \sim {\rm Gamma}(n, \theta)$

dove . Lo sappiamo anche noi $\theta = \frac{1}{\lambda}$

\frac{1}{n} G a m m a (n, θ) \sim G a m m a (n, \frac{θ}{n})

$\frac{1}{n} {\rm Gamma}(n, \theta) \sim {\rm Gamma}(n, \frac{\theta}{n})$

La distribuzione di è quindi $S$

S \sim I n v G a m m a (n, \frac{n}{θ})

$S \sim {\rm InvGamma}(n, \frac{n}{\theta})$

La varianza (e la deviazione standard) di questo camper sono ben note, vedi, per esempio, qui .

— emakalic
fonte

3

la tua definizione di media armonica non è d'accordo con wikipedia

— mpiktas il

L'uso degli esponenziali è un buon approccio per comprendere il problema.

— whuber

1

Tutta la speranza non è completamente persa. Se Xi ~ Exp (\ lambda) allora Xi ~ Gamma (1, \ lambda) quindi 1 / Xi ~ InvGamma (1, 1 / \ lambda). Quindi utilizzare "V. Witkovsky (2001) Calcolo della distribuzione di una combinazione lineare di variabili gamma invertite, Kybernetika 37 (1), 79-90" e vedere quanto si arriva!

— tristan,

0

V'è una certa preoccupazione che CLT di mpiktas richiede una varianza delimitata a . È vero che ha code folli quando ha densità positiva intorno allo zero. Tuttavia, in molte applicazioni che usano la media armonica, . Qui, è limitato da , dandoti tutti i momenti che desideri! $1/X$ $1/X$ $X$ $X\ge1$ $1/X$ $1$

— karl
fonte

0

Quello che suggerirei è di usare la seguente formula come sostituto della deviazione standard:

σ = \sqrt{\frac{N}{\sum_{i = 1}^{N} {(\frac{1}{\hat{x}} - \frac{1}{x_{i}})}^{2}}},

$\sigma=\sqrt{\frac{N}{\sum_{i=1}^{N}{\left(\frac{1}{\hat{x}}-\frac{1}{x_i}\right)^2}}},$

dove . La cosa bella di questa formula è che è minimizzata quando e ha le stesse unità della deviazione standard (che sono le stesse unità di ). $\hat{x} = \frac{N}{\sum \frac{1}{x_i}}$ $\hat{x} = \frac{N}{\sum \frac{1}{x_i}}$ $x$

Questo è in analogia alla deviazione standard, che è il valore che assume quando viene minimizzato su . Viene minimizzato quando è la media: . $\sqrt{\frac{1}{N}\sum(\hat{x}-x_i)^2}$ $\hat{x}$ $\hat{x}$ $\hat{x}=\mu=\frac{1}{N}\sum x_i$

— Gil Wolff
fonte