La media armonica minimizza la somma degli errori relativi al quadrato

Sto cercando un riferimento in cui è dimostrato che la media armonica

{\bar{x}}^{h} = \frac{n}{\sum_{i = 1}^{n} \frac{1}{x_{i}}}

$\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}}$

minimizza (in ) la somma degli errori relativi al quadrato $z$

\sum_{i = 1}^{n} (\frac{(x_{i} - z)^{2}}{x_{i}}) .

$\sum_{i=1}^n \left( \frac{(x_i - z)^2}{x_i}\right).$

— Martin Van der Linden
fonte

Risposte:

Perché hai bisogno di un riferimento? Questo è un semplice problema di calcolo: perché il problema, come è stato formulato, abbia senso, dobbiamo supporre che tutto . Quindi definire la funzione $x_i > 0$ Quindi calcola la derivata rispetto a:

f (z) = \sum_{i = 1}^{n} \frac{(x_{i} - z)^{2}}{x_{i}}

$f(z) = \sum_{i=1}^n \frac{(x_i - z)^2}{x_i}$

z

$z$

quindi risolvere l'equazione

fornisce la soluzione. Ora, ovviamente, dobbiamo verificare che questo sia effettivamente un minimo, poiché calcola la seconda derivata:

f^{'} (z) = - 2 \cdot \sum_{i = 1}^{n} (1 - \frac{z}{x_{i}})

$f'(z) = -2\cdot \sum_{i=1}^n (1-\frac{z}{x_i})$

f^{'} (z) = 0

$f'(z)=0$

per l'ultima disuguaglianza che abbiamo usato, infine, che tutto

f^{″} (z) = - 2 \cdot \sum_{i = 1}^{n} (0 - \frac{1}{x_{i}}) = 2 \sum_{i = 1}^{n} \frac{1}{x_{i}} > 0

$f''(z) = -2 \cdot \sum_{i=1}^n (0-\frac1{x_i}) = 2 \sum_{i=1}^n \frac1{x_i} > 0$

x_{i} > 0

$x_i>0$ . Senza questo presupposto potremmo davvero rischiare di aver trovato il massimo!

Come riferimento, forse https://en.wikipedia.org/wiki/Fr%C3%A9chet_mean o https://en.wikipedia.org/wiki/Harmonic_mean o riferimenti in essi.

— kjetil b halvorsen
fonte

Grazie per la tua risposta. Un riferimento mi farebbe risparmiare un po 'di spazio. Voglio citare il risultato come Lemma in un'altra dimostrazione senza dover includere una dimostrazione autonoma del Lemma.

— Martin Van der Linden,

È difficile trovare un riferimento esplicito, è considerato fondamentale meritarsene uno! Non puoi semplicemente dire che la prova è un esercizio di calcolo di base?

— kjetil b halvorsen,

Per quanto basilare, preferisco sempre fornire un riferimento. Ma capisco che per i risultati di base è difficile trovare un riferimento e lasciare chiaramente la prova al lettore è un'opzione.

— Martin Van der Linden,

Ping fuori tema temporaneo: valuta la possibilità di votare per il sinonimo di spearman-> spearman-rho qui stats.stackexchange.com/tags/spearman-rho/synonym . Grazie

— ameba dice Reinstate Monica

You could point out that this is a weighted least squares regression with weights $1/x_i$ .

To make the connection with the references, revert to a standard notation in which you seek to find $\beta$ that minimizes

\sum ω_{i} (y_{i} - β)^{2} .

$\sum \omega_i (y_i - \beta)^2.$

This is a model with a single constant regressor

X = (\begin{matrix} 1 \\ 1 \\ ⋮ \\ 1 \end{matrix})

$X = \pmatrix{1\\1\\\vdots\\1}$ and weights matrix

W = (\begin{matrix} ω_{1} & 0 & \dots & 0 \\ 0 & ω_{2} & \dots & 0 \\ ⋮ & ⋮ & ⋱ & 0 \\ 0 & \dots & 0 & ω_{n} \end{matrix}) .

$W = \pmatrix{\omega_1 & 0 & \cdots & 0 \\ 0 & \omega_2 & \cdots & 0 \\\vdots & \vdots & \ddots & 0 \\ 0 & \cdots & 0 & \omega_n}.$

I have renamed " $x_i$ " as " $y_i$ " (the "response") and the parameter to be estimated is $\beta$ instead of $z$ . The weights are $\omega_i=1/x_i$ . It is necessary that they all exceed $0$ . The solution is

\hat{β} = (X^{'} W X)^{- 1} X^{'} W y = \frac{\sum_{i} x_{i} ω_{i}}{\sum_{i} ω_{i}} = \frac{\sum_{i} x_{i} / x_{i}}{\sum_{i} 1 / x_{i}} = \frac{n}{\sum 1 / x_{i}},

$\hat\beta = (X^\prime W X)^{-1}X^\prime W y = \frac{\sum_i x_i\omega_i }{\sum_i \omega_i} = \frac{\sum_i x_i/x_i }{\sum_i 1/x_i} = \frac{n}{\sum 1/x_i},$

QED.

Comments

The same analysis applies to any positive sets of weights, providing a generalization of the harmonic mean and a useful way to characterize it.
When, as in a controlled experiment, the $x_i$ are viewed as fixed (and not random), the machinery of weighted least squares provides confidence intervals and prediction intervals, etc. In other words, casting the problem into this setting automatically gives you a way to assess the precision of the harmonic mean.
Viewing the harmonic mean as the solution to a weighted problem provides insight into its nature and, especially, to its sensitivity to the data. It is now clear that the most important contributors are those with the smallest values of $x_i$ --and their importance has been quantified by the weights matrix $W$ .

Reference

Douglas C. Montgomery, Elizabeth A. Peck, and G. Geoffrey Vining, Introduction to Linear Regression Analysis. Fifth Edition. J. Wiley, 2012. Section 5.5.2.

— whuber
fonte