Cosa succede al rapporto di probabilità man mano che vengono raccolti sempre più dati?

Lasciate , ed essere densità e si supponga di avere , . Cosa succede al rapporto di verosimiglianza come ? (Converge? A cosa?) $f$ $g$ $h$ $x_i \sim h$ $i \in \mathbb{N}$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

n \to \infty

$n \rightarrow \infty$

Ad esempio, possiamo supporre . Anche il caso generale è interessante. $h = g$

convergence asymptotics likelihood-ratio

— Olivier
fonte

Possibile duplicato della divergenza

— Xi'an

@ Xi'an. Penso che l'aggiunta di questa domanda a SE consenta di stabilire la connessione tra le domande nella risposta. Mentre ci possono essere somiglianze di risposta, le domande non sono le stesse.

— Giovanni

Grazie per il link La domanda non è un duplicato, anche se le risposte alla mia domanda possono comportare la divergenza di Kullback-Leibler.

— Olivier il

Risposte:

Se si prende il logaritmo di questo prodotto, e lo trasforma in una media applica la legge dei grandi numeri, quindi si ottiene la convergenza quasi sicura supponendo che questo integrale sia ben definito [i contro-esempi sono facili da trovare].

r = \log \prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})} = \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

${\mathfrak{r}}=\log \prod_{i=1}^n \frac{f(x_i)}{g(x_i)} = \sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

$\bar{\mathfrak{r}}_n=\frac{1}{n}\sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} \overset{a.s.}{⟶} E_{h} [\log \frac{f (X)}{g (X)}] = \int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\bar{\mathfrak{r}}_n\stackrel{\text{a.s.}}{\longrightarrow}\mathbb{E}_h\left[\log \frac{f(X)}{g(X)}\right]=\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

Ad esempio, se , e sono densità per le distribuzioni normali con , e zero, rispettivamente, tutte con varianza uno, il valore di is $f$ $g$ $h$ $\mu_1$ $\mu_2$

\int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

\int_{X} {(x - μ_{1})^{2} - (x - μ_{2}^{2})} φ (x) d x = μ_{1}^{2} - μ_{2}^{2} .

$\int_\mathfrak{X} \{(x-\mu_1)^2-(x-\mu^2_2)\}\,\varphi(x)\,\text{d}x= \mu_1^2-\mu^2_2\,.$

Si noti inoltre che, senza la media, il prodotto converge quasi sicuramente a zero (quando ) . Mentre il prodotto converge quasi sicuramente a zero o all'infinito a seconda che o sia più vicino ad nel senso di divergenza di Kullback-Leibler (quando ).

\prod_{i = 1}^{n} \frac{f (x_{i})}{h (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{h(x_i)}$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

g

$g$

f

$f$

h

$h$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

— Xi'an
fonte

Potresti concludere una risposta? L'ultimo integrale è diverso da zero (diciamo quando )?

g = h

$g=h$

— Olivier,

Perché dovrebbe essere zero? Se è zero; se e è positivo. E se e è negativo. Può anche essere zero per , e se e sono alla stessa distanza da .

f = g

$f=g$

f = h

$f=h$

g \neq h

$g\ne h$

g = h

$g=h$

f \neq h

$f\ne h$

f \neq h

$f\ne h$

f \neq g

$f\ne g$

g \neq h

$g \ne h$

f

$f$

g

$g$

h

$h$

— Xi'an,

Cosa intendi a uguale distanza da ? Potresti elaborare? La tua risposta è interessante ma non (ancora) risponde direttamente alla domanda.

h

$h$

— Olivier,

La domanda principale Poiché , è il segno dell'ultimo integrale che determina il comportamento asintotico del rapporto.

r = n r_{n}

$\mathfrak{r}= n \mathfrak{r}_n$

— Olivier,

Lascia che . Considera la quantità Secondo la legge forte di grandi numeri, $Z_n = \prod^n_i \frac{p(x)}{q(x)}$

W_{n} = \frac{1}{n} l o g (Z_{n}) = \frac{1}{n} \sum_{i}^{n} l o g (\frac{p (x)}{q (x)})

$W_n = \frac{1}{n}log(Z_n) = \frac{1}{n}\sum_i^n log(\frac{p(x)}{q(x)})$

lim_{n \to \infty} W_{n} = E_{q (x)} [l o g (\frac{p (x)}{q (x)})] = \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x

$\lim_{n \rightarrow \infty} W_n = E_{q(x)}[log(\frac{p(x)}{q(x)})] = \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx$

Poiché e that , $log(a) < a-1 \ \forall a > 0$ $a \neq 1$ $\frac{p(x)}{q(x)} > 0$ $p(x) \neq q(x)$

W_{n} \to \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x < \int_{X} (\frac{p (x)}{q (x)} - 1) q (x) d x = \int_{X} p (x) d x - \int_{X} q (x) d x = 1 - 1 = 0

$W_n \rightarrow \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx < \int_\mathcal{X} (\frac{p(x)}{q(x)} - 1)q(x)dx = \int_\mathcal{X} p(x)dx - \int_\mathcal{X} q(x)dx = 1 - 1 = 0$ Questo ci dà

lim_{n \to \infty} W_{n} < 0 ⟹ lim_{n \to \infty} \frac{1}{n} l o g (Z_{n}) < 0 ⟹ lim_{n \to \infty} n \cdot \frac{1}{n} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} Z_{n} = 0 ◼

$\lim_{n \rightarrow \infty} W_n < 0 \implies \lim_{n \rightarrow \infty} \frac{1}{n}log(Z_n) < 0 \implies \lim_{n \rightarrow \infty} n \cdot \frac{1}{n}log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} Z_n = 0 \ \blacksquare$

— bgao
fonte