Quale distribuzione ha l'entropia massima per una deviazione assoluta media nota?


10

Stavo leggendo la discussione su Hacker News sull'uso della deviazione standard rispetto ad altre metriche come la deviazione assoluta media. Quindi, se dovessimo seguire il principio della massima entropia, con quale tipo di distribuzione utilizzeremmo se conoscessimo solo la media della distribuzione e la deviazione assoluta media?

Oppure ha più senso usare la mediana e la media deviazione assoluta dalla mediana?

Ho trovato un Principio sull'entropia massima con misure di deviazione generali di Grechuk, Molyboha e Zabarankin che sembra avere le informazioni di cui sono curioso, ma mi ci vuole un po 'di tempo per decifrarle.


Domanda interessante; benvenuti a Cross Validated!
Nick Stauner,

Risposte:


13

Questi saggi signori, Kotz, S., Kozubowski, TJ e Podgorski, K. (2001). La distribuzione e generalizzazioni di Laplace: una rivisitazione con applicazioni in comunicazione, economia, ingegneria e finanza (n. 183). Springer.

sfidaci con un esercizio:

inserisci qui la descrizione dell'immagine

f(x)g(x)

Eg(|Xc1|)=g(x)|xc1|dx=c2=f(x)|xc1|dx=Ef(|Xc1|)[1]

0DKL(g||f)=g(x)ln(g(x)f(x))dx=g(x)lng(x)dxg(x)lnf(x)dx[2]

gh(g)

g(x)ln[f(x)]dx=g(x)ln[12c2exp{1c2|xc1|}]dx
=ln[12c2]g(x)dx1c2g(x)|xc1|dx
[1]

g(x)ln[f(x)]dx=ln[2c2]1c2f(x)|xc1|dx=(ln[2c2]+1)
h(f)

[2]

0D(g||f)=h(g)(h(f))h(g)h(f)
g

Una distribuzione così semplice e anche un bel riassunto! Sospettavo che la distribuzione sarebbe stata regolare se non a 0.
Dietrich Epp,

Grazie. Qualche volta "lo stesso vale per lo stesso", quindi poiché la distribuzione di Laplace comporta il valore assoluto, era un sospetto principale.
Alecos Papadopoulos,
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.