Nello studio della distanza di Kullback-Leibler, ci sono due cose che impariamo molto rapidamente: non rispetta né la disuguaglianza del triangolo né la simmetria, proprietà richieste di una metrica.
La mia domanda è se esiste una metrica delle funzioni di densità di probabilità che soddisfano tutti i vincoli di una metrica .
Concentrarsi sulle densità di probabilità è concentrarsi sull'oggetto "sbagliato". Per quanto riguarda le metriche, ci sono quelle "classiche", ad esempio Lévy (e la relativa metrica Ky Fan su variabili casuali), Wasserstein insieme a quelle più vicine nello spirito a KL, ad esempio, la divergenza di Jensen-Shannon . Sebbene per lo più trascurato storicamente, si noti che nella carta originale KL , la divergenza di KL era effettivamente simmetrica (sebbene non fosse ancora una metrica).
—
cardinale il
@ cardinale, beh, non sono così tanto nel campo, puoi per favore suggerire l'oggetto "giusto"?
—
Jorge Leitao,
JC: Mi dispiace, la casella dei commenti è diventata troppo piccola per tutto quello che stavo cercando di adattarmi. Avrei dovuto elaborare. La funzione di distribuzione cumulativa risulta essere un oggetto di studio più generale e naturale. :-)
—
Cardinale
@cardinal perché? ;)
—
Jorge Leitao,