Pro della distanza Jeffries Matusita

Secondo alcuni articoli che sto leggendo, la distanza di Jeffries e Matusita è comunemente usata. Ma non sono riuscito a trovare molte informazioni su di esso ad eccezione della formula seguente

JMD (x, y) = $\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2}$

È simile alla distanza euclidea ad eccezione della radice quadrata

E (x, y) = $\sqrt[2]{\sum(x_i-y_i)^2}$

La distanza JM è considerata più affidabile della distanza euclidea in termini di classificazione. Qualcuno può spiegare perché questa differenza rende migliore la distanza JM?

classification k-nearest-neighbour euclidean

— romy_ngo
fonte

Non riesco a trovare un riferimento autorevole che utilizza questa formula per la distanza Jeffries-Matusita. Le formule che trovo si basano su matrici di covarianza per due classi e sembrano non avere alcuna relazione con quella data qui, ma sembra che possano esserci due (o più) cose diverse conosciute con questo nome. Potresti fornire un riferimento o (ancora meglio) un link? A proposito, e contano per caso? (Se è così, c'è un'interpretazione naturale della tua formula.)

x_{i}

$x_i$

y_{i}

$y_i$

— whuber

@whuber: forse il ed sono stare a e

x

$x$

y

$y$

p (x)

$p(x)$

q (x)

$q(x)$

— user603

@ user603 Sì, penso che tu l'abbia ottenuto. Ora le connessioni con le divergenze di KL e la misura di Battacharyya diventano evidenti.

— whuber

Alcune differenze chiave, che precedono una spiegazione più lunga di seguito, sono che:

Fondamentalmente: la distanza Jeffries-Matusita si applica alle distribuzioni, piuttosto che ai vettori in generale.
La formula della distanza JM citata sopra si applica solo ai vettori che rappresentano distribuzioni di probabilità discrete (cioè vettori che si sommano a 1).
A differenza della distanza euclidea, la distanza JM può essere generalizzata a qualsiasi distribuzione per la quale sia possibile formulare la distanza di Bhattacharrya.
La distanza JM ha, attraverso la distanza Bhattacharrya, un'interpretazione probabilistica.

La distanza Jeffries-Matusita, che sembra essere particolarmente popolare nella letteratura del telerilevamento, è una trasformazione della distanza Bhattacharrya (una misura popolare della dissomiglianza tra due distribuzioni, indicata qui come ) dall'intervallo all'intervallo fisso : $b_{p,q}$ $[0, \inf)$ $[0, \sqrt{2}]$

J M_{p, q} = \sqrt{2 (1 - \exp (- b (p, q))}

$JM_{p,q}=\sqrt{2(1-\exp(-b(p,q))}$

Un vantaggio pratico della distanza JM, secondo questo documento è che questa misura "tende a sopprimere valori di separabilità elevati, pur sottolineando eccessivamente valori di separabilità bassi".

La distanza di Bhattacharrya misura la dissomiglianza di due distribuzioni e nel seguente senso astratto continuo: Se le distribuzioni e vengono catturati da istogrammi, rappresentato da vettori unità di lunghezza (dove -esimo elemento è il conteggio normalizzato per esimo bidoni) questo diventa: E di conseguenza la distanza JM per i due istogrammi è: Che, notando che per gli istogrammi normalizzati $p$ $q$

b (p, q) = - \ln \int \sqrt{p (x) q (x)} d x

$b(p,q)=-\ln\int{\sqrt{p(x)q(x)}}dx$

p

$p$

q

$q$

i

$i$

i

$i$

N

$N$

b (p, q) = - \ln \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}}

$b(p,q)=-\ln\sum_{i=1}^{N}\sqrt{p_i\cdot q_i}$

J M_{p, q} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

\sum_{i} p_{i} = 1

$\sum_{i}{p_i}=1$ , è uguale alla formula che hai indicato sopra:

J M_{p, q} = \sqrt{\sum_{i = 1}^{N} {(\sqrt{p_{i}} - \sqrt{q_{i}})}^{2}} = \sqrt{\sum_{i = 1}^{N} (p_{i} - 2 \sqrt{p_{i}} \sqrt{q_{i}} + q_{i})} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{\sum_{i=1}^{N}{\left(\sqrt{p_i} - \sqrt{q_i}\right)^2}}=\sqrt{\sum_{i=1}^{N}{\left(p_i -2 \sqrt{p_i}\sqrt{q_i} + q_i \right)}}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

— rroowwllaanndd
fonte

+1 Mille grazie per esserti tuffato e aver fatto questo sforzo molto ben fatto per chiarire la situazione.

— whuber