Il vicino più vicino ha un senso con t-SNE?

Le risposte qui hanno affermato che le dimensioni in t-SNE sono prive di significato e che le distanze tra i punti non sono una misura di somiglianza .

Tuttavia, possiamo dire qualcosa su un punto basato sui vicini più vicini nello spazio t-SNE? Questa risposta al motivo per cui i punti esattamente uguali non sono raggruppati suggerisce che il rapporto delle distanze tra i punti sia simile tra le rappresentazioni dimensionali inferiori e superiori.

Ad esempio, l'immagine seguente mostra t-SNE su uno dei miei set di dati (15 classi).

Posso dire che cro 479(in alto a destra) è un valore anomalo? È fra 1353(in basso a sinistra) è più simile a quella cir 375delle altre immagini nella fraclasse, ecc? O potrebbero essere solo artefatti, ad esempio fra 1353rimanere bloccati dall'altra parte di alcuni ammassi e non riuscire a farsi strada verso l'altra fraclasse?

No, non è necessario che sia così, tuttavia, questo è, in modo contorto, l'obiettivo di T-SNE.

Prima di entrare nella carne della risposta, diamo un'occhiata ad alcune definizioni di base, sia matematicamente che intuitivamente.

$\mathbb{R}^d$$X_1, ..., X_n \in \mathbb{R}^d$$x \in \mathbb{R}^d$$|| X_1 - x || \le ... \le ||X_n - x ||$$\mathbb{R}^d$

$d$$y$$x$$d$$d$$d + k$. Quindi, abbiamo la nostra intuizione che è che la distanza viene mantenuta attraverso dimensioni diverse, o almeno, questo è ciò a cui miriamo. Proviamo a giustificarlo con un po 'di matematica.

$p_{j | i} = \frac{exp(\frac{-||x_j - x_i||^2}{2\sigma^2})}{\sum_{k \neq i}{exp(\frac{-||x_j - x_i||^2}{2\sigma^2})}}$$\mathbb{R}^k$

Ora finalmente un chiaro esempio di codifica che dimostra anche questo concetto.

from sklearn.manifold import TSNE
from sklearn.neighbors import KNeighborsClassifier
X = [[0],[1],[2],[3],[4],[5],[6],[7],[8],[9]]
y = [0,1,2,3,4,5,6,7,8,9]
neighs = KNeighborsClassifier(n_neighbors=3)
neighs.fit(X, y)
X_embedded = TSNE(n_components=1).fit_transform(X)
neighs_tsne = KNeighborsClassifier(n_neighbors=3)
neighs_tsne.fit(X_embedded, y)
print(neighs.predict([[1.1]]))
>>>[0]
print(neighs_tsne.predict([[1.1]]))
>>>[0]

Anche se questo è un esempio molto ingenuo e non riflette la complessità, funziona sperimentando alcuni esempi semplici.

EDIT: Inoltre, aggiungendo alcuni punti rispetto alla domanda stessa, quindi non è necessario che sia così, potrebbe essere, tuttavia, razionalizzarla attraverso la matematica dimostrerebbe che non si hanno risultati concreti (no si o no definitivi) .

Spero che questo abbia chiarito alcune delle tue preoccupazioni con TSNE.