Riduzione dimensionale con gioco lento?

11

Il lemma di Johnson-Lindenstrauss dice approssimativamente che per ogni raccolta di punti in , esiste una mappa where tale che per tutte : È noto che affermazioni simili non sono possibili per la metrica , ma è noto se esiste un modo per aggirare un valore così basso limiti offrendo garanzie più deboli? Ad esempio, può esserci una versione del lemma sopra per $S$ $n$ $\mathbb{R}^d$ $f:\mathbb{R}^d \rightarrow \mathbb{R}^k$ $k = O(\log n/\epsilon^2)$ $x, y \in S$

(1 - ϵ) | | f (x) - f (y) | |_{2} \leq | | x - y | |_{2} \leq (1 + ϵ) | | f (x) - f (y) | |_{2}

$(1-\epsilon)||f(x)-f(y)||_2 \leq ||x-y||_2 \leq (1+\epsilon)||f(x)-f(y)||_2$

ℓ_{1}

$\ell_1$

ℓ_{1}

$\ell_1$ metrica che promette solo di preservare le distanze della maggior parte dei punti, ma che potrebbe lasciare alcuni arbitrariamente distorti? Uno che non fornisce alcuna garanzia moltiplicativa per punti "troppo vicini"?

— Aaron Roth
fonte

9

Il riferimento standard per un risultato così positivo è l'articolo di Piotr Indyk sulle distribuzioni stabili:

http://people.csail.mit.edu/indyk/st-fin.ps

Mostra una tecnica di riduzione dimensionale per cui la distanza tra qualsiasi coppia di punti non aumenta (di oltre il fattore ) con probabilità costante e le distanze non diminuiscono (di oltre il fattore ) con probabilità. La dimensione dell'incorporamento sarà esponenziale in . $\ell_1$ $1+\epsilon$ $1-\epsilon$ $1/\epsilon$

Probabilmente ci sono lavori di follow-up di cui non sono a conoscenza.

— Moritz
fonte

8

Vedi il documento Metric Embeddings with Relaxed Guarantees che ha risultati su (nelle condizioni di "distorsione gradevolmente degradante") e general embeddings. $\ell_1$ $\ell_p$

Guarda anche le Procedure pratiche per la riduzione dimensionale nel documento . $\ell_1$

— spinxl39
fonte

7

È stato recentemente dimostrato da Newman e Rabinovich che per n punti in c'è una riduzione dimensionale alla dimensione . Usando un teorema di Abraham et al. (Incorporamento metrico con garanzie rilassate, menzionato sopra) si può ottenere una riduzione dimensionale nella dimensione che funziona per una frazione delle coppie. $\ell_1$ $O(n/\epsilon)$ $O(1/(\delta\epsilon))$ $1-\delta$

— Yair
fonte

4

Un altro allentamento della riduzione dimensionale è richiedere che si trovi in un sottospazio -dimensionale di e che dipenda da . Talagrand ha dimostrato che dato un sottospazio -dimensionale di (lo dimostra anche per ), esiste una mappa per tale che per tutte , $\ell_1$ $S$ $c$ $\mathbb{R}^d$ $k$ $c$ $c$ $V$ $\ell_1^d$ $L_1$ $f:\ell_1^d \rightarrow \ell_1^k$ $k = O(\epsilon^{-2}c\log c)$ $x, y \in V$ $(1-\epsilon)\|f(x) - f(y)\|_1 \leq \|x - y\|_1 \leq (1+\epsilon)\|f(x) - f(y)\|_1$ . Il suo incorporamento è una semplice procedura randomizzata, ma procede in fasi e ogni fase ha successo con probabilità costante; dopo ogni passaggio è necessario verificare che il passaggio sia effettivamente andato a buon fine e ripetere se non lo è stato. Incorporamento di così Talagrand manca di una caratteristica fondamentale di JLT: il fatto che può essere raccolto da una distribuzione che è indipendente da . $f$ $S$

Molto recentemente, Woodruff e Sohler hanno dimostrato un risultato analogo a quello di Talagrand, ma con la caratteristica aggiunta che , proprio come in JLT, è una mappatura lineare scelta da una distribuzione indipendente da : è necessario scegliere una matrice dove ogni voce è una variabile casuale iid di Cauchy. Questo è nello spirito delle proiezioni stabili di Indyk: Cauchy è 1-stabile. $f$ $S$ $k \times d$

— Sasho Nikolov
fonte