reti rispetto alla norma di taglio

La norma di taglio di una matrice reale è il massimo su tutto della quantità. $||A||_C$ $A = (a_{i,j}) \in \mathcal{R}^{n\times n}$ $I \subseteq [n], J \subseteq [n]$ $\left|\sum_{i \in I, j \in J}a_{i,j}\right|$

Definire la distanza tra due matrici e da $A$ $B$ $d_C(A,B) = ||A-B||_C$

Qual è la cardinalità della più piccola rete dello spazio metrico ? $\epsilon$ $([0,1]^{n\times n}, d_C)$

cioè la dimensione del sottoinsieme più piccolo $S \subset [0,1]^{n\times n}$ tale che per tutti $A \in [0,1]^{n\times n}$ , esiste un $A' \in S$ tale che $d_C(A, A') \leq \epsilon$ .

(EDIT: ho dimenticato di menzionare, ma sono anche interessato a reti "non appropriate" $\epsilon$ , con $S \subset \mathcal{R}_+^{n\times n}$ - vale a dire se gli elementi della $\epsilon$ -net hanno voci al di fuori di [0,1 ], anche questo è interessante.)

Sono interessato sia ai limiti superiori che ai limiti inferiori.

Si noti che le tecniche di taglio sparsifier implicano -nets per metriche di taglio, ma dare qualcosa di più forte che ho bisogno - forniscano una -net per i quali è possibile trovare una efficiente punto-Vicino a qualsiasi matrice semplicemente campionando da quella matrice. Si potrebbe immaginare che esistano reti molto più piccole per le quali non si può semplicemente campionare trovare un punto di chiusura a una matrice arbitraria. $\epsilon$ $\epsilon$ $\epsilon$ $\epsilon$ $\epsilon$

Inizialmente ho fatto questa domanda qui su mathoverflow.

— Aaron Roth
fonte

Poiché la norma di taglio di A è maggiore o uguale al valore assoluto di ciascuna voce di A, è chiaro che una rete ε deve avere dimensioni almeno (1 / (2ε)) ^ (n ^ 2). Qual è il limite superiore derivato dalla tecnica sparsifier del taglio? (Questa è probabilmente una domanda stupida, ma non conosco quella tecnica.)

— Tsuyoshi Ito

Giusto per essere sicuro, ho trasformato la prima metà del mio commento precedente in una risposta (e ho aggiunto un limite superiore ad esso). Sono ancora interessato al limite superiore derivato dalla tecnica del taglio sparso.

— Tsuyoshi Ito,

La tecnica di cui sopra produce matrici con voci in

anziché in

. Ho dimenticato di menzionarlo nel post, ma sono anche interessato a questo tipo di copertine

{0, m | | A | |_{1}}

$\{0, m||A||_1\}$

[0, 1]

$[0,1]$

ϵ

$\epsilon$

— Aaron Roth,

-net si ottiene da taglio sparsification in realtà non si trovano in

. Interpreta la matrice come distribuzione di probabilità sui bordi di un grafico diretto e campiona

bordi dalla distribuzione. Peso di ciascun bordo di

. Con argomenti di dimensione VC (o solo un unione vincolata a tagli), l'errore additivo massimo su qualsiasi taglio sarà

ϵ

$\epsilon$

[0, 1]^{n \times n}

$[0,1]^{n×n}$

m = \tilde{O} (n / ϵ^{2})

$m=\tilde{O}(n/\epsilon^2)$

| | A | |_{1} / m

$||A||_1/m$

O (ϵ n^{2})

$O(\epsilon n^2)$ . Quindi questo implica che il set di (opportunamente ponderati) grafici su

bordi formano un

-net, che non è banale per

n^{5} / ϵ^{2}

$n^5/\epsilon^2$

ϵ

$\epsilon$

ϵ > n^{3 / 2}

$\epsilon>n^{3/2}$

— Aaron Roth,

Ecco un semplice preventivo. Qui noi chiamiamo un insieme S ⊆ X un ε -net di uno spazio metrico X quando per ogni punto x ∈ X , esiste un punto s ∈ S tale che la distanza tra x ed s è al massimo ε . Se si desidera una disuguaglianza rigorosa nella definizione di ε -net, è possibile modificare leggermente il valore di ε .

Sostiene che || A || _∞ ≤ || A || _C ≤ n ² || A || _∞ , dove || A || _∞ indica l'entrywise max-norma di un n × n matrice A .

È facile costruire una rete ε dello spazio metrico ([0,1] ^N , d _∞ ) con dimensione ⌈1 / (2 ε ) ⌉ ^N , e non è difficile dimostrare che questa dimensione è il minimo. (Per mostrare la minimalità, considerare i punti ⌈1 / (2 ε ) ⌉ ^{N le} cui coordinate sono multipli di 1 / ⌈1 / (2 ε ) −1⌉ e mostrare che la distanza tra due di questi punti è maggiore di 2 ε .) Impostando N = n ² e combinandolo con il suddetto confronto tra la norma di taglio e la norma massima, la cardinalità minima di un ε-net rispetto alla norma di taglio è almeno ⌈1 / (2 ε ) ⌉ ^{n ²} e al massimo ⌈ n ² / (2 ε ) ⌉ ^{n ²} .

Aggiornamento : se il mio calcolo è corretto, l'argomento volume può ottenere un limite inferiore migliore Ω ( n / ε ) ^{n ²} . Per fare questo, abbiamo bisogno di un limite superiore al volume di una palla ε rispetto alla norma di taglio.

Innanzitutto consideriamo la "norma di taglio" di un singolo vettore, che è il massimo tra la somma degli elementi positivi e la somma negata degli elementi negativi. Non è difficile dimostrare che il volume di una palla ε in ℝ ⁿ rispetto a questa "norma di taglio" è uguale a

ε^{n} \sum_{I \subseteq {1, \dots, n}} \frac{1}{| I |!} \cdot \frac{1}{(n - | I |)!} = ε^{n} \sum_{r = 0}^{n} (\binom{n}{r}) \frac{1}{r! (n - r)!}

$\varepsilon^n \sum_{I \subseteq \{1,\dotsc,n\}} \frac{1}{|I|!} \cdot \frac{1}{(n-|I|)!} = \varepsilon^n \sum_{r=0}^n \binom{n}{r} \frac{1}{r!(n-r)!}$

= \frac{ε^{n}}{n!} \sum_{r = 0}^{n} {(\binom{n}{r})}^{2} = \frac{ε^{n}}{n!} (\binom{2 n}{n}) = \frac{(2 n)! ε^{n}}{(n!)^{3}} .

$= \frac{\varepsilon^n}{n!} \sum_{r=0}^n \binom{n}{r}^2 = \frac{\varepsilon^n}{n!} \binom{2n}{n} = \frac{(2n)!\varepsilon^n}{(n!)^3}.$

Successivamente, poiché la norma taglio di una n × n matrice A è maggiore o uguale alla norma taglio di ogni riga, il volume di un ε -ball in ℝ ^{n × n} è al massimo il n esima potenza del volume di un ε -ball in ℝ ⁿ . Pertanto, la dimensione di una rete ε di [0,1] ^{n × n} deve essere almeno

\frac{(n!)^{3 n}}{(2 n)!^{n} ε^{n^{2}}} = {(Ω (\frac{n}{ε}))}^{n^{2}},

$\frac{(n!)^{3n}}{(2n)!^n \varepsilon^{n^2}} = \left(\Omega\left(\frac{n}{\varepsilon}\right)\right)^{n^2},$

dove l'ultima uguaglianza è un noioso calcolo in cui usiamo la formula di Stirling : ln n ! = n ln n - n + O (registro n ).

— Tsuyoshi Ito
fonte

In risposta alla modifica (revisione 4) della domanda, il limite inferiore indicato in questa risposta è applicabile anche alle reti ε non appropriate.

— Tsuyoshi Ito,

Sembra corretto, ben fatto!

— Hsien-Chih Chang 張顯之

@ Hsien-Chih: grazie. La parte che mi piace di più è l'uso di coefficienti binomiali nel calcolo del volume di una palla ε in ℝ ^ n.

— Tsuyoshi Ito,

Ho il sospetto che il limite inferiore della dimensione della rete (equivalentemente, il limite superiore del volume) possa essere migliorato. Ho fatto una domanda correlata su MathOverflow.

— Tsuyoshi Ito,