Complessità del circuito OR di un operatore lineare denso

Considera il seguente modello di circuito monotono semplice: ogni gate è solo un OR binario. Qual è la complessità di una funzione $f(x)=Ax$ dove $A$ è una matrice booleana $n \times n$ con $O(n)$ 0? Può essere calcolato con circuiti OR di dimensioni lineari?

Più formalmente, $f$ è una funzione da $n$ a $n$ bit. L' $i$ - esima uscita di $f$ è $\bigvee_{j=1}^{n}(A_{ij} \land x_j)$ (ovvero un OR del sottoinsieme di bit di input dato dalla $i$ -esima riga di $A$ ).

Si noti che $O(n)$ 0 divide le righe di $A$ in intervalli di $O(n)$ (sottoinsiemi costituiti da elementi consecutivi di $[n]$ ). Ciò consente di utilizzare strutture di dati di query di intervallo note. Ad esempio, una struttura di dati di tabella sparsa può essere trasformata in un circuito OR di dimensioni $O(n\log n)$ . L'algoritmo di Yao per le query dell'operatore del semigruppo di intervallo può essere trasformato in un circuito quasi lineare (di dimensione $O(\alpha(n) \cdot n)$ dove$\alpha(n)$ è Ackermann inverso)

In particolare, non so nemmeno come costruire un circuito di dimensioni lineari per un caso speciale in cui ogni riga di $A$ contiene esattamente due zeri. Mentre il caso di esattamente uno zero in ogni riga è facile. (Ogni funzione di uscita può essere calcolata da un OR di un prefisso $[1..k-1]$ e un suffisso $[k+1..n]$ , che può essere precompilato da $2n$ porte OR.)

Questa è una risposta parziale (affermativa) nel caso in cui abbiamo un limite superiore sul numero di zeri in ogni riga o in ogni colonna.

Un rettangolo è una matrice booleana composta da una matrice secondaria all-1 e con zeri altrove. Un OR-rank r k ( A ) di una matrice booleana è il numero più piccolo r di rettangoli in modo tale che A possa essere scritto come OR (per componente) di questi rettangoli. Cioè, ogni 1 voce di A è 1 voce in almeno uno dei rettangoli e ogni 0 voci di A è 0 voci in tutti i rettangoli. Si noti che log r k ( A ) è esattamente la complessità di comunicazione non deterministica della matrice $rk(A)$$r$$A$$A$$A$$\log rk(A)$$A$(dove Alice ottiene le righe e le colonne di Bob). Come ha scritto OP, ogni matrice booleana m × n A = ( a i , j ) definisce una mappatura y = A x , dove y i = ⋁ n j = 1 a i , j x j per i = 1 , … , m . Cioè, prendiamo un prodotto a matrice vettoriale rispetto al seme booleano. $m\times n$$A=(a_{i,j})$$y=Ax$$y_i=\bigvee_{j=1}^na_{i,j}x_j$$i=1,\ldots,m$

Il seguente lemma è dovuto a Pudlák e Rödl; vedere la proposizione 10.1 in questo documento o Lemma 2.5 in questo libro per una costruzione diretta.

Lemma 1: per ogni matrice booleana n × n A , la mappatura y = A x può essere calcolata da un circuito OR illimitato di fanin di profondità-3 utilizzando al massimo cavi O ( r k ( A ) ⋅ n / log n ) . $n\times n$$A$$y=Ax$$O(rk(A)\cdot n/\log n)$

Abbiamo anche il seguente limite superiore sul rango OR delle matrici dense. L'argomento è una semplice variante di quella usata da Alon in questo documento .

Lemma 2: Se ogni colonna o ogni riga di una matrice booleana A contiene al massimo d zeri, allora r k ( A ) = O ( d ln | A | ) , dove | A | è il numero di 1 s in A . $A$$d$$rk(A)=O(d\ln|A|)$$|A|$$1$$A$

Dimostrazione: Costruire un casuale all 1 sottomatrice R scegliendo ogni riga indipendentemente con la stessa probabilità p = 1 / ( D + 1 ) . Lasciate che io sarò il sottoinsieme casuale ottenuto di righe. Poi lasciate R = I × J , dove J è l'insieme di tutte le colonne di A che non hanno zeri nelle righe a I . $1$$R$$p=1/(d+1)$$I$$R=I\times J$$J$$A$$I$

A 1 -entry ( i , j ) di A è coperto da R se mi è stato scelto I e nessuno di (al massimo d ) righe con un 0 nella j colonna esimo stato scelto in I . Quindi, la voce ( i , j ) è coperta con probabilità almeno p ( 1 - p ) d ≥ p e - p d - p 2 d$1$$(i,j)$$A$$R$$i$$I$$d$$0$$j$$I$$(i,j)$p / e . Se applichiamo questa procedura r volte per ottenere r rettangoli, la probabilità che ( i , j ) sia coperta da nessuno di questi rettangoli non supera ( 1 - p / e ) r ≤ e - r p / e . Secondo il limite del sindacato, la probabilità che qualche 1 -entry of A rimanga scoperta è al massimo | A | ⋅ e - r p /$p(1-p)^{d}\geq pe^{-pd-p^2d}\geq p/e$$r$$r$$(i,j)$$(1-p/e)^r\leq e^{-rp/e}$$1$$A$$|A|\cdot e^{-rp/e}$, che è inferiore a 1 per r = O ( d ln | A | ) . $1$$r=O(d\ln|A|)$$\Box$

Corollario: se ogni colonna o ogni riga di una matrice booleana A contiene al massimo d zeri, la mappatura y = A x può essere calcolata da un circuito OR illimitato di fanin di profondità 3 utilizzando fili O ( d n ) . $A$$d$$y=Ax$$O(dn)$

Immagino che un limite superiore simile a quello di Lemma 2 dovrebbe valere anche quando d è il numero medio di 1 s in una colonna (o in una riga). Sarebbe interessante mostrarlo.$d$$1$

Osservazione: (aggiunto il 04.01.2018) Un analogo r k ( A ) = O ( d 2 log n ) di Lemma 2 vale anche quando d è il numero medio massimo di zeri in una sottostruttura di A , dove il numero medio di zeri in una matrice r × s è il numero totale di zeri diviso per s + r . Ciò segue dal Teorema 2 in N. Eaton e V. Rödl ;, Grafici di piccola dimensione, Combinatorica 16 (1) (1996) 59-85 . Un limite superiore leggermente peggiore$rk(A)=O(d^2\log n)$$d$$A$$r\times s$$s+r$r k ( A ) = O ( d 2 ln 2 n ) può essere derivato direttamente da Lemma 2 come segue.$rk(A)=O(d^2\ln^2 n)$

Lemma 3: Let d ≥ 1 . Se ogni sottografo spanning di un grafico bipartito G ha un grado medio ≤ d , allora G può essere scritto come unione G = G 1 ∪ G 2 , dove il grado massimo sinistro di G 1 e il grado massimo destro di G 2 sono ≤ d . $d\geq 1$$G$$\leq d$$G$$G=G_1\cup G_2$$G_1$$G_2$$\leq d$

Prova: induzione sul numero n di vertici. I casi base n = 1 e n = 2 sono ovvi. Per la fase di induzione, coloreremo i bordi in blu e rosso in modo che il grado massimo nei sottografi blu e rosso sia ≤ d . Prendi un vertice u di grado ≤ d ; tale vertice deve esistere perché anche il grado medio dell'intero grafico deve essere ≤ d . Se fai parte della parte sinistra, allora colora tutti i bordi che ti ricadono in blu, altrimenti colora tutti questi bordi in rosso. Se rimuoviamo il vertice $n$$n=1$$n=2$$\leq d$$u$$\leq d$$\leq d$$u$$u$$u$allora anche il grado medio del grafico risultante G è al massimo d , e possiamo ipotizzare i bordi di questo grafico dall'ipotesi di induzione. $G$$d$$\Box$

Lemma 4: Let d ≥ 1 . Se il numero medio massimo di zeri in una matrice booleana n × n A = ( a i , j ) è al massimo d , allora r k ( A ) = O ( d 2 ln 2 n ) . $d\geq 1$$n\times n$$A=(a_{i,j})$$d$$rk(A)=O(d^2\ln^2 n)$

Prova: considera il grafico n × n bipartito G con ( i , j ) come un bordo iff a i , j = 0 . Quindi il massimo grado medio di G è al massimo d . Con Lemma 3, possiamo scrivere G = G 1 ∪ G 2 , dove il massimo grado dei vertici sulla parte sinistra di G 1 e il massimo grado dei vertici sulla parte destra di G 2 è ≤ d . Permettere$n\times n$$G$$(i,j)$$a_{i,j}=0$$G$$d$$G=G_1\cup G_2$$G_1$$G_2$$\leq d$$A_1$ and $A_2$ be the complements of the adjacency matrices of $G_1$ and $G_2$. Hence, $A= A_1\land A_2$ is a componentwise AND of these matrices. The maximum number of zeros in every row of $A_1$ and in every column of $A_2$ is at most $d$. Since $rk(A)\leq rk(A_1)\cdot rk(A_2)$, Lemma 2 yields $rk(A)=O(d^2\ln^2 n)$. $\Box$

N.B. The following simple example (pointed by Igor Sergeev) shows that my "guess" at the end of the answer was totally wrong: if we take $d=d(A)$ to be the average number of zeros in the entire matrix $A$ (not the maximum of averages over all submatrices), then Lemma 2 can badly fail. Let $m=\sqrt{n}$, and put an identity $m\times m$ matrix in, say left upper corner of $A$, and fill the remaining entries by ones. Then $d(A)\leq m^2/2n < 1$ but $rk(A)\geq m$, which is exponentially larger than $\ln|A|$. Note, however, that the OR complexity of this matrix is very small, is $O(n)$. So, direct arguments (not via rank) can yield much better upper bounds on the OR complexity of dense matrices.

(I tried to post this as a comment to Stasys' answer above, but this text is too long for a comment, so posting it as an answer.) Ivan Mihajlin (@ivmihajlin) came up with the following construction. Similarly to Stasys' proof, it works for the case when the maximum (rather than average) number of 0’s in each row is bounded.

First, consider the case when every row contains exactly two zeros. Consider the following undirected graph: the set of vertices is $[n]$; two nodes $i$ and $j$ are joined by an edge, if there is a row having zeros in columns $i$ and $j$. The graph has $n$ edges and hence it contains a cut $(L,R)$ of size at least $n/2$. This cut splits the columns of the matrix into two parts ($L$ and $R$). Let now also split the rows into two parts: the top part $T$ contains all columns that have exactly one zero in both $L$ and $R$; the bottom part $B$ contains all the remaining rows. What is nice about the top part of the matrix ($T \times (L \cup R)$) is that it can be computed by $O(n)$ gates. For the bottom part, let’s cut all-1 columns out of it and make a recursive call. The corresponding recurrence relation is $C(n) \le an + C(n/2)$ implying $C(n)=O(n)$.

Now, generalize it to the case of at most $d$ zeros in every row. Let $C_d(n)$ be the complexity of an $n \times (\le dn)$ matrix with at most $d$ zeros per row (if there are more than $dn$ columns, then some of them are all-1). Partition the columns into two parts $L$ and $R$ such that at least $n(1-2^{-d})$ rows (call them $T$) satisfy the following property: if there are exactly $d$ zeroes in a row, then not all of them belong to the same part (denote the remaining rows by $B$). Then make three recursive calls: $T \times L$, $T \times R$, and $B \times (L \cup R)$. This gives a recurrence relation $C_d(n) \le an + 2\cdot C_{d-1}(n(1-2^{-d}))+C_d(2^{-d}n)$. This, in turn, implies that $C_d(n) \le f(d)\cdot n$. The function $f(d)$ is exponential, but still.