Qual è il volume di informazioni?

Questa domanda è stata posta a Jeannette Wing dopo la sua presentazione PCAST ​​sull'informatica .

"Dal punto di vista della fisica, esiste un volume massimo di informazioni che possiamo avere?" (Una bella domanda di sfida per la comunità teorica dell'informatica poiché penso che faccia sorgere la domanda "Che cos'è l'informazione?")

Oltre "Che cos'è l'informazione?" si dovrebbe anche capire cosa significa "volume" in questo contesto? Forse la massima densità di informazioni è una misura migliore.

Lancia, in effetti esiste un teorema che dà limiti a questo. Il teorema Margolus-Levitin limita il tasso di calcolo in termini di densità di energia. C'è un bel trucco che può quindi essere giocato: se la densità di energia locale supera un certo limite, si formerà un buco nero causando un orizzonte degli eventi che essenzialmente ti impedirà di ottenere una risposta disconnettendo causalmente quella regione dello spazio-tempo dal resto dell'universo. Seth Lloyd ha un bel documento usando questo trucco per stimare il potere computazionale dell'universo ( Phys. Rev. Lett. 88, 237901 (2002) , arXiv ).

Ovviamente puoi usare ragionamenti simili su qualsiasi regione finita dello spazio-tempo.

Quel commento nel suo articolo non fornisce molto contesto su quale tipo di risposta potrebbe aspettarsi. Ma certamente questa è ormai una domanda ben nota e venerabile su cui molto è già noto. La pagina di Wikipedia sul principio olograficoha una buona visione d'insieme. La cosa più controintuitiva del principio olografico è che afferma che la capacità di informazione di una regione dovrebbe essere proporzionale alla sua superficie; se pensi alla capacità di informazione in termini di quanti piccoli dispositivi a due stati puoi mettere in valigia, ti aspetteresti che il volume interno sia il fattore limitante. Questa intuizione è vera fino a un certo punto, ma alla fine la concentrazione di energia di massa, mettendo da parte i problemi di miniaturizzazione quantistica, diventa così grande che si forma un buco nero. In parole povere, con un po 'di analisi dimensionale e il fatto che la gravità è una legge del quadrato inverso, è il raggio al quadrato (proporzionale alla superficie) che è la quantità rilevante qui.

Questa è una domanda interessante e in qualche modo divertente ma è scarsamente formulata nella sua forma attuale.

Prenderò un'altra pugnalata / rischio per una risposta sperando che il punteggio prenda in considerazione la difficoltà originale e l'ambiguità "leggera" di base / intrinseca della domanda e che sulla base delle attuali conoscenze letterarie ci siano diverse strade possibili ma probabilmente nessuna "risposta corretta ".

La query principale sembra essere "analogie fisiche nell'informatica" di cui il volume è uno di questi. Quindi è altamente correlato a questa altra domanda. Risultati della fisica nel TCS?

Per rispondere a questa domanda prenderò alcuni approcci diversi che ritengo che tutti abbiano merito.

In questo caso interpretato rigorosamente, il volume è nell'unità "spazio" o "lunghezza al cubo". (Sebbene la nota in fisica a volte il termine "spazio" sia misurato in termini di lunghezza o lunghezza al cubo.)

$O(n^3)$

$O(n^3)$

$O(n^c)$

Un altro approccio all'analogia del volume (e altre quantità fisiche) nel TCS è il seguente, come discusso nell'altra domanda. È noto che SAT ha un punto di transizione estremamente analogo al punto di transizione in fisica / termodinamica, che accade ad esempio con gas ideali sotto compressione da una fase all'altra, ad esempio gas a liquido. Questo accade con una diminuzione del volume (diciamo del contenitore del gas). Ora in SAT con input casuali i due parametri principali sulla dimensione degli input sono clausole e variabili. (Un altro parametro è il numero di variabili nelle clausole, anche se spesso è fissato a 3 per 3-SAT.)

Regolare le clausole o le variabili mantenendo l'altro fisso fissa la difficoltà del problema attraverso il punto di transizione facile-difficile-facile. Pertanto, sembra che questi parametri siano in qualche modo analoghi a Volume, anche se non ho visto i dettagli mappati. Scavare in alcuni dei lavori di approfondimento sulla fisica statistica della SAT può rivelare l'analogo del Volume. Vedi [5] per una mappatura di base della SAT sulla terminologia della fisica statistica.

[5] Soluzione analitica e algoritmica di problemi di soddisfazione casuale di Mezard, Parisi, Zechina
http://dynamics.org/Altenberg/UH_ICS/EC_REFS/K-SAT/Mezard.Science.297_812.pdf

$l_p$

$l_p^3$ potrebbe avere le dimensioni di un bit fisico il più piccolo possibile. È interessante e forse una discontinuità dell'analogia che in fisica apparentemente un bit più piccolo deve effettivamente avere un volume (cioè unità di lunghezza al cubo) in contrasto con l'informatica in cui i bit sembrano avere una dimensione di "lunghezza" unitaria.