L'operazione del caso in un mondo deterministico

15

Nel libro di Steven Pinker Better Angels of Our Nature , lo osserva

La probabilità è una questione di prospettiva. Visti a distanza sufficientemente ravvicinata, i singoli eventi hanno cause determinate. Anche il lancio di una moneta può essere previsto dalle condizioni di partenza e dalle leggi della fisica, e un mago esperto può sfruttare quelle leggi per scagliare la testa ogni volta. Tuttavia, quando eseguiamo lo zoom indietro per avere una visione grandangolare di un gran numero di questi eventi, stiamo vedendo la somma di un vasto numero di cause che a volte si annullano a vicenda e talvolta si allineano nella stessa direzione. Il fisico e filosofo Henri Poincaré ha spiegato che vediamo l'operazione del caso in un mondo deterministico o quando un gran numero di cause punibili si sommano a un formidabile effetto, o quando una piccola causa che sfugge alla nostra attenzione determina un grande effetto che non possiamo perdere .In caso di violenza organizzata, qualcuno potrebbe voler iniziare una guerra; attende il momento opportuno, che può o non può arrivare; il suo nemico decide di impegnarsi o ritirarsi; i proiettili volano; scoppiarono le bombe; La gente muore. Ogni evento può essere determinato dalle leggi della neuroscienza, della fisica e della fisiologia. Ma nel complesso, le molte cause che entrano in questa matrice possono talvolta essere mescolate in combinazioni estreme. (p. 209)

Sono particolarmente interessato alla frase in grassetto, ma do il resto per il contesto. La mia domanda: ci sono modi statistici per descrivere i due processi descritti da Poincaré? Ecco le mie ipotesi:

1) "Un gran numero di cause impercettibili si sommano a un formidabile effetto." Il "gran numero di cause" e "sommato" mi suonano come il teorema del limite centrale . Ma nella (definizione classica di) CLT, le cause devono essere variabili casuali, non effetti deterministici. Il metodo standard qui è per approssimare questi effetti deterministici come una sorta di variabile casuale?

2) "Una piccola causa che sfugge al nostro avviso determina un grande effetto che non possiamo perdere." Mi sembra che tu possa pensare a questo come a una sorta di modello Markov nascosto . Ma le probabilità (non osservabili) di transizione di stato in un HMM sono proprio queste, probabilità, che per definizione non è ancora deterministica.

probability central-limit-theorem intuition

— Andy McKenzie
fonte

7

Pensiero interessante (+1).

Nei casi 1) e 2), il problema è lo stesso: non abbiamo informazioni complete. E la probabilità è una misura della mancanza di informazioni.

1) Le cause puny possono essere puramente deterministiche, ma quali cause particolari operano sono impossibili da conoscere mediante un processo deterministico. Pensa alle molecole in un gaz. Si applicano le leggi della meccanica, quindi cosa c'è di casuale qui? Le informazioni a noi nascoste: dov'è quale molecola con quale velocità. Quindi si applica il CLT, non perché c'è casualità nel sistema, ma perché c'è casualità nella nostra rappresentazione del sistema .

2) C'è un componente temporale in HMM che non è necessariamente presente in questo caso. La mia interpretazione è la stessa di prima, il sistema potrebbe non essere casuale, ma il nostro accesso al suo stato ha una certa casualità.

MODIFICARE : Non so se Poincaré stesse pensando a un diverso approccio statistico per questi due casi. Nel caso 1) conosciamo i varialbes, ma non possiamo misurarli perché ce ne sono troppi e sono troppo piccoli. Nel caso 2) non conosciamo le variabili. In entrambi i casi, finisci per fare ipotesi e modellare l'osservabile il meglio che possiamo, e abbastanza spesso assumiamo la Normalità nel caso 2).

Ma comunque, se ci fosse una differenza, penso che sarebbe l' emergenza . Se tutti i sistemi fossero determinati da somme di cause impercettibili, allora tutte le variabili casuali del mondo fisico sarebbero gaussiane. Chiaramente, non è così. Perché? Perché la scala conta. Perché? Perché nuove proprietà emergono dalle interazioni su scala minore e queste nuove proprietà non devono necessariamente essere gaussiane. In realtà, non abbiamo una teoria statistica per l'emergenza (per quanto ne so), ma forse un giorno lo faremo. Quindi sarà giustificato avere approcci statistici diversi per i casi 1) e 2)

— gui11aume
fonte

1

Grazie per la risposta. D'accordo, entrambi si riducono al fatto che non abbiamo informazioni complete - questo è un buon modo per inquadrarle. Tuttavia, mi piacerebbe vedere una risposta che distingua maggiormente i due casi. Cosa stava pensando Poincaré?

— Andy McKenzie,

Vedo che ti preoccupi. Ho modificato la mia risposta per cercare di rispondere al meglio.

— gui11aume,

4

Penso che stai leggendo troppo nell'affermazione. Tutto sembra risiedere nella premessa che il mondo è deterministico e che gli umani lo modellano probabilisticamente perché è più facile approssimare ciò che sta accadendo in quel modo che passare attraverso tutti i dettagli della fisica e qualsiasi altra equazione matematica che lo descriva. Penso che ci sia stato un dibattito di lunga data sul determininismo rispetto agli effetti casuali, in particolare tra fisico e statistico. Sono stato particolarmente colpito dalle seguenti frasi precedenti a ciò che hai osato. "Anche un lancio della moneta può essere previsto dalle condizioni di partenza e dalle leggi della fisica, e un mago esperto può sfruttare quelle leggi per lanciare la testa ogni volta." Quando ero uno studente laureato a Stanford alla fine degli anni '70, Persi Diacon è uno statistico e un mago e Joe Keller un fisico hanno effettivamente cercato di applicare le leggi della fisica a un lancio di monete per determinare quale sarebbe l'otucoma in base alle condizioni iniziali riguardanti se o no le teste sono scoperte ed esatte; y come la forza del lancio del dito colpisce la moneta. penso che potrebbero averlo risolto. Ma pensare che un mago anche con l'addestramento magico e la conoscenza statistica di un persi diaconis potrebbe lanciare la moneta e farla uscire di testa ogni volta è assurdo. Credo che abbiano scoperto che è impossibile replicare le condizioni iniziali e penso che si applichi la teoria del caos. Piccole perturbazioni nella condizione iniziale hanno grandi effetti sul volo della moneta e rendono il risultato imprevedibile. Come statistico direi che anche se il mondo è deterministico, i modelli stocastici fanno un lavoro migliore nel prevedere i risultati rispetto alle complesse leggi deterministiche. Quando la fisica è semplice, le leggi deterministiche possono e devono essere utilizzate. Ad esempio la legge gravitazionale di Newton funziona bene nel determinare la velocità di un oggetto quando colpisce il terreno cadendo da 10 piedi dal suolo e usando l'equazione d = gt $^2$

— Michael R. Chernick
fonte

2

Michael Chernick, potresti essere interessato a questo articolo su Diaconis.

— Ciano,

Sostituirei la frase "... gli umani lo modellano probabilisticamente perché è più facile approssimare quello che sta succedendo in quel modo ..." con "... gli umani lo modellano probabilisticamente perché è troppo difficile incorporare i piccoli dettagli, che il più delle volte non importa, ... ". Inoltre, stai adottando un approccio "pratico" a una domanda più filosofica / concettuale. La teoria del caos è solo un problema "in pratica" perché non abbiamo rappresentazioni arbitrariamente accurate dei numeri. Un altro problema con le leggi deterministiche è che spesso dipendono da cose che non possiamo misurare.

— Probislogic,

1

Grazie ciano. Non ho visto quel particolare articolo ma ne ho visti molti altri su Persi e lo conosco abbastanza bene come ex professore assistente che mi ha insegnato la teoria della probabilità e le serie storiche quando eravamo entrambi alla fine degli anni Venti e Trenta precedenti dal 1974-1978 . Persi anche io e Michael Cohen (quando Michael Cohen e io eravamo entrambi studenti laureati) abbiamo rasato il dado su un panno centinaia o migliaia di volte per confermare la sua teoria su quale sarebbe il pregiudizio per quel tipo di rasatura.

— Michael R. Chernick,

1

Come ogni bravo sperimentatore, non ci ha detto che erano rasati e che non c'era una grande differenza nell'area per renderlo evidente agli occhi. ovviamente se volessi imbrogliare un casinò con i dadi rasati non potresti raderti così tanto da renderlo evidente e tuttavia non così piccolo da impiegarti un'eternità a guadagnare delle buone vincite ed evitare la rovina dei giocatori. Ovviamente avevamo qualche sospetto sull'esperimento perché non aveva molto senso cercare di confermare che ogni parte si avvicinava molto vicino all'1 / 6 di volta.

— Michael R. Chernick,

Anche fare un esperimento per dimostrare che puoi falsare una moneta giusta a favore delle teste è lungi dall'essere in grado di ottenere una testa ogni volta. Gli statistici sono usati dalle commissioni della lotteria per testare le loro macchine per assicurarsi che siano eque.

— Michael R. Chernick,

4

$2^{-N}$ $2^N$

$N$ $a_n \sim b_n$ $\lim_{n\to\infty}\frac{a_n}{b_n}=1$

(\binom{N}{N f}) \sim \sqrt{\frac{1}{2 π N f (1 - f)}} \exp (- N H (f))

${N\choose Nf}\sim\sqrt{\frac{1}{2\pi Nf(1-f)}}\exp\left(-NH(f)\right)$

$H(f)=f\log\left(f\right)+(1-f)\log\left(1-f\right)$ $H(f)$ $\frac{1}{2}$ ) di:

H (f) \approx - \log (2) + 2 (f - \frac{1}{2})^{2}

$H(f)\approx-\log\left(2\right)+2(f-\frac{1}{2})^2$

Quindi abbiamo anche:

(\binom{N}{N f}) ~ 2^{N} \sqrt{\frac{1}{2 π N f (1 - f)}} \exp (- \frac{2}{N} (N f - \frac{N}{2})^{2})

${N\choose Nf}\sim 2^N\sqrt{\frac{1}{2\pi Nf(1-f)}}\exp\left(-\frac{2}{N}(Nf-\frac{N}{2})^2\right)$

Il significato di questi limiti è che qualsiasi procedura che consiste nel contare i possibili modi in cui qualcosa potrebbe accadere (come l'analisi degli effetti causali) porta alla normale distribuzione. Questo non dipende da $f$ essere casuali o deterministici. Ciò che dice il teorema del limite centrale è che la maggior parte dei modi in cui un determinato insieme di eventi potrebbe accadere è ben approssimata da una distribuzione normale.

— probabilityislogic
fonte

1

Thank you. I guess the OP was not reading too much into connecting the bolded sentence with the CLT. But can I make sure I understand this correctly? Are you saying that for large N the number of combinations of N things taken Nf at a time is approximately equal to the normal density with variance parameter Nf(1-F) and mean parameter N/2? Also this is just an asymptotic mathematical property with no connection to probability? That is as amazing as seeing the De Moivre - LaPlace version of the central limit theorem in action using the quincunx devise!

— Michael R. Chernick

Grazie, è molto utile pensare alla distribuzione normale in modo non probabilistico. Tuttavia, non capisco 1) come sorge questo primo limite e 2) su che punto stai facendo l'espansione della serie Taylor.

— Andy McKenzie il

1

Puoi chiarire quali sono i tuoi

a_{n} \sim b_{n}

$a_n \sim b_n$ notazione significa? Non può essere la notazione asintotica standard che indica

a_{n} / b_{n} \to 1

$a_n / b_n \to 1$ . The left hand side is huge and the right hand side is tiny! Maybe once this is sorted out, it will not surprise @Michael so much since convergence in distribution (and even a local limit law like this) is simply an analytical statement about certain sequences of monotonically nondecreasing functions and so, at its heart, is not tied to any "probabilistic notions".

— cardinal

The edits are looking better. There must still be a missing term in the first display equation, though. :)

— cardinal

@cardinal - the first equation is correct, by substituting stirlings approximation for each factorial. Terms involving

\log (N)

$\log(N)$ cancel inside the exponential.

— probabilityislogic

0

The quote from Pinker's book and the idea of a deterministic world completely ignore Quantum Mechanics and the Heisenberg Uncertaintly Principle. Imagine putting a small amount of something radioactive near a detector and arranging the amounts and distances so that there will be a 50% chance of detecting a decay during a pre-determined time interval. Now connect the detector to a relay that will do something highly significant if a decay is detected and operate the device once and only once.

You have now created a situation where the future is inherently unpredictable. (This example is drawn from one described by whomever taught sophomore or junior year physics at MIT back in the middle 1960's.)

— Emil Friedman
fonte