Prenota sulla probabilità

32

Mentre ho seguito alcuni corsi di teoria della probabilità, sia al liceo che all'università, ho difficoltà a leggere i documenti TCS quando si tratta di probabilità.

Sembra che gli autori degli articoli del TCS conoscano molto bene la probabilità. Funzionano magicamente con le formule di probabilità e dimostrano molto facilmente i teoremi; mentre devo lavorare alcune ore buone per capire come è stata derivata una formula e come vengono dimostrate le identità (o le disuguaglianze).

Ho deciso di risolvere il mio problema una volta per tutte: voglio leggere un libro da cima a fondo.

Quindi, se ti viene chiesto di suggerire uno e un solo libro sulla probabilità, quale libro consiglieresti?

— incredibile
fonte

3

+1 perché apprezzerei un buon riferimento. Inoltre, posso suggerire che un libro del genere dovrebbe coprire l'inferenza bayesiana?

— Steve

4

@Incredibile: chiariresti di più? Un libro di probabilità in generale o un libro di probabilità incentrato sulla connessione all'informatica teorica?

— Yoshio Okamoto,

@Yoshio: non cerco un libro in cui viene spiegata la probabilità nel contesto del TCS. Ho solo bisogno di un libro che, dopo averlo letto copertina per copertina, posso conoscere le probabilità in modo che leggere e demistificare i documenti TCS funzioni come un incantesimo.

— Incredibile

@Steve: Sì, l'inferenza bayesiana è apprezzata. Di recente ho letto un articolo ( Lower Bounds for Zero Knowledge su Internet ) in cui l'inferenza bayesiana veniva utilizzata in modo essenziale e non potevo facilmente decifrare teoremi e lemmi.

— MS Dousti,

1

come mai questo non è mai diventato CW?

— Suresh Venkat,

22

Hai provato questi due libri?

Probabilità e calcolo: algoritmi randomizzati e analisi probabilistica di Mitzenmacher e Upfal.
Algoritmi randomizzati di Motwani e Raghavan

Si noti che questi due libri coprono molto più di semplici algoritmi randomizzati, ad esempio riguardano il metodo probabilistico, la teoria della catena di Markov, le martingale ecc., Ovviamente con molte applicazioni in TCS. Il primo libro è più facile da leggere con molti esempi le cui prove sono state elaborate in dettaglio. Il secondo libro è davvero un classico, non molto aggiornato, ma comunque molto utile. Entrambi hanno molti esercizi, quindi avrai un sacco di materiale per mettere in pratica ciò che hai imparato.

— Dai Le
fonte

12

Il manuale di studi universitari canonico per la teoria della probabilità rimane A First Course in Probability di Sheldon Ross. Il libro è un eccellente riferimento / aggiornamento per tutti gli altri. Indipendentemente da ciò che sostengono alcuni volgari revisori di Internet, il libro tratta chiaramente tutti gli argomenti più importanti nella probabilità elementare e con forti esempi motivanti.

— Huck Bennett
fonte

11

Penso che la soluzione al tuo problema non sia leggere un libro di probabilità, ma leggere più articoli in TCS.

La maggior parte dei documenti in TCS in realtà non utilizza strumenti di probabilità molto avanzati. La maggior parte di loro usa una piccola raccolta di trucchi di probabilità di base e ben noti. Il motivo per cui hai difficoltà a seguirli è che non hai ancora familiarità con questa borsa di trucchi, e molti di quei documenti non si preoccupano di spiegare questi trucchi perché presumono che il lettore li conosca. Alcuni di questi trucchi non vengono insegnati nella maggior parte dei libri di probabilità, almeno non nella forma specifica in cui vengono utilizzati nei giornali TCS.

Un altro motivo è che gli articoli TCS usano una terminologia leggermente diversa da quella insegnata nei corsi di probabilità di base - ad esempio, negli articoli TCS una variabile casuale può assumere valori in , mentre di solito nei corsi di probabilità variabili casuali sono definiti come valori reali. $\{0,1\}^n$

Quindi, leggendo più articoli TCS, acquisirai maggiore familiarità con la borsa di trucchi comuni e con la terminologia, e con il tempo saranno più facili da capire.

Detto questo, leggere un libro sulla probabilità è sempre una buona idea. Tra i libri suggeriti sopra, ho solo familiarità con "Probabilità e calcolo: algoritmi randomizzati e analisi probabilistica" di Mitzenmacher e Upfal, ed è una lettura molto buona - in particolare, ti aiuterà a familiarizzare con alcuni dei termini e trucchi usati in TCS.

— O Meir
fonte

Ben detto! Vorrei che potessimo raccogliere alcuni oggetti da questa "borsa dei trucchi", in modo da aiutare i nuovi arrivati sul campo. Forse puoi avviare una wiki della comunità con un esempio.

— MS Dousti,

1

Per quanto riguarda l'esempio delle variabili casuali: ricordo 6 anni fa, quando avevo questa stessa domanda: perché i camper TCS non sono definiti sui reali? Ho cercato e trovato la risposta: c'è molto di più nei camper di quanto apprendiamo nelle classi elementari di probabilità. Ecco un link per chi è interessato: en.wikipedia.org/wiki/… .

— MS Dousti,

9

Per aggiungere alla risposta di Dai Le, un libro più recente di Dubhashi e Panconesi fornisce molti esempi dell'uso della probabilità nell'analisi degli algoritmi.

— RJK
fonte

9

Un altro classico della probabilità orientata alla TCS / Combinatoria è il metodo probabilistico di Alon e Spencer .

— Yonatan
fonte

1

Questa è una buona raccomandazione Come Or Meir ha detto nella sua risposta, TCS usa una borsa relativamente limitata di trucchi dalla teoria della probabilità. Il libro di Alon e Spencer si concentra su questa borsa di trucchi senza impantanarsi nei dettagli tecnici della teoria della probabilità che non sono così rilevanti per TCS.

— Timothy Chow,

8

Diversi argomenti correlati su diversi siti Web SE:

Prenota per probabilità
Prerequisiti per la teoria della probabilità
Lettura supplementare per studi di teoria della probabilità
Quale libro consiglieresti ai non statistici (principalmente libri statistici)

Anche se non ho letto nessuno di questi libri, ho avuto il lusso di dare un'occhiata ad alcuni di essi. Mi è piaciuta la serie in tre volumi di HPS (Hoel, Port e Stone). Non si aspettava molto background e c'era una chiara distinzione tra probabilità argomenti, statistiche e processi stocastici (un volume separato è dedicato a ciascun argomento). Inoltre, ogni volume è piuttosto breve.

Devo ribadire che non sono a conoscenza dei contenuti di nessuno dei libri elencati. Invito altri membri a commentare questo post.

— M.S. Dousti
fonte

6

Diversi poster in questa discussione hanno raccomandato il set di due volumi di Feller . Un libro di testo più recente e, secondo quanto riferito, anche molto buono è Grimmett e Stirzaker . Inoltre, ecco un'interessante bibliografia di uno statistico professionista.

— Mikhail Glushenkov
fonte

Ho preso Feller, Grimmet e Stirzaker. Insieme al corso online del MIT "Fondamenti di probabilità", ha dimostrato di essere un buon gateway per i concetti di probabilità di cui avrai bisogno come studente avanzato senior / junior.

— Chazisop,

4

Un ottimo libro:

Probabilità di Leo Breiman

— Sylvain Peyronnet
fonte

4

La prefazione dice: "Un prerequisito è una certa conoscenza della teoria delle variabili reali, come le idee di misura, le funzioni misurabili e così via. All'incirca, i primi sette capitoli della teoria delle misure di Paul Halmos sono un background sufficiente ... Nessuna conoscenza precedente della probabilità è ipotizzata, ma sfogliare un libro elementare come quello di William Feller (Vol. I) ... dà un'ottima sensazione per l'argomento. " Questo deve essere un libro avanzato !

— MS Dousti,

4

Concrete Mathematics di Knuth et al. Molta probabilità è capire le dimensioni del tuo universo e da lì capire a quale frazione del tuo universo ti interessa.

— Chad Brewbaker
fonte

4

Un eccellente libro di probabilità introduttiva per le persone di informatica è Henk Tijms, Understanding Probability, Cambridge University Press, 2 ° ed., 2007. Questo libro si distingue dagli altri testi di probabilità introduttivi per la sua enfasi sul perché la probabilità funziona e su come applicarla.

— Chris
fonte

4

Dei libri citati concordo sul "Probabilità" di Brieman, sul libro di Sheldon Ross "Un primo corso in Probabilità" Il libro "Probabilità" di Hoel, Port e Stone delle loro tre serie di volumi. La maggior parte degli altri libri che non conosco o non penso siano appropriati. Le statistiche bayesiane non fanno parte della teoria delle probabilità. "Un corso in teoria della probabilità" di Kai Li Chung è quello che ho imparato insieme al volume II del libro di Feller "Un'introduzione alla teoria della probabilità e alle sue applicazioni" sono buoni libri da cui ho imparato. Feller è utile per l'euristica e problemi interessanti. Chung fa bene alla matematica formale. Feller e Chung possono essere difficili da leggere, soprattutto per l'autoapprendimento. Un altro grande scrittore di libri di probabilità è Sid Resnick. Il suo libro "A Probability Path" è delizioso da leggere. "Calculus of Probability" di Neveu era un altro libro che abbiamo usato nel mio corso di probabilità di laurea.

— Michael Chernick
fonte

2

Un grande libro con inclinazione EE: http://www.mhhe.com/engcs/electrical/papoulis/ un libro fantastico con inclinazione CS: http://www.amazon.com/dp/0471333417/ .

— utente4563
fonte

Mi piace anche Papoulis, anche se non sono sicuro che occorresse un aumento del 50% alla rinfusa, o un nuovo autore, per una nuova edizione. Se vedi un'edizione precedente (ad es. La seconda edizione ristampata che è stata pubblicata da Dell e venduta in grandi quantità) a buon mercato, acquistala.

— András Salamon,

2

Solo per aggiungere ai suggerimenti che altri hanno dato, questa nota di Oded Goldreich è una delle più utili che ho trovato finora. Fornisce molti esempi di come la probabilità viene utilizzata in vari settori dell'Informatica. Anche i riferimenti alla fine del libro meritano sicuramente una visita.

Metodi randomizzati nel calcolo: raccolta provvisoria di materiali di lettura

— Obinna Okechukwu
fonte

1

Questo libro è utilizzato per una classe di probabilità di introduzione al MIT. http://vfu.bg/en/e-Learning/Math--Bertsekas_Tsitsiklis_Introduction_to_probability.pdf

Sommario:

Spazio campione e probabilità
Variabili casuali discrete
Variabili casuali generali
Ulteriori argomenti su variabili e aspettative casuali
I processi di Bernoulli e Poisson
Catene di Markov
Teoremi limite

— sk8asd123
fonte