Qual è il miglior manuale introduttivo sulle statistiche bayesiane?


192

Qual è il miglior libro di testo introduttivo per le statistiche bayesiane?

Un libro per risposta, per favore.


36
Nelle risposte, spiega perché stai raccomandando un libro come "il migliore".
whuber

3
Come può esserci più di una risposta a una domanda formulata in questo modo?
naught101

7
Questo è un vecchio thread ora, ma sono tornato a +1 su un nuovo libro "Ripensamento statistico. E guardando le risposte di livello più alto nel thread, penso che non sia stata fatta una distinzione chiave:" introduttiva "per chi? Un primo corso di statistica (che sembra avere un approccio bayesiano)? Un'introduzione ai metodi bayesiani per qualcuno con corsi di statistica di base (non bayesiani)? O un'introduzione alle statistiche bayesiane per un praticante di statistiche non bayesiane che ha finalmente sei stato convinto che questa cosa bayesiana non sia una moda passeggera? Introduzione molto diversa.
Wayne,

Risposte:


79

John Kruschke ha pubblicato un libro a metà 2011 intitolato Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (Una seconda edizione è stata rilasciata nel novembre 2014: Doing Bayesian Data Analysis, Seconda edizione: A Tutorial con R, JAGS e Stan .) È davvero introduttiva. Se vuoi passare dalle statistiche frequentiste a Bayes, specialmente con la modellazione multilivello, consiglio Gelman e Hill.

John Kruschke ha anche un sito Web per il libro che contiene tutti gli esempi del libro in BUGS e JAGS. Anche il suo blog sulle statistiche bayesiane si collega al libro.


Il suggerimento di @Amir è un duplicato di questo. (Il titolo completo del libro è "Fare analisi dei dati bayesiani: un tutorial con R e BUG"). Come un libro veramente introduttivo, ho fatto +1 su ciascuno di essi.
Wayne,

aggiornato il titolo e aggiunto un paio di collegamenti correlati.
Jeromy Anglim,

4
Voto anche il libro di Kruschke. Ho sfogliato la maggior parte dei libri elencati nelle risposte e questo è quello che ho trovato più chiaro. IMO, è il libro di statistiche più chiaro che abbia letto. È molto utile che il codice R sia disponibile per abbinare le formule al codice. L'autore inizia con esempi molto semplici e si basa su di essi. È necessario pochissimo sfondo. Tutte le recensioni su Amazon sono molto favorevoli. Il libro di Hoff è il mio secondo preferito.
Julieth

Ahah, mi piace la copertina del libro: "Perché i cuccioli felici? (Come se i cuccioli felici
avessero

Il mio voto va anche al libro di Kruschke del 2010. Nel tentativo di apprendere le statistiche bayesiane, ne ho provate diverse e questa ha colpito nel segno. Difficile.
Patrick Coulombe,

55

Il mio preferito è "Bayesian Data Analysis" di Gelman, et al.


28
Questo è un libro introduttivo per le persone che hanno già un discreto background statistico.
John Salvatier,

38
Ho iniziato un dottorato di ricerca in Statistica 9 mesi fa e, a dire il vero, il BDA di Gelman è ancora al di sopra di me, quindi non lo definirei un testo introduttivo!
Sean,

5
-1, perché in base a più commenti e altre risposte, questo non è introduttivo.
naught101

6
@ naught101 quindi declassate senza conoscere il libro?
congetture il

5
I primi quattro o cinque capitoli sono davvero introduttivi! quindi appartiene qui.
kjetil b halvorsen,

33

Il ripensamento statistico , è stato pubblicato solo poche settimane fa e quindi lo sto ancora leggendo, ma penso che sia un'aggiunta molto bella e fresca ai libri davvero introduttivi sulle statistiche bayesiane. L'autore usa un approccio simile a quello usato da John Kruschke nei suoi libri sui cuccioli ; spiegazioni molto dettagliate, dettagliate, bei esempi pedagogici, usa anche un approccio computazionale piuttosto che matematico.

Le lezioni su Youtube e altro materiale sono disponibili anche da qui .

Codice portato su Python / PyMC3


4
+1 Sto ascoltando le lezioni ora. È molto divertente e ha un buon approccio. Il libro è eccellente e ti porta dalle basi ai modelli gerarchici. Presuppone solo che il lettore sia in qualche modo scientifico, abbia una ragionevole comprensione della matematica (escluso il calcolo) e abbia sentito alcune cose sulle statistiche. È il libro che avrei voluto avere. L'ordine in cui presenta le cose e il suo sistema di parti è geniale.
Wayne,

1
Ho colpito un muro cercando di sfogliare il libro di Kruschke, dove ha iniziato a fare grandi balzi nella logica che non riuscivo a seguire. Fortunatamente, mi sono imbattuto in un ripensamento statistico, che finora è l'unico libro che ho trovato che ti offre una comprensione veramente intuitiva dell'argomento.
Brideau,

Dopo aver esaminato il thread, ho provato a leggere il primo capitolo di questo libro e l'ho trovato molto difficile come madrelingua inglese e come non scienziato . Prima dovevo passare attraverso parole come epistemologia , idiosincratico , poi ci sono lunghe frasi, che ho dovuto leggere due volte / tre volte per capire cosa significhi letteralmente (dimenticare la conclusione di quelle frasi). Quindi il primo esempio riguarda l'evoluzione naturale, che per me suonava greco: numero di siti, numero di alleli, neutralità . Il libro potrebbe essere facile per molto, ma potrebbe essere difficile per molti
Gaurav Singhal,

30

Un altro voto per Gelman et al., Ma un secondo vicino per me - essendo della persuasione apprendendo - è il "calcolo bayesiano con R" di Jim Albert .


5
D'accordo. Entrambi grandi libri. Inizia con il calcolo bayesiano con R, quindi ottieni Gelman et al.
PeterR,

26

Sivia and Skilling, Analisi dei dati: un tutorial bayesiano (2ed) 2006 246p 0198568320 books.goo :

Le lezioni di statistica sono state fonte di grande stupore e frustrazione per generazioni di studenti. Questo libro tenta di porre rimedio alla situazione esponendo un approccio logico e unificato all'intero argomento dell'analisi dei dati. Questo testo è inteso come guida tutorial per studenti universitari senior e studenti di ricerca in scienze e ingegneria ...

Non conosco le altre raccomandazioni però.


3
Questo libro è eccellente. È breve e pratico.
John Salvatier,

2
Penso che questo sia un testo introduttivo molto migliore di Gelman.
Sean,

21

Per un'introduzione, consiglierei la programmazione probabilistica e i metodi bayesiani per hacker di Cam Davidson-Pilon, disponibili gratuitamente online.

Dalla sua descrizione:

Un'introduzione ai metodi bayesiani e alla programmazione probabilistica dal punto di vista del calcolo / comprensione, prima matematica, secondo.

È altamente visivo, taglia direttamente al valore e riempie i dettagli più grossi in seguito, ha molti esempi, ha un codice interattivo (nel Notebook IPython).


4
Ho pensato che questo libro online fosse difficile da seguire / scritto male.
captain_ahab,

2
Penso che il libro vada bene.
SmallChess,

1
Penso che questo libro sia
un'introduzione

19

Consiglio vivamente la divertente polemica "Probability Theory: The Logic of Science" di ET Jaynes.

Questo è un testo introduttivo nel senso di non richiedere (e in effetti preferire) nessuna precedente conoscenza della statistica, ma alla fine impiega matematica abbastanza sofisticata. Rispetto alla maggior parte delle altre risposte fornite, questo libro non è altrettanto pratico o facile da digerire, ma fornisce la base filosofica al perché si vorrebbe impiegare metodi bayesiani e perché non usare approcci frequentisti. È introduttivo in un modo storico e filosofico, ma non pedagogico.


8
Questo è un libro brillante sul pensiero bayesiano piuttosto che sull'applicazione dei metodi bayesiani. Penso che questo sia un buon testo di accompagnamento a qualcosa che approfondisce il modo in cui i calcoli bayesiani.
Probislogic,

3
Questo è un buon modo di dirlo. Penso che Sivia and Skilling sia un testo di accompagnamento ideale per introdurre i metodi in pratica (che è già stato suggerito in un'altra risposta).
Bogdanovist,

2
Divertente, polemico e originale, certo, ma sicuramente non un libro introduttivo.
Xi'an,

19

Sono un ingegnere elettrico e non uno statistico. Ho passato un sacco di tempo a esaminare Gelman ma non credo che uno possa riferirsi a Gelman come introduttivo. Il mio professore di guru bayesiano di Carnegie Mellon è d'accordo con me su questo. avere la minima conoscenza di statistiche e R and Bugs (come il modo semplice per fare qualcosa con stat bayesiano) Fare analisi dei dati bayesiani: un tutorial con R e BUG è un inizio sorprendente. Puoi confrontare facilmente tutti i libri offerti dalla loro copertina!

Aggiornamento di 5 anni dopo: voglio aggiungere che forse un altro importante modo di apprendere in modo rapido (40 minuti) è quello di consultare la documentazione di uno strumento Bayesian Net GUI come Netica 2 . Inizia con le basi, ti guida attraverso le fasi di costruzione di una rete basata su una situazione e dei dati e su come eseguire le tue domande avanti e indietro per "ottenerlo!".


1
Questo è un duplicato della risposta di @ rosser sopra. Come un libro veramente introduttivo, ho fatto +1 su ciascuno.
Wayne,

16

Il suo focus non è strettamente sulle statistiche bayesiane, quindi manca di metodologia, ma la teoria dell'informazione, l'inferenza e gli algoritmi di apprendimento di David MacKay mi hanno fatto comprendere intuitivamente le statistiche bayesiane meglio di altre - la maggior parte fa quanto abbastanza bene, ma ho sentito MacKay spiegare perché meglio.


6
Ed è disponibile per il download gratuito dalla pagina degli autori: inference.phy.cam.ac.uk/mackay/itila/book.html
PeterR

5
Come Sivia, questo è molto bello se hai un background fisico e può essere difficile se non lo è. Non è una buona guida a nessun tipo di statistica sociale applicata (per questo uso Gelman e Hill, o Gelman et al. Sopra) ma davvero eccezionale per spingerti a pensare davvero alle questioni fondamentali.
conjugateprior il

16

I libri di Gelman sono tutti eccellenti ma non necessariamente introduttivi in ​​quanto presumono che tu sappia già alcune statistiche. Pertanto sono un'introduzione al modo bayesiano di fare statistiche piuttosto che alle statistiche in generale. Vorrei comunque dare loro i pollici in su, comunque.

Come libro introduttivo di statistica / econometria che assume una prospettiva bayesiana, consiglierei l'econometria bayesiana di Gary Koop .


15

" Bayesian Core: A Practical Approach to Computational Bayesian Statistics " di Marin e Robert, Springer-Verlag (2007).

"Why?": L'autore spiega il perché della scelta bayesiana e quanto molto bene. È un libro pratico, ma scritto da uno dei migliori pensatori bayesiani in vita. Non è esaustivo. Altri libri hanno questo obiettivo. Raccoglie alcuni argomenti che sono pertinenti, utili e illuminanti le basi.

A proposito di "scelta": se vuoi davvero approfondire la fondazione bayesiana, "La scelta bayesiana" di Xi'an è chiara, profonda, essenziale.


7
@ Xi'an e gappy, ti preghiamo di spiegare perché questo libro può essere raccomandato. Per chi è adatto? In che senso è "migliore"?
whuber

4
Non voglio cadere nell'autopromozione. Bayesian Core è una voce indipendente all'inferenza bayesiana per i modelli più comuni e per i metodi computazionali (codici R forniti). Richiede un po 'di background nella teoria della probabilità che potrebbe essere troppo per alcuni lettori ... (Funziona bene con i nostri studenti del 4 ° e 5 ° anno in Francia.)
Xi'an,

14

Il mio primo testo di laurea preferito per le statistiche bayesiane è di Bolstad, Introduzione alle statistiche bayesiane . Se stai cercando qualcosa di livello universitario, questo sarà troppo elementare, ma per qualcuno che è nuovo nelle statistiche questo è l'ideale.


13

Non so perché nessuno abbia menzionato il libro introduttivo su Bayesian:

inserisci qui la descrizione dell'immagine

C'è una versione PDF gratuita per il libro. Il libro offre abbastanza materiale per chiunque abbia poca esperienza in bayesiano. Introduce il concetto di distribuzione precedente, distribuzione posteriore, distribuzione beta ecc.

Provalo, è gratis.

http://greenteapress.com/thinkbayes/






9

Dai un'occhiata a "The Bayesian Choice" . Ha il pacchetto completo: basi, applicazioni e calcolo. Chiaramente scritto.


Non sarebbe solo un "bayesiano", ma piuttosto una "grande scelta", se il manuale della soluzione fosse disponibile per lo studio autonomo. Sembra che questo sia destinato esclusivamente all'uso universitario ...
Scritto il

9

Ho almeno dato un'occhiata alla maggior parte di questi in questo elenco e nessuno è buono come le nuove idee bayesiane e l'analisi dei dati secondo me.

Modifica: è facile iniziare immediatamente a fare l'analisi bayesiana durante la lettura di questo libro. Non solo modellare la media da una distribuzione normale con varianza nota, ma l'analisi dei dati effettivi dopo i primi due capitoli. Tutti gli esempi di codice e i dati si trovano sul sito Web del libro. Copre una discreta quantità di teoria ma l'attenzione è rivolta alle applicazioni. Molti esempi su una vasta gamma di modelli. Bel capitolo sulla nonparametria bayesiana. Esempi di Winbugs, R e SAS. Lo preferisco a Do Bayesian Data Analysis (ne ho entrambi). La maggior parte dei libri qui (Gelman, Robert, ...) non sono introduttivi secondo me e, a meno che tu non abbia qualcuno con cui parlare, probabilmente rimarranno con più domande e risposte. Il libro di Albert non tratta abbastanza materiale per sentirsi a proprio agio nell'analizzare i dati diversi da quanto presentato nel libro (di nuovo la mia opinione).


2
"Buono" in che senso?
whuber

Buon punto. Buono come nel miglior manuale introduttivo bayesiano. Credo che sia "migliore" di Bayesian Data Analysis con R di Albert e ho trovato Bayesian Data Analysis di Gelman et al. non basta come introduzione. Dopo aver appreso del materiale bayesiano, tuttavia, è un buon riferimento.
Glen,



7

Devo semplicemente includere MCMC nella pratica . Fornisce un'eccellente introduzione a MCMC, forse non così generale come altri libri citati, ma eccellente per ottenere intuizioni e intuizioni. Lo consiglio leggerlo dopo (o in parallelo con) Bayesiano calcolo con R .


Mcmc non dovrebbe essere al centro di un'introduzione alle statistiche bayesiane, secondo me. Penso che il campionamento del rifiuto sia più interessante come modo per capire come funziona l'apprendimento bayesiano. Inoltre, i minimi quadrati sono bayesiani (come la massima somiglianza), quindi rappresenta anche un'introduzione più delicata alle statistiche bayesiane, rispetto a mcmc.
probabilistica

2
La mia opinione è che mcmc dovrebbe essere evitato e usato come ultima risorsa - nella maggior parte dei casi ci vuole semplicemente troppo tempo (anche se mi occupo di grandi set di dati in cui tutto è sostanzialmente mle). mcmc è un "martello" in una certa misura. Inoltre mcmc è un algoritmo per l'integrazione numerica. Niente di più, niente di meno. Dovrebbe ricevere lo stesso trattamento introduttivo di altri algoritmi, come il metodo laplace e il quadratre. Altrimenti le persone svilupperanno una visione ristretta di cosa siano le "statistiche bayesiane".
Probislogic

6

Se vieni dalle scienze fisiche (fisica / astronomia) ti consiglierei l'analisi dei dati logici bayesiani per le scienze fisiche: un approccio comparativo con il supporto Mathematica® di Gregory (2006).

Sebbene la parte del titolo "with Mathematica® Support" sia riservata esclusivamente a questioni commerciali (gli usi del codice Mathematica sono molto scarsi), la cosa positiva di questo libro è che si tratta davvero di un'introduzione all'argomento delle probabilità e delle statistiche. Ha anche alcuni capitoli sulle statistiche dei frequentisti. Tuttavia, una volta che ci provi, scegli il libro di Gelman et. al che molte persone ti hanno raccomandato. La maggior parte del materiale nel libro di Gregory è preso alla leggera (se no, non sarebbe un'introduzione): il libro di Gelman è stato per me un vero risveglio da quello di Gregory.


Il libro di Phil Gregory è davvero una bella introduzione, un po 'come l'introduzione di Bolstad per le persone con un background matematico avanzato. Ci sono più risorse da trovare sul sito Web di Phil Gregory e c'è anche un supplemento che affronta i modelli gerarchici e il trattamento dei dati mancanti.
scritto il

6

Leggo:

Gelman et al (2013). Analisi dei dati bayesiani. CRC Press LLC. 3a ed.

Hoff, Peter D (2009). Un primo corso in metodi statistici bayesiani. Testi Springer in Statistica.

Kruschke, Doing Bayesian Data Analysis: A Tutorial with R and Bugs, 2011. Academic Press / Elsevier.

e penso che il migliore per cominciare sia il libro di Kruschke. È perfetto per un primo approccio al pensiero bayesiano: i concetti sono spiegati in modo molto chiaro, non c'è troppa matematica e ci sono molti esempi carini!

Gelman et al. è un grande libro, ma è più avanzato e suggerisco di leggerlo dopo quello di Kruschke.

Al contrario, il libro di Hoff non mi è piaciuto perché è un libro introduttivo, ma i concetti (e il pensiero bayesiano) non sono spiegati in modo chiaro. Suggerisco di passare oltre.


6

Se dovessi scegliere un solo testo per un principiante, lo sarebbe

              Sivia DS and Skilling J (2006) book (see below). 

Di tutti i libri elencati di seguito si sforza di dare una comprensione intuitiva delle idee essenziali, ma richiede ancora un po 'di raffinatezza matematica dalla pagina 1.

Di seguito è riportato un elenco di ulteriori letture dal mio libro, con commenti su ogni pubblicazione.

Bernardo, JM e Smith, A, (2000) 4. Teoria bayesiana Un resoconto rigoroso dei metodi bayesiani, con molti esempi del mondo reale.

Bishop, C (2006) 5. Riconoscimento dei modelli e apprendimento automatico. Come suggerisce il titolo, si tratta principalmente di apprendimento automatico, ma fornisce un resoconto lucido e completo dei metodi bayesiani.

Cowan G (1998) 6. Analisi dei dati statistici. Un'eccellente introduzione non bayesiana all'analisi statistica.

Dienes, Z (2008) 8. Comprendere la psicologia come scienza: un'introduzione all'inferenza scientifica e statistica. Fornisce materiale tutorial sulla regola di Bayes e un'analisi lucida della distinzione tra statistiche bayesiane e statistiche frequentiste.

Gelman A, Carlin J, Stern H e Rubin D. (2003) 14. Analisi dei dati bayesiani. Un resoconto rigoroso e completo dell'analisi bayesiana, con molti esempi del mondo reale.

Jaynes E e Bretthorst G (2003) 18. Teoria della probabilità: la logica della scienza. Il classico moderno dell'analisi bayesiana. È completo e saggio. Il suo stile discorsivo lo rende lungo (600 pagine) ma mai noioso, ed è pieno di intuizioni.

Khan, S, 2012, Introduzione al teorema di Bayes. I video di matematica online di Salman Khan rappresentano una buona introduzione a vari argomenti, inclusa la regola di Bayes.

Lee PM (2004) 27. Statistiche bayesiane: un'introduzione. Un testo rigoroso e completo con uno stile bayesiano rigoroso.

MacKay DJC (2003) 28. Teoria dell'informazione, inferenza e algoritmi di apprendimento. Il classico moderno sulla teoria dell'informazione. Un testo molto leggibile che vaga in lungo e in largo su molti argomenti, quasi tutti sfruttando la regola di Bayes.

Migon, HS e Gamerman, D (1999) 30. Inferenza statistica: un approccio integrato. Un resoconto semplice (e chiaramente definito) dell'inferenza, che mette a confronto approcci bayesiani e non bayesiani. Nonostante sia abbastanza avanzato, lo stile di scrittura è un tutorial in natura.

Pierce JR (1980) 34 2nd Edition. Un'introduzione alla teoria dell'informazione: simboli, segnali e rumore. Pierce scrive con uno stile di scrittura informale e tutorial, ma non si presenta dal presentare i teoremi fondamentali della teoria dell'informazione.

Reza, FM (1961) 35. Un'introduzione alla teoria dell'informazione. Un libro più completo e matematico è rigoroso rispetto al precedente libro di Pierce e dovrebbe idealmente essere letto solo dopo aver letto il testo più informale di Pierce.

Sivia DS e Skilling J (2006) 38. Analisi dei dati: un tutorial bayesiano. Questa è un'eccellente introduzione in stile tutorial ai metodi bayesiani.

Spiegelhalter, D e Rice, K (2009) 36. Statistiche bayesiane. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Un riassunto affidabile e completo dello stato attuale delle statistiche bayesiane.

Ed ecco il mio libro, pubblicato a giugno 2013.

La regola di Bayes: un'esercitazione introduttiva all'analisi bayesiana, Dr James V Stone, ISBN 978-0956372840

Il capitolo 1 può essere scaricato da: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Descrizione: Scoperta da un matematico e predicatore del XVIII secolo, la regola di Bayes è una pietra miliare della moderna teoria della probabilità. In questo libro riccamente illustrato, viene usata una serie di esempi accessibili per mostrare come la regola di Bayes sia in realtà una conseguenza naturale del ragionamento di buon senso. La regola di Bayes viene derivata utilizzando rappresentazioni grafiche intuitive della probabilità e l'analisi bayesiana viene applicata alla stima dei parametri utilizzando i programmi MatLab forniti. Lo stile tutorial di scrittura, combinato con un glossario completo, rende questo un primer ideale per il principiante che desidera acquisire familiarità con i principi di base dell'analisi bayesiana.

inserisci qui la descrizione dell'immagine


4

Non strettamente le statistiche bayesiane in quanto tali, ma posso consigliare vivamente "Un primo corso sull'apprendimento automatico" di Rogers e Girolami, che è essenzialmente un'introduzione agli approcci bayesiani all'apprendimento automatico. È molto ben strutturato, chiaro e rivolto agli studenti senza un forte background matematico. Ciò significa che è una buona prima introduzione alle idee bayesiane. C'è anche il codice MATLAB / OCTAVE che è una bella caratteristica.


4

Statistiche bayesiane per scienziati sociali . Phillips, Lawrence D. (1973), Thomas Crowell & Co. È molto chiaro, molto accessibile, non presuppone alcuna conoscenza statistica e, a differenza di Bolstad che ho trovato secco, ha una certa personalità.


3

Questo libro suggerisce che si rivolge a livello universitario entry level

Biostatistica: un'introduzione bayesiana. Di George G Woodsworth.

Pubblicato da John Wiley & Sons



2

Poiché il tipo di principiante non è specificato nella domanda, ecco il mio consiglio per gli esperti di statistica:

Andrew B. Lawson ed Emmanuel Lesaffre (2012): Bayesian Biostatistics

Questo libro è stato usato nel primo anno del nostro maestro di scienze statistiche e l'ho trovato relativamente facile da capire per un argomento così difficile. Come per la maggior parte dei libri di "biostatistica", gli esempi sono principalmente di biologia clinica, ma i metodi non si limitano a quelli utili nella scienza clinica. Prima di questo avevamo avuto circa mezzo anno di educazione statistica e oltre al teorema di Bayes, le statistiche bayesiane non erano ancora state introdotte.

La cosa interessante è che le 649 diapositive delle presentazioni di accompagnamento sono disponibili online .

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.