Quali sono i contro dell'analisi bayesiana?

Quali sono alcune obiezioni pratiche all'uso dei metodi statistici bayesiani in qualsiasi contesto? No, non intendo il solito carping sulla scelta del precedente. Sarò felice se questo non ottiene risposte.

Ti darò una risposta. Quattro svantaggi in realtà. Si noti che nessuna di queste sono in realtà obiezioni che dovrebbero spingere fino all'analisi frequentista, ma ci sono svantaggi nell'adottare un quadro bayesiano:

1. Scelta del precedente. Questo è il solito carping per un motivo, anche se nel mio caso non è il solito "i priors sono soggettivi!" ma trovare un precedente ben ragionato e in realtà rappresenta il tuo miglior tentativo di riassumere un precedente è in molti casi un grande lavoro. Un intero obiettivo della mia tesi di laurea, ad esempio, può essere riassunto come "stima dei priori".
2. È intensivo dal punto di vista computazionale. Soprattutto per i modelli che coinvolgono molte variabili. Per un set di dati di grandi dimensioni con molte variabili stimate, può benissimo essere intensivamente computazionalmente proibitivo, specialmente in determinate circostanze in cui i dati non possono essere facilmente trasferiti su un cluster o simili. Alcuni dei modi per risolverlo, come i dati aumentati anziché MCMC, sono in qualche modo teoricamente impegnativi, almeno per me.
3. Le distribuzioni posteriori sono in qualche modo più difficili da incorporare in una meta-analisi, a meno che non sia stata fornita una descrizione parametrica frequente della distribuzione.
4. A seconda del diario a cui è destinata l'analisi, o l'uso di Bayes in generale, o la scelta dei priori, dà al tuo articolo un po 'più punti in cui un revisore può scavarci. Alcuni di questi sono ragionevoli obiezioni da parte dei revisori, ma alcuni derivano solo dalla natura di Bayes e da come le persone familiari in alcuni campi sono d'accordo con esso.

Nessuna di queste cose dovrebbe fermarti. In effetti, nessuna di queste cose mi ha fermato, e si spera che l'analisi bayesiana possa aiutare ad affrontare almeno il numero 4.

Sono un bayesiano per inclinazione, ma generalmente un frequentista in pratica. La ragione di ciò è di solito che eseguire correttamente l'intera analisi bayesiana (piuttosto che ad esempio le soluzioni MAP) per i tipi di problemi che mi interessano è complicato e intensivo dal punto di vista computazionale. Spesso è necessaria un'analisi bayesiana completa per vedere davvero i vantaggi di questo approccio rispetto agli equivalenti frequentisti.

Per me, il compromesso è fondamentalmente una scelta tra metodi bayesiani concettualmente eleganti e di facile comprensione, ma difficili da attuare in pratica e metodi frequentisti, concettualmente goffi e sottili (prova a spiegare come interpretare accuratamente un test di ipotesi o perché non esiste una probabilità del 95% che il valore reale risieda in un intervallo di confidenza del 95%), ma che si adattano bene alle soluzioni "ricettari" facilmente implementabili.

Cavalli per i corsi.

Da un punto di vista puramente pratico, non sono un ventilatore di metodi che richiedono grandi quantità di calcolo (Penso Gibbs campionatore e MCMC, spesso utilizzata nel quadro Bayesiano, ma questo vale anche per esempio tecniche di bootstrap in analisi frequentista). Il motivo è che qualsiasi tipo di debug (test dell'implementazione, controllo della solidità rispetto alle ipotesi, ecc. ) Richiede di per sé un sacco di simulazioni Monte Carlo e si è rapidamente in una situazione di errore computazionale. Preferisco che le tecniche di analisi sottostanti siano veloci e deterministiche, anche se sono solo approssimative.

Questa è un'obiezione puramente pratica, ovviamente: date infinite risorse di calcolo, questa obiezione scomparirebbe. E si applica solo a un sottoinsieme di metodi bayesiani. Anche questa è più una preferenza dato il mio flusso di lavoro.

A volte esiste una soluzione "classica" semplice e naturale a un problema, nel qual caso un metodo bayesiano di fantasia (specialmente con MCMC) sarebbe eccessivo.

Inoltre, nei problemi di tipo di selezione variabile, può essere più semplice e chiaro considerare qualcosa come una probabilità penalizzata; può esistere un precedente sui modelli che fornisce un approccio bayesiano equivalente, ma come il precedente corrisponda alla prestazione finale può essere meno chiaro della relazione tra penalità e prestazione.

Infine, i metodi MCMC richiedono spesso un esperto sia per valutare la convergenza / miscelazione sia per dare un senso ai risultati.

Sono relativamente nuovo ai metodi bayesiani, ma una cosa che mi infastidisce è che, mentre capisco la logica dei priori (cioè la scienza è uno sforzo cumulativo, quindi per la maggior parte delle domande c'è una quantità di esperienza / pensiero precedente che dovrebbe informare il tuo interpretazione dei dati), non mi piace che l'approccio bayesiano ti costringa a spingere la soggettività all'inizio dell'analisi, rendendo contingente il risultato finale. Credo che ciò sia problematico per due motivi: 1) alcuni lettori meno esperti non presteranno nemmeno attenzione ai priori e interpreteranno i risultati bayesiani come non contingenti; 2) a meno che non siano disponibili i dati grezzi, è difficile per i lettori riformulare i risultati nei propri priori soggettivi. Questo è il motivo per cui preferisco i rapporti di verosimiglianza,

(I critici astuti noteranno che anche il rapporto di verosimiglianza è "contingente", nel senso che dipende dalla parametrizzazione dei modelli da confrontare; tuttavia questa è una caratteristica condivisa da tutti i metodi, Frequentista, Bayesiano e Probabile)

La teoria delle decisioni è la teoria di base su cui opera la statistica. Il problema è trovare una buona procedura (in un certo senso) per produrre decisioni dai dati. Tuttavia, raramente esiste una scelta inequivocabile della procedura, nel senso di minimizzare la perdita attesa, quindi altri criteri devono essere invocati per scegliere tra di loro. La scelta delle procedure Bayes rispetto ad alcuni precedenti è uno di questi criteri, ma potrebbe non essere sempre quello che desideri. Minimax potrebbe essere più importante in alcuni casi o imparzialità.

Chiunque insista sul fatto che i frequentatori abbiano torto o che i bayesiani o il torto stiano per lo più rivelando la loro ignoranza delle statistiche.

Per un po 'di tempo ho voluto istruirmi di più sugli approcci bayesiani alla modellistica per superare la mia comprensione superficiale (ho codificato i campionatori Gibbs nel lavoro dei corsi di laurea, ma non ho mai fatto nulla di reale). Lungo la strada, anche se ho pensato che alcuni dei documenti di Brian Dennis fossero stati stimolanti e avrei desiderato poter trovare un amico bayesiano (quelli che non erano nell'armadio) per leggere i giornali e ascoltare i loro contrappunti. Quindi, ecco i documenti a cui mi riferisco, ma la citazione che ricordo sempre è

Essere bayesiano significa non dover mai dire che ti sbagli.

http://faculty.washington.edu/skalski/classes/QERM597/papers/Dennis_1996.pdf http://classes.warnercnr.colostate.edu/nr575/files/2011/01/Lele-and-Dennis-2009.pdf

Quali sono i problemi aperti nelle statistiche bayesiane dalla newsletter trimestrale ISBA elencano 5 problemi con le statistiche bayesiane di vari leader del settore, essendo il numero 1, abbastanza noioso, "Selezione del modello e verifica delle ipotesi".