Quando utilizzare la tecnica bootstrap vs. bayesiana?


12

Ho un problema di analisi delle decisioni piuttosto complicato che coinvolge test di affidabilità e l'approccio logico (per me) sembra implicare l'uso dell'MCMC per supportare un'analisi bayesiana. Tuttavia, è stato suggerito che sarebbe più appropriato utilizzare un approccio di bootstrap. Qualcuno potrebbe suggerire un riferimento (o tre) che potrebbe supportare l'uso di una tecnica rispetto all'altra (anche per situazioni particolari)? FWIW, ho dati da più fonti disparate e poche / zero osservazioni di errore. Ho anche dati a livello di sottosistema e di sistema.

Sembra che un confronto come questo dovrebbe essere disponibile, ma non ho avuto fortuna a cercare i soliti sospetti. Grazie in anticipo per eventuali suggerimenti.


1
Dato che il bootstrap classico può essere pensato come un metodo di massima verosimiglianza implementato dal computer (cioè una tecnica non bayesiana (piatto precedente)), sarebbe meglio riformulare la tua domanda in qualcosa come "quando usare la tecnica frequentista vs. bayesiana ?" Alcuni retroscena su bootstrap: stats.stackexchange.com/questions/18469/…
Yevgeny

1
Mmm..immagino di non essere d'accordo. Si spera che il "bootstrap" suggerisca specificamente la caratterizzazione dell'intervallo; un po 'più concentrato di un semplice "frequentista". Almeno "bootstrap" terrà a bada la maggior parte dei fanatici religiosi. Inoltre, grazie per il link, ma avevo familiarità con il tuo commento precedente prima di pubblicare questo.
Aengus,

1
Consentitemi di riformulare, avete utili informazioni preliminari o il problema ha una struttura gerarchica (nidificata)? Se è così, allora una tecnica bayesiana è probabilmente migliore (specialmente se il numero di parametri del modello è grande rispetto alla quantità di dati disponibili, quindi la stima trarrebbe beneficio dal "restringimento bayesiano"). In caso contrario, MLE / bootstrap è sufficiente.
Evgenij

Immagino che un altro possibile approccio sia quello di usare modelli a effetti misti (ad esempio usando il pacchetto R lme4) per modellare la struttura gerarchica a cui hai accennato. Ciò contribuirebbe anche a stabilizzare le stime per i modelli (gerarchici) con un gran numero di parametri.
Evgenij

1
Un'analisi bootstrap può benissimo essere vista come un'analisi bayesiana, quindi la tua domanda potrebbe quasi essere "Quando usare il bootstrap rispetto a un altro modello bayesiano" (La tua domanda mi ha spinto a scrivere questa interpretazione del bootstrap come modello bayesiano : sumsar.net/blog/2015/04/… ). Alla luce della domanda, concordo con @Yevgeny che probabilmente avremmo bisogno di ulteriori informazioni sul tuo problema specifico prima di poter raccomandare un modello.
Rasmus Bååth,

Risposte:


15

Secondo me, la descrizione del tuo problema indica due problemi principali. Primo:

Ho un'analisi decisionale piuttosto complicata ...

Supponendo che tu abbia una funzione di perdita in mano, devi decidere se ti interessa il rischio frequentista o la perdita attesa posteriore . Il bootstrap ti consente di avere funzionalità approssimative della distribuzione dei dati, quindi ti aiuterà con il primo; e campioni posteriori da MCMC ti permetteranno di valutare quest'ultimo. Ma...

Ho anche dati a livello di sottosistema e di sistema

quindi questi dati hanno una struttura gerarchica. L'approccio bayesiano modella tali dati in modo molto naturale, mentre il bootstrap è stato originariamente progettato per i dati modellati come iid Mentre è stato esteso ai dati gerarchici (vedi riferimenti nell'introduzione di questo documento ), tali approcci sono relativamente sottosviluppati (secondo l'abstract di questo articolo ).

Riassumendo: se è davvero un rischio frequentista che ti interessa, allora potrebbero essere necessarie alcune ricerche originali sull'applicazione del bootstrap alla teoria delle decisioni. Tuttavia, se ridurre al minimo la perdita attesa posteriore è una misura più naturale per il tuo problema decisionale, Bayes è sicuramente la strada da percorrere.


Grazie, non mi ero imbattuto in nessuno di questi; l'ultimo articolo sembra particolarmente interessante.
Aengus,

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.