Perché a un bayesiano non è permesso guardare i residui?

Nell'articolo "Discussione: gli ecologisti dovrebbero diventare bayesiani?" Brian Dennis offre una visione sorprendentemente equilibrata e positiva delle statistiche bayesiane quando il suo obiettivo sembra essere quello di avvertire la gente al riguardo. Tuttavia, in un paragrafo, senza citazioni o giustificazioni, afferma:

I bayesiani, vedete, non sono autorizzati a guardare i loro residui. Viola il principio di verosimiglianza per giudicare un risultato in base a quanto è estremo sotto un modello. Per un bayesiano non ci sono modelli cattivi, solo cattive credenze.

Perché a un bayesiano non sarebbe permesso guardare i residui? Quale sarebbe la citazione appropriata per questo (cioè chi sta citando)?

Dennis, B.
Discussione: Gli ecologisti dovrebbero diventare bayesiani?
Applicazioni ecologiche, Ecological Society of America , 1996 , 6, 1095-1103

Naturalmente i bayesiani possono guardare i residui! E naturalmente ci sono cattivi modelli nell'analisi bayesiana. Forse alcuni bayesiani negli anni '70 hanno sostenuto questo punto di vista (e ne dubito), ma difficilmente troverai alcun bayesiano a sostenere questo punto di vista in questi giorni.

Non ho letto il testo, ma i bayesiani usano cose come i fattori di Bayes per confrontare i modelli. In realtà, un bayesiano può persino calcolare la probabilità che un modello sia vero e scegliere il modello che ha maggiori probabilità di essere vero. Oppure un bayesiano può fare la media tra i modelli, per ottenere un modello migliore. O può utilizzare controlli predittivi posteriori. Ci sono molte opzioni per controllare un modello e ognuna può favorire un approccio o un altro, ma dire che non ci sono modelli cattivi nell'analisi bayesiana non ha senso.

Quindi, al massimo, sarebbe più appropriato dire che in alcune versioni estreme del bayesianismo (versioni estreme che quasi nessuno utilizza nelle impostazioni applicate, a proposito) non è consentito controllare il proprio modello. Ma di quanto si possa dire che in alcune versioni estreme del frequentismo non è consentito utilizzare anche i dati osservativi. Ma perché perdere tempo a discutere di queste cose sciocche, quando possiamo discutere se e quando, in un contesto applicato, dovremmo usare metodi bayesiani o frequentisti o altro? Questo è ciò che è importante, secondo la mia modesta opinione.

Aggiornamento: L'OP ha chiesto un riferimento a qualcuno che sostiene la versione estrema di Bayes. Dal momento che non ho mai letto nessuna versione estrema di Bayes, non posso fornire questo riferimento. Ma immagino che Savage possa essere un tale riferimento. Non ho mai letto nulla scritto da lui, quindi potrei sbagliarmi.

ps .: Pensa al problema del "Bayesiano ben calibrato" ( Dawid (1982), JASA , 77 , 379 ). Un previsore bayesiano soggettivista coerente non può essere ricalibrato, e quindi non rivederebbe il suo modello / previsioni nonostante le prove schiaccianti di non essere calibrato. Ma non credo che nessuno in pratica possa affermare di essere così coerente. Pertanto, la revisione del modello è importante.

ps2 .: Mi piace anche questo articolo di Efron . Il riferimento completo è: Efron, Bradley (2005). "Bayesiani, frequentisti e scienziati." Journal of American Statistical Association 100 (469).

Possono guardare ma non toccare. Dopotutto, i residui sono la parte dei dati che non portano alcuna informazione sui parametri del modello e il loro precedente esprime tutta l'incertezza su di essi: non possono cambiare il loro precedente in base a ciò che vedono nei dati.

Ad esempio, supponiamo che stia adattando un modello gaussiano, ma noti troppa curtosi nei residui. Forse la tua ipotesi precedente avrebbe dovuto essere una distribuzione t con probabilità diversa da zero su bassi gradi di libertà, ma non lo era - era effettivamente una distribuzione t con probabilità zero ovunque tranne che su infiniti gradi di libertà. Nulla nella probabilità può determinare probabilità diverse da zero rispetto alle regioni della densità posteriore in cui la densità precedente è zero. Pertanto, l'idea di aggiornare continuamente i prior in base alla probabilità dei dati non funziona quando il precedente originale viene specificato in modo errato.

Ovviamente se si esegue il "controllo del modello bayesiano" di Google, si vedrà che questa è una parodia dell'attuale pratica bayesiana; tuttavia, rappresenta una sorta di difficoltà per gli argomenti di tipo Logico della Scienza per la superiorità del bayesismo su basi filosofiche. Il blog di Andrew Gelman è interessante su questo argomento.