Esempio di come le statistiche bayesiane possono stimare parametri che sono molto difficili da stimare attraverso metodi frequentisti

Gli statistici bayesiani sostengono che "Le statistiche bayesiane possono stimare parametri che sono molto difficili da stimare attraverso metodi frequentisti". La seguente citazione tratta da questa documentazione SAS dice la stessa cosa?

Fornisce inferenze che sono condizionate dai dati e sono esatte, senza fare affidamento sull'approssimazione asintotica. L'inferenza di piccolo campione procede come se si avesse un campione grande. L'analisi bayesiana può anche stimare direttamente qualsiasi funzione dei parametri, senza utilizzare il metodo "plug-in" (un modo per stimare i funzionali collegando i parametri stimati ai funzionali).

Ho visto una dichiarazione simile in alcuni libri di testo ma non ricordo dove. Qualcuno può spiegarmelo con un esempio?

Ho obiezioni con quella citazione:

1. "Frequenzialismo" è un approccio all'inferenza basato sulle proprietà di frequenza degli stimatori scelti. Questa è una vaga nozione in quanto non afferma nemmeno che gli stimatori devono convergere e se lo fanno in base a come devono convergere. Ad esempio, l'imparzialità è una nozione frequentista ma non può valere per qualsiasi funzione [del parametro ] di interesse poiché la raccolta di trasformazioni di che consentono uno stimatore imparziale è molto limitata. Inoltre, uno stimatore frequentista non è prodotto dal paradigma ma deve essere scelto prima di essere valutato. In tal senso, uno stimatore bayesiano è uno stimatore frequentista se soddisfa alcune proprietà frequentiste.$\theta$$\theta$
2. L'inferenza prodotta da un approccio bayesiano si basa sulla distribuzione posteriore, rappresentata dalla sua densità . Non capisco come il termine "esatto" possa essere associato a . È associato in modo univoco a una distribuzione precedente ed è esattamente derivato dal teorema di Bayes. Ma non restituisce inferenza esatta in quanto la stima puntuale non è il vero valore del parametro e produce dichiarazioni di probabilità esatte solo all'interno del framework fornito dalla coppia prima della probabilità xπ ( θ | D ) π ( θ ) $\pi(\theta|\mathfrak{D})$$\pi(\theta|\mathfrak{D})$$\pi(\theta)$$\theta$. La modifica di un termine nella coppia modifica il posteriore e l'inferenza, mentre non esiste alcun argomento generico per difendere un singolo precedente o probabilità.
3. Allo stesso modo, altre dichiarazioni di probabilità come "il vero parametro ha una probabilità di 0,95 di cadere in un intervallo credibile del 95%" trovate nella stessa pagina di questa documentazione SAS hanno un significato relativo alla struttura della distribuzione posteriore ma non in valore assoluto.
4. $$f(x|\theta)=\int g(x,z|\theta)\,\text{d}z$$ $g(x,z|\theta)$$(X,Z)$$Z$$\theta$$(\theta,\mathfrak{Z})$, dove l'evoluzione delle popolazioni di un antenato comune comporta eventi latenti su alberi binari. Questo modello può essere gestito da un'inferenza bayesiana [approssimativa] attraverso un algoritmo chiamato ABC, anche se esistono anche risoluzioni software non bayesiane .
5. Tuttavia, anche in questi casi, non penso che l'inferenza bayesiana sia l'unica soluzione possibile. Le tecniche di apprendimento automatico come reti neurali, foreste casuali, apprendimento profondo, possono essere classificate come metodi frequentisti poiché si allenano su un campione mediante validazione incrociata, riducendo al minimo un errore o un criterio di distanza che può essere visto come un'aspettativa [secondo il vero modello] approssimato da una media campionaria. Ad esempio, il modello coalescente di Kingman può anche essere gestito con risoluzioni software non bayesiane .
6. $\mathfrak{h}(\theta)$$\mathfrak{h}(\hat\theta)$$\theta$