Esistono asintotici del terzo ordine?

14

La maggior parte dei risultati asintotici nelle statistiche dimostra che come uno stimatore (come l'MLE) converge in una distribuzione normale basata su un'espansione taylor del secondo ordine della funzione di probabilità. Credo che ci sia un risultato simile nella letteratura bayesiana, il "Teorema del limite centrale bayesiano", che mostra che il posteriore converge asintoticamente in un normale come $n \rightarrow \infty$ $n \rightarrow \infty$

La mia domanda è: la distribuzione converge in qualcosa "prima" che diventa normale, in base al terzo termine della serie di Taylor? O non è possibile farlo in generale?

mathematical-statistics asymptotics saddlepoint-approximation

— gabgoh
fonte

(+1) .. bella domanda. Il teorema del limite centrale bayesiano è chiamato approssimazione di Laplace, cioè il posteriore si comporta "più o meno" come una distribuzione normale. (formalmente posteriore converge nella distribuzione in una distribuzione normale)

— suncoolsu

Correlati: stats.stackexchange.com/questions/191492/…

— kjetil b halvorsen

7

Stai cercando la serie Edgeworth, vero?

http://en.wikipedia.org/wiki/Edgeworth_series#Edgeworth_series

(nota che Edgeworth morì nel 1926, dovrebbe essere nella maggior parte dei famosi statistici?)

— pettirosso
fonte

5

Non è possibile per una sequenza "convergere" in una cosa e poi in un'altra. I termini di ordine superiore in un'espansione asintotica andranno a zero. Quello che ti dicono è quanto sono vicini allo zero per ogni dato valore di $n$ .

Per il Teorema del limite centrale (come esempio) l'espansione appropriata è quella del logaritmo della funzione caratteristica: la funzione di generazione cumulativa (cgf). La standardizzazione delle distribuzioni risolve i termini zeroth, first e second of the cgf. I restanti termini, i cui coefficienti sono gli cumulativi , dipendono da in modo ordinato. La standardizzazione che si verifica nella CLT (dividendo la somma di variabili casuali da qualcosa proporzionale a without quale avvengono convergenza) provoca il cumulante - che dopo tutto dipende momenti - a essere diviso per $n$ $n$ $n^{1/2}$ $m^\text{th}$ $m^\text{th}$ , ma allo stesso tempo perché stiamo sommandotermini, il risultato netto è che la termine di ordine è proporzionale a . Così il terzo cumulante della somma standardizzata è proporzionale a , il quarto cumulant è proporzionale a $(n^{1/2})^m = n^{m/2}$ $n$ $m^\text{th}$ $n/n^{m/2} = n^{-(m-2)/2}$ $1/n^{1/2}$ $1/n$ , e così via. Questi sono i termini di ordine superiore. (Per i dettagli, vedi questo documento di Yuval Filmus per esempio.)

In generale, un alto potere negativo di è molto più piccolo di un basso potere negativo. Possiamo sempre essere certi di ciò prendendo un valore sufficientemente grande di . Quindi, per veramente grandi possiamo trascurare tutti i poteri negativi di : convergono a zero. Lungo il percorso di convergenza, partenze dal limite ultimo sono misurati con precisione sempre maggiore dai termini aggiuntivi: il termine è una "correzione" iniziale o di partenza dal valore limite; il prossimo $n$ $n$ $n$ $n$ $1/n^{1/2}$ $1/n$ il termine è una correzione più piccola, che sta scomparendo più rapidamente, e così via. In breve, i termini aggiuntivi ti danno un'idea di quanto velocemente la sequenza converge al suo limite.

$n$ $1/n^{1/2}$

— whuber
fonte

per qualche motivo, non trovo la tua risposta del tutto convincente. Concordo sul fatto che la distribuzione deve essere "allungata" e che non è corretto affermare che converge in X prima che converga in una normale. Sarebbe un errore da parte mia. Penso comunque che dovrebbe esistere un modo per ridimensionare la distribuzione in modo tale che solo il quarto ordine e sopra i "momenti" vadano verso lo zero. Devo pensare un po 'più duramente a come sarebbe esattamente quel fattore di ridimensionamento, se esistesse una cosa del genere

— gabgoh,

2

@gabgoh Vorrei sapere di più su quali aspetti della risposta sono deboli. Per quanto riguarda il ridimensionamento, sei bloccato: hai già sfruttato quella possibilità per standardizzare gli elementi della sequenza. Se (ipoteticamente) una qualche forma di ridimensionamento impedisse ai terzi di andare a zero, allora contraddiresti il CLT perché la distribuzione limitante non sarebbe normale. C'è un problema correlato con gli asintotici degli stimatori. Spesso è possibile regolare uno stimatore per uccidere i momenti più alti in modo asintotico (ad es. Con il bootstrap): ma questo non può ancora essere fatto scalando da solo.

— whuber

3

Ecco un tentativo di rispondere alla tua domanda perspicace. Ho visto l'inclusione del terzo termine della serie Taylor per aumentare la velocità di convergenza della serie alla vera distribuzione. Tuttavia, non ho visto (nella mia esperienza limitata) l'uso di momenti terzi e superiori.

Come sottolineato da John D. Cook nei suoi blog ( qui e qui ), non è stato fatto molto lavoro in questa direzione, a parte il teorema di Berry-Esseen . La mia ipotesi sarebbe (dall'osservazione nel blog sull'errore di approssimazione delimitato da $n^{1/2}$ ), poiché la normalità asintotica di mle è garantita a un tasso di convergenza di $n^{1/2}$ ( $n$ , essendo la dimensione del campione), considerando i momenti più alti non migliorerà il risultato di normalità.

Pertanto, suppongo, la risposta alla tua domanda dovrebbe essere no . La distribuzione asintotica converge a una distanza normale (dal CLT, in condizioni di regolarità del CLT di Lindberg). Tuttavia, l'uso di termini di ordine superiore può aumentare il tasso di convergenza alla distribuzione asintotica.

— suncoolsu
fonte

3

Sicuramente non è la mia area, ma sono abbastanza sicuro che esistano asintotici di terzo e di ordine superiore. Questo è di aiuto?

Robert L. Strawderman. Approssimazione asintotica di ordine superiore: Laplace, Saddlepoint e relativi metodi Journal of American Statistical Association Vol. 95, n. 452 (dicembre 2000), pagg. 1358-1364

— una fermata
fonte