Esempio di incoerente stimatore della massima verosimiglianza


13

Sto leggendo un commento a un articolo e l'autore afferma che a volte, anche se gli stimatori (rilevati da ML o massima quasilikelihood) potrebbero non essere coerenti, la potenza di un rapporto di verosimiglianza o di un rapporto di quasi verosimiglianza può ancora convergere in 1 poiché il numero di dati osservati tende all'infinito (coerenza del test). Come e quando succede? Conosci qualche bibliografia?


Cosa sono LR e QLR?
gung - Ripristina Monica

Rapporto di verosimiglianza e test di quasilikelihood ratio;)
Un vecchio nel mare.

La potenza dovrebbe andare a 1 ovunque tranne che a un certo punto. Quello che non avrai è il tasso di errore nominale di tipo 1.
Glen_b -Reinstate Monica,

@Glen_b, potresti per favore approfondire di più il tuo commento? Grazie;)
Un vecchio nel mare.

@Glen_b, sfortunatamente no, e la wiki non sembra avere una voce ...
Un vecchio nel mare.

Risposte:


10

[Penso che questo potrebbe essere un esempio del tipo di situazione in discussione nella tua domanda.]

Esistono numerosi esempi di stimatori ML incoerenti. L'incoerenza è comunemente vista con una varietà di problemi di miscela leggermente complicati e problemi di censura.

[La coerenza di un test è fondamentalmente solo il fatto che la potenza del test per un'ipotesi (fissa) falsa aumenta a una come .]n

Radford Neal fa un esempio nel suo blog del 2008-08-09. Incoerente stima della massima verosimiglianza: un esempio "ordinario" . Implica la stima del parametro in:θ

X | θ    (1/2)N(0,1) + (1/2)N(θ,exp(1/θ2)2)

(Neal usa dove ho θ ) dove la stima ML di θ tenderà a 0 come n (e in effetti la probabilità può essere molto più alta in un picco vicino a 0 rispetto al valore reale per dimensioni del campione abbastanza modeste). Tuttavia, c'è un picco vicino al valore reale θ , è solo più piccolo di quello vicino a 0.tθθ0nθ

Immagina ora due casi relativi a questa situazione:

a) eseguire un test del rapporto di verosimiglianza di rispetto all'alternativa H 1 : θ < θ 0 ;H0:θ=θ0H1:θ<θ0

b) eseguire un test del rapporto di verosimiglianza di rispetto all'alternativa H 1 : θ θ 0 .H0:θ=θ0H1:θθ0

Nel caso (a), immagina che il vero (in modo che l'alternativa sia vera e 0 sia l'altro lato del vero θ ). Quindi, nonostante il fatto che la probabilità molto vicino a 0 supererà quella a θ , la probabilità a θ supera comunque la probabilità a θ 0 anche in piccoli campioni, e il rapporto continuerà a crescere come n , in tale un modo per rendere la probabilità di rifiuto in un test del rapporto di verosimiglianza andare a 1.θ<θ00θθθθ0n

In effetti, anche nel caso (b), fintanto che è fisso e delimitato da 0 , dovrebbe anche accadere che il rapporto di probabilità aumenti in modo tale da aumentare la probabilità di rigetto in un test del rapporto di verosimiglianza approccio 1.θ00

Quindi questo sembrerebbe essere un esempio di stima ML incoerente, in cui la potenza di un LRT dovrebbe comunque andare a 1 (tranne quando ).θ0=0

[Si noti che in realtà non c'è nulla che non sia già nella risposta di Whuber, che ritengo sia un esempio di chiarezza, ed è molto più semplice per comprendere la differenza tra la coerenza del test e la coerenza di uno stimatore. Il fatto che lo stimatore incoerente nell'esempio specifico non fosse ML non ha davvero importanza per quanto riguarda la comprensione di tale differenza - e portare in uno stimatore incoerente che è specificamente ML - come ho cercato di fare qui - non altera davvero il spiegazione in modo sostanziale. L'unico vero punto dell'esempio qui è che penso che risolva la tua preoccupazione sull'uso di uno stimatore ML.]


Grazie Glen per la tua risposta, ho comunque una domanda. Il fatto è che di solito nella dimostrazione che la distribuzione limitante dell'LRT sia chi-quadro, si presume che gli stimatori ML siano coerenti. Nel tuo caso, come giustificheresti che un rapporto di probabilità crescente farà andare la probabilità di rifiuto a 1, quando la distribuzione limitante è sconosciuta? O è noto?
Un vecchio nel mare.

Tutto ciò di cui hai bisogno per far crescere la statistica del test del rapporto di verosimiglianza senza limiti è che la probabilità al valore nel numeratore di crescere più rapidamente di quella nel denominatore. La mia comprensione dalla discussione collegata era che Neal lo stava insinuando, ma non ho verificato realmente i dettagli. Non penso che ci siano buone ragioni per affermare che il test avrebbe una distribuzione chi-quadro; la mia ipotesi da quali poche informazioni hai fornito nella domanda era che il test descritto era stato fatto come se fosse asintoticamente chi-quadrato, ma ... (ctd)θ
Glen_b -Reststate Monica

(ctd) ... dovresti chiedere all'autore del commento che hai descritto se era quello che intendevano dire.
Glen_b -Restate Monica

In realtà, ciò che ho detto non è del tutto corretto, dal momento che è possibile che il numeratore cresca più velocemente del denominatore, ma il rapporto non cresca senza limite (nel senso che il rapporto tra i due potrebbe crescere ma essere limitato). Avrei dovuto dire qualcosa del tipo "sufficientemente più veloce".
Glen_b -Restate Monica

8

Sia disegnato da una distribuzione normale ( μ , 1 ) . Considera lo stimatore(Xn)(μ,1)

T(x1,,xn)=1+x¯=1+1ni=1nxn.

T(X1,,Xn)=1+X¯(μ+1,1/n)μ+1μ, dimostrandolo è incoerente.

In comparing a null hypothesis μ=μ0 to a simple alternative, say μ=μA, the log likelihood ratio will be exactly the same as the LLR based on X¯ instead of T. (In effect, T is useful for comparing the null hypothesis μ+1=μ0+1 to the alternative hypothesis μ+1=μA+1.) Since the test based on the mean has power converging to 1 for any test size α>0 and any effect size, the power of the test using T itself also converges to 1.


thank your for your interest in this question. How can we in a more general setting, be sure of the consistency of the test? I was looking for a more general answer, and not a specific case. And also some bibliography if available. Thanks ;)
An old man in the sea.

Also, I maybe wrong, but the estimator T doesn't seem to be the ML estimator. The question is «when do we have test consistency, when the ML estimators, or the maximum quasilikelihood estimators are not consistent?»
An old man in the sea.

I edited the question, since it might not had clearly what I wanted. Sorry ;)
An old man in the sea.
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.