Test del rapporto di verosimiglianza generalizzato per modelli non nidificati

Capisco che se ho due modelli A e B e A è nidificato in B, quindi, dati alcuni, posso adattare i parametri di A e B usando MLE e applicare il test del rapporto di verosimiglianza generalizzato. In particolare, la distribuzione del test dovrebbe essere con gradi di libertà dove è la differenza nel numero di parametri che e hanno. $\chi^2$ $n$ $n$ $A$ $B$

Tuttavia, cosa succede se e hanno lo stesso numero di parametri ma i modelli non sono nidificati? Cioè sono semplicemente modelli diversi. Esiste un modo per applicare un test del rapporto di verosimiglianza o si può fare qualcos'altro? $A$ $B$

maximum-likelihood model-selection likelihood-ratio

— Lembik
fonte

Risposte:

L'articolo Vuong, QH (1989). Test del rapporto di verosimiglianza per la selezione del modello e ipotesi non nidificate. Econometrica, 307-333. ha il trattamento teorico completo e le procedure di prova. Distingue tra tre situazioni, "Modelli rigorosamente non nidificati", "Modelli sovrapposti", "Modelli nidificati" ed esamina anche casi di errata specificazione. Non è quindi un caso che si accerti che in alcuni casi la statistica test è distribuita come una combinazione lineare di chi-quadrati .

La carta non è leggera, né propone una procedura di prova "standard". Ma, per una volta, le sue (quasi) 3.000 citazioni parlano dei suoi meriti, essendo una combinazione ispirata del framework di test classico e dell'approccio teorico dell'informazione.

— Alecos Papadopoulos
fonte

Il test del rapporto di verosimiglianza generalizzato NON funziona come stai dicendo. Vedi ad esempio le seguenti note di lezione:

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

Il GLRT è definito per l'ipotesi del tipo:

H_{0} : θ \in Θ_{0} v s . H_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

dove e . $\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

Per il framework che descrivi, puoi confrontare i modelli usando altri strumenti come AIC e BIC. Anche i fattori Bayes, se sei disposto a diventare completo bayesiano.

— Waterman
fonte

Benvenuti nel CV. Forse ti interesserebbe consultare il documento che sto citando nella mia risposta a questa domanda.

— Alecos Papadopoulos,

@AlecosPapadopoulos Grazie per il riferimento. Ho dato una rapida occhiata e, come previsto, le condizioni per far funzionare quel tipo di GLRT sono molto (molto molto) restrittive. Quindi, preferirei andare per qualcosa di più sicuro. So che è molto citato, mi scuso per la blasfemia.

— Waterman,

@AlecosPapadopoulos In particolare, trovo estremamente poco interessante la compattezza della condizione dello spazio dei parametri (Assunzione A2).

— Waterman,

L'aneddoto storico molto istruttivo (anche se probabilmente non reale) attorno all'opus magnum di Laplace è che Napoleone Magno lo lesse e commentò a Laplace "Vedo che non menzioni Dio da nessuna parte nel tuo libro", al quale Laplace presumibilmente rispose "Non mi serviva quell'ipotesi "... significa che il concetto di" sacro "non è necessario nella scienza, e quindi non può esserci alcuna bestemmia.

— Alecos Papadopoulos,

... per quanto riguarda il tuo secondo commento su Assunzione A2, immagino significhi che l'intero quadro della massima verosimiglianza non soddisfa del tutto le esigenze del tuo campo, tranne forse quando le distribuzioni coinvolte hanno densità log-concava.

— Alecos Papadopoulos,