Test della differenza in AIC di due modelli non nidificati

Il punto centrale di AIC o di qualsiasi altro criterio di informazione è che meno è meglio. Quindi se ho due modelli M1: y = a0 + XA + e e M2: y = b0 + ZB + u, e se l'AIC del primo (A1) è inferiore a quello del secondo (A2), allora M1 ha una migliore corrispondenza dal punto di vista della teoria dell'informazione. Ma esiste un benchmark di cutoff per la differenza A1-A2? Quanto meno è in realtà meno? In altre parole, esiste un test per (A1-A2) diverso dal solo bulbo oculare?

Modifica: Peter / Dmitrij ... Grazie per aver risposto. In realtà, questo è un caso in cui la mia competenza sostanziale è in conflitto con la mia esperienza statistica. In sostanza, il problema NON è scegliere tra due modelli, ma nel controllare se due variabili che conosco ampiamente equivalenti aggiungano quantità equivalenti di informazioni (in realtà, una variabile nel primo modello e un vettore nel secondo. Pensa al caso di un mucchio di variabili rispetto a un indice di esse.). Come ha sottolineato Dmitrij, la scommessa migliore sembra essere il Cox Test. Ma esiste un modo per testare effettivamente la differenza tra i contenuti informativi dei due modelli?

La domanda è di curiosità, cioè non sei soddisfatto della mia risposta qui ? Altrimenti...

L'ulteriore indagine su questa domanda delicata ha mostrato che esiste una regola empirica comunemente usata, secondo cui due modelli sono indistinguibili dal criterio se la differenza . Lo stesso che in realtà leggerai nell'articolo di Wikipedia su (nota che il link è cliccabile!). Solo per coloro che non fanno clic sui collegamenti:| A I C 1 - A I C 2 | < 2 A I C$AIC$$|AIC_1 - AIC_2| < 2$$AIC$

A I C A I $AIC$ stima il supporto relativo per un modello. Per applicare questo in pratica, iniziamo con una serie di modelli candidati, quindi troviamo i corrispondenti valori dei modelli . Quindi, identificare il valore minimo . La selezione di un modello può quindi essere effettuata come segue.$AIC$$AIC$

Come regola empirica, i modelli che hanno il loro entro del minimo hanno un supporto sostanziale e dovrebbero essere presi in considerazione nel fare inferenze. I modelli che hanno il loro entro circa del minimo hanno un supporto notevolmente inferiore, mentre i modelli con il loro sopra del minimo non hanno sostanzialmente alcun supporto e potrebbero essere omessi da ulteriori considerazioni o almeno non riescono a spiegare alcune sostanziali variazioni strutturali in i dati.$AIC$$1–2$$AIC$$4–7$$AIC > 10$

Un approccio più generale è il seguente ...

Indichiamo i valori dei modelli candidati da , . Let indica il minimo di questi valori. Quindi può essere interpretato come la probabilità relativa che l' -esimo modello minimizzi la perdita di informazioni (prevista stimata).$AIC$$AIC1$$AIC2, AIC3, \ldots, AICR$$AICmin$$e^{(AICmin−AICi)/2}$$i$

Ad esempio, supponiamo che ci fossero tre modelli nel set candidato, con valori , e . Quindi il secondo modello è volte più probabile del primo modello per ridurre al minimo la perdita di informazioni, e il terzo modello è volte probabile come il primo modello per ridurre al minimo la perdita di informazioni. In questo caso, potremmo omettere il terzo modello da ulteriori considerazioni e prendere una media ponderata dei primi due modelli, con pesi e , rispettivamente. L'inferenza statistica si baserebbe quindi sul modello multiplo ponderato.$AIC$$100$$102$$110$$e^{(100−102)/2} = 0.368$$e^{(100−110)/2} = 0.007$$1$$0.368$

Bella spiegazione e suggerimenti utili, secondo me. Non aver paura di leggere ciò che è cliccabile!

In aggiunta , una volta nota, è meno preferibile per insiemi di dati di grandi dimensioni. Oltre a potresti trovare utile applicare la versione corretta del bias del criterio (puoi usare questo codice o usare la formula , dove è il numero di parametri stimati). La regola empirica sarà la stessa però. $AIC$$BIC$$AIC$$AICc$R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$$p$

Penso che questo potrebbe essere un tentativo di ottenere ciò che non vuoi davvero.

La selezione del modello non è una scienza. Tranne in rare circostanze, non esiste un modello perfetto né un modello "vero"; raramente esiste persino un modello "migliore". Le discussioni su AIC vs. AICc vs BIC vs. SBC vs. qualunque cosa mi lasciano perplesso. Penso che l'idea sia quella di ottenere dei BUONI modelli. Quindi scegli tra loro sulla base di una combinazione di competenza sostanziale e idee statistiche. Se non si dispone di competenze sostanziali (raramente il caso; molto più raramente di quanto la maggior parte delle persone supponga), scegliere l'AIC più basso (o AICc o altro). Ma di solito hai qualche esperienza, altrimenti perché stai studiando queste variabili particolari?