Confronto tra coefficienti logistici su modelli con diverse variabili dipendenti?

Questa è una domanda di follow-up da quella che ho posto un paio di giorni fa . Sento che pone una diversa inclinazione sul problema, quindi ho elencato una nuova domanda.

La domanda è: posso confrontare l'entità dei coefficienti tra i modelli con diverse variabili dipendenti? Ad esempio, su un singolo campione dico che voglio sapere se l'economia è un predittore di voti più forte alla Camera dei rappresentanti o alla presidenza. In questo caso, le mie due variabili dipendenti sarebbero il voto alla Camera (codificato 1 per il democratico e 0 per il repubblicano) e il voto per il presidente (1 per il democratico e 0 per il repubblicano) e la mia variabile indipendente è l'economia. Mi aspetterei un risultato statisticamente significativo in entrambi gli uffici, ma come faccio a valutare se ha un effetto "maggiore" in uno in più rispetto all'altro? Questo potrebbe non essere un esempio particolarmente interessante, ma sono curioso di sapere se esiste un modo per confrontare. So che non si può semplicemente guardare alla "dimensione" del coefficiente. Così, è possibile confrontare coefficienti su modelli con diverse variabili dipendenti? E, in tal caso, come si può fare?

Se qualcosa di tutto ciò non ha senso, fammi sapere. Tutti i consigli e i commenti sono apprezzati.

La risposta breve è "sì, è possibile", ma è necessario confrontare le stime di massima verosimiglianza (MLE) del "modello grande" con tutte le varianti in entrambi i modelli adattati a entrambi.

Questo è un modo "quasi formale" per ottenere la teoria della probabilità per rispondere alla tua domanda

Nell'esempio, e Y 2 sono lo stesso tipo di variabili (frazioni / percentuali) quindi sono comparabili. Presumo che tu adatti lo stesso modello ad entrambi. Quindi abbiamo due modelli:$Y_{1}$$Y_{2}$

l o g ( p 1

$$M_{1}:Y_{1i}\sim Bin(n_{1i},p_{1i})$$ M2:Y2i∼Bin(n2i,p2i)log(p 2 $$log\left(\frac{p_{1i}}{1-p_{1i}}\right)=\alpha_{1}+\beta_{1}X_{i}$$ $$M_{2}:Y_{2i}\sim Bin(n_{2i},p_{2i})$$ $$log\left(\frac{p_{2i}}{1-p_{2i}}\right)=\alpha_{2}+\beta_{2}X_{i}$$

Quindi hai l'ipotesi che vuoi valutare:

$$H_{0}:\beta_{1}>\beta_{2}$$

$\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n}$ e alcune informazioni precedenti (come l'uso del modello logistico). Quindi calcoli la probabilità:

$$P=Pr(H_0|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I)$$

$H_0$

$$P=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(H_0,\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$$

L'ipotesi limita semplicemente la gamma di integrazione, quindi abbiamo:

$$P=\int_{-\infty}^{\infty} \int_{\beta_{2}}^{\infty} \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} Pr(\alpha_{1},\alpha_{2},\beta_{1},\beta_{2}|\{Y_{1i},Y_{2i},X_{i}\}_{i=1}^{n},I) d\alpha_{1}d\alpha_{2}d\beta_{1}d\beta_{2}$$

Poiché la probabilità è condizionata dai dati, verrà considerata in due settori distinti per ciascun modello

$$Pr(\alpha_{1},\beta_{1}|\{Y_{1i},X_{i},Y_{2i}\}_{i=1}^{n},I)Pr(\alpha_{2},\beta_{2}|\{Y_{2i},X_{i},Y_{1i}\}_{i=1}^{n},I)$$

$Y_{1i}$$\alpha_{2},\beta_{2}$$X_{i}$$Y_{2i}$

Dalla teoria della regressione logistica standard, e ipotizzando probabilità precedenti uniformi, il posteriore per i parametri è approssimativamente bi-variabile variabile con media uguale agli MLE e varianza uguale alla matrice di informazioni, indicata da $V_{1}$ e $V_{2}$- che non dipendono dai parametri, solo dagli MLE. quindi hai integrali normali diretti con matrice di varianza nota.$\alpha_{j}$ emargina senza alcun contributo (come qualsiasi altra "variabile comune") e ci rimane il solito risultato (posso pubblicare i dettagli della derivazione se vuoi, ma è roba piuttosto "standard"):

$$P=\Phi\left(\frac{\hat{\beta}_{2,MLE}-\hat{\beta}_{1,MLE}}{\sqrt{V_{1:\beta,\beta}+V_{2:\beta,\beta}}}\right)$$

Dove $\Phi()$è solo il normale CDF standard. Questo è il solito confronto del test dei mezzi normali. Ma si noti che questo approccio richiede l'uso dello stesso insieme di variabili di regressione in ciascuna. Nel caso multivariato con molti predittori, se si hanno variabili di regressione diverse, gli integrali diventeranno effettivamente uguali al test sopra, ma dagli MLE delle due beta del "modello grande" che include tutte le covariate di entrambi i modelli.

Perchè no? I modelli stanno stimando la quantità di 1 unità di cambiamento in qualsiasi predittore di modello influenzerà la probabilità di "1" per la variabile di risultato. Suppongo che i modelli siano gli stessi, che abbiano gli stessi predittori. Il modo più informativo per confrontare le magnitudini relative di un dato predittore nei 2 modelli è quello di utilizzare i modelli per calcolare (sia deterministicamente o meglio mediante simulazione) quanto un significativo incremento di cambiamento (ad es. +/- 1 DS) nel il predittore influenza le probabilità delle rispettive variabili di risultato - e confrontale! Ti consigliamo di determinare gli intervalli di confidenza per le due stime e così puoi assicurarti che la differenza sia "significativa", praticamente e statisticamente.

Presumo che per "la mia variabile indipendente sia l'economia" stai usando una scorciatoia per un predittore specifico.

Ad un certo livello, non vedo nulla di sbagliato nel fare una dichiarazione come

X prevede Y1 con un odds ratio di _ e un intervallo di confidenza del 95% di [_, _] mentre X prevede Y2 con un odds ratio di _ e un intervallo di confidenza del 95% di [_, _].

I recenti suggerimenti di @ dmk38 sembrano molto utili al riguardo.

Potresti anche voler standardizzare i coefficienti per facilitare il confronto.

A un altro livello, fai attenzione a prendere letteralmente le statistiche inferenziali (errori standard, valori p , IC) quando il tuo campione costituisce un campione non casuale della popolazione di anni a cui potresti voler generalizzare.

Diciamo che l'interesse sta nel confrontare due gruppi di persone: quelli con $X_{1} = 1$ e quelli con $X_{1} = 0$.

L'esponenziale di $\beta_{1}$, il coefficiente corrispondente, viene interpretato come il rapporto delle probabilità di successo per quelli con $X_{1} = 1$ sopra le probabilità di successo per quelli con $X_{1} = 0$, subordinato alle altre variabili nel modello.

Quindi, se hai due modelli con variabili dipendenti diverse, allora l'interpretazione di $\beta_{1}$cambia poiché non è condizionato dallo stesso insieme di variabili. Di conseguenza, il confronto non è diretto ...