Bontà di adattamento e quale modello scegliere la regressione lineare o Poisson

Ho bisogno di un consiglio riguardo a due dilemmi principali nella mia ricerca, che è un caso studio di 3 grandi prodotti farmaceutici e innovazione. Il numero di brevetti all'anno è la variabile dipendente.

Le mie domande sono

Quali sono i criteri più importanti per un buon modello? Cosa è più / meno importante? È che la maggior parte o tutte le variabili saranno significative? È la prob di "F STATISTIC"? È il valore di "Rettificato R al quadrato"?
In secondo luogo, come posso decidere il modello più appropriato per la ricerca? Oltre ai brevetti che sono una variabile di conteggio (quindi forse un conteggio di Poisson) ho variabili esplicative come ritorno sugli attivi, budget di ricerca e sviluppo, partner ripetuti (% non una variabile binaria), dimensioni dell'azienda (dipendenti) e un altro paio. Dovrei fare una regressione lineare o Poisson?

— Nitzan
fonte

Kjetil ha dato una buona risposta dettagliata. Un'opinione più rapida e più breve, coerente con la sua argomentazione, è che ciò che etichetti "secondo" è la domanda davvero importante. Ciò che menzioni per primo è casuale.

— Nick Cox,

Il più importante è la logica dietro il modello. La variabile "numero di brevetti all'anno" è una variabile di conteggio, quindi viene indicata la regressione di Poisson. Quello è un GLM (modello lineare generalizzato) con (solitamente) funzione log link, mentre la normale regressione lineare è un GLM gaussiano con collegamento identità. In questo caso, è davvero la funzione di collegamento al registro che è più importante, più importante della distribuzione degli errori (Poisson o Gaussiana).

La variabile "Brevetti" è una variabile estesa : vedi proprietà intensive ed estese . Per variabili intensive , come la temperatura, sono spesso appropriati modelli lineari (con collegamento identità). Ma con una variabile estesa è diverso. Pensa che una delle tue aziende farmaceutiche si divida in due diverse società. Quindi i brevetti hanno dovuto essere divisi tra le due nuove società. Cosa succede con le covariabili, le nella tua regressione? Anche le variabili come il numero di dipendenti e il budget RD dovrebbero essere divise. $x$

In generale, in questo contesto, una variabile intensiva è una variabile che è indipendente dalla dimensione dell'azienda, mentre una variabile estesa dipende (tipicamente, linearmente) dalla dimensione dell'azienda. Quindi, in un certo senso, se abbiamo molte diverse variabili estese nell'equazione di regressione, stiamo misurando ripetutamente gli effetti di dimensione . Sembra ridondante, quindi dovremmo cercare, quando possibile, di esprimere variabili in forma intensiva , come il budget RD per dipendente (o come percentuale del budget totale), allo stesso modo entrate, ecc. Una variabile come il numero di dipendenti dovrà essere lasciata come ampia. Vedi la risposta di @ onestop a Trattare con regressori correlati per un'altra discussione su questo problema variabile esteso / intensivo.

Diamo un'occhiata algebricamente: sono Brevetti, Budget (per dipendente), Dipendenti nella società originale, mentre e sono le variabili corrispondenti dopo un Diviso. Supponiamo, come sopra, che sia l'unica estesa covariabile (con , ovviamente, anche estesa). $P, B, E$ $P_1, B_1, E_1$ $P_2, B_2, E_2$ $E$ $P$

Quindi, prima della divisione, abbiamo il modello, il collegamento identità, con la parte casuale esclusa: Lascia che le frazioni di divisione siano quindi per la società 1 dopo la divisione otteniamo

P = μ + β_{1} E + β_{2} B

$P= \mu+\beta_1 E + \beta_2 B$

α, 1 - α

$\alpha, 1-\alpha$

dal

. Allo stesso modo per l'azienda due. Quindi il modello dipende in modo abbastanza complicato dalle dimensioni dell'azienda, solo dal coefficiente di regressione su

\begin{aligned} α P & = α μ + α β_{1} E + α β_{2} B \\ P_{1} & = α μ + β_{1} E_{1} + α β_{2} B_{1} \end{aligned}

$\begin{align} \alpha P &= \alpha \mu +\alpha\beta_1 E +\alpha\beta_2 B \\[5pt] P_1 &= \alpha\mu + \beta_1 E_1 + \alpha\beta_2 B_1 \end{align}$

P_{1} = α P, E_{1} = α E

$P_1=\alpha P, E_1=\alpha E$

B_{1} = B

$B_1=B$

E

$E$ essendo indipendente dalla dimensione dell'azienda, dimensione che influenza tutti gli altri parametri. Ciò rende difficile l'interpretazione dei risultati, soprattutto se nei tuoi dati ci sono aziende di dimensioni variabili, come interpreterai questi coefficienti? Il confronto con altri studi basati su altri dati, ecc., Diventa estremamente complicato.

Vediamo ora se può essere utile utilizzare una funzione di collegamento al registro. Ancora una volta, scriviamo modelli idealizzati senza termini di disturbo. Le variabili sono come sopra.

Innanzitutto, il modello prima della divisione: Dopo la divisione, per l'azienda uno, otteniamo:

P = \exp (μ + β_{1} E + β_{2} B)

$P = \exp\left(\mu+\beta_1 E + \beta_2 B\right)$

Questo sembra quasi giusto, tranne per un problema, la parte della dipendenza da

non funziona del tutto. Quindi vediamo che il numero di dipendenti, quello covariabile in forma estesa, deve essere utilizzato su una scala logaritmica. Quindi, riprovando, otteniamo:

\begin{aligned} P_{1} & = \exp (\log α) \exp (μ + β_{1} E + β_{2} B) \\ P_{1} & = \exp (\log α + μ + β_{1} E + β_{2} B_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\mu+\beta_1 E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\mu+\beta_1 E +\beta_2 B_1 \right) \end{align}$

E

$E$

P = \exp (μ + β_{1} \log E + β_{2} B)

$P = \exp\left(\mu+\beta_1 \log E + \beta_2 B\right)$

\begin{aligned} P_{1} & = \exp (\log α) \exp (μ + β_{1} \log E + β_{2} B) \\ P_{1} & = \exp (\log α + μ + β_{1} \log E + β_{2} B_{1}) \\ P_{1} & = \exp ((1 - β) \log α + μ + β_{1} \log E_{1} + β_{2} B_{1}) \\ P_{1} & = \exp (μ^{'} + β_{1} \log E_{1} + β_{2} B_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\hspace{9.5mm}\mu+\beta_1 \log E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\hspace{6mm}\hspace{9.5mm}\mu+\beta_1 \log E +\beta_2 B_1 \right) \\[5pt] P_1 &= \exp\left((1-\beta)\log\alpha+\mu+\beta_1 \log E_1 +\beta_2 B_1\right) \\[5pt] P_1 &= \exp\left(\hspace{31mm}\mu'+\beta_1 \log E_1 +\beta_2 B_1\right) \end{align}$

μ^{'}

$\mu'$

Ciò rende le interpretazioni dei risultati molto più semplici e anche confronti con studi che utilizzano altri dati, tendenze nel tempo e così via. Non è possibile ottenere questo modulo con parametri con interpretazioni indipendenti dalla dimensione con un collegamento di identità.

Conclusione: utilizzare un GLM con funzione log link, forse una regressione di Poisson, o binomio negativo, o ... La funzione link è ordini di grandezza più importanti!

Per riassumere, quando si costruisce un modello di regressione per una variabile di risposta che è estesa , come una variabile di conteggio.

Cerca di esprimere le covariabili in forma intensiva.
Covariabili che devono essere lasciati estesi: registrali (l'algebra sopra dipende dal fatto che esiste al massimo una estesa covariabile).
Utilizzare una funzione di collegamento al registro.

Quindi, altri criteri, come quelli basati sull'adattamento, possono essere utilizzati per decisioni secondarie, come la distribuzione del termine di disturbo.

— kjetil b halvorsen
fonte

Pensavo che una regressione di Poisson fosse una regressione GLS con la funzione log link?

— Spettacolo Bob

Di solito sì, ma potresti anche prendere in considerazione una regressione di Poisson con link di identità (o altro, come la radice quadrata). Ma il mio argomento qui mostra che di solito si desidera il collegamento al registro.

— kjetil b halvorsen,

(1 - β)

$(1-\beta)$

μ

$\mu$