Perché i residui di Pearson di una regressione binomiale negativa sono più piccoli di quelli di una regressione di Poisson?

Ho questi dati:

set.seed(1)
predictor  <- rnorm(20)
set.seed(1)
counts <- c(sample(1:1000, 20))
df <- data.frame(counts, predictor)

Ho eseguito una regressione di poisson

poisson_counts <- glm(counts ~ predictor, data = df, family = "poisson")

E una regressione binomiale negativa:

require(MASS)
nb_counts <- glm.nb(counts ~ predictor, data = df)

Quindi ho calcolato per le statistiche di dispersione per la regressione di Poisson:

sum(residuals(poisson_counts, type="pearson")^2)/df.residual(poisson_counts)

# [1] 145.4905

E la regressione binomiale negativa:

sum(residuals(nb_counts, type="pearson")^2)/df.residual(nb_counts)

# [1] 0.7650289

Qualcuno è in grado di spiegare, SENZA UTILIZZARE LE EQUAZIONI, perché la statistica di dispersione per la regressione binomiale negativa è considerevolmente più piccola della statistica di dispersione per la regressione di Poisson?

— Luciano
fonte

Risposte:

Questo è piuttosto semplice, ma il "senza usare equazioni" è un sostanziale handicap. Posso spiegarlo a parole, ma quelle parole rispecchieranno necessariamente le equazioni. Spero che sarà accettabile / comunque di qualche valore per te. (Le equazioni pertinenti non sono difficili.)

Esistono diversi tipi di residui. I residui grezzi sono semplicemente la differenza tra i valori di risposta osservati (nel tuo caso il counts) e i valori di risposta previsti del modello. I residui di Pearson li dividono per la deviazione standard (la radice quadrata della funzione varianza per la versione particolare del modello lineare generalizzato che si sta utilizzando).

La deviazione standard associata alla distribuzione di Poisson è inferiore a quella del binomio negativo . Pertanto, quando si divide per un denominatore più grande, il quoziente è più piccolo.

Inoltre, il binomio negativo è più appropriato al tuo caso, perché il tuo countssarà distribuito come uniforme nella popolazione. Cioè, la loro varianza non sarà uguale alla loro media.

— gung - Ripristina Monica
fonte

Sebbene il PO richieda una spiegazione non matematica, sarebbe comunque bello vedere una giustificazione matematica (o qualche altrettanto rigorosa e chiara) per questa risposta. Leggendo la domanda la mia intuizione era che "Poiché il Poisson è un caso speciale (limitante) del NB e il NB ha più parametri, vi è una maggiore flessibilità nell'adattamento, quindi ovviamente qualsiasi misura ragionevole di residui non dovrebbe aumentare quando si sostituisce un Poisson GLM di un NB GLM. " Mi chiedo se tale intuizione fosse davvero corretta.

— whuber

X \sim Poisson (λ)

$X\sim\text{Poisson}(\lambda)$

E [X] = V [X] = λ

$E[X]=V[X]=\lambda$

X \sim NegBin (r, p)

$X\sim\text{NegBin}(r,p)$

E [X] = p r / (1 - p)

$E[X]=pr/(1-p)$

V [X] = p r / (1 - p)^{2}

$V[X]=pr/(1-p)^2$

p < 1 \Rightarrow (1 - p)^{2} < (1 - p)

$p<1\Rightarrow (1-p)^2<(1-p)$

\hat{λ}

$\hat\lambda$

λ

$\lambda$

\hat{r}

$\hat{r}$

\hat{p}

$\hat{p}$

Le stime MLE sono coerenti. Il problema è che quando, come dice gung, "i conteggi saranno distribuiti come uniforme nella popolazione. Cioè, la loro varianza non sarà uguale alla loro media", non sarai mai in grado di ottenere una varianza di Poisson stimata maggiore di una stima Poisson significa, anche se le tue stime sono imparziali e coerenti. È un problema di errata specificazione.

— Sergio,

$i$ $Y_i$ $\mu_i$ $\mu_i$

\frac{y_{i} - {\hat{μ}}_{i}}{\sqrt{{\hat{μ}}_{i}}}

$\frac{y_i-\hat\mu_i}{\sqrt{\hat\mu_i}}$

$\hat\mu$ $i$ $Y_i$ $\mu_i$ $\mu_i + \frac{\mu^2}{\theta}$

\frac{y_{i} - {\tilde{μ}}_{i}}{\sqrt{{\tilde{μ}}_{i} + \frac{{\tilde{μ}}^{' 2}}{θ}}}

$\frac{y_i-\tilde\mu_i}{\sqrt{\tilde\mu_i+\frac{\tilde\mu'^2}{\theta}}}$

$\tilde\mu$ $\theta$ $\hat\mu\neq\tilde\mu$ $i$ il modello predittore si avvicinerebbe e in generale l'aggiunta di un parametro dovrebbe adattarsi meglio a tutte le osservazioni, anche se non so come dimostrarlo rigorosamente. Tuttavia, le quantità di popolazione che stai stimando sono maggiori se il modello di Poisson regge, quindi non dovrebbe essere una sorpresa.]

— Scortchi - Ripristina Monica
fonte

μ_{i}

$\mu_i$

@whuber In questo caso, risulta che i valori montati per entrambi i modelli sono quasi identici. Dopotutto, il modello "vero" ha davvero un'intercettazione e fondamentalmente sta modellando la media poiché non vi è alcuna relazione tra x e Y nella simulazione.

— jsk,

μ_{i}

$\mu_i$

μ_{i}

$\mu_i$

(y_{i} | λ, v_{i}, r) \sim P o i s s o n (λ v_{i})

$( y_i|\lambda, v_i, r)\sim Poisson (\lambda v_i)$

(v_{i} | λ, r) \sim G a m m a (r, r)

$(v_i|\lambda, r)\sim Gamma(r, r)$

. Ora l'aggiunta di quelle

parametri permette il modello per rendere il mezzo previsto più vicino al valore osservato (quando

si vedrebbe

(y_{i} | λ, r) \sim N B (r, \frac{λ}{r + λ})

$( y_i|\lambda, r)\sim NB (r,\frac {\lambda}{r+\lambda} )$

v_{i}

$v_i$

y_{i} > λ

$y_i>\lambda$

v_{i} > 1

$v_i> 1$