Un modello per dati non negativi con aggregazione agli zeri (Tweedie GLM, GLM a zero inflazione, ecc.) Può prevedere zeri esatti?

Una distribuzione Tweedie può modellare dati distorti con una massa in punti pari a zero quando il parametro (esponente nella relazione media-varianza) è compreso tra 1 e 2.$p$

Allo stesso modo un modello a zero inflazione (sia continuo che discreto) può avere un gran numero di zeri.

Ho difficoltà a capire perché quando eseguo la previsione o calcolo i valori adattati con questo tipo di modelli, tutti i valori previsti sono diversi da zero.

Questi modelli possono davvero prevedere zeri esatti?

Per esempio

library(tweedie)
library(statmod)
# generate data
y <- rtweedie( 100, xi=1.3, mu=1, phi=1)  # xi=p
x <- y+rnorm( length(y), 0, 0.2)
# estimate p
out <- tweedie.profile( y~1, p.vec=seq(1.1, 1.9, length=9))
# fit glm
fit <- glm( y ~ x, family=tweedie(var.power=out$p.max, link.power=0))
# predict
pred <- predict.glm(fit, newdata=data.frame(x=x), type="response")

predora non contiene zeri. Ho pensato che l'utilità di modelli come la distribuzione di Tweedie venisse dalla sua capacità di prevedere gli zeri esatti e la parte continua.

So che nel mio esempio la variabile xnon è molto predittiva.

Si noti che il valore previsto in un GLM è una media.

Per qualsiasi distribuzione su valori non negativi, per prevedere una media di 0, la sua distribuzione dovrebbe essere interamente un picco a 0.

Tuttavia, con un log-link, non si adatterà mai una media esattamente pari a zero (poiché ciò richiederebbe per andare a - ∞ ).$\eta$$-\infty$

Quindi il tuo problema non è un problema con Tweedie, ma molto più generale; avresti esattamente lo stesso problema con il Poisson (a zero inflazionato o ordinario Poisson GLM) per esempio.

Ho pensato che l'utilità della distribuzione di Tweedie venisse dalla sua capacità di prevedere gli zeri esatti e la parte continua.

Poiché la previsione di zeri esatti non si verificherà per alcuna distribuzione su valori non negativi con un log-link, la tua opinione su questo deve essere sbagliata.

Una delle sue attrazioni è che può modellare zeri esatti nei dati, non che le previsioni medie saranno 0. [Naturalmente una distribuzione adattata con media diversa da zero può comunque avere una probabilità di essere esattamente zero, anche se la media deve superare 0 Ad esempio, un intervallo di previsione adatto potrebbe includere 0, ad esempio.]

Non importa affatto che la distribuzione adattata includa una proporzione sostanziale di zeri - ciò non significa che lo zero adattato significhi zero.

Nota che se cambi la tua funzione di collegamento per dire un collegamento di identità, non risolve davvero il tuo problema - la media di una variabile casuale non negativa che non è zero è positiva.

Prevedere la proporzione di zeri

Sono l'autore del pacchetto statmod e l'autore congiunto del pacchetto tweedie. Tutto nel tuo esempio funziona correttamente. Il codice tiene correttamente conto degli zeri che potrebbero essere nei dati.

Come hanno spiegato Glen_b e Tim, il valore medio previsto non sarà mai esattamente zero, a meno che la probabilità di uno zero sia del 100%. Ciò che potrebbe essere interessante è la proporzione prevista di zeri, che può essere facilmente estratta dall'adattamento del modello, come mostrerò di seguito.

Ecco un esempio di lavoro più sensato. Prima simula alcuni dati:

> library(statmod)
> library(tweedie)
> x <- 1:100
> mutrue <- exp(-1+x/25)
> summary(mutrue)
   Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
 0.3829  1.0306  2.7737  5.0287  7.4644 20.0855 
> y <- rtweedie(100, mu=mutrue, phi=1, power=1.3)
> summary(y)
   Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
 0.0000  0.8482  2.9249  4.7164  6.1522 24.3897 
> sum(y==0)
[1] 12

I dati contengono 12 zeri.

Ora si adatta a un glm di Tweedie:

> fit <- glm(y ~ x, family=tweedie(var.power=1.3, link.power=0))
> summary(fit)

Call:
glm(formula = y ~ x, family = tweedie(var.power = 1.3, link.power = 0))

Deviance Residuals: 
     Min        1Q    Median        3Q       Max  
-2.71253  -0.94685  -0.07556   0.69089   1.84013  

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept) -0.816784   0.168764   -4.84 4.84e-06 ***
x            0.036748   0.002275   16.15  < 2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for Tweedie family taken to be 0.8578628)

    Null deviance: 363.26  on 99  degrees of freedom
Residual deviance: 103.70  on 98  degrees of freedom
AIC: NA

Number of Fisher Scoring iterations: 4

$x$$\phi$

$x$

> Phi <- 0.85786
> Mu <- fitted(fit)
> Power <- 1.3
> Prob.Zero <- exp(-Mu^(2-Power) / Phi / (2-Power))
> Prob.Zero[1:5]
        1         2         3         4         5 
0.3811336 0.3716732 0.3622103 0.3527512 0.3433024 
> Prob.Zero[96:100]
          96           97           98           99          100 
1.498569e-05 1.121936e-05 8.336499e-06 6.146648e-06 4.496188e-06 

Quindi la proporzione prevista di zeri varia dal 38,1% ai valori medi più piccoli fino a 4,5e-6 ai valori medi più grandi.

La formula per la probabilità di uno zero esatto è disponibile nella Dunn & Smyth (2001) Densità della famiglia Tweedie: metodi di valutazione o Dunn & Smyth (2005) Valutazione in serie delle densità del modello di dispersione esponenziale di Tweedie .

Questa risposta è stata unita da un altro thread che chiedeva previsioni sul modello a regressione zero-inflated, ma si applica anche al modello Tweedie GLM.

$f$$f$

$I$$f_\text{zeroinfl}(y)$

$g^{-1}$

$Y$$X$$Y$$X$$Y$$X$$E(Y|X)$