Come posso accelerare il calcolo degli effetti fissi in un GLMM?

Sto facendo uno studio di simulazione che richiede stime di bootstrap ottenute da un modello misto lineare generalizzato (in realtà, il prodotto di due stime per effetti fissi, uno da un GLMM e uno da un LMM). Per fare bene lo studio richiederebbero circa 1000 simulazioni con 1000 o 1500 repliche bootstrap ogni volta. Ciò richiede una notevole quantità di tempo sul mio computer (molti giorni).

How can I speed up the computation of these fixed effects?

Per essere più specifici, ho soggetti che vengono misurati ripetutamente in tre modi, dando origine alle variabili X, M e Y, dove X e M sono continui e Y è binario. Abbiamo due equazioni di regressione dove Y è la variabile continua latente sottostante per e gli errori non sono iid. La statistica che vogliamo è . Pertanto, ogni replica bootstrap richiede il montaggio di un LMM e un GLMM. Il mio codice R è (usando lme4)

M = α_{0} + α_{1} X + ϵ_{1}

$M=\alpha_0+\alpha_1X+\epsilon_1$

Y^{*} = β_{0} + β_{1} X + β_{2} M + ϵ_{2}

$Y^*=\beta_0+\beta_1X+\beta_2M+\epsilon_2$

^{*}

$^*$

Y

$Y$

α_{1} β_{2}

$\alpha_1\beta_2$

    stat=function(dat){
        a=fixef(lmer(M~X+(X|person),data=dat))["X"]
        b=fixef(glmer(Y~X+M+(X+M|person),data=dat,family="binomial"))["M"]
        return(a*b)
    }

Mi rendo conto che ottengo la stessa stima per se la inserisco semplicemente come modello lineare, in modo da risparmiare un po 'di tempo, ma lo stesso trucco non funziona per . $\alpha_1$ $\beta_2$

Devo solo acquistare un computer più veloce? :)

r mixed-model

— BR
fonte

@BR qual è il collo di bottiglia qui? Fondamentalmente cosa ci vuole tempo Rprof.

— suncoolsu,

Un modo è semplicemente ignorare la parte "mista" del GLMM. Semplicemente adatto a un normale GLM, le stime non cambieranno molto, ma probabilmente i loro errori standard cambieranno

— probabilitlogico

@probabilityislogic. Oltre alla tua osservazione, penso anche, se la risposta differirebbe molto dipende dalla dimensione del gruppo e dal comportamento individuale nel gruppo. Come dicono Gelman e Hill: i risultati del modello di effetti misti sarebbero tra pool e no pool. (Ovviamente questo è per i modelli gerarchici bayesiani, ma i modelli misti sono un modo classico di fare lo stesso.)

— suncoolsu,

@probabilityislogic: Questo funziona per LMM, ma sembra fallire per GLMM (il che significa che ho eseguito modelli con e senza la M in più sugli stessi dati e ho ottenuto risultati significativamente diversi). A meno che, naturalmente, non vi sia un errore nell'implementazione di glmer.

— BR

@suncoolsu: il collo di bottiglia è la stima del GLMM, che può richiedere un paio di secondi (specialmente con diversi effetti casuali). Ma fallo 1000 * 1000 volte, e sono 280 ore di calcolo. Il montaggio di un GLM richiede circa 1/100 del tempo.

— BR

Risposte:

Dovrebbe aiutare a specificare i valori iniziali, anche se è difficile sapere quanto. Durante la simulazione e il bootstrap, dovresti conoscere i valori "veri" o le stime non avviate o entrambi. Prova a usare quelli start =nell'opzione di glmer.

Si potrebbe anche considerare di esaminare se le tolleranze per dichiarare la convergenza siano più rigide del necessario. Non sono chiaro come modificarli dalla lme4documentazione però.

— una fermata
fonte

Anche altre due possibilità considerano, prima di acquistare un nuovo computer.

Elaborazione parallela: il bootstrap è facile da eseguire in parallelo. Se il tuo computer è abbastanza nuovo, probabilmente hai quattro core. Dai un'occhiata alla libreria multicore in R.
Il cloud computing è anche una possibilità e ragionevolmente economico. Ho colleghi che hanno utilizzato il cloud Amazon per eseguire script R. Hanno scoperto che era abbastanza conveniente.

— csgillespie
fonte

Grazie per la risposta. In qualche modo, ho trascurato il fatto che ho due core (il mio computer non è molto nuovo). Avrei dovuto guardare il multicore molto tempo fa.

— BR

Potrebbe essere un computer più veloce. Ma ecco un trucco che potrebbe funzionare.

Genera una simultanea di , ma solo in base a , quindi esegui OLS o LMM sui valori simulati . $Y^*$ $Y$ $Y^*$

Supponendo che la funzione di collegamento sia . questo dice come si ottiene dalla probabilità di al valore ed è molto probabilmente la funzione logistica . $g(.)$ $Y=1$ $Y^*$ $g(z)=log \Big(\frac{z}{1-z}\Big)$

Quindi, se si assume una distribuzione di campionamento di bernouli per , e quindi si utilizzano i jeffreys precedenti per la probabilità, si ottiene un beta posteriore per . Simulare da questo dovrebbe essere come l'illuminazione, e se non lo è, allora hai bisogno di un computer più veloce. Inoltre, i campioni sono indipendenti, quindi non è necessario controllare alcun tipo di diagnostica di "convergenza" come in MCMC e probabilmente non è necessario un numero così elevato di campioni: 100 potrebbero funzionare correttamente per il proprio caso. Se hai binomiali , sostituisci semplicemente nella parte posteriore sopra con , il numero di prove del binomio per ogni . $Y\rightarrow Y\sim Bernoulli(p)$ $p\sim Beta(Y_{obs}+\frac{1}{2},1-Y_{obs}+\frac{1}{2})$ $Y's$ $1$ $n_i$ $Y_i$

Quindi hai una serie di valori simulati . Quindi applicare la funzione di collegamento a ciascuno di questi valori, per ottenere . Adatta un LMM a , che probabilmente è più veloce del programma GLMM. In pratica puoi ignorare i valori binari originali (ma non eliminarli!) E lavorare con la "matrice di simulazione" ( , dove è la dimensione del campione e è il numero di simulazioni). $p_{sim}$ $Y_{sim}=g(p_{sim})$ $Y_{sim}$ $N\times S$ $N$ $S$

Quindi nel tuo programma, sostituirei la funzione con la funzione e con una singola simultanea, quindi creeresti una sorta di loop che applica la funzione a ciascuna simulazione, e quindi accetta il media come la stima di . Qualcosa come $gmler()$ $lmer()$ $Y$ $lmer()$ $b$

a = \dots

$a=\dots$

b = 0

$b=0$

d o s = 1, \dots, S

$do \ s=1,\dots,S$

b_{e s t} = l m e r (Y_{s} \dots)

$b_{est}=lmer(Y_s\dots)$

b = b + \frac{1}{s} (b_{e s t} - b)

$b=b+\frac{1}{s}(b_{est}-b)$

e n d

$end$

r e t u r n (a * b)

$return(a*b)$

Fammi sapere se devo spiegare qualcosa di più chiaro

— probabilityislogic
fonte

Grazie per la risposta, mi ci vorrà un po 'per digerirlo (e ho già piani per il mio sabato sera). È abbastanza diverso che non mi sia chiaro se fornisce la stessa risposta dell'approccio GLMM, ma devo pensarci di più.

— BR