Campionamento CDF inverso per una distribuzione mista

La versione breve fuori contesto

Sia $y$ una variabile casuale con CDF

F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normal} (\cdot; μ, σ) & y > 0 \end{cases}

$F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0}$

Diciamo che volevo simulare i disegni di usando il metodo inverso CDF. È possibile? Questa funzione non ha esattamente un contrario. Poi di nuovo c'è il campionamento della trasformazione inversa per la distribuzione della miscela di due distribuzioni normali, il che suggerisce che qui esiste un modo noto per applicare il campionamento della trasformazione inversa. $y$

Sono a conoscenza del metodo in due passaggi, ma non so come applicarlo alla mia situazione (vedi sotto).

La versione lunga con sfondo

Ho adattato il seguente modello per una risposta con valori vettoriali, , usando MCMC (in particolare, Stan): $y^i = \left( y_1 , \dots , y_K \right)^i$

θ_{K}^{io} \equiv {logit}^{- 1} (α_{K} X^{io}), μ_{K}^{io} \equiv β_{K} X^{io} - \frac{σ_{K}^{2}}{2} F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normale} (\cdot; μ, σ) & y> 0 \end{cases} u_{K} \equiv F (y_{K}), z_{K} \equiv Φ^{- 1} (u_{K}) z ~ N (0, R) \times \underset{K}{Π} f (y_{K}) (α, β, σ, R) ~ priori

$\theta_k^i \equiv \operatorname{logit}^{-1}\left( \alpha_k x^i \right), \quad \mu_k^i \equiv \beta_k x^i - \frac{ \sigma^2_k }{ 2 } \\ F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0} \\ u_k \equiv F(y_k), \quad z_k \equiv\Phi^{-1}{\left( u_k \right)} \\ z \sim \mathcal{N}(\mathbf{0}, R) \times \prod_k f(y_k) \\ \left( \alpha, \beta, \sigma, R \right) \sim \text{priors}$

dove indicizza osservazioni, è una matrice di correlazione e è un vettore di predittori / regressori / caratteristiche. $i$ $N$ $R$ $x$

Cioè, il mio modello è un modello di regressione in cui si presume che la distribuzione condizionale della risposta sia una copula gaussiana con margini log-normali a zero inflazionati. Ho pubblicato su questo modello prima; si scopre che Song, Li e Yuan (2009, gated ) l'hanno sviluppato e lo chiamano un vettore GLM o VGLM. Di seguito sono riportate le specifiche il più vicino possibile alla parola: My

f (y; μ, φ, Γ) = c {{sol}_{1} (y_{1}), ..., {sol}_{m} (y_{m}) | Γ} Π_{io = 1}^{m} g (y_{io}; μ_{io}, φ_{io}) c (u | Γ) = {| Γ |}^{- 1 / 2} \exp (\frac{1}{2} q^{T} ({io}_{m} - Γ^{- 1}) q) q = {(q_{1}, ..., q_{m})}^{T}, q_{io} = Φ^{- 1} (u_{io})

$f(\mathbf{y}; \mathbf{\mu}, \mathbf{\varphi}, \Gamma) = c\{ G_1(y_1), \dots, G_m(y_m) | \Gamma \} \prod_{i=1}^m g(y_i; \mu_i, \varphi_i) \\ c(\mathbf{u} | \Gamma) = \left| \Gamma \right|^{-1/2}\exp\left( \frac{1}{2} \mathbf{q}^T \left( I_m - \Gamma^{-1} \right) \mathbf{q} \right) \\ \mathbf{q} = \left( q_1, \dots, q_m \right)^T, \quad q_i = \Phi^{-1}(u_i)$

F_{K}

$F_K$ corrisponde alla loro , la mia corrisponde alla loro e la mia corrisponde alla loro ; i dettagli sono a pagina 62 (pagina 3 del file PDF) ma sono identici a quelli che ho scritto qui.

G_{m}

$G_m$

z

$z$

q

$\mathbf{q}$

R

$R$

Γ

$\Gamma$

La parte a zero inflazione segue approssimativamente le specifiche di Liu e Chan (2010, non assegnata ).

Ora vorrei simulare i dati dai parametri stimati, ma sono un po 'confuso su come procedere. Per prima cosa ho pensato di poter semplicemente simulare (nel codice R): $y$

for (i in 1:N) {
    for (k in 1:K) {
        Y_hat <- rbinom(1, 1, 1 - theta[i, k])
        if (Y_hat == 1)
            Y_hat <- rlnorm(1, mu[i, k], sigma[k])
    }
}

che non usa affatto. Vorrei provare a utilizzare effettivamente la matrice di correlazione che ho stimato. $R$

La mia prossima idea era di prendere i sorteggi di e poi convertirli nuovamente in . Questo sembra anche coincidere con le risposte in Generazione di campioni da Copula in R e campionamento bivariato per la distribuzione espressa nel teorema di copula di Sklar? . Ma che diamine è la mia qui? Il campionamento della trasformazione inversa per la distribuzione della miscela di due distribuzioni normali fa sembrare che sia possibile, ma non ho idea di come farlo. $z$ $y$ $F^{-1}$

— shadowtalker
fonte

@ Xi'an è una copula gaussiana, per stimare la dipendenza tra le componenti .

y

$y$

— Shadowtalker,

Il thread che fai riferimento al campionamento da miscele di Normali si applica direttamente al tuo problema senza alcuna modifica essenziale: invece di utilizzare i CDF inversi dei Normali, usa i CDF inversi dei tuoi due componenti. Il CDF inverso dell'atomo in

è la funzione costante, sempre uguale a

y = 0

$y=0$

0

$0$

— whuber

@whuber Sono solo confuso su come usare i CDF inversi dei due componenti: cosa disegno, da cosa lo disegno, e poi in cosa inserisco ogni cosa?

— Shadowtalker,

@ Xi'an spiega bene che nella sua risposta alla domanda sulla miscela normale: usi una variabile uniforme per selezionare il componente della miscela e quindi disegni un valore da quel componente (nel modo che preferisci). Nel tuo caso è eccezionalmente facile trarre un valore dal primo componente: è sempre

! Per trarre un valore dal secondo componente usa qualsiasi generatore di numeri casuali lognormale che ti piace. In ogni caso ti ritrovi con un numero: non c'è nessun "collegamento" da realizzare; l'intero obiettivo della generazione di numeri casuali è ottenere quel numero.

0

$0$

— whuber

@whuber la nuova risposta mi ha chiarito. Grazie ad entrambi.

— Shadowtalker,

Risposte:

La risposta alla versione lunga con sfondo:

Questa risposta alla versione lunga affronta in qualche modo un altro problema e, poiché sembra che abbiamo difficoltà a formulare il modello e il problema, ho scelto di riformularlo qui, si spera correttamente.

Per $1\le i\le I$ , l'obiettivo è simulare i vettori $y^i=(y^i_1,\ldots,y^i_K)$ tale che, in base a una covariata $x^i$ ,

y_{K}^{io} = {\begin{cases} 0 & con probabilità {logit}^{- 1} (α_{K} X^{io}) \\ \log (σ_{K} z_{K}^{io} + β_{K} X^{io}) & con probabilità 1 - {logit}^{- 1} (α_{K} X^{io}) \end{cases}

$y_k^i = \begin{cases} 0 &\text{ with probability }\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\\ \log(\sigma_k z_k^i + \beta_k x^i) &\text{ with probability }1-\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\end{cases}$ con

z^{i} = (z_{1}^{i}, \dots, z_{K}^{i}) \sim N_{K} (0, R)

$z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$ . Pertanto, se si desidera simulare i dati da questo modello, è possibile procedere come segue:

Per $1\le i\le I$ ,

Genera $z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$
Genera $u^i_1,\ldots,u^i_K \stackrel{\text{iid}}{\sim} \mathcal{U}(0,1)$
Deriva $y^i_k=\mathbb{I}\left\{u^i_k>\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\right\}\, \log\{ \sigma_k z_k^i + \beta_k x^i\}$ per $1\le k\le K$

Se uno è interessato alla generazione dal posteriore di $(\alpha,\beta,\mu,\sigma,R)$ dato $y^i_ k$ , questo è un problema più difficile, sebbene fattibile dal campionamento di Gibbs o ABC.

— Xi'an
fonte

Sapevo che mi mancava qualcosa. "Tutto è evidente col senno di poi." Il mio intento: sono interessato al valore di

, quindi sì, mi interessa disegnare dal posteriore congiunto dei parametri. Voglio che le

simulate vedano se il modello si adatta.

F (y^{i} | x^{i})

$F(y^i | x^i)$

y

$y$

— Shadowtalker,

In che modo il secondo problema è molto più difficile? Ho già stimato il modello e ho i disegni posteriori. Se lo desideri, possiamo continuare a chattare per evitare di ingombrare i commenti qui.

— Shadowtalker,

Oh, in generale, si. Fortunatamente ho Stan e il No-U-Turn Sampler che fanno il duro lavoro per me lì.

— Shadowtalker,

La risposta alla versione breve fuori contesto:

"Inversione" di un cdf che non è invertibile in senso matematico (come la tua distribuzione mista) è fattibile, come descritto nella maggior parte dei libri di testo di Monte Carlo. (Come il nostro , vedi Lemma 2.4.) Se definisci l'inverso generalizzato quindi Ciò significa che, quando ha un salto di su , per

F^{-} (u) = inf {X \in R; F (X) \geq u}

$F^{-}(u) = \inf\left\{ x\in\mathbb{R};\ F(x)\ge u \right\}$

X ~ F è equivalente a X = F^{-} (U) quando U ~ U (0, 1) .

$X \sim F \text{ is equivalent to } X=F^{-}(U)\text{ when } U\sim\mathcal{U}(0,1)\,.$

F (y)

$F(y)$

θ

$\theta$

y = 0

$y=0$

F^{-} (u) = 0

$F^{-}(u)=0$

u \leq θ

$u\le\theta$ . In altre parole, se disegni un'uniforme e finisce più piccola di , la tua generazione di è . Altrimenti, quando per generare dalla parte continua, vale a dire il log-normale nel tuo caso. Ciò significa utilizzare una seconda generazione casuale uniforme, , indipendente dalla prima estrazione uniforme e impostare per ottenere una generazione log-normale.

U (0, 1)

$\mathcal{U}(0,1)$

θ

$\theta$

X

$X$

x = 0

$x=0$

u > θ

$u>\theta$

v

$v$

y = \exp (μ + σ Φ^{- 1} (v))

$y=\exp(\mu+\sigma\Phi^{-1}(v))$

Questo è quasi il tuo codice R.

Y_hat <- rbinom(1, 1, theta[i, k]) if (Y_hat == 1) Y_hat <- rlnorm(1, mu[i, k], sigma[k])

$\theta_k^i$ $1$ $\theta_k^i$

Y_hat <- rbinom(1, 1, theta[i, k])
    if (Y_hat == 0)
        Y_hat <- rlnorm(1, mu[i, k], sigma[k])

— Xi'an
fonte

z

$z$

u_{k} = Φ (z_{k})

$u_k = \Phi(z_k)$

y_{k} = 0

$y_k = 0$

u_{k} \leq θ

$u_k \leq \theta$

y_{k} = F_{log-normal}^{- 1} (u_{k})

$y_k = F^{-1}_\text{log-normal}(u_k)$

No, errato. Disegna una prima divisa per decidere tra

e log-normale, quindi una seconda divisa nel caso in cui tu abbia deciso per una log-normale. Vedi la versione modificata della mia risposta.

0

$0$

— Xi'an,

Ma questo ignora il componente

; da qui la mia domanda. Ho apportato una modifica chiarificatrice e ho anche risolto l'errore nel mio pseudocodice.

z

$z$

— Shadowtalker,

La mia risposta è per la versione breve e per il codice R che hai fornito. Spero che sia d'aiuto per la versione lunga, ma la tua formula per il modello comune è ancora errata. Dovresti definire il modello su

senza usare le uniformi ...

y

$y$

— Xi'an

F_{1}, \dots, F_{K}

$F_1, \dots, F_K$

G_{1}, \dots, G_{m}

$G_1, \dots, G_m$