Generazione di variabili casuali binomiali correlate

Mi chiedevo se fosse possibile generare variabili binomiali casuali correlate seguendo un approccio di trasformazione lineare?

Di seguito, ho provato qualcosa di semplice in R e produce una certa correlazione. Ma mi chiedevo se esiste un modo di principio per farlo?

X1 = rbinom(1e4, 6, .5) ; X2 = rbinom(1e4, 6, .5) ;  X3 = rbinom(1e4, 6, .5) ; a = .5

Y1 = X1 + (a*X2) ; Y2 = X2 + (a*X3) ## Y1 and Y2 are supposed to be correlated

cor(Y1, Y2)

— rnorouzian
fonte

Y_{1}

$Y_1$ e

Y_{2}

$Y_2$ possono essere correlati, ma non saranno più binomiali. Esempio,

X_{1} = X_{2} = 1

$X_1 = X_2 = 1$ quindi

Y_{1} = 1.5

$Y_1 = 1.5$ quindi

Y_{i}

$Y_i$ non può essere una variabile casuale binomiale. Vorrei suggerire di esaminare la distribuzione multinomiale.

— Knrumsey - Ripristina Monica il

La risposta breve alla domanda è cercare la parola chiave copula, che aiuta a generare variabili dipendenti con margini fissi.

— Xi'an,

Le variabili binomiali vengono solitamente create sommando variabili indipendenti di Bernoulli. Vediamo se possiamo iniziare con una coppia di variabili di Bernoulli correlate e fare la stessa cosa. $(X,Y)$

Supponiamo che sia una variabile di Bernoulli (ovvero, e ) e sia una variabile di Bernoulli . Per definire la loro distribuzione congiunta dobbiamo specificare tutte e quattro le combinazioni di risultati. Scrivendo possiamo facilmente capire il resto dagli assiomi della probabilità: $X$ $(p)$ $\Pr(X=1)=p$ $\Pr(X=0)=1-p$ $Y$ $(q)$

Pr ((X, Y) = (0, 0)) = un',

$\Pr((X,Y)=(0,0))=a,$

Pr ((X, Y) = (1, 0)) = 1 - q - un', Pr ((X, Y) = (0, 1)) = 1 - p - un', Pr ((X, Y) = (1, 1)) = un' + p + q - 1.

$\Pr((X,Y)=(1,0))=1-q-a, \\\Pr((X,Y)=(0,1))=1-p-a, \\\Pr((X,Y)=(1,1))=a+p+q-1.$

Inserendolo nella formula per il coefficiente di correlazione e risolvendo si ottiene $\rho$

\begin{matrix} (1) & un' = (1 - p) (1 - q) + ρ \sqrt{p q (1 - p) (1 - q)} . \end{matrix}

$a = (1-p)(1-q) + \rho\sqrt{{pq}{(1-p)(1-q)}}.\tag{1}$

A condizione che tutte e quattro le probabilità siano non negative, ciò fornirà una valida distribuzione congiunta e questa soluzione parametrizza tutte le distribuzioni bivariate di Bernoulli. (Quando , esiste una soluzione per tutte le correlazioni matematicamente significative tra e ). Quando sommiamo di queste variabili, la correlazione rimane la stessa - ma ora le distribuzioni marginali sono binomiali e Binomiale , come desiderato. $p=q$ $-1$ $1$ $n$ $(n,p)$ $(n,q)$

Esempio

Sia , , e vorremmo che la correlazione fosse . La soluzione a è (e le altre probabilità sono circa , e ). Ecco un diagramma di realizzazioni dalla distribuzione congiunta: $n=10$ $p=1/3$ $q=3/4$ $\rho=-4/5$ $(1)$ $a=0.00336735$ $0.247$ $0.663$ $0.087$ $1000$

Le linee rosse indicano la media del campione e la linea tratteggiata è la linea di regressione. Sono tutti vicini ai valori previsti. I punti sono stati agitati casualmente in questa immagine per risolvere le sovrapposizioni: dopo tutto, le distribuzioni binomiali producono solo valori integrali, quindi ci sarà una grande quantità di sovrapposizione.

Un modo per generare queste variabili è campionare volte da con le probabilità scelte e quindi convertire ogni in , ciascuno in , ciascuno in e ogni in . Somma i risultati (come vettori) per ottenere una realizzazione di . $n$ $\{1,2,3,4\}$ $1$ $(0,0)$ $2$ $(1,0)$ $3$ $(0,1)$ $4$ $(1,1)$ $(X,Y)$

Codice

Ecco Run'implementazione.

#
# Compute Pr(0,0) from rho, p=Pr(X=1), and q=Pr(Y=1).
#
a <- function(rho, p, q) {
  rho * sqrt(p*q*(1-p)*(1-q)) + (1-p)*(1-q)
}
#
# Specify the parameters.
#
n <- 10
p <- 1/3
q <- 3/4
rho <- -4/5
#
# Compute the four probabilities for the joint distribution.
#
a.0 <- a(rho, p, q)
prob <- c(`(0,0)`=a.0, `(1,0)`=1-q-a.0, `(0,1)`=1-p-a.0, `(1,1)`=a.0+p+q-1)
if (min(prob) < 0) {
  print(prob)
  stop("Error: a probability is negative.")
}
#
# Illustrate generation of correlated Binomial variables.
#
set.seed(17)
n.sim <- 1000
u <- sample.int(4, n.sim * n, replace=TRUE, prob=prob)
y <- floor((u-1)/2)
x <- 1 - u %% 2
x <- colSums(matrix(x, nrow=n)) # Sum in groups of `n`
y <- colSums(matrix(y, nrow=n)) # Sum in groups of `n`
#
# Plot the empirical bivariate distribution.
#
plot(x+rnorm(length(x), sd=1/8), y+rnorm(length(y), sd=1/8),
     pch=19, cex=1/2, col="#00000010",
     xlab="X", ylab="Y",
     main=paste("Correlation is", signif(cor(x,y), 3)))
abline(v=mean(x), h=mean(y), col="Red")
abline(lm(y ~ x), lwd=2, lty=3)

— whuber
fonte

Questo approccio può essere esteso per generare un numero qualsiasi di variabili binarie? - adattarsi alla matrice di correlazione data (o avvicinarsi al massimo per adattarla)?

— ttnphns,

@ttnphns Sì, ma le opzioni esplodono: la tabella delle probabilità deve essere determinata da parametri marginali, il vincolo somma-unità e (quindi) parametri aggiuntivi. Evidentemente avresti molta libertà di selezionare (o vincolare) quei parametri, in base alle proprietà multivariate che desideri creare. Inoltre, un approccio simile potrebbe essere usato per generare variabili binomiali correlate con valori diversi dei loro parametri " ". Parvin: Credo che "quando sommiamo di queste variabili" spiega senza ambiguità ciò che rappresenta.

2^{k}

$2^k$

k

$k$

2^{k} - k - 1

$2^k-k-1$

n

$n$

n

$n$

n

$n$

— whuber

Questo è un bel risultato. Solo per scegliere un po 'la tua prima frase. Per ottenere un binomio da variabili di Bernoulli indipendenti non è necessario che abbiano la stessa p? Questo non ha alcun effetto su ciò che hai fatto poiché è solo una motivazione per il tuo approccio.

— Michael R. Chernick,

@Michael Grazie - hai perfettamente ragione. Un altro motivo per cui non ha attinenza con il metodo delineato qui è che questo metodo comporta ancora la somma delle variabili di Bernoulli con un parametro comune: il parametro è per tutte le variabili e per tutte le variabiliPer mantenere il post ragionevolmente breve, non ho presentato istogrammi delle distribuzioni marginali per dimostrare che sono effettivamente binomiali (ma in realtà l'ho fatto nella mia analisi originale solo per assicurarmi che funzionassero!).

p

$p$

X

$X$

q

$q$

Y

$Y$

— whuber

@whuber Bel approccio! Potete per favore fatemi sapere se c'è qualche documento a cui posso fare riferimento ??

— T Nick