Mostrando che 100 misurazioni per 5 soggetti forniscono molte meno informazioni di 5 misurazioni per 100 soggetti

Durante una conferenza ho sentito la seguente dichiarazione:

100 misurazioni per 5 soggetti forniscono molte meno informazioni rispetto a 5 misurazioni per 100 soggetti.

È abbastanza ovvio che questo è vero, ma mi chiedevo come si potesse dimostrarlo matematicamente ... Penso che si possa usare un modello misto lineare. Tuttavia, non so molto della matematica usata per lmer4stimarli (corro solo per LMM e bmrsGLMM :) Potresti mostrarmi un esempio in cui questo è vero? Preferirei una risposta con alcune formule, piuttosto che un po 'di codice in R. Sentiti libero di assumere un'impostazione semplice, come ad esempio un modello misto lineare con intercettazioni e pendenze casuali normalmente distribuite.

Anche una risposta matematica che non coinvolge gli LMM andrebbe bene. Ho pensato agli MMM perché mi sembravano lo strumento naturale per spiegare perché un minor numero di misure provenienti da più soggetti sono migliori di più misure provenienti da pochi soggetti, ma potrei anche sbagliarmi.

— DeltaIV
fonte

+1. Immagino che l'impostazione più semplice sia quella di considerare un compito di stima della media della popolazione

μ

$\mu$ cui ogni soggetto ha la propria media

a \sim N (μ, σ_{a}^{2})

$a \sim \mathcal N(\mu, \sigma_a^2)$ e ogni misurazione di questo soggetto è distribuita come

x \sim N (a, σ^{2})

$x \sim \mathcal N(a, \sigma^2)$ . Se prendiamo

n

$n$ misurazioni da ciascuna delle

m

$m$ soggetti, allora qual è il modo ottimale per serie

n

$n$ ed

m

$m$ dato prodotto costante

n m = N

$nm=N$ .

— ameba dice Reinstate Monica il

"Ottimale" nel senso di minimizzare la varianza della media campionaria degli

punti dati acquisiti.

N

$N$

— ameba dice Ripristina Monica il

Sì. Ma per la tua domanda non dobbiamo preoccuparci di come stimare le varianze; la tua domanda (cioè la citazione in questione) è Credo che solo circa la stima della media globale

e sembra ovvio che il miglior stimatore è dato dalle grandi medi

di tutti

punti nel campione. La domanda allora è: dato

, qual è la varianza di

? Se lo sappiamo, saremo in grado di minimizzarlo rispetto a

dato l'

μ

$\mu$

\bar{x}

$\bar x$

N = n m

$N=nm$

μ

$\mu$

σ^{2}

$\sigma^2$

σ_{a}^{2}

$\sigma^2_a$

n

$n$

m

$m$

\bar{x}

$\bar x$

n

$n$

vincolo.

n m = N

$nm=N$

— ameba dice Ripristina Monica il

Non so come derivarne nulla, ma concordo sul fatto che sembra ovvio: per stimare la varianza dell'errore sarebbe meglio avere tutte le misurazioni

da un singolo soggetto; e per stimare la varianza del soggetto sarebbe (probabilmente?) meglio avere

soggetti diversi con 1 misurazione ciascuno. Tuttavia, non è così chiaro sulla media, ma la mia intuizione mi dice che avere

soggetti con 1 misurazione ciascuno sarebbe anche il migliore. Mi chiedo se sia vero ...

N

$N$

N

$N$

N

$N$

— Ameba dice Reinstate Monica il

Forse qualcosa del genere: la varianza delle medie campionarie per soggetto dovrebbe essere

, dove il primo termine è la varianza del soggetto e il secondo è la varianza della stima della media di ciascun soggetto. Quindi la varianza della media dei soggetti sovrastanti (cioè la media maggiore) sarà

σ_{a}^{2} + σ^{2} / n

$\sigma^2_a + \sigma^2/n$

che viene minimizzata quando

(σ_{a}^{2} + σ^{2} / n) / m = σ_{a}^{2} / m + σ^{2} / (n m) = σ_{a}^{2} / m + σ^{2} / N = σ_{a}^{2} / m + c o n s t,

$(\sigma^2_a + \sigma^2/n)/m = \sigma^2_a/m + \sigma^2/(nm) = \sigma^2_a/m + \sigma^2/N = \sigma^2_a/m + \mathrm{const},$

m = N

$m=N$

— ameba dice Ripristina Monica il

La risposta breve è che la tua congettura è vera quando e solo quando c'è una correlazione positiva all'interno della classe nei dati . Dal punto di vista empirico, la maggior parte dei set di dati raggruppati la maggior parte delle volte mostra una correlazione positiva all'interno della classe, il che significa che in pratica la tua congettura è generalmente vera. Ma se la correlazione all'interno della classe è 0, i due casi che hai citato sono ugualmente informativi. E se la correlazione all'interno della classe è negativa , in realtà è meno informativo prendere meno misurazioni su più argomenti; preferiremmo effettivamente (per quanto riguarda la riduzione della varianza della stima dei parametri) prendere tutte le nostre misurazioni su un singolo argomento.

Statisticamente ci sono due punti di vista da cui si può pensare a questo: a effetti casuali (o misto ) il modello , che si menziona nella sua interrogazione, o un modello di marginali , che finisce per essere un po 'più informativo qui.

Modello a effetti casuali (misto)

Supponiamo di avere una serie di soggetti dai quali abbiamo preso misurazioni ciascuno. Poi un semplice modello degli effetti casuali della esima misura dal esimo soggetto potrebbe essere dove è l'intercetta fisso, è l'effetto soggetto casuale (con varianza ), è il termine di errore a livello di osservazione (con varianza $n$ $m$ $j$ $i$

y_{i j} = β + u_{i} + e_{i j},

$y_{ij} = \beta + u_i + e_{ij},$

β

$\beta$

u_{i}

$u_i$

σ_{u}^{2}

$\sigma^2_u$

e_{i j}

$e_{ij}$

σ_{e}^{2}

$\sigma^2_e$ ) e gli ultimi due termini casuali sono indipendenti.

In questo modello rappresenta la media della popolazione e con un set di dati bilanciato (ovvero un numero uguale di misurazioni per ciascun soggetto), la nostra migliore stima è semplicemente la media del campione. Quindi se prendiamo "maggiori informazioni" per indicare una varianza minore per questa stima, allora in sostanza vogliamo sapere come la varianza della media del campione dipende da e . Con un po 'di algebra possiamo capire che $\beta$ $n$ $m$

\begin{aligned} var (\frac{1}{n m} \sum_{i} \sum_{j} y_{i j}) & = var (\frac{1}{n m} \sum_{i} \sum_{j} β + u_{i} + e_{i j}) \\ = \frac{1}{n^{2} m^{2}} var (\sum_{i} \sum_{j} u_{i} + \sum_{i} \sum_{j} e_{i j}) \\ = \frac{1}{n^{2} m^{2}} (m^{2} \sum_{i} var (u_{i}) + \sum_{i} \sum_{j} var (e_{i j})) \\ = \frac{1}{n^{2} m^{2}} (n m^{2} σ_{u}^{2} + n m σ_{e}^{2}) \\ = \frac{σ_{u}^{2}}{n} + \frac{σ_{e}^{2}}{n m} . \end{aligned}

$\begin{aligned} \text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) &= \text{var}(\frac{1}{nm}\sum_i\sum_j\beta + u_i + e_{ij}) \\ &= \frac{1}{n^2m^2}\text{var}(\sum_i\sum_ju_i + \sum_i\sum_je_{ij}) \\ &= \frac{1}{n^2m^2}\Big(m^2\sum_i\text{var}(u_i) + \sum_i\sum_j\text{var}(e_{ij})\Big) \\ &= \frac{1}{n^2m^2}(nm^2\sigma^2_u + nm\sigma^2_e) \\ &= \frac{\sigma^2_u}{n} + \frac{\sigma^2_e}{nm}. \end{aligned}$

σ_{u}^{2} > 0

$\sigma^2_u>0$

n

$n$

m

$m$

$m$ $n$ $nm$ essere una costante, in modo che l'intera espressione della varianza assomigli

\frac{σ_{u}^{2}}{n} + costante,

$\frac{\sigma^2_u}{n} + \text{constant},$ che è il più piccolo possibile quando

n

$n$ è il più grande possibile (fino a un massimo di

n = n m

$n=nm$ , in quale caso

m = 1

$m=1$ , nel senso che prendiamo una singola misura da ogni soggetto).

La mia breve risposta si riferiva alla correlazione all'interno della classe, quindi dove si adatta? In questo semplice modello a effetti casuali la correlazione all'interno della classe è

ρ = \frac{σ_{u}^{2}}{σ_{u}^{2} + σ_{e}^{2}}

$\rho = \frac{\sigma^2_u}{\sigma^2_u + \sigma^2_e}$ (schizzo di una derivazione qui ). Quindi possiamo scrivere l'equazione della varianza sopra come

var (\frac{1}{n m} \sum_{i} \sum_{j} y_{i j}) = \frac{σ_{u}^{2}}{n} + \frac{σ_{e}^{2}}{n m} = (\frac{ρ}{n} + \frac{1 - ρ}{n m}) (σ_{u}^{2} + σ_{e}^{2})

$\text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) = \frac{\sigma^2_u}{n} + \frac{\sigma^2_e}{nm} = \Big(\frac{\rho}{n} + \frac{1-\rho}{nm}\Big)(\sigma^2_u+\sigma^2_e)$ This doesn't really add any insight to what we already saw above, but it does make us wonder: since the intra-class correlation is a bona fide correlation coefficient, and correlation coefficients can be negative, what would happen (and what would it mean) if the intra-class correlation were negative?

In the context of the random-effects model, a negative intra-class correlation doesn't really make sense, because it implies that the subject variance $\sigma^2_u$ is somehow negative (as we can see from the $\rho$ equazione sopra, e come spiegato qui e qui ) ... ma le varianze non possono essere negative! Ma ciò non significa che il concetto di una correlazione negativa all'interno della classe non abbia senso; significa solo che il modello a effetti casuali non ha alcun modo di esprimere questo concetto, che è un fallimento del modello, non del concetto. Per esprimere adeguatamente questo concetto, dobbiamo considerare il modello marginale.

Modello marginale

Per questo stesso set di dati potremmo considerare un cosiddetto modello marginale di $y_{ij}$ ,

y_{io j} = β + e_{io j}^{*},

$y_{ij} = \beta + e^*_{ij},$ dove fondamentalmente abbiamo spinto l'effetto soggetto casuale

u_{i}

$u_i$ da prima nel termine di errore

e_{i j}

$e_{ij}$ così che abbiamo

e_{i j}^{*} = u_{i} + e_{i j}

$e^*_{ij} = u_i + e_{ij}$ . Nel modello a effetti casuali abbiamo considerato i due termini casuali

u_{i}

$u_i$ e

e_{i j}

$e_{ij}$ to be i.i.d., but in the marginal model we instead consider

e_{i j}^{*}

$e^*_{ij}$ to follow a block-diagonal covariance matrix

C

$\textbf{C}$ like

C = σ^{2} [\begin{matrix} R & 0 & \dots & 0 \\ 0 & R & \dots & 0 \\ ⋮ & ⋮ & ⋱ & ⋮ \\ 0 & 0 & \dots & R \end{matrix}], R = [\begin{matrix} 1 & ρ & \dots & ρ \\ ρ & 1 & \dots & ρ \\ ⋮ & ⋮ & ⋱ & ⋮ \\ ρ & ρ & \dots & 1 \end{matrix}]

$\textbf{C}= \sigma^2\begin{bmatrix} \textbf{R} & 0& \cdots & 0\\ 0& \textbf{R} & \cdots & 0\\ \vdots & \vdots & \ddots & \vdots \\ 0& 0& \cdots &\textbf{R}\\ \end{bmatrix}, \textbf{R}= \begin{bmatrix} 1 & \rho & \cdots & \rho \\ \rho & 1 & \cdots & \rho \\ \vdots & \vdots & \ddots & \vdots \\ \rho & \rho & \cdots &1\\ \end{bmatrix}$ In words, this means that under the marginal model we simply consider

ρ

$\rho$ to be the expected correlation between two

e^{*}

$e^*$ s from the same subject (we assume the correlation across subjects is 0). When

ρ

$\rho$ is positive, two observations drawn from the same subject tend to be more similar (closer together), on average, than two observations drawn randomly from the dataset while ignoring the clustering due to subjects. When

ρ

$\rho$ is negative, two observations drawn from the same subject tend to be less similar (further apart), on average, than two observations drawn completely at random. (More information about this interpretation in the question/answers here.)

So now when we look at the equation for the variance of the sample mean under the marginal model, we have

\begin{aligned} var (\frac{1}{n m} \sum_{i} \sum_{j} y_{i j}) & = var (\frac{1}{n m} \sum_{i} \sum_{j} β + e_{i j}^{*}) \\ = \frac{1}{n^{2} m^{2}} var (\sum_{i} \sum_{j} e_{i j}^{*}) \\ = \frac{1}{n^{2} m^{2}} (n (m σ^{2} + (m^{2} - m) ρ σ^{2})) \\ = \frac{σ^{2} (1 + (m - 1) ρ)}{n m} \\ = (\frac{ρ}{n} + \frac{1 - ρ}{n m}) σ^{2}, \end{aligned}

$\begin{aligned} \text{var}(\frac{1}{nm}\sum_i\sum_jy_{ij}) &= \text{var}(\frac{1}{nm}\sum_i\sum_j\beta + e^*_{ij}) \\ &= \frac{1}{n^2m^2}\text{var}(\sum_i\sum_je^*_{ij}) \\ &= \frac{1}{n^2m^2}\Big(n\big(m\sigma^2 + (m^2-m)\rho\sigma^2\big)\Big) \\ &= \frac{\sigma^2\big(1+(m-1)\rho\big)}{nm} \\ &= \Big(\frac{\rho}{n}+\frac{1-\rho}{nm}\Big)\sigma^2, \end{aligned}$ which is the same variance expression we derived above for the random-effects model, just with

σ_{e}^{2} + σ_{u}^{2} = σ^{2}

$\sigma^2_e+\sigma^2_u=\sigma^2$ , which is consistent with our note above that

e_{i j}^{*} = u_{i} + e_{i j}

$e^*_{ij} = u_i + e_{ij}$ . The advantage of this (statistically equivalent) perspective is that here we can think about a negative intra-class correlation without needing to invoke any weird concepts like a negative subject variance. Negative intra-class correlations just fit naturally in this framework.

(BTW, just a quick aside to point out that the second-to-last line of the derivation above implies that we must have $\rho \ge -1/(m-1)$ , or else the whole equation is negative, but variances can't be negative! So there is a lower bound on the intra-class correlation that depends on how many measurements we have per cluster. For $m=2$ (i.e., we measure each subject twice), the intra-class correlation can go all the way down to $\rho=-1$ ; for $m=3$ it can only go down to $\rho=-1/2$ ; and so on. Fun fact!)

So finally, once again considering the total number of observations $nm$ to be a constant, we see that the second-to-last line of the derivation above just looks like

(1 + (m - 1) ρ) \times positive constant .

$\big(1+(m-1)\rho\big) \times \text{positive constant}.$ So when

ρ > 0

$\rho>0$ , having

m

$m$ as small as possible (so that we take fewer measurements of more subjects--in the limit, 1 measurement of each subject) makes the variance of the estimate as small as possible. But when

ρ < 0

$\rho<0$ , we actually want

m

$m$ to be as large as possible (so that, in the limit, we take all

n m

$nm$ measurements from a single subject) in order to make the variance as small as possible. And when

ρ = 0

$\rho=0$ , the variance of the estimate is just a constant, so our allocation of

m

$m$ and

n

$n$ doesn't matter.

— Jake Westfall
fonte

+1. Great answer. I have to admit that the second part, about

ρ < 0

$\rho<0$ , is quite unintuitive: even with a huge (or infinite) total number

n m

$nm$ of observations the best we can do is to allocate all observations to one single subject, meaning that the standard error of the mean will be

σ_{u}

$\sigma_u$ and it's not possible in principle to reduce it any further. This is just so weird! True

β

$\beta$ remains unknowable, whatever resources one puts into measuring it. Is this interpretation correct?

— amoeba says Reinstate Monica

Ah, no. The above is not correct because as

m

$m$ increases to infinity,

ρ

$\rho$ cannot stay negative and has to approach zero (corresponding to zero subject variance). Hmm. This negative correlation is a funny thing: it's not really a parameter of the generative model because it's constrained by the sample size (whereas one would normally expect a generative model to be able to generate any number of observations, whatever the parameters are). I am not quite sure what is the proper way to think about it.

— amoeba says Reinstate Monica

@DeltaIV What is "the covariance matrix of the random effects" in this case? In the mixed model written by Jake above, there is only one random effect and so there is no "covariance matrix" really, but just one number:

σ_{u}^{2}

$\sigma^2_u$ . What

Σ

$\Sigma$ are you referring to?

— amoeba says Reinstate Monica

@DeltaIV Well, the general principle is en.wikipedia.org/wiki/Inverse-variance_weighting, and the variance of each subject's sample mean is given by

σ_{u}^{2} + σ_{e}^{2} / m_{i}

$\sigma^2_u + \sigma^2_e/m_i$ (that's why Jake wrote above that the weights have to depend on the estimate of between-subject variance). The estimate of within-subject variance is given by the variance of the pooled within-subject deviations, the estimate of between-subject variance is the variance of subjects' means, and using all that one can compute the weights. (But I am not sure if this is 100% equivalent to what lmer will do.)

— amoeba says Reinstate Monica

Jake, yes, it's exactly this hard-coding of

m

$m$ that was bothering me. If this is "sample size" then it cannot be a parameter of the underlying system. My current thinking is that negative

ρ

$\rho$ dovrebbe effettivamente indicare che esiste un altro fattore all'interno del soggetto che ci viene ignorato / sconosciuto. Ad esempio, potrebbe essere pre e post intervento e la differenza tra loro è così grande che le misurazioni sono negativamente correlate. Ma questo significherebbe questo

m

$m$ non è in realtà una dimensione del campione, ma il numero di livelli di questo fattore sconosciuto, e questo può sicuramente essere codificato ...

— ameba dice Reinstate Monica