Condizioni sufficienti e necessarie per autovalore zero di una matrice di correlazione

Dato $n$ variabile casuale $X_i$ , con distribuzione di probabilità $P(X_1,\ldots,X_n)$ , la matrice di correlazione $C_{ij}=E[X_i X_j]-E[X_i]E[X_j]$ è semi positivo definito, cioè i suoi autovalori sono positivi o zero.

Sono interessato alle condizioni su $P$ che sono necessarie e / o sufficienti affinché $C$ abbia autovalori $m$ zero. Ad esempio, una condizione sufficiente è che le variabili casuali non siano indipendenti: $\sum_i u_i X_i=0$ per alcuni numeri reali $u_i$ . Ad esempio, se $P(X_1,\ldots,X_n)=\delta(X_1-X_2)p(X_2,\ldots,X_n)$ , quindi$\vec u=(1,-1,0,\ldots,0)$ è un autovettore di$C$ con autovalore zero. Se abbiamo$m$ vincoli lineari indipendenti sulle$X_i$ di questo tipo, implicherebbe$m$ zero autovalori.

C'è almeno un'ulteriore (ma banale) possibilità, quando $X_a=E[X_a]$ per alcuni $a$ (cioè $P(X_1,\ldots,X_n)\propto\delta(X_a-E[X_a])$ ), poiché in quel caso $C_{ij}$ ha una colonna e una linea di zeri: $C_{ia}=C_{ai}=0,\,\forall i$ . Dato che non è davvero interessante, presumo che la distribuzione di probabilità non sia di tale forma.

La mia domanda è: i vincoli lineari sono l'unico modo per indurre zero autovalori (se vietiamo la banale eccezione sopra indicata), oppure i vincoli non lineari sulle variabili casuali possono anche generare zero autovalori di ?$C$

Forse semplificando la notazione possiamo far emergere le idee essenziali. Si scopre che non è necessario coinvolgere aspettative o formule complicate, perché tutto è puramente algebrico.

---

La natura algebrica degli oggetti matematici

La domanda riguarda le relazioni tra (1) la matrice di covarianza di un insieme finito di variabili casuali e (2) relazioni lineari tra tali variabili, considerate come vettori$X_1, \ldots, X_n$ .

Lo spazio vettoriale in questione è l'insieme di tutte le variabili aleatorie finiti varianza (in un dato spazio di probabilità ) MODULO sottospazio delle variabili quasi certamente costanti, indicata L 2 ( Ω , P ) / R . (Cioè, consideriamo due variabili casuali X e Y come lo stesso vettore quando non vi è alcuna possibilità che X - Y differisca dalle sue aspettative.) Abbiamo a che fare solo con lo spazio vettoriale a dimensioni finite V generato da X i$(\Omega,\mathbb P)$$\mathcal{L}^2(\Omega,\mathbb P)/\mathbb R.$$X$$Y$$X-Y$$V$$X_i,$ che è ciò che rende questo un problema algebrico piuttosto che analitico.

Cosa dobbiamo sapere sulle variazioni

è molto più di uno spazio vettoriale: è unmodulo quadratico,perché è dotato della varianza. Tutto quello che dobbiamo sapere sulle varianze sono due cose:$V$

1. La varianza è uno scalare funzione a valori con la proprietà che Q ( una X ) = un 2 Q ( X ) per tutti i vettori X $Q$$Q(aX)=a^2Q(X)$$X.$

2. La varianza non è generosa.

Il secondo necessita di alcune spiegazioni. determina un "prodotto punto", che è una forma bilineare simmetrica data da$Q$

$$X\cdot Y = \frac{1}{4}\left(Q(X+Y) - Q(X-Y)\right).$$

(Questo ovviamente non è altro che la covarianza delle variabili e Y ) . I vettori X e Y sono ortogonali quando il loro prodotto punto è 0. Il complemento ortogonale di qualsiasi insieme di vettori A ⊂ V è costituito da tutti i vettori ortogonali ad ogni elemento di A , scritto$X$$Y.$$X$$Y$$0.$$\mathcal A \subset V$$\mathcal A,$

$$\mathcal{A}^0 = \{v\in V\mid a . v = 0\text{ for all }v \in V\}.$$

È chiaramente uno spazio vettoriale. Quando , Q non è generata.$V^0 = \{0\}$$Q$

Consentitemi di dimostrare che la varianza è davvero non degenerata, anche se potrebbe sembrare ovvia. Supponiamo che sia un elemento diverso da zero di V 0 . Questo significa X ⋅ Y = 0 per tutti Y ∈ V ; equivalentemente,$X$$V^0.$$X\cdot Y = 0$$Y\in V;$

$$Q(X+Y) = Q(X-Y)$$

per tutti i vettori Prendendo Y = X si ottiene$Y.$$Y=X$

$$4 Q(X) = Q(2X) = Q(X+X) = Q(X-X) = Q(0) = 0$$

e quindi Tuttavia, sappiamo (usando la disuguaglianza di Chebyshev, forse) che le uniche variabili casuali con varianza zero sono quasi sicuramente costanti, che le identifica con il vettore zero in V , QED.$Q(X)=0.$$V,$

Interpretazione delle domande

Tornando alle domande, nella notazione precedente la matrice di covarianza delle variabili casuali è solo una matrice regolare di tutti i loro prodotti punto,

$$T = (X_i\cdot X_j).$$

C'è un buon modo di pensare a : definisce una trasformazione lineare su R n nel solito modo, inviando qualsiasi vettore x = ( x 1 , … , x n ) ∈ R n nel vettore T ( x ) = y = ( y 1 , ... , x n ) i cui i esima componente è data dalla regola moltiplicazione matrice$T$$\mathbb{R}^n$$x=(x_1, \ldots, x_n)\in\mathbb{R}^n$$T(x)=y=(y_1, \ldots, x_n)$$i^\text{th}$

$$y_i = \sum_{j=1}^n (X_i\cdot X_j)x_j.$$

The kernel of this linear transformation is the subspace it sends to zero:

$$\operatorname{Ker}(T) = \{x\in \mathbb{R}^n\mid T(x)=0\}.$$

The foregoing equation implies that when $x\in \operatorname{Ker}(T),$ for every $i$

$$0 = y_i = \sum_{j=1}^n (X_i\cdot X_j)x_j = X_i \cdot \left(\sum_j x_j X_j\right).$$

Since this is true for every $i,$ it holds for all vectors spanned by the $X_i$: namely, $V$ itself. Consequently, when $x\in\operatorname{Ker}(T),$ the vector given by $\sum_j x_j X_j$ lies in $V^0.$ Because the variance is nondegenerate, this means $\sum_j x_j X_j = 0.$ That is, $x$ describes a linear dependency among the $n$ original random variables.

You can readily check that this chain of reasoning is reversible:

Linear dependencies among the $X_j$ as vectors are in one-to-one correspondence with elements of the kernel of $T.$

(Remember, this statement still considers the $X_j$ as defined up to a constant shift in location--that is, as elements of $\mathcal{L}^2(\Omega,\mathbb P)/\mathbb R$--rather than as just random variables.)

Finally, by definition, an eigenvalue of $T$ is any scalar $\lambda$ for which there exists a nonzero vector $x$ with $T(x) = \lambda x.$ When $\lambda=0$ is an eigenvalue, the space of associated eigenvectors is (obviously) the kernel of $T.$

---

Summary

We have arrived at the answer to the questions: the set of linear dependencies of the random variables, qua elements of $\mathcal{L}^2(\Omega,\mathbb P)/\mathbb R,$ corresponds one-to-one with the kernel of their covariance matrix $T.$ This is so because the variance is a nondegenerate quadratic form. The kernel also is the eigenspace associated with the zero eigenvalue (or just the zero subspace when there is no zero eigenvalue).

---

Reference

I have largely adopted the notation and some of the language of Chapter IV in

Jean-Pierre Serre, A Course In Arithmetic. Springer-Verlag 1973.

Linear independence is not just sufficient but also a neccesary condition

To show that the variance-covariance matrix has eigenvalues equal to zero if and only if the variables are not linearly independent, it only remains to be shown that "if the matrix has eigenvalues equal to zero then the variables are not linearly independent".

If you have a zero eigenvalue for $C_{ij} = \text{Cov}(X_i,X_j)$ then there is some linear combination (defined by the eigenvector $v$)

$$Y = \sum_{i=1}^n v_i (X_i)$$

such that

$$\begin{array}{rcl} \text{Cov}(Y,Y) &=& \sum_{i=1}^n \sum_{j=1}^n v_i v_j \text{Cov}(X_i,X_j) \\ &=&\sum_{i=1}^n v_i\sum_{j=1}^n v_j C_{ij} \\ &= &\sum_{i=1}^n v_i \cdot 0 \\ &=& 0 \end{array}$$

which means that $Y$ needs to be a constant and thus the variables $X_i$ have to add up to a constant and are either constants themselves (the trivial case) or not linearly independent.

^{- the first line in the equation with $\text{Cov}(Y,Y)$ is due to the property of covariance}

$$\scriptsize\text{Cov}(aU+bV,cW+dX) = ac\,\text{Cov}(U,W) + bc\,\text{Cov}(V,W) +ad\, \text{Cov}(U,X) + bd \,\text{Cov}(V,X)$$

^{- the step from the second to the third line is due to the property of a zero eigenvalue}

$$\scriptsize \sum_{j=1}^nv_jC_{ij} = 0$$

---

Non-linear constraints

So, since linear constraints are a necessary condition (not just sufficient), non-linear constraints will only be relevant when they indirectly imply a (necessary) linear constraint.

In fact, there is a direct correspondence between the eigenvectors associated with the zero eigenvalue and the linear constraints.

$$C \cdot v = 0 \iff Y = \sum_{i=1}^n v_i X_i = \text{const}$$

Thus non-linear constraints leading to a zero eigenvalue must, together combined, generate some linear constraint.

---

How can non-linear constraints lead to linear constraints

Your example in the comments can show this intuitively how non-linear constraints can lead to linear constraints by reversing the derivation. The following non-linear constraints

$$\begin{array}{lcr} a^2+b^2&=&1\\ c^2+d^2&=&1\\ ac + bd &=& 0 \\ ad - bc &=& 1 \end{array}$$

can be reduced to

$$\begin{array}{lcr} a^2+b^2&=&1\\ c^2+d^2&=&1\\ a-d&=&0 \\ b+c &=& 0 \end{array}$$

You could inverse this. Say you have non-linear plus linear constraints, then it is not strange to imagine how we can replace one of the linear constraints with a non-linear constraint, by filling the linear constraints into the non-linear constraints. E.g when we substitute $a=d$ and $b=-c$ in the non-linear form $a^2+b^2=1$ then you can make another relationship $ad-bc=1$. And when you multiply $a=d$ and $c=-b$ then you get $ac=-bd$.

Suppose $C$ has an eigenvector $v$ with corresponding eigenvalue $0$, then $\operatorname{var}(v^T X) = v^T Cv = 0$. Thus, by Chebyshev's inequality, $v^TX$ is almost surely constant and equal to $v^T E [X]$. That is, every zero eigenvalue corresponds to a linear restriction, namely $v^T X = v^T E[X]$. There is no need to consider any special cases.

Thus, we conclude:

"are linear constraints the only way to induce zero eigenvalues [?]"

Yes.

"can non-linear constraints on the random variables also generate zero eigenvalues of C ?"

Yes, if they imply linear constraints.

The covariance marix $C$ of $X$ is symmetric so you can diagnonalize it as $C=Q\Lambda Q^T$, with the eigenvalues in the diagonal matrix $\Lambda.$ Rewriting this as $\Lambda=Q^TCQ$, the rhs is the covariance matrix of $Q^TX$, so zero eigenvalues on the lhs correspond to linear combinations of $X$ with degenerate distributions.