Trasformazione lineare di una variabile casuale mediante una matrice rettangolare alta

$\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

Ora supponiamo che trasformiamo invece di una matrice , con , dando . Chiaramente , ma "vive" in un sottospazio -dimensionale . Qual è la densità condizionale di , dato che sappiamo che si trova in ? $\vec{X}$ $m \times n$ $B$ $m > n$ $\vec{Z} = B\vec{X}$ $Z \in \mathbb{R}^m$ $n$ $G \subset \mathbb{R}^m$ $\vec{Z}$ $G$

Il mio primo istinto è stato quello di utilizzare la pseudo-inversa di . Se è il valore decomposizione singolare , allora è la pseudo-inversa, dove è formato invertendo i non nulli della matrice diagonale . Immaginavo che questo avrebbe dato a dove per intendo il prodotto dei valori singolari diversi da zero. $B$ $B = U S V^T$ $B$ $B^+ = V S^+ U^T$ $S^+$ $S$

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$

\overset{+}{det} S

$\det^+ S$

Questo ragionamento concorda con la densità di una normale singolare (condizionata dalla consapevolezza che la variabile vive nel sottospazio appropriato) data qui e menzionata anche qui e in questo post di CrossValidated .

Ma non è giusto! La costante di normalizzazione è disattivata. Un controesempio (banale) viene fornito considerando il seguente caso: Con , let Qui la matrice dall'alto è solo il vettore. Il suo pseudo-inverso è e . Il ragionamento sopra suggerirebbe ma questo in effetti si integra (sulla riga ) in $X \sim \mathcal{N(0, 1)}$

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$

B

$B$

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$

y = x

$y = x$

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$ . Mi rendo conto che in questo caso potresti semplicemente eliminare una delle voci di

\vec{Y}

$\vec{Y}$ , ma quando

B

$B$ è molto più grande identificare l'insieme di voci da rilasciare è fastidioso. Perché il ragionamento pseudo-inverso non funziona? Esiste una formula generale per la funzione di densità di una trasformazione lineare di un insieme di variabili casuali da una matrice "alta"? Anche ogni riferimento sarebbe molto apprezzato.

— Dan
fonte

Per coloro che potrebbero imbattersi in questo in futuro ... la fonte dell'errore deriva in realtà dall'integrazione. Nell'esempio sopra, l'integrazione avviene sulla linea . È quindi necessario "parametrizzare" la linea e considerare il giacobino della parametrizzazione quando si prende l'integrale, poiché ogni passo unitario nell'asse corrisponde a passi di lunghezza sulla linea. La parametrizzazione che stavo usando implicitamente è stata data da , in altre parole specificando entrambe le voci identiche di base al valore. Questo ha Jacobian , che annulla ordinatamente con $y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$ (proveniente esattamente dallo stesso giacobino) nel denominatore.

L'esempio era artificialmente semplice: per una trasformazione generale , si potrebbe avere un'altra parametrizzazione dell'output naturale nel contesto del problema. Poiché la parametrizzazione deve coprire lo stesso sottospazio di e questo sottospazio è un iperpiano, è probabile che la parametrizzazione stessa sia lineare. Chiamando la rappresentazione della matrice della parametrizzazione , il requisito è semplicemente che abbia lo stesso spazio di colonna di (copre lo stesso iperpiano). Quindi la densità finale diventa $B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

In generale, questa configurazione è un po 'strana e penso che la cosa giusta da fare sia trovare un set di righe di di massima linearmente indipendente e rimuovere il resto delle righe (insieme ai componenti corrispondenti della variabile trasformata ) per ottenere una matrice quadrata . Quindi il problema si riduce al rango intero caso (supponendo che abbia il rango di colonna completo). $B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— Dan
fonte