Funzione generatrice del momento del prodotto interno di due vettori casuali gaussiani

Qualcuno può suggerire come posso calcolare la funzione generatrice del momento del prodotto interno di due vettori casuali gaussiani, ciascuno distribuito come , indipendentemente l'uno dall'altro? C'è qualche risultato standard disponibile per questo? Ogni puntatore è molto apprezzato. $\mathcal N(0,\sigma^2)$

— abhibhat
fonte

Per prima cosa affrontiamo il caso . Alla fine è la (facile) generalizzazione a arbitrario . $\Sigma = \sigma\mathbb{I}$ $\Sigma$

Inizia osservando il prodotto interno la somma delle variabili iid, ognuna delle quali è il prodotto di due variate normali indipendenti , riducendo così la domanda alla ricerca del mgf di quest'ultimo, perché il mgf di una somma è il prodotto del mgfs. $(0,\sigma)$

Il mgf può essere trovato tramite l'integrazione, ma esiste un modo più semplice. Quando e sono normali, $X$ $Y$

X Y = ((X + Y) / 2)^{2} - ((X - Y) / 2)^{2}

$XY = ((X+Y)/2)^2 - ((X-Y)/2)^2$

è una differenza di due variate Chi squadrate in scala indipendenti. (Il fattore di scala è perché le varianze di equivalgono a .) Poiché il mgf di una variabile chi-quadrato è , il mgf di è e il mgf di è . Moltiplicando, troviamo che il mgf desiderato è uguale a . $1/2$ $(X\pm Y)/2$ $1/2$ $1/\sqrt{1 - 2\omega}$ $((X+Y)/2)^2$ $1/\sqrt{1-\omega}$ $-((X-Y)/2)^2$ $1/\sqrt{1+\omega}$ $1/\sqrt{1-\omega^2}$

(Per riferimento futuro, nota che quando e vengono ridimensionati da , il loro prodotto viene ridimensionato di , da cui anche deve ridimensionare di ) $X$ $Y$ $\sigma$ $\sigma^2$ $\omega$ $\sigma^2$

Questo dovrebbe sembrare familiare: fino ad alcuni fattori costanti e un segno, sembra la densità di probabilità per una distribuzione t di Student con gradi di libertà. (In effetti, se avessimo lavorato con funzioni caratteristiche anziché mgfs, avremmo ottenuto , che è ancora più vicino a uno studente t PDF.) Non importa che non ci sia nulla del genere come Studente t con dfs - tutto ciò che conta è che il mgf sia analitico in un quartiere di e questo è chiaramente (secondo il Teorema Binomiale). $0$ $1/\sqrt{1 + \omega^2}$ $0$ $0$

Ne segue immediatamente che la distribuzione del prodotto interno di questi -vettori gaussiani ha mgf uguale al prodotto -fold di questo mgf, $n$ $n$

(1 - ω^{2} σ^{4})^{- n / 2}, n = 1, 2, \dots .

$(1 - \omega^2 \sigma^4)^{-n/2}, \quad n=1, 2, \ldots.$

Con guardare la funzione caratteristica delle t distribuzioni Student, si deduce (con un po 'di algebra o di un'integrazione di trovare la costante di normalizzazione), che il PDF stesso è dato da

f_{n, σ} (x) = \frac{2^{\frac{1 - n}{2}} | x |^{\frac{n - 1}{2}} K_{\frac{n - 1}{2}} (\frac{| x |}{σ^{2}})}{\sqrt{π} σ^{4} Γ (\frac{n}{2})}

$f_{n,\sigma}(x) = \frac{2^{\frac{1-n}{2}} |x|^{\frac{n-1}{2}} K_{\frac{n-1}{2}}\left(\frac{|x|}{\sigma ^2}\right)}{\sqrt{\pi } \sigma ^4 \Gamma \left(\frac{n}{2}\right)}$

( è una funzione di Bessel). $K$

Ad esempio, ecco un grafico di quel PDF sovrapposto all'istogramma di un campione casuale di tali prodotti interni dove e : $10^5$ $\sigma=1/2$ $n=3$

Istogramma

È più difficile confermare l'accuratezza del mgf da una simulazione, ma notare (dal teorema binomiale) che

(1 + t^{2} σ^{4})^{- 3 / 2} = 1 - \frac{3 σ^{4} t^{2}}{2} + \frac{15 σ^{8} t^{4}}{8} - \frac{35 σ^{12} t^{6}}{16} + \frac{315 σ^{16} t^{8}}{128} + \dots,

$(1 + t^2 \sigma^4)^{-3/2} = 1-\frac{3 \sigma ^4 t^2}{2}+\frac{15 \sigma ^8 t^4}{8}-\frac{35 \sigma ^{12} t^6}{16}+\frac{315 \sigma ^{16} t^8}{128}+\ldots,$

da cui possiamo leggere i momenti (divisi per fattoriali). A causa della simmetria su , contano solo i momenti pari. Per otteniamo i seguenti valori, da confrontare con i momenti grezzi di questa simulazione: $0$ $\sigma=1/2$

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

Come prevedibile, i momenti più alti della simulazione inizieranno a partire dai momenti dati dalla mgf; ma almeno fino al decimo momento, c'è un eccellente accordo.

Per inciso, quando la distribuzione è bi-esponenziale. $n=2$

Per gestire il caso generale, iniziare osservando che il prodotto interno è un oggetto indipendente dalle coordinate. Possiamo quindi prendere le direzioni principali (autovettori) di come coordinate. In queste coordinate il prodotto interno è la somma dei indipendenti prodotti indipendente normale variates, ciascun componente distribuito con una varianza pari alla sua autovalore associato. Pertanto, lasciando che gli autovalori diversi da zero siano (con ), il mgf deve essere uguale $\Sigma$ $\sigma_1^2, \sigma_2^2, \ldots, \sigma_d^2$ $0 \le d \le n$

{(\prod_{i = 1}^{d} (1 - ω^{2} σ_{i}^{4}))}^{- 1 / 2} .

$\left(\prod_{i=1}^d (1 - \omega^2\sigma_i^4)\right)^{-1/2}.$

Per confermare che non ho commesso errori in questo ragionamento, ho elaborato un esempio in cui è la matrice $\Sigma$

(\begin{array}{ccc} 1 & \frac{1}{2} & - \frac{1}{8} \\ \frac{1}{2} & 1 & - \frac{1}{4} \\ - \frac{1}{8} & - \frac{1}{4} & \frac{1}{2} \end{array})

$\left( \begin{array}{ccc} 1 & \frac{1}{2} & -\frac{1}{8} \\ \frac{1}{2} & 1 & -\frac{1}{4} \\ -\frac{1}{8} & -\frac{1}{4} & \frac{1}{2} \end{array} \right)$

e calcolato che i suoi autovalori sono

(σ_{1}^{2}, σ_{2}^{2}, σ_{3}^{2}) = (\frac{1}{16} (17 + \sqrt{65}), \frac{1}{16} (17 - \sqrt{65}), \frac{3}{8}) \approx (1.56639, 0.558609, 0.375) .

$\left(\sigma_1^2, \sigma_2^2, \sigma_3^2\right) = \left(\frac{1}{16} \left(17+\sqrt{65}\right),\frac{1}{16} \left(17-\sqrt{65}\right),\frac{3}{8}\right)\approx \left(1.56639,0.558609,0.375\right).$

È stato possibile calcolare il PDF valutando numericamente la trasformata di Fourier della funzione caratteristica (come derivata dalla formula mgf qui fornita): un diagramma di questo PDF è mostrato nella figura seguente come una linea rossa. Allo stesso tempo, ho generato iid varia dalla distribuzione Normale e un altro iid varia allo stesso modo, e ho calcolato i prodotti punti . La trama mostra l'istogramma di questi prodotti punto (omettendo alcuni dei valori più estremi - l'intervallo era da a ): $10^6$ $X_i$ $(0,\Sigma)$ $10^6$ $Y_i$ $10^6$ $X_i\cdot Y_i$ $-12$ $15$

Istogramma e PDF

Come prima, l'accordo è eccellente. Inoltre, i momenti corrispondono bene all'ottavo e ragionevolmente bene anche al decimo:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

appendice

(Aggiunto il 9 agosto 2013.)

$f_{n,\sigma}$ è un'istanza della distribuzione varianza-gamma , che originariamente era definita come "la miscela media varianza-normale in cui la densità di miscelazione è la distribuzione gamma". Ha una posizione standard ( ), un parametro di asimmetria pari a (è simmetrico), un parametro di scala e un parametro di forma (secondo la parametrizzazione di Wikipedia). $0$ $0$ $\sigma^2$ $n/2$

— whuber
fonte

Ciao whuber, grazie mille per la spiegazione dettagliata. Ho un dubbio, però. Quando è generale, i termini nell'espansione della somma del prodotto interno non sono più definiti; quindi il mgf della somma non è più il prodotto del mgfs. Quindi, come generalizzare l'analisi di cui sopra a un Sigma più generale?

Σ

$\Sigma$

— abhibhat

Ho aggiunto una nuova sezione per fornire alcuni dei (facili) dettagli di questa generalizzazione, per chiarire che qui non è coinvolto nulla di nuovo. Puoi anche usare le proprietà di base di mgfs per annotare mgf nel caso in cui i dati abbiano anche mezzi diversi da zero, risolvendo così il problema in generale.

— whuber