Perché trattiamo gli autovettori dell'autocorrelazione invece dei dati stessi?

Quanto intuitivamente capire perché vengono utilizzati gli autovettori della matrice di autocorrelazione, ma gli autovettori della matrice costruiti con campioni temporali non hanno senso e non vengono utilizzati? Ad esempio, nel rilevamento di un segnale armonioso nel rumore additivo.

Alcuni motivi di "livello intestinale" per cui è meglio lavorare con la matrice di autocorrelazione anziché con una matrice con le tue osservazioni:

• Se vuoi prendere in considerazione tutte le tue osservazioni e hai molti dati, finirai per manipolare (invertire, moltiplicare) matrici abbastanza grandi. Se lavori con la matrice di autocorrelazione, "riassumi" i tuoi dati una volta (in una fase abbastanza efficiente che richiede solo una FFT e una FFT inversa), e da allora, devi solo manipolare la tua matrice di autocorrelazione di dimensioni dove è l'ordine del modello (ad esempio per la modellazione AR o la modellazione sinusoidale).$P \times P$$P$
• Con alcuni dati semplicemente non funziona numericamente per usare le osservazioni grezze perché incontri situazioni in cui devi affrontare matrici che non sono garantite per essere definite positive.

Ad esempio, consideriamo due approcci all'adattamento del modello AR.

Utilizzo diretto della matrice di dati

L'errore di ricostruzione quadratica empirica sui tuoi dati è:

$$\epsilon = \mathbf{x}^T\mathbf{x} + \mathbf{x}^T\Gamma \mathbf{a} + \mathbf{a}^T\Gamma^T\mathbf{x} + \mathbf{a}^T\Gamma^T \Gamma \mathbf{a}$$

dove è il vettore dei coefficienti AR, è il vettore delle tue osservazioni e la matrice con le tue osservazioni ritardate. Devi trovare il valore di che lo minimizza. Dopo la derivazione e un po 'di mescolanza, la tua soluzione si presenta così:$\mathbf{a}$$\mathbf{x}$$\Gamma$$\mathbf{a}$

$$\mathbf{a} = - (\Gamma^T \Gamma)^{-1} \Gamma^T \mathbf{x}$$

E sei fregato perché non hai assolutamente alcuna garanzia che possa essere invertito. Nel processo, numericamente parlando, hai avuto a che fare con prodotti a matrice abbastanza grande se hai una lunga sequenza di osservazioni.$\Gamma^T \Gamma$

Vista di processo casuale

se si adatta un angolo di "processo casuale" al problema, la quantità che è necessario ridurre al minimo (il valore previsto dell'errore) è:

$$\epsilon = r_x(0) + 2 \mathbf{r} \mathbf{a} + \mathbf{a}^T \mathbf{R} \mathbf{a}$$

E finisci con la soluzione più appetibile:

$$\mathbf{a} = - \mathbf{R}^{-1} \mathbf{r}$$

Con una solida garanzia che ciò sarà calcolabile perché è definito positivo!$\mathbf{R}$

Sembra che il tuo problema sia quello della modellazione sinusoidale (piuttosto che della modellazione AR). C'è un sacco di agitando le mani qui, ma quello che ho detto sulla modellazione AR e gli ostacoli dell'utilizzo della matrice di dati grezzi; vale anche per la modellizzazione sinusoidale - con la decomposizione degli autovalori come operazione problematica invece dell'inversione della matrice.

Innanzitutto, gli autovettori e gli autovalori sono definiti per gli operatori. La correlazione è un'operazione.

In secondo luogo, gli autovettori dell'autocorrelazione sono particolarmente interessanti perché spiegano in modo più efficiente la varianza del segnale in una regressione lineare. In altre parole, per un numero fisso di vettori, la selezione degli autovettori riduce al minimo l'errore al quadrato medio in cui il segnale è modellato come una somma lineare dei vettori. Questa tecnica viene definita analisi dei componenti principali .

Se riesci ad espandere la tua nozione di segnale "armonioso", forse posso commentare ulteriormente.