Adattamento di nuove immagini da un calcolo SVD / PCA

Sto cercando di replicare le idee dalla pagina Eigenface su Wikipedia. Da un centinaio di immagini di esempio rappresentate da una matrice di dati (in cui ogni immagine è stata appiattita in un vettore di lunghezza , quindi è una matrice da per ), ho calcolato una decomposizione SVD: $\bf X$ $n$ $\bf X$ $100$ $n$

X = U Σ V^{T}

$\begin{equation} \bf X = U \Sigma V^{T} \end{equation}$

quindi:

X X^{T} = U Σ^{2} U^{T}

$\begin{equation} \bf X X^{T} = U \Sigma^2 U^{T} \end{equation}$

Prendendo un sottoinsieme dei più grandi eigenmodes, posso approssimare la matrice (sia ): $q$ $\sigma_1 \ge \sigma_2 \ge \cdots$

X \approx σ_{1} u_{1} v_{1}^{T} + σ_{2} u_{2} v_{2}^{T} + \dots + σ_{q} u_{q} v_{q}^{T}

$\begin{equation} {\bf X} \approx \sigma_1 u_1 v_1^{T} + \sigma_2 u_2 v_2^{T} + \cdots + \sigma_q u_q v_q^{T} \end{equation}$

Ora dato un nuovo vettore , che rappresenta un'immagine non in , come posso determinare la ponderazione degli autovettori per rappresentare al meglio la mia nuova immagine ? Tranne casi patologici, questa rappresentazione è unica? $y$ $\bf X$ $q$ $\bf U$ $y$

In breve, ciò che mi piacerebbe fare è questo (dalla pagina wiki):

Queste autovetture possono ora essere utilizzate per rappresentare sia le facce esistenti sia quelle nuove : possiamo proiettare una nuova immagine (sottratta dalla media) sulle autovetture e quindi registrare come questa nuova faccia differisce dalla faccia media.

Come posso fare quella proiezione?

computer-vision linear-systems linear-algebra

— Agganciata
fonte

I futuri lettori potrebbero trovare utile questa implementazione.

— Emre,

La "proiezione" a cui si fa riferimento è una proiezione vettoriale . Per calcolare la proiezione del vettore sul vettore , si utilizza il prodotto interno dei due vettori: $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = ⟨ a, b ⟩ b

$\mathbf{a_{proj}} = \langle \mathbf{a}, \mathbf{b} \rangle \mathbf{b}$

in questo caso è la componente vettoriale di che si trova nella stessa direzione di . Nello spazio euclideo, l'operatore del prodotto interno è definito come il loroprodotto punto: $\mathbf{a_{proj}}$ $\mathbf{a}$ $\mathbf{b}$

⟨ a, b ⟩ = a \cdot b = \sum_{i = 1}^{n} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n}a_ib_i$

dove è il numero di componenti nei vettori e e e sono l' -componente dei vettori e , rispettivamente. Intuitivamente, calcolando il prodotto interno dei due vettori, si trova "quanto di" vettore va nella direzione del vettore . Si noti che questa è una quantità firmata, quindi un valore negativo significherebbe che l'angolo tra i due vettori è maggiore di 90 gradi, come illustrato da una definizione alternativa per l'operatore di proiezione: $n$ $\mathbf{a}$ $\mathbf{b}$ $a_i$ $b_i$ $i$ $\mathbf{a}$ $\mathbf{b}$ $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = | a | \cos (θ) b

$\mathbf{a_{proj}} = |\mathbf{a}| \cos(\theta) \mathbf{b}$

dove è l'angolo tra i due vettori. $\theta$

Quindi, dati un vettore e un gruppo di vettori di base , si può trovare "quanto di " va in ciascuna delle direzioni di ciascuno dei vettori di base. Tipicamente, quei vettori di base saranno tutti reciprocamente ortogonali. Nel tuo caso, SVD è una decomposizione ortogonale, quindi questa condizione dovrebbe essere soddisfatta. Quindi, per realizzare ciò che descrivi, prendi la matrice di autovettori $\mathbf{a}$ $\mathbf{b_i}$ $\mathbf{a}$ e calcolare il prodotto interno del vettore candidato con ciascuna delle colonne della matrice: $\mathbf{U}$ $\mathbf{y}$

p_{i} = y \cdot u_{i}

$p_i = \mathbf{y} \cdot \mathbf{u_i}$

Il valore scalare che si ottiene da ciascun prodotto interno rappresenta quanto bene il vettore "si è allineato" con l' -esimo autovettore. Poiché gli autovettori sono ortonormali , è possibile ricostruire il vettore originale nel modo seguente: $p_i$ $\mathbf{y}$ $i$ $\mathbf{y}$

y = \sum_{i = 1}^{n} p_{i} u_{i}

$\mathbf{y} = \sum_{i=1}^n p_i \mathbf{u_i}$

Hai chiesto se questa rappresentazione è unica; Non sono sicuro di cosa significhi esattamente, ma non è unico nel senso che un dato vettore potrebbe essere scomposto per proiezione su un numero qualsiasi di basi ortonormali. Gli autovettori contenuti nella matrice sono un esempio, ma puoi usarne un numero qualsiasi. Ad esempio, il calcolo della trasformata discreta di Fourier di può essere visto come proiettandolo su una base ortonormale di vettori esponenziali complessi di frequenza variabile. $\mathbf{y}$ $\mathbf{U}$ $\mathbf{y}$

— Jason R
fonte

y

$\bf y$

y

$\mathbf{y}$

y

$\mathbf{y}$