Qual è la ragione per cui LAPACK usa

9

La routine QR di LAPACK memorizza Q come riflettori Householder. Ridimensiona il vettore di riflessione $v$ con $1/v_1$ , quindi il primo elemento del risultato diventa $1$ , quindi non deve essere memorizzato. E memorizza un vettore $\tau$ separato , che contiene i fattori di scala necessari. Quindi una matrice di riflettori è così:

H = I - τ v v^{T},

$H=I-\tau v v^T,$

dove $v$ non è normalizzato. Mentre, nei libri di testo, la matrice del riflettore è

H = I - 2 v v^{T},

$H = I-2vv^T,$

dove $v$ è normalizzato.

Perché LAPACK scala $v$ con $1/v_1$ , invece di normalizzarlo?

$\tau$ $v_1$ $H$ $\tau$ $2$ $v$ $\sqrt 2/\|v\|$

(Il motivo della mia domanda è che sto scrivendo una routine QR e SVD e mi piacerebbe conoscere il motivo di questa decisione, sia che debba seguirla o meno)

linear-algebra matrix lapack

— Geza
fonte

7

È la variante bloccata di Householder-QR che sta guidando questo progetto. Se guardi nel libro di Golub e Van Loan (Ch 5.2 o giù di lì), parlano di come le iterazioni k dell'algoritmo possano essere bloccate insieme accumulando i singoli riflettori in un riflettore di grado k della forma , dove entrambe e sono matrici "magre" con dimensione . Questo algoritmo funziona di più ma è più veloce in pratica perché è ricco di chiamate gemm (). Purtroppo è dispendioso nello stoccaggio a causa della necessità di rappresentare e indipendente. $\mathbf I + \mathbf W \mathbf Y^{\mathrm T}$ $\mathbf W$ $\mathbf Y$ $n \times k$ $\mathbf W$ $\mathbf Y$

In un successivo documento (citato di seguito), Van Loan descrive una struttura dati "simmetrica" più efficiente, un riflettore a blocchi della forma . Qui è ancora , ma il requisito flop / storage per formare è stato eliminato introducendo , una piccola matrice triangolare superiore . Sebbene la necessità di moltiplicare per introduca una piccola quantità di lavoro extra, in genere è un guadagno netto perché . $\mathbf I + \mathbf Y \mathbf T \mathbf Y^{\mathrm T}$ $\mathbf Y$ $n \times k$ $\mathbf W$ $\mathbf T$ $k \times k$ $\mathbf T$ $k << n$

All'interno di LAPACK, l'algoritmo non bloccato è in realtà solo un caso limitante di dell'algoritmo a blocchi, fino alla scelta dei simboli (che ci porta a , una piccola versione di Triangolo a ). $k \rightarrow 1$ $\tau$ $1\times1$ $\mathbf T$

Citazione: Schreiber, Robert e Charles Van Loan. "Una rappresentazione WY efficiente dal punto di vista dell'archiviazione per i prodotti delle trasformazioni delle famiglie". SIAM Journal on Scientific and Statistical Computing 10.1 (1989): 53-57.

— rchilton1980
fonte

Grazie per la risposta! Non vedo, che si trova a -sized . Nel documento citato, in Algorithm 5, è e è -2. Quindi finisce come la versione del libro di testo, non come la versione LAPACK. Mi manca qualcosa?

τ

$\tau$

1 \times 1

$1 \times 1$

T

$\mathbf T$

Y

$\mathbf Y$

v

$v$

T

$\mathbf T$

— geza,

2

Non è necessario memorizzare , è possibile ricalcolarlo dal resto del vettore. (Puoi ricalcolare dalle altre voci anche nella versione normalizzata, ma è chiaramente un calcolo instabile a causa di quelle sottrazioni.) $\tau$ $v_1$

In realtà, puoi riutilizzare la parte triangolare inferiore di per memorizzare , in modo che la fattorizzazione sia calcolata completamente sul posto. Lapack si preoccupa molto di queste versioni sul posto di algoritmi. $R$ $v_2,...v_n$

— Federico Poloni
fonte

1

Il mio suggerimento si basa sulla documentazione per Intel MKL https://software.intel.com/en-us/mkl-developer-reference-c-geqrf . Sembra che i valori sopra e sopra la diagonale dell'archivio di output R siano quindi rimasti solo un triangolo inferiore per Q. Sembra naturale usare memoria aggiuntiva per i fattori di ridimensionamento.

— VorKir
fonte