Libri di testo su Matrix Calculus?

20

Racconto: ho letto Gli elementi dell'apprendimento statistico e sono rimasto frustrato quando stavo cercando di verificare alcuni dei risultati, ad esempio dato quindi

RSS (β) = {(y - X β)}^{T} (y - X β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

Sto cercando un libro di calcolo a matrice che sia scritto come il tuo libro di calcolo tradizionale (cioè prove di teoremi, esempi, esercizi di calcolo, ecc.). Ho già vistoquesta domandae sento che il testo di Magnus e Neudecker si concentra troppo sulla teoria, e il testo che ho diGentle siconcentra troppo poco sulla teoria e troppo sul lato del calcolo.

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 X^{T} (y - X β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{T}} = 2 X^{T} X . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$

Esiste un mezzo felice là fuori che è accessibile a qualcuno con esperienza nell'analisi universitaria?

references matrix matrix-calculus

— al 62%
fonte

4

Hai considerato Harville's, Matrix Algebra dal punto di vista degli statistici ? I primi capitoli dovrebbero essere relativamente elementari ma poi riprendono.

— usεr11852 dice Reinstate Monic il

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

Uso spesso questa voce di Wikipedia per trovare le identità dei problemi di calcolo della matrice: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

Per la maggior parte delle domande sulle matrici, mi riferisco sempre prima a "The Matrix Cookbook" (vedi qui ).

Viene regolarmente aggiornato grazie al feedback di varie fonti. Ci sono prove contenute all'interno, tuttavia è principalmente inteso come un manuale.

— Laurens van de Wiel
fonte

3

Se hai trovato troppa teoria nel libro di Magnus e Neudecker, ti consiglio questo, anch'esso scritto da Magnus:

Abadir, KM e Magnus, JR Matrix Algebra Cambridge University Press, 2005

che pone maggiormente l'accento sulle applicazioni del calcolo matriciale.

— Arrigo Benedetti
fonte

2

Un utente ha eliminato automaticamente la seguente risposta utile, che qui riproduco integralmente in modo che le sue informazioni non vadano perse:

Non hai davvero bisogno di molti risultati sui derivati vettoriali e di matrice per ML, e il documento di Tom Minka ne copre la maggior parte, ma il trattamento definitivo è il calcolo differenziale a matrice di Magnus & Neudecker con applicazioni in Statistica ed Econometria .

In effetti, Magnus & Neudecker ha recensioni eccellenti su Amazon e Tom Minka ( Old and New Matrix Algebra Useful for Statistics , 2000) contiene molte formule utili, anche se avverte "questo è materiale avanzato".

— whuber
fonte

1

Consiglio vivamente questo articolo di 26 pagine della Stanford University:

" Revisione e riferimento dell'algebra lineare " di Zico Kolter

Si concentra davvero sui calcoli della somma tipici con molti iej ovunque e ti dice il calcolo della matrice corrispondente (cioè usando la loro implementazione "vettoriale").

Ti aiuta a riconoscere subito quale tipo di formula matrice dovresti scrivere per fare i tuoi calcoli.

— tmangin
fonte