Quali parti dell'algebra lineare sono utilizzate nell'informatica?

Ho letto Linear Algebra e le sue applicazioni per aiutare a comprendere il materiale informatico (principalmente l'apprendimento automatico), ma sono preoccupato che molte informazioni non siano utili a CS. Ad esempio, sapere come risolvere in modo efficiente i sistemi di equazioni lineari non sembra molto utile se non si sta tentando di programmare un nuovo risolutore di equazioni. Inoltre, il libro ha parlato molto di span, dipendenza lineare e indipendenza, quando una matrice ha un inverso e le relazioni tra questi, ma non riesco a pensare a nessuna applicazione di questo in CS. Quindi, quali parti dell'algebra lineare sono utilizzate in CS?

Le parti che hai citato sono concetti di base dell'algebra lineare. Non puoi comprendere i concetti più avanzati (diciamo autovalori e autovettori) prima di capire prima i concetti di base. Non ci sono scorciatoie in matematica. Senza una comprensione intuitiva dei concetti di span e indipendenza lineare non si andrà lontano in algebra lineare.

Alcuni algoritmi funzionano solo con matrici di rango intero - Sai cosa significa? Sai cosa può rendere una matrice non di rango massimo? Come gestirlo? Non avrai idea se non sai cos'è l'indipendenza lineare.

L'algoritmo di eliminazione gaussiana utilizzato per risolvere equazioni lineari può effettivamente essere numericamente instabile se implementato in modo errato, e questo è qualcosa di cui potresti doverti preoccupare in alcuni casi. Senza capire l'algoritmo non saprai da dove provenga il problema e se c'è qualcosa che puoi fare al riguardo - non a livello di algoritmi per risolvere equazioni lineari, ma a livello di trovare le equazioni lineari corrette da risolvere.

In breve, non essere pigro e confida che queste cose siano utili.

L'algebra lineare è talvolta estremamente utile e potente negli algoritmi grafici. Con il teorema dell'albero della matrice puoi contare efficacemente il numero di spanning tree di un grafico (devi capire gli autovalori). Un'applicazione più stimolante, in cui è necessaria una comprensione ancora più solida dell'algebra lineare è l' algoritmo FKT per calcolare il numero di corrispondenze perfette in un grafico planare in tempo polinomiale.

Ci sono molti altri esempi entusiasmanti di usi dell'algebra lineare nella teoria dei grafi algebrici e nella teoria dei grafi spettrali . Gli algoritmi che sorgono non sono solo per il conteggio dei problemi come i due esempi che ho dato. Ad esempio, puoi anche verificare la connettività o calcolare il diametro di un grafico .

Uno degli usi più noti dell'algebra lineare è l' algoritmo Pagerank di Google :

I valori di PageRank sono le voci dell'autovettore sinistro dominante della matrice di adiacenza modificata.

Quasi tutto ciò che coinvolge computer grafica, animazione, visione artificiale, elaborazione di immagini, elaborazione scientifica o simulazione di fenomeni fisici comporterà un ampio uso di vettori e matrici (algebra lineare) da cose semplici come la rappresentazione di trasformazioni e orientamenti spaziali, fino a algoritmi molto complessi. Queste cose erano il dominio del supercalcolo, ma ora questi stessi campi sono il nucleo di tutte le app più interessanti sul tuo desktop, telefoni e ovunque, dai videogiochi alla fotografia computazionale alle auto a guida autonoma. L'algebra lineare è ovunque.

Esistono molti algoritmi e tecniche basati su algebra matriciale. Ed è fantastico. L'analisi delle componenti principali è un esempio di algebra lineare applicata abbastanza utile. Lo stesso si può dire dell'analisi di Fourier, che ha anche le sue radici nell'ortogonalità e nei prodotti interni. Quindi ci sono applicazioni dirette.

MA , ancora più importante, prendere una lezione di algebra lineare è prezioso perché ti insegna a pensare in un certo modo. La maggior parte delle buone classi di algebra lineare pongono l'accento su generalizzazione, logica e prove. C'è qualcosa di vero in generale o solo alcuni casi specifici specifici? Come puoi esserne certo? Essere in grado di pensare a come dimostrare le tue assunzioni è positivo perché ti aiuta a impedirti di fare cattive assunzioni e scrivere codice che non si generalizza nel modo in cui pensi che lo faccia. Ti aiuta anche a pensare a come generalizzare cose che potrebbero altrimenti essere difficili da generalizzare e che ti permettono di risolvere problemi più grandi.

In sintesi, è bene tenere presente che l'algebra lineare è buona perché è un sollevamento pesi per la parte del cervello che è utile nell'informatica.

Risolvere un sistema di equazioni lineari (che può essere fatto con il metodo di eliminazione gaussiana), la programmazione lineare (che può essere risolta con il metodo simplex), i minimi quadrati e il rilevamento compresso (vedi l'articolo di Wikipedia) sono problemi pratici che sorgono in molti aree di applicazione. L'algebra lineare aiuta a sviluppare algoritmi corretti ed efficienti per questi problemi.

Vedi il testo [Cormen, Leiserson, Rivest e Stein, "Introduzione agli algoritmi, terza edizione"], in cui il capitolo 28 riguarda le operazioni a matrice e il capitolo 29 riguarda la programmazione lineare.