Regressione polinomiale ortogonale multivariata?

Come mezzo per motivare la domanda, considera un problema di regresso in cui cerchiamo di stimare usando le variabili osservate $Y$ $\{ a, b \}$

Quando eseguo un regresso polinomiale multivariato, provo a trovare la paramitizzazione ottimale della funzione

f (y) = c_{1} un' + c_{2} B + c_{3} {un'}^{2} + c_{4} un' B + c_{5} B^{2} + \dots

$f(y)=c_{1}a+c_{2}b+c_{3}a^{2}+c_{4}ab+c_{5}b^{2}+\cdots$

che meglio si adattano ai dati in senso meno quadrato.

Il problema con questo, tuttavia, è che i parametri non sono indipendenti. C'è un modo per fare la regressione su una diversa serie di vettori "base" che sono ortogonali? In questo modo ha molti ovvi vantaggi $c_i$

1) i coefficienti non sono più correlati. 2) i valori della 's stessi non dipendono dal grado di coefficienti. 3) Ciò ha anche il vantaggio computazionale di essere in grado di eliminare i termini di ordine superiore per un'approssimazione più grossolana ma ancora accurata dei dati. $c_i$

Ciò si ottiene facilmente nel singolo caso variabile usando polinomi ortogonali, usando un set ben studiato come i polinomi di Chebyshev. Non è ovvio comunque (per me comunque) come generalizzare questo! Mi è venuto in mente che potevo mutiply chebyshev polinomi a coppie, ma non sono sicuro che questa sia la cosa matematicamente corretta da fare.

Il tuo aiuto è apprezzato

regression

— gabgoh
fonte

Che ne dici della base tensoriale dei tuoi polinomi monodimensionali? Questo suona come quello a cui alludevi e saranno ortogonali.

— cardinale il

Penso che sia una risposta soddisfacente come quesiton :)

— gabgoh

Sei arrivato da qualche parte con questo? Sto anche cercando una soluzione alla regressione multivariata usando polinomi ortogonali. Grazie

— Confuso l'

Per completezza (e per aiutare a migliorare le statistiche di questo sito, ah) devo chiedermi se questo documento non risponderebbe anche alla tua domanda?

ASTRATTO: Discutiamo della scelta della base polinomiale per l'approssimazione della propagazione dell'incertezza attraverso modelli di simulazione complessi con capacità di produrre informazioni derivate. Il nostro lavoro fa parte di un più ampio sforzo di ricerca nella quantificazione dell'incertezza utilizzando metodi di campionamento aumentati con informazioni derivate. L'approccio presenta nuove sfide rispetto alla regressione polinomiale standard. In particolare, mostriamo che una base polinomiale ortogonale multivariata di prodotto tensoriale di grado arbitrario potrebbe non essere più costruita. Forniamo condizioni sufficienti per l'esistenza di un insieme ortonormale di questo tipo, una base per lo spazio che attraversa. Dimostriamo i vantaggi della base nella propagazione delle incertezze materiali attraverso un modello semplificato di trasporto del calore in un nucleo di reattore nucleare. Rispetto al prodotto tensore base polinomiale Hermite,

Altrimenti, la base del prodotto tensoriale dei polinomi monodimensionali non è solo la tecnica appropriata, ma anche l' unica che posso trovare per questo.

— Aarthi
fonte