Per dare una valutazione ingenua della situazione:
in generale: supponiamo di avere due diversi sistemi di funzioni di base , così come per alcune funzioni (hilbert-) spazio, solito , ovvero lo spazio di tutte le funzioni integrabili al quadrato. { ˜ p } ∞ n = 1 L 2 ( [ a , b ] ){pn}∞n=1{p~}∞n=1L2([a,b])
Ciò significa che ciascuna delle due basi può essere utilizzata per spiegare ogni elemento di , ovvero per che hai per alcuni coefficienti e , (nel senso ):
L2([a,b])y∈L2([a,b])θnθ~n∈Rn=1,2,…L2
∑n=1∞θ~np~n=y=∑n=1∞θnpn.
Tuttavia, se si troncano entrambi gli insiemi di funzioni di base su un numero , ovvero si prende
e questi insiemi di funzioni di base troncati sono molto probabilmente due descrivono "parti diverse" di .k<∞
{pn}kn=1
{p~}kn=1,
L2([a,b])
Tuttavia, qui nel caso speciale in cui una base, , è solo un'ortogonalizzazione dell'altra base, , la previsione complessiva di sarà la stessa per ogni modello troncato ( e la loro controparte ortogonale descriverà lo stesso sottospazio -dimensionale di ).{p~}∞n=1{pn}∞n=1y{p}kn=1kL2([a,b])
Ma ogni funzione di base individuale delle due basi "diverse" fornirà un contributo diverso a questa predizione (ovviamente poiché le funzioni / i predittori sono diversi!) Risultando in valori e coefficienti diversi.p
Quindi, in termini di previsione non c'è (in questo caso) alcuna differenza.
Da un punto di vista computazionale una matrice di modello costituita da funzioni di base ortogonale ha buone proprietà numeriche / computazionali per lo stimatore dei minimi quadrati. Mentre allo stesso tempo dal punto di vista statistico, l'ortogonalizzazione risulta in stime non correlate, dato che secondo le ipotesi standard.var(θ~^)=Iσ²
La domanda naturale sorge se esiste un sistema di base troncato al meglio. Tuttavia, la risposta alla domanda non è né semplice né unica e dipende ad esempio dalla definizione della parola "migliore", ovvero da ciò che si sta tentando di archiviare.