Domande taggate «least-squares»

Si riferisce a una tecnica di stima generale che seleziona il valore del parametro per ridurre al minimo la differenza quadrata tra due quantità, come il valore osservato di una variabile e il valore atteso di tale osservazione condizionato dal valore del parametro. I modelli lineari gaussiani sono adattati da minimi quadrati e minimi quadrati è l'idea alla base dell'uso dell'errore quadratico medio (MSE) come modo di valutare uno stimatore.

1
Prova della formula LOOCV
Da un'introduzione all'apprendimento statistico di James et al., La stima di convalida incrociata (LOOCV) lascia una traccia è definita da dove .MSEi=(yi - y i)2CV( n )= 1nΣi = 1nMSEioCV(n)=1nΣio=1nMSEio\text{CV}_{(n)} = \dfrac{1}{n}\sum\limits_{i=1}^{n}\text{MSE}_iMSEio= ( yio- y^io)2MSEio=(yio-y^io)2\text{MSE}_i = (y_i-\hat{y}_i)^2 Senza prove, l'equazione (5.2) afferma che per i minimi quadrati o la regressione …
3
Perché non usare le "equazioni normali" per trovare coefficienti di minimi quadrati semplici?
Ho visto questo elenco qui e non potevo credere che ci fossero così tanti modi per risolvere i minimi quadrati. I "equazioni normali" su Wikipedia sembrava essere un modo abbastanza α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat {\alpha }}&={\bar {y}}-{\hat {\beta }}\,{\bar {x}},\\{\hat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\end{aligned}}} Quindi perché non …
1
Distorsione da variabile omessa nella regressione logistica vs. distorsione da variabile omessa nella regressione dei minimi quadrati ordinaria
Ho una domanda sull'omessa distorsione da variabile nella regressione logistica e lineare. Supponiamo di omettere alcune variabili da un modello di regressione lineare. Fai finta che quelle variabili omesse non siano correlate con le variabili che ho incluso nel mio modello. Quelle variabili omesse non influenzano i coefficienti nel mio …
4
Qual è la relazione tra
Mi chiedevo se ci fosse una relazione tra R2R2R^2 e un F-Test. Solitamente R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R2=∑(Y^t−Y¯)2/T−1∑(Yt−Y¯)2/T−1R^2=\frac {\sum (\hat Y_t - \bar Y)^2 / T-1} {\sum( Y_t - \bar Y)^2 / T-1} e misura la forza della relazione lineare nella regressione. Un test F dimostra solo un'ipotesi. Esiste una relazione tra R2R2R^2 e …
2
Misure di eteroscedasticità dei residui
Questo link di Wikipedia elenca una serie di tecniche per rilevare l'eteroscedasticità dei residui di OLS. Vorrei imparare quale tecnica pratica è più efficace nel rilevare le regioni colpite dall'eteroscedasticità. Ad esempio, qui la regione centrale della trama OLS "Residuals vs Fitted" sembra avere una varianza maggiore rispetto ai lati …
1
Perché questa regressione NON fallisce a causa della perfetta multicollinearità, sebbene una variabile sia una combinazione lineare di altre?
Oggi stavo giocando con un piccolo set di dati e ho eseguito una semplice regressione OLS che mi aspettavo di fallire a causa della perfetta multicollinearità. Tuttavia, non lo fece. Ciò implica che la mia comprensione della multicollinearità è errata. La mia domanda è: dove sbaglio? Penso di poter dimostrare …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.