Qual è la differenza tra standardizzazione e studentizzazione?

21

Nella varianza della standardizzazione è noto mentre nella studentizzazione non è noto e quindi stimato? Grazie.

standardization

— 58485362
fonte

2

Potresti voler chiarire il contesto della tua domanda. Che tipo di standardizzazione, che tipo di studentizzazione? A cosa servono questi valori?

— russellpierce,

3

Se stai chiedendo dei residui , la terminologia non è (ahem) standardizzata . Autori diversi usano nomi diversi per la stessa cosa e occasionalmente - e purtroppo in modo più confuso, lo stesso nome per cose diverse. Esistono quelli che chiamo (i) residui in scala ( , chiamati residui standardizzati da alcuni autori); (ii) studentizzati internamente residui (chiamato standardizzato da alcuni autori / pacchetti, studentizzati da altri); (iii) studentizzati esternamente / studentizzati residui

(y - {\hat{y}}_{i}) / s

$(y-\hat{y}_i)/s$

— Glen_b -Reinstate Monica

20

Un breve riassunto. Dato un modello , dove è , e , dove è la "matrice del cappello". I residui sono La varianza della popolazione è sconosciuta e può essere stimata da , l'errore quadratico medio. $y=X\beta+\varepsilon$ $X$ $n\times p$ $\hat\beta=(X'X)^{-1}X'y$ $\hat y=X\hat\beta=X(X'X)^{-1}X'y=Hy$ $H=X(X'X)^{-1}X'$

e = y - \hat{y} = y - H y = (io - H) y

$e=y-\hat y=y-Hy=(I-H)y$

σ^{2}

$\sigma^2$

M S E

$MSE$

I residui semistudentizzati sono definiti come ma, poiché la varianza dei residui dipende sia da che da , la loro varianza stimata è: dove è l' elemento diagonale della matrice del cappello.

e_{io}^{*} = \frac{e_{io}}{\sqrt{M S E}}

$e_i^*=\frac{e_i}{\sqrt{MSE}}$

σ^{2}

$\sigma^2$

X

$X$

\hat{V} (e_{io}) = M S E (1 - h_{io io})

$\widehat V(e_i)=MSE(1-h_{ii})$

h_{i i}

$h_{ii}$

i

$i$

I residui standardizzati , detti anche residui internazionalizzati , sono:

r_{io} = \frac{e_{io}}{\sqrt{M S E (1 - h_{io io})}}

$r_i=\frac{e_i}{\sqrt{MSE(1-h_{ii})}}$

Tuttavia, i singoli e non sono indipendenti, quindi non può avere una distribuzione . La procedura è quindi di eliminare la esima osservazione, misura la funzione di regressione ai rimanenti osservazioni, e ottenere nuove s' che possono essere indicate con . La differenza: si chiama residuo eliminato . Un'espressione equivalente che non richiede un nuovo è: indica il nuovo e con e $e_i$ $MSE$ $r_i$ $t$ $i$ $n-1$ $\hat y$ $\hat y_{i(i)}$

d_{io} = y_{io} - {\hat{y}}_{io (io)}

$d_i=y_i-\hat y_{i(i)}$

d_{io} = \frac{e_{io}}{1 - h_{io io}}

$d_i=\frac{e_i}{1-h_{ii}}$

X

$X$

M S E

$MSE$

X_{(i)}

$X_{(i)}$

M S E_{(i)}

$MSE_{(i)}$ , dal momento che non dipendono dal ° di osservazione, otteniamo: I sono chiamati residui studentizzati (cancellati) , o esternamente residui studentizzati .

i

$i$

t_{io} = \frac{d_{io}}{\sqrt{\frac{M S E_{(io)}}{1 - h_{io io}}}} = \frac{e_{io}}{\sqrt{M S E_{(io)} (1 - h_{io io})}} ~ t_{n - p - 1}

$t_i=\frac{d_i}{\sqrt{\frac{MSE_{(i)}}{1-h_{ii}}}} =\frac{e_i}{\sqrt{MSE_{(i)}(1-h_{ii})}}\sim t_{n-p-1}$

t_{i}

$t_i$

Vedi Kutner et al., Modelli statistici lineari applicati , Capitolo 10.

Modifica: devo dire che la risposta di rpierce è perfetta. Pensavo che il PO riguardasse i residui standardizzati e studentizzati (e la divisione per deviazione standard della popolazione per ottenere i residui standardizzati mi sembrava strano, ovviamente), ma mi sbagliavo. Spero che la mia risposta possa aiutare qualcuno anche se OT.

— Sergio
fonte

2

... e questa risposta è corretta nel definire i residui studentizzati da un'equazione di regressione. Non esiste una definizione di un residuo standardizzato corrispondente. Il quadro di regressione non sembra applicarsi alla domanda posta. Ma questo è ancora un contributo prezioso; +1

— russellpierce,

2

@rpierce, hai ragione: non appena leggo "studentizzazione" leggo anche "residui", ma erano solo nella mia mente ;-) Scusa. Ho notato la mia svista solo dopo l'ultimo clic.

— Sergio,

9

Nelle scienze sociali è in genere ha detto che i punteggi Studentizated utilizza calcolo / di Gosset di Student per la stima del / deviazione standard varianza della popolazione dal campione varianza / deviazione standard ( ). Al contrario, si dice che i punteggi standardizzati (un nome, un particolare tipo di statistica, il punteggio Z) utilizzino la deviazione standard della popolazione? ( ). $s$ $\sigma$

Tuttavia, sembra che ci siano alcune differenze terminologiche tra i campi (vedere i commenti su questa risposta). Pertanto, si dovrebbe procedere con cautela nel fare queste distinzioni. Inoltre, i punteggi studentizzati vengono raramente chiamati tali e si vedono in genere valori "studentizzati" nel contesto della regressione. @Sergio fornisce dettagli su quei tipi di residui cancellati studentizzati nella sua risposta.

— russellpierce
fonte

2

Wikipedia aggiunge: "Il termine è anche usato per la standardizzazione di una statistica di livello superiore da parte di un'altra statistica dello stesso grado: ad esempio, una stima del terzo momento centrale sarebbe standardizzata dividendo per il cubo della deviazione standard del campione. "

— Nick Stauner,

2

Penso che sarebbe più sicuro dire che la studentizzazione è la forma di standardizzazione disponibile se la varianza della popolazione non è nota. Ciò assume la forma di un punto di distinzione tecnico e terminologico piuttosto che una dichiarazione fuorviante sul termine più generale e ampiamente utilizzato.

— Nick Stauner,

2

σ

$\sigma$

2

@Nick Sembra una buona risoluzione, dato che varie autorità usano la "standardizzazione" in senso lato ma nessuna (AFAIK) usa mai "studentize" in un senso così ampio.

— whuber

2

@rpierce Il secondo libro (Freedman, Pisani e Purves) è in circolazione da circa 40 anni, attraverso cinque edizioni (in gran parte invariate) e ha iniziato la sua vita come testo per il corso introduttivo di UC Berkeley. Copre quasi tutti i campi immaginabili, non solo la salute pubblica. D'altra parte, uno dei suoi punti di forza è quello di evitare di enfatizzare piccole, insignificanti o eccessivamente tecniche distinzioni, quindi sebbene sia una buona guida alle statistiche in generale, non si può fare affidamento per risolvere le questioni arcane.

— whuber

3

Sono in ritardo nel rispondere a questa domanda !! Ma non riuscivo a trovare la risposta in un linguaggio molto semplice, così umile tentativo di rispondere a questa.

Perché facciamo la standardizzazione? Immagina di avere due modelli: uno prevede la follia dalla quantità di tempo speso nello studio delle statistiche mentre altri predice il log (follia) con la quantità di tempo nelle statistiche.

sarebbe difficile capire che i residui sono entrambi in unità diverse. Quindi li standardizziamo (teoria simile al punteggio Z)

Residui standardizzati: - Quando i residui sono divisi per una stima della deviazione standard. In generale se il valore assoluto> 3 è motivo di preoccupazione.

Usiamo questo per indagare sui valori anomali nel modello.

Residuo studentizzato: lo usiamo per studiare la stabilità del modello.

Il processo è semplice. Rimuoviamo i singoli casi di test dal modello e scopriamo il nuovo valore previsto. La differenza tra il nuovo valore e il valore osservato originale può essere standardizzata dividendo l'errore standard. questo valore è Residuo studentizzato

Per maggiori informazioni sulla scoperta di statistiche usando R - http://www.statisticshell.com/html/dsur.html

— NBhoyar
fonte

1

Wikipedia ha una buona panoramica su https://en.wikipedia.org/wiki/Normalization_(statistics) :

$\frac{X - \mu}{\sigma}$

$\frac{X - \overline{X}}{s}$

— asmaier
fonte