Qual è la differenza tra normalizzazione e standardizzazione?

Al lavoro ne discutevamo perché il mio capo non ha mai sentito parlare di normalizzazione. Nell'algebra lineare, la normalizzazione sembra riferirsi alla divisione di un vettore per la sua lunghezza. E nelle statistiche, la standardizzazione sembra riferirsi alla sottrazione di una media che poi si divide per la sua SD. Ma sembrano intercambiabili anche con altre possibilità.

Quando crei una sorta di punteggio universale, che costituisce metriche diverse, con mezzi e SD diversi, vorresti normalizzare, standardizzare o qualcos'altro? Una persona mi ha detto che è solo una questione di prendere ogni metrica e dividerli per la loro SD, individualmente. Quindi sommando i due. Ciò si tradurrà in un punteggio universale che può essere utilizzato per giudicare entrambe le metriche.$2$

Ad esempio, supponiamo che tu abbia il numero di persone che prendono la metropolitana per lavorare (a New York) e il numero di persone che sono andate a lavorare (a New York).

Auto ⟶

$\text{mean}(x)$$\text{mean}(y)$

$\text{mean}(x) = 8,000,000$

$\text{mean}(y) = 800,000$

$x$$y$$x$$y$

Qualsiasi articolo o capitolo di libri per riferimento sarebbe molto apprezzato. GRAZIE!

Inoltre, ecco un altro esempio di ciò che sto cercando di fare.

Immagina di essere un decano del college e stai discutendo i requisiti di ammissione. Potresti desiderare studenti con almeno un certo GPA e un certo punteggio del test. Sarebbe bello se fossero entrambi sulla stessa scala perché allora potresti semplicemente aggiungere i due insieme e dire: "chiunque abbia almeno un 7.0 può essere ammesso". In questo modo, se un potenziale studente ha un GPA 4.0, potrebbe ottenere un punteggio di test 3.0 e comunque essere ammesso. Inversamente, se qualcuno avesse un GPA 3.0, potrebbe comunque essere ammesso con un punteggio di prova 4.0.

Ma non è così. L'ACT è su una scala di 36 punti e la maggior parte degli GPA è su 4.0 (alcuni sono 4.3, sì fastidiosi). Dato che non posso semplicemente aggiungere un ACT e un GPA per ottenere una sorta di punteggio universale, come posso trasformarli in modo che possano essere aggiunti, creando così un punteggio di ammissione universale. E poi come Decano, potrei semplicemente accettare automaticamente chiunque abbia un punteggio superiore a una certa soglia. O anche accettare automaticamente tutti il ​​cui punteggio è tra i primi 95% .... quel genere di cose.

Sarebbe normalizzazione? standardizzazione? o semplicemente dividendo ciascuno per la loro SD e poi sommando?

La normalizzazione ridimensiona i valori in un intervallo di [0,1]. Ciò potrebbe essere utile in alcuni casi in cui tutti i parametri devono avere la stessa scala positiva. Tuttavia, i valori anomali del set di dati vengono persi.

$\mu$$\sigma$

Per la maggior parte delle applicazioni si consiglia la standardizzazione.

Nel mondo degli affari, "normalizzazione" significa in genere che l'intervallo di valori è "normalizzato da 0,0 a 1,0". "Standardizzazione" significa in genere che l'intervallo di valori è "standardizzato" per misurare quante deviazioni standard il valore è dalla sua media. Tuttavia, non tutti sarebbero d'accordo. È meglio spiegare le tue definizioni prima di usarle.

In ogni caso, la tua trasformazione deve fornire qualcosa di utile.

Nell'esempio del tuo treno / auto, guadagni qualcosa sapendo quante deviazioni standard dalla loro media, ogni valore risiede? Se tracciate quelle misure "standardizzate" l'una contro l'altra come trama xy, potreste vedere una correlazione (vedere il primo grafico a destra):

http://en.wikipedia.org/wiki/Correlation_and_dependence

Se è così, questo significa qualcosa per te?

Per quanto riguarda il tuo secondo esempio, se vuoi "equiparare" un GPA da una scala a un'altra scala, cosa hanno in comune queste scale? In altre parole, come potresti trasformare questi minimi in equivalenti e i massimi in equivalenti?

Ecco un esempio di "normalizzazione":

Link di normalizzazione

Una volta ottenuti i punteggi GPA e ACT in una forma intercambiabile, ha senso ponderare i punteggi ACT e GPA in modo diverso? In tal caso, quale ponderazione significa qualcosa per te?

Modifica 1 (05/03/2011) ========================================= =

In primo luogo, vorrei controllare i collegamenti suggeriti da whuber sopra. La linea di fondo è che, in entrambi i tuoi problemi a due variabili, dovrai trovare una "equivalenza" di una variabile rispetto all'altra. E un modo per differenziare una variabile dall'altra. In altre parole, anche se puoi semplificarlo in una semplice relazione lineare, avrai bisogno di "pesi" per differenziare una variabile dall'altra.

Ecco un esempio di un problema con due variabili:

Utilità multi-attributo

Dall'ultima pagina, se si può dire che il traffico ferroviario standardizzato U1(x)rispetto al traffico automobilistico standardizzato U2(y)è "additivamente indipendente", allora si potrebbe essere in grado di cavarsela con una semplice equazione come:

U(x, y) = k1*U1(x) + (1 - k1)*U2(y)

Dove k1 = 0,5 significa che sei indifferente al traffico standardizzato di auto / treno. Un k1 più elevato significherebbe che il traffico ferroviario U1(x)è più importante.

Tuttavia, se queste due variabili non sono "additivamente indipendenti", dovrai usare un'equazione più complicata. Una possibilità è mostrata a pagina 1:

U(x, y) = k1*U1(x) + k2*U2(y) + (1-k1-k2)*U1(x)*U2(y)

In entrambi i casi, dovrai inventarti un'utilità U(x, y)che abbia senso.

Gli stessi concetti generali di ponderazione / confronto valgono per il tuo problema GPA / ACT. Anche se sono "normalizzati" piuttosto che "standardizzati".

Un ultimo numero. So che non ti piacerà, ma la definizione del termine "additivamente indipendente" si trova a pagina 4 del seguente link. Ho cercato una definizione meno geniale, ma non sono riuscito a trovarne una. Potresti guardarti intorno per trovare qualcosa di meglio.

Additivamente indipendente

Citando il link:

Intuitively, the agent prefers being both healthy and wealthy
more than might be suggested by considering the two attributes
separately. It thus displays a preference for probability
distributions in which health and wealth are positively
correlated.

Come suggerito all'inizio di questa risposta, se traccia un traffico ferroviario standardizzato rispetto al traffico automobilistico standardizzato su un diagramma xy, potresti vedere una correlazione. Se è così, allora sei bloccato con l'equazione di utilità non lineare sopra o qualcosa di simile.

La risposta è semplice, ma non ti piacerà: dipende. Se valuti 1 deviazione standard da entrambi i punteggi allo stesso modo, la standardizzazione è la strada da percorrere (nota: in effetti, stai studiando , perché stai dividendo per una stima della DS della popolazione).

Altrimenti, è probabile che la standardizzazione sia un buon primo passo, dopo di che puoi dare più peso a uno dei punteggi moltiplicando per un fattore ben scelto.

Per risolvere il problema GPA / ACT o treno / auto, perché non utilizzare la media geometrica ?

n√ (a1 × a2 × ... × an)

Dov'è a*il valore dalla distribuzione ed nè l'indice della distribuzione.

Questa media geometrica si assicura che ogni valore disponga la sua scala, contribuendo ugualmente al valore medio. Vedi di più su Geometric Mean

Nel mio campo, la scienza dei dati, la normalizzazione è una trasformazione dei dati che consente un facile confronto dei dati a valle. Esistono molti tipi di normalizzazioni. Il ridimensionamento è uno di questi. Puoi anche registrare i dati o fare qualsiasi altra cosa tu voglia. Il tipo di normalizzazione che utilizzi dipende dal risultato desiderato, poiché tutte le normalizzazioni trasformano i dati in qualcos'altro.

Ecco alcuni di quelli che considero esempi di normalizzazione. Normalizzazione in scala Normalizzazione quantile