Qual è la differenza tra uno stimatore e una statistica?

Ho imparato che una statistica è un attributo che puoi ottenere dai campioni. Prendendo molti campioni della stessa dimensione, calcolando questo attributo per tutti loro e tramando il pdf, otteniamo la distribuzione dell'attributo corrispondente o la distribuzione delle statistiche corrispondenti.

Ho anche sentito che le statistiche sono fatte per essere stimatori, in che modo differiscono questi due concetti?

Definizione

Da Wikipedia:

Una statistica [...] è una singola misura di alcuni attributi di un campione (ad esempio, il suo valore medio aritmetico).

E

Lo stimatore [A] n è una regola per calcolare una stima di una determinata quantità [della distribuzione sottostante] sulla base dei dati osservati.

La differenza importante è:

• Una statistica è una funzione di un campione.
• Uno stimatore è una funzione di un campione correlato a una certa quantità della distribuzione .

(Per cosa significa "Quantità", vedere la sezione seguente).

Una statistica non è uno stimatore

Uno stimatore è una statistica con qualcosa di aggiunto. Per trasformare una statistica in uno stimatore, devi semplicemente precisare quale quantità target vuoi stimare. Questo è confuso, perché non aggiungi nulla di "reale" alla statistica, ma solo alcuni intendono.

Per vedere che la differenza è importante, devi capire che non puoi calcolare le proprietà di uno stimatore (es. Bias , varianza , ecc.) Per una semplice statistica. Per calcolare la distorsione , devi trovare la differenza tra il valore che la tua statistica ti dà e il valore vero. Solo uno stimatore viene fornito con un "valore reale" che consente di calcolare una distorsione. Una statistica è semplicemente una funzione dei dati e non è né giusta né sbagliata.

Stimatori diversi basati sulla stessa statistica

È possibile specificare diverse quantità target per la stessa statistica, ottenendo stimatori diversi. Ciascuno di questi stimatori ha una sua inclinazione, sebbene siano tutti (basati su) lo stesso valore, la stessa statistica.

• È possibile utilizzare la media campionaria come stimatore per la media di distribuzione . Questo stimatore ha zero distorsioni .
• Puoi anche usare la media campionaria come stimatore per la varianza della distribuzione . Questo stimatore è distorto per la maggior parte delle distribuzioni.

Quindi dire "la media del campione è imparziale" non ha senso. La media campione è imparziale quando la si utilizza per stimare la media di distribuzione. Ma allo stesso tempo è distorto quando lo si utilizza per stimare la varianza della distribuzione.

Quantità di distribuzioni e quantità di campioni

Qui la quantità si riferisce ad alcune proprietà della distribuzione, che di solito è sconosciuta e quindi deve essere stimata. Ciò è in contrasto con una statistica , che è una proprietà di un campione, ad esempio la media di distribuzione è una quantità della tua distribuzione, mentre la media del campione è una statistica (una quantità del tuo campione).

Questo thread è un po 'vecchio, ma sembra che Wikipedia possa aver cambiato la sua definizione e se è accurata, lo spiega più chiaramente per me:

Uno "stimatore" o "stima del punto" è una statistica (ovvero una funzione dei dati) che viene utilizzata per inferire il valore di un parametro sconosciuto in un modello statistico.

Quindi una statistica si riferisce ai dati stessi e un calcolo con tali dati. Mentre uno stimatore si riferisce a un parametro in un modello.

Se lo capisco correttamente, quindi, la media è una statistica e può anche essere uno stimatore. La media di un campione è una statistica (somma del campione divisa per la dimensione del campione). La media di un campione è anche uno stimatore della media della popolazione, supponendo che sia normalmente distribuita.

Chiederei a @whuber e ad altri che conoscono davvero questa roba se la (nuova?) Citazione di Wikipedia è accurata.

Poiché altre risposte affermano che sono uguali non danno alcun riferimento autorevole, lasciatemi darvi due citazioni dal manuale di inferenza statistica di Casella e Berger:

Definizione 5.2.1 Sia un campione casuale di dimensione n da una popolazione e sia T ( x 1 , … , x n ) una funzione con valore reale o valore vettoriale il cui dominio include lo spazio del campione di ( X 1 , … , X n ) . Quindi viene chiamata la variabile casuale o il vettore casuale Y = T ( X 1 , … , X n$X_1,\dots,X_n$$n$$T(x_1,\dots,x_n)$$(X_1,\dots,X_n)$$Y = T(X_1,\dots,X_n)$statistica . La distribuzione di probabilità di statistica è detta distribuzione campionaria di Y .$Y$$Y$

e

Definizione 7.1.1 Uno stimatore di punti è qualsiasi funzione di un campione; vale a dire, qualsiasi statistica è uno stimatore del punto.$W(X_1,\dots,X_n)$

Sto Non dicendo qui che questa è la risposta definitiva alla domanda, dal momento che mi sembra d'accordo con le due risposte più upvoted che suggeriscono che c'è una differenza, solo dare un riferimento che dice il contrario sottolineare che questo non è un cassa chiara.

"6" è un esempio di uno stimatore. Dì che la tua domanda era: "qual è la pendenza della migliore funzione lineare mappando da x a y?" La tua risposta potrebbe essere "6". Oppure potrebbe essere . Entrambi sono stimatori. Quale è meglio è a te decidere. $(X'X)^{-1}X'Y$

Una TA davvero brava una volta mi ha spiegato il concetto di stimatore in quel modo.

Fondamentalmente, uno stimatore è una cosa che si applica ai dati per ottenere una quantità di cui non si conosce il valore. Conosci il valore di una statistica - è una funzione dei dati senza "migliore" o "ottimale" al riguardo. Non esiste una media "migliore". C'è solo un mezzo.

Supponi di avere un set di dati sul numero di capre possedute per persona e sulla felicità di ciascuna persona. Sei interessato a come la felicità delle persone cambia con il numero di capre che possiedono. Uno stimatore può aiutarti a stimare quella relazione dai tuoi dati. Le statistiche sono solo funzioni dei dati che hai. Ad esempio, la varianza della proprietà della capra può essere pari a 7. Il forula per il calcolo della varianza sarebbe identico tra capre e tostapane o se sei interessato alla felicità o alla propensione ad ammalarsi di cancro. In tal senso, tutti gli stimatori sensibili sono statistiche.

Domanda interessante. Gli stimatori e le statistiche non devono necessariamente essere cose diverse. Sono concetti diversi.

Una statistica è una funzione (in termini generali) in cui l'input sono dati (statistici). L'effetto è che si ottiene un risultato, di solito un numero, da questa statistica. In un termine più astratto, una statistica può produrre più di un numero. La statistica dipende dai dati, ma la procedura è deterministica. Quindi la statistica può essere: "Sommare tutti i numeri e dividere per il conteggio" o, in senso lato "prendere i dati gdp e preparare un rapporto su di essi".
In senso statistico stiamo ovviamente parlando di una funzione matematica come statistica.

Il significato di questo è che se conosci le proprietà dei dati che inserisci (ad esempio se si tratta di una variabile casuale), puoi calcolare le proprietà della tua statistica, senza inserire dati empirici.

Gli stimatori sono stimatori per il tuo intento: stimare una proprietà. A quanto pare, alcune statistiche sono buone stime.
Per esempio, se si tira punti di dati su un pool di variabili iid, quindi la media aritmetica - una statistica in base ai dati si tira, sarà probabilmente un buon stimatore per il valore atteso di tale distribuzione. Ma poi ogni cosa che produce una stima è uno stimatore.

In pratica, gli stimatori che utilizzerai saranno statistiche, ma ci sono statistiche che non sono stimatori. Ad esempio statistiche di test - sebbene si possa discutere della semantica di questa affermazione e, a peggiorare le cose, una statistica di test può non solo essere ma includere anche stimatori. Sebbene concettualmente questo non debba essere il caso.

E ovviamente puoi avere stimatori che non sono statistiche, anche se probabilmente non sono molto bravi a stimare.

Penso che una migliore comprensione di cosa sia un campione aiuta.

[Aggiornato: il campione è un concetto molto ampio, stavo parlando del "campione casuale". Non so se uno stimatore abbia senso o meno quando il campione non è casuale .]

da Wikipedia :

Un campione casuale è definito come un campione in cui ogni singolo membro della popolazione ha una probabilità nota, diversa da zero, di essere selezionato come parte del campione.

$n$$n$$n$$n$$n$

Sostituiamo il campione nello stimatore con il valore del campione. Otteniamo un valore dello stimatore, questa è una misura specifica. E questa misura specifica è una statistica.

(Controlla questo link per la definizione di uno stimatore, l'ultima frase rivela perché siamo sempre confusi.)

L'obiettivo di questo pezzo di scrittura:

Quello che voglio fare qui è fornirti le somiglianze e le differenze tra i due concetti intimamente correlati chiamati "statistica" e "stimatore". Tuttavia, non voglio esaminare le differenze tra un parametro e una statistica, che presumo sia abbastanza chiara per tutti coloro che stanno lottando con le differenze tra una statistica e uno stimatore. Se non è il tuo caso, devi prima studiare i post precedenti, quindi iniziare a studiare questo post.

Relazione:

Fondamentalmente, qualsiasi funzione a valore reale di variabili casuali osservabili in un campione è chiamata statistica. Ci sono alcune statistiche che se sono ben progettate e hanno alcune buone proprietà (ad es. Coerenza, ...), possono essere utilizzate per stimare i parametri della distribuzione sottostante della popolazione. Pertanto, le statistiche sono un insieme ampio e gli stimatori sono un sottoinsieme all'interno dell'insieme delle statistiche. Quindi, ogni stimatore è una statistica, ma non ogni statistica è uno stimatore.

Somiglianze:

Parlando delle somiglianze, come accennato in precedenza, entrambi sono funzioni di variabili casuali. Inoltre, entrambi hanno distribuzioni chiamate "distribuzioni campionarie".

differenze:

Parlando delle differenze, sono diverse in termini di obiettivi e compiti. Gli obiettivi e i compiti di una statistica potrebbero essere la sintesi delle informazioni in un campione (utilizzando statistiche sufficienti) e talvolta facendo test di ipotesi, ecc. Al contrario, l'obiettivo e il compito principali di uno stimatore, come suggerisce il nome, è stimare i parametri della popolazione studiata. È importante ricordare che esiste una grande varietà di stimatori, ognuno dei quali ha una propria logica computazionale dietro, come MOME, MLE, stimatori OLS e così via. Un'altra differenza tra questi due concetti ha a che fare con le proprietà desiderate. Mentre una delle proprietà più desiderate di una statistica è la "sufficienza", le proprietà desiderate di uno stimatore sono cose come "coerenza", "imparzialità", "precisione", ecc.

Attenzione:

Pertanto, è necessario prestare attenzione all'utilizzo corretto della terminologia quando si ha a che fare con statistiche e stimatori. Ad esempio, non ha molto senso parlare della parzialità di una semplice statistica, che non è affatto uno stimatore, perché non esiste alcun parametro coinvolto in un tale contesto per consentirci di calcolare la distorsione, e Parlami di ciò. Quindi, devi stare attento alla terminologia!

La linea di fondo:

Per riassumere, qualsiasi funzione delle variabili casuali osservabili in un campione è una statistica. Se una statistica ha la capacità di stimare un parametro di una popolazione, allora la chiamiamo stimatore (del parametro di interesse). Tuttavia, ci sono alcune statistiche che non sono progettate per stimare i parametri, quindi queste statistiche non sono stimatori, e qui le chiamiamo "semplici statistiche".

Ciò che ho offerto sopra è il modo in cui guardo e penso a questi due concetti, e ho fatto del mio meglio per dirlo in parole semplici. Spero possa essere d'aiuto!

Nuova risposta a una vecchia Q:

Definizione 1. Una statistica è una funzione che mappa ogni campione su un numero reale.

Ogni stimatore è una statistica.

Ma tendiamo a chiamare solo quelle statistiche utilizzate per generare stime ("ipotesi") alcuni parametri uno stimatore.

Quindi, ad esempio, la statistica t e la media campionaria sono ENTRAMBI le statistiche. La media del campione è anche uno stimatore (perché spesso la usiamo per stimare la media della popolazione reale).

Al contrario, raramente / mai chiamiamo la statistica t uno stimatore, perché raramente / mai lo usiamo per stimare alcun parametro.

$P$$Q$

$$\underline{\text{Example}}$$

Supponiamo che il nostro parametro di interesse sia il risultato medio $\theta$

$\theta$

Ecco un possibile metodo. Tiriamo un dado 3 volte.

$\textbf{s}=\left(x_1,x_2,x_3\right)$$x_1$$x_2$$x_3$ quello del terzo.

$\textbf{s}_1=\left(5,4,1\right)$$\textbf{s}_2=\left(4,1,6\right)$$\textbf{s}_3=\left(6,3,2\right)$ .

$P$$Q$$P$$Q$$\textbf{s}=\left(x_1,x_2,x_3\right)$

$$P(\textbf{s})=\frac{x_1}{\ln(x_2+x_3)},$$ $$Q(\textbf{s})=\frac{x_1+x_2+x_3}{3}.$$

$P$ è una piuttosto bizzarra e probabilmente non è molto utile per nulla. Tuttavia, è una statistica lo stesso, semplicemente perché soddisfa la definizione di una statistica (è una funzione che mappa ogni campione su un numero reale).

$Q$$\theta$ .

$P$$\theta$

Nel test di ipotesi :

Una statistica test riguarda i test di ipotesi. Una statistica test è una variabile casuale data / sotto l'ipotesi nulla. Ora, alcuni potrebbero chiamare una statistica il valore / misura della statistica test fornita dal campione.

Con questi due è possibile ottenere il valore p che è una misura che aiuta a rifiutare o non rifiutare l'ipotesi nulla. Tutto sommato, una statistica è una stima di quanto lontano / vicino alla tua ipotesi.

Questo link può essere utile.