Come si spiega che cosa è uno stimatore imparziale per un laico?

Supponiamo che sia uno stimatore imparziale per . Quindi, naturalmente, . θE[ θ |θ]=$\hat{\theta}$$\theta$$\mathbb{E}[\hat{\theta} \mid \theta] = \theta$

Come si spiega questo a un laico? In passato, ciò che ho detto è se in media un sacco di valori di , quando la dimensione del campione aumenta, si ottiene una migliore approssimazione di .$\hat{\theta}$$\theta$

Per me questo è problematico. Penso che ciò che sto effettivamente descrivendo qui sia questo fenomeno di essere asintoticamente imparziali, piuttosto che essere solo imparziali, cioè dove \ hat {\ theta} dipende probabilmente da n .

Quindi, come si spiega che cosa è uno stimatore imparziale per un laico?

Tecnicamente quello che stai descrivendo quando dici che il tuo stimatore si avvicina al vero valore man mano che la dimensione del campione aumenta è (come altri hanno già detto) coerenza o convergenza di stimatori statistici. Questa convergenza può essere una convergenza in probabilità, che dice che per ogni , o quasi convergenza sicura che dice che . Nota come il limite è effettivamente dentro$\lim_{n \to \infty} P(|\hat{\theta}_n - \theta| > \epsilon) = 0$$\epsilon > 0$$P(\lim_{n \to \infty} |\hat{\theta}_n - \theta| > \epsilon) = 0$la probabilità nel secondo caso. Si scopre che quest'ultima forma di convergenza è più forte dell'altra, ma entrambe significano essenzialmente la stessa cosa, che è che la stima tende ad avvicinarsi sempre più a ciò che stiamo stimando man mano che raccogliamo più campioni.

Un punto sottile, qui è che anche quando sia in probabilità o quasi sicuramente, è non è vero in generale che , quindi la coerenza non implica imparzialità asintotica come stai suggerendo. Devi stare attento quando ti muovi tra sequenze di variabili casuali (che sono funzioni) a sequenze di aspettative (che sono integrali).$\hat{\theta}_n \to \theta$$\lim_{n \to \infty} \text{E}(\hat{\theta}_n) = \theta$

A parte tutto il materiale tecnico, imparziale significa solo che . Quindi, quando lo spieghi a qualcuno, dici semplicemente che se l'esperimento fosse ripetuto in condizioni identiche molte volte, il valore medio della stima sarebbe vicino al valore reale.$\text{E}(\hat{\theta}_n) = \theta$

Non sono sicuro se confondi coerenza e imparzialità.

Coerenza: maggiore è la dimensione del campione, minore è la varianza dello stimatore.

• Dipende dalla dimensione del campione

Impedenza: il valore atteso dello stimatore è uguale al valore reale dei parametri

• Non dipende dalla dimensione del campione

Quindi la tua frase

se si calcola la media di un sacco di valori di , man mano che la dimensione del campione aumenta, si ottiene una migliore approssimazione di .$\hat\theta$$\theta$

Non è corretto. Anche se la dimensione del campione diventa infinita, uno stimatore imparziale rimarrà uno stimatore imparziale, ad es. Se si stima la media come "media +1", è possibile aggiungere un miliardo di osservazioni al campione e lo stimatore non fornirà comunque il valore reale.

Qui puoi trovare una discussione più profonda sulla differenza tra coerenza e imparzialità.

Qual è la differenza tra uno stimatore coerente e uno stimatore imparziale?

@Ferdi ha già fornito una risposta chiara alla tua domanda, ma rendiamola un po 'più formale.

Lasciate essere il vostro campione di variabili casuali indipendenti e identicamente distribuite da distribuzione . Sei interessato a stimare la quantità sconosciuta ma fissa , usando lo stimatore in funzione di . Poiché è una funzione di variabili casuali, stimare$X_1,\dots,X_n$$F$$\theta$ $g$$X_1,\dots,X_n$$g$

è anche una variabile casuale. Definiamo pregiudizio come

lo stimatore è imparziale quando .$\mathbb{E}_\theta(\hat\theta_n) = \theta$

Dicendolo in parole povere: abbiamo a che fare con variabili casuali , quindi a meno che non sia degenerato , se prendessimo campioni diversi, potremmo aspettarci di osservare dati diversi e stime così diverse. Tuttavia, potremmo aspettarci che su diversi campioni "in media" stimati sarebbe "giusto" se lo stimatore è imparziale. Quindi non sarebbe sempre giusto, ma "in media" sarebbe giusto. Semplicemente non può sempre essere "giusto" a causa della casualità associata ai dati.$\hat\theta_n$

Come altri hanno già notato, il fatto che la stima si "avvicini" alla quantità stimata man mano che il campione cresce, vale a dire che converge in probabilità

ha a che fare con la coerenza degli stimatori , non con imparzialità. La sola imparzialità non ci dice nulla sulla dimensione del campione e sulla sua relazione con le stime ottenute. Inoltre, gli stimatori imparziali non sono sempre disponibili e non sempre preferibili a quelli distorti. Ad esempio, dopo aver considerato il compromesso della variazione di bias potresti essere disposto a prendere in considerazione l'uso dello stimatore con una maggiore propensione, ma una varianza minore - quindi "in media" sarebbe più lontano dal valore reale, ma più spesso (varianza più piccola) le stime sarebbero essere più vicini al valore reale, quindi in caso di stimatore imparziale.

Per prima cosa devi distinguere il pregiudizio incomprensivo dal pregiudizio statistico, specialmente per un laico.

La scelta di dire usando la mediana, la media o la modalità come stimatore per una media della popolazione , spesso contiene un pregiudizio politico, religioso o di teoria scientifica. Il calcolo su quale stimatore è la migliore forma di media è di un tipo diverso dall'aritmetica che influenza la distorsione statistica.

Una volta superato il bias di selezione del metodo, è possibile affrontare i bias potenziali nel metodo di stima. Per prima cosa devi scegliere un metodo che può avere un pregiudizio e un meccanismo che porta facilmente a quel pregiudizio.

Può essere più semplice utilizzare una divisione di un punto di vista conquistatore in cui diventa evidente quando le dimensioni del campione diminuiscono, la stima diventa chiaramente distorta. Ad esempio, il fattore n-1 (rispetto al fattore 'n') negli stimatori della diffusione del campione diventa evidente quando n scende da 3 a 2 a 1!

Tutto dipende da quanto "laica" è la persona.