La teoria della varianza minima stima imparziale troppo enfatizzata nella scuola di specializzazione?

Di recente sono stato molto imbarazzato quando ho dato una risposta improvvisa sulla stima minima della varianza stime imparziali per i parametri di una distribuzione uniforme che era completamente sbagliata. Fortunatamente sono stato immediatamente corretto dal cardinale e da Henry con Henry che ha fornito le risposte corrette per l'OP .

Questo mi ha fatto pensare però. Ho imparato la teoria dei migliori stimatori imparziali nel mio corso di laurea in matematica a Stanford circa 37 anni fa. Ricordo il teorema di Rao-Blackwell, il limite inferiore di Cramer - Rao e il teorema di Lehmann-Scheffe. Ma come statistico applicato non penso molto agli UMVUE nella mia vita quotidiana mentre la stima della massima verosimiglianza arriva molto.

Perché? Sottolineiamo troppo la teoria UMVUE nella scuola di specializzazione? Credo di si. Innanzitutto l'imparzialità non è una proprietà cruciale. Molti MLE perfettamente buoni sono di parte. Gli stimatori della contrazione di Stein sono distorti ma dominano l'MLE imparziale in termini di perdita di errore quadrata media. È una teoria molto bella (stima UMVUE), ma molto incompleta e penso che non sia molto utile. Cosa pensano gli altri?

estimation point-estimation

— Michael Chernick
fonte

(+1) Concordo sul fatto che ciò costituirebbe una buona domanda per il sito principale e lo voterà. È in qualche modo soggettivo, quindi potrebbe essere la cosa migliore come domanda CW. (Inoltre, non c'è motivo di essere imbarazzati.)

— Cardinale

Non penso che, in generale, questo tipo di stima sia enfatizzato. Ricordo che i miei professori erano soliti concentrarsi maggiormente sugli esempi in cui UMVUE è "sciocco". Le persone tendono ad usare stimatori puntuali appartenenti a teorie popolari, per motivi di sicurezza, ma esiste una teoria completa della stima delle equazioni. Alcuni professori si concentrano su UMVUE perché sono una buona fonte di problemi difficili per i compiti a casa. Penso che la riduzione del bias sia una teoria più popolare e utile al giorno d'oggi rispetto alla ricerca dell'UMVUE (che non sempre esiste).

Vediamo molte domande qui su UMVUE, immagino perché fanno buoni problemi a casa. Forse questo è più un problema con i programmi di statistica di livello universitario e master che con i programmi di dottorato.

— Michael R. Chernick,

Bene, la stima UMVU è un'idea classica, quindi forse dovrebbe essere insegnata per quel motivo? Ed è un buon punto di partenza per discutere / criticare criteri come l'imparzialità! Solo perché non sono molto usati nella pratica, di per sé non c'è motivo di non insegnare loro.

— kjetil b halvorsen,

È probabile che l'enfasi vari nel tempo e nei dipartimenti. Il mio dipartimento presenta il materiale nel corso di matematica del primo anno, ma dopo è sparito, quindi non potrei ragionevolmente dire che è troppo enfatizzato (anche nel corso di inferenza di dottorato, in genere non viene insegnato, a favore di più tempo con stimatori bayesiani e minimax, ammissibilità e stima multivariata), anche se vorrei che ci fosse più enfasi sul perché il bias è una cosa utile e quindi perché la stima imparziale è un paradigma inutilmente estremo.

— ragazzo

Risposte:

Lo sappiamo

Se sia un campione casuale allora per ogni è una UE di $X_1,X_2, \dots X_n$ $Poisson(\lambda)$ $\alpha \in (0,1),~T_\alpha =\alpha \bar X+(1-\alpha)S^2$ $\lambda$

Quindi esistono infinitamente molte UE di . Ora si pone una domanda quale di questi dovremmo scegliere? quindi chiamiamo UMVUE. Insieme all'imparzialità non è una buona proprietà ma UMVUE è una buona proprietà. Ma non è estremamente buono. $\lambda$

$X_1,X_2, \dots X_n$ $N(\mu, \sigma^2)$ $T_\alpha =\alpha S^2$ $(n-1)S^2=\sum_{i=1}^{n}(X_i-\bar X)^2$ $\sigma^2$ $\frac{n-1}{n+1}S^2=\frac{1}{n+1}\sum_{i=1}^{n}(X_i-\bar X)^2$

Si noti che il Teorema di Rao-Blackwell afferma che per trovare UMVUE possiamo concentrarci solo su quelle UE che sono funzione di statistica sufficiente, ovvero che l'UMVUE è lo stimatore che ha una varianza minima tra tutte le UE che sono funzioni di statistica sufficiente. Quindi UMVUE è necessariamente una funzione di una statistica sufficiente.

MLE e UMVUE sono entrambi buoni da un punto di vista. Ma non possiamo mai dire che uno di loro è migliore dell'altro. In statistica ci occupiamo di dati incerti e casuali. Quindi c'è sempre margine di miglioramento. Potremmo ottenere uno stimatore migliore di MLE e UMVUE.

Penso che non enfatizziamo troppo la teoria UMVUE nella scuola di specializzazione, è puramente una mia visione personale. Penso che la fase di laurea sia una fase di apprendimento. Quindi, uno studente laureato deve avere una buona base su UMVUE e altri stimatori,

— Argha
fonte

Penso che qualsiasi valida teoria dell'inferenza sia buona da sapere. Mentre l'imparzialità può essere una buona proprietà, la distorsione non è necessariamente negativa. Quando l'accento è posto su UMVUE, può esserci la tendenza ad attribuirgli "ottimalità". Ma potrebbero non esserci stimatori molto validi nella classe di stimatori imparziali. La precisione è importante e coinvolge sia la propensione che la varianza. La cosa migliore di MLE è che ci sono condizioni in cui può essere dimostrato di essere asintoticamente efficiente.

— Michael R. Chernick, l'

Si noti che il teorema di Rao-Blackwell può anche essere usato per migliorare qualsiasi stimatore distorto, producendo uno stimatore migliorato con lo stesso orientamento.

— kjetil b halvorsen,

Forse l'articolo di Brad Efron "Probabilità massima e teoria delle decisioni" può aiutare a chiarire questo punto. Brad ha affermato che una delle principali difficoltà dell'UMVUE è che è generalmente difficile da calcolare e in molti casi non esiste.

— Jiantao Jiao
fonte