Esempi di una statistica che non è indipendente dalla distribuzione del campione?

Questa è la definizione di statistica su Wikipedia

Più formalmente, la teoria statistica definisce una statistica come una funzione di un campione in cui la funzione stessa è indipendente dalla distribuzione del campione; cioè, la funzione può essere dichiarata prima della realizzazione dei dati. Il termine statistico viene utilizzato sia per la funzione che per il valore della funzione su un dato campione.

Penso di aver compreso la maggior parte di questa definizione, tuttavia la parte - in cui la funzione è indipendente dalla distribuzione del campione non sono stata in grado di risolvere.

La mia comprensione della statistica finora

Un campione è un insieme di realizzazioni di un certo numero di variabili casuali indipendenti, identicamente distribuite (iid) con distribuzione F (10 realizzazioni di un tiro di un dado a 20 facce, 100 realizzazioni di 5 tiri di un dado a 6 facce, attirare casualmente 100 persone da una popolazione).

Una funzione, il cui dominio è quel set, e il cui intervallo sono i numeri reali (o forse può produrre altre cose, come un vettore o un altro oggetto matematico ...) sarebbe considerata una statistica .

Quando penso ad esempi, media, mediana, varianza hanno senso in questo contesto. Sono una funzione sul set di realizzazioni (misurazioni della pressione sanguigna da un campione casuale). Posso anche vedere come un modello di regressione lineare potrebbe essere considerato una statistica $y_{i} = \alpha + \beta \cdot x_{i}$ - non è solo una funzione su un insieme di realizzazioni?

Dove sono confuso

Supponendo che la mia comprensione dall'alto sia corretta, non sono stato in grado di capire dove una funzione potrebbe non essere indipendente dalla distribuzione del campione. Ho cercato di pensare a un esempio per dargli un senso, ma senza fortuna. Qualsiasi approfondimento sarebbe molto apprezzato!

mathematical-statistics definition

— Jake Kirsch
fonte

Risposte:

Tale definizione è un modo alquanto imbarazzante per affermarla. Una "statistica" è qualsiasi funzione dei valori osservabili. Tutto ciò significa che una statistica è solo una funzione dei valori osservabili, non una funzione della distribuzione o di uno dei suoi parametri. Ad esempio, se $X_1, X_2, ..., X_n \sim \text{N}(\mu, 1)$ poi una statistica sarebbe alcuna funzione $T(X_1,...,X_n)$ mentre una funzione $H(X_1,....,X_n, \mu)$ non sarebbe una statistica, poiché dipende da $\mu$ . Ecco alcuni altri esempi:

\begin{aligned} Statistic & {\bar{X}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}, \\ Statistic & S_{n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (X_{i} - {\bar{X}}_{n})^{2}, \\ Not a statistic & D_{n} = {\bar{X}}_{n} - μ, \\ Not a statistic & p_{i} = N (x_{i} | μ, 1), \\ Not a statistic & Q = 10 μ . \end{aligned}

$\begin{equation} \begin{aligned} \text{Statistic} & & & & & \bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i, \\[12pt] \text{Statistic} & & & & & S_n^2 = \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X}_n)^2, \\[12pt] \text{Not a statistic} & & & & & D_n = \bar{X}_n - \mu, \\[12pt] \text{Not a statistic} & & & & & p_i = \text{N}(x_i | \mu, 1), \\[12pt] \text{Not a statistic} & & & & & Q = 10 \mu. \\[12pt] \end{aligned} \end{equation}$

Ogni statistica è una funzione solo dei valori osservabili e non della loro distribuzione o dei suoi parametri. Quindi non ci sono esempi di una statistica che è una funzione della distribuzione o dei suoi parametri (tale funzione non sarebbe una statistica). Tuttavia, è importante notare che la distribuzione di una statistica (al contrario della statistica stessa) dipenderà generalmente dalla distribuzione sottostante dei valori. (Questo vale per tutte le statistiche diverse dalle statistiche accessorie .)

Che dire di una funzione in cui i parametri sono noti? Nei commenti seguenti, Alecos pone un'eccellente domanda di follow-up. Che dire di una funzione che utilizza un valore ipotizzato fisso del parametro? Ad esempio, che dire della statistica $\sqrt{n} (\bar{x} - \mu)$ dove $\mu = \mu_0$ è considerato uguale a un valore ipotizzato nota $\mu_0 \in \mathbb{R}$ . Qui la funzione è davvero una statistica, purché sia definita nel dominio appropriatamente limitato. Quindi la funzione $H_0: \mathbb{R}^n \rightarrow \mathbb{R}$ con $H_0(x_1,...,x_n) = \sqrt{n} (\bar{x} - \mu_0)$ sarebbe una statistica, ma la funzione $H: \mathbb{R}^{n+1} \rightarrow \mathbb{R}$ con $H(x_1,...,x_n, \mu) = \sqrt{n} (\bar{x} - \mu)$ sarebbenonessere una statistica.

— Ripristina Monica
fonte

Una risposta molto utile, considerando il parametro statistico sottostante come parte della non statistica è stata particolarmente utile.

— Jake Kirsch,

@CarlWitthoft Non capisco. Se è una funzione dei valori osservabili, allora è una statistica. Può essere una funzione di un sottoinsieme più piccolo dei valori; può ancora essere una cosa utile da considerare. Se vuoi stimare la media e hai

osservazioni, potresti ancora guardare

se il costo dell'elaborazione dei dati è alto e il costo dell'errore è piccolo. O per qualche motivo potresti voler considerare due stime indipendenti della media e potresti considerare

10^{10}

$10^{10}$

(X_{1} + X_{2} + \dots + X_{1000}) / 1000

$(X_1+X_2+\dots+X_{1000})/1000$

(X_{1} + \dots + X_{n / 2}) / (n / 2)

$(X_1+\dots+X_{n/2})/(n/2)$

(X_{n / 2 + 1} + \dots + X_{n}) / (n / 2)

$(X_{n/2+1}+\dots+X_n)/(n/2)$

Questi esempi mi sembrano del tutto validi. Stai dicendo che l'idea di dividere i dati in un set di training e un set di validazione non è valida?

— James Martin

Sono un po 'confuso anche da quello. Vorrei provare a descrivere il punto @CarlWitthoft. Sarebbe comunque una statistica in termini di definizione matematica, ma potrei vedere un caso in cui un consulente prende una "statistica" di osservazioni, ma decide arbitrariamente di rimuovere alcuni risultati (i consulenti lo fanno sempre, giusto?). Ciò sarebbe "valido" nel senso che è ancora una funzione delle osservazioni, tuttavia il modo in cui la statistica può essere presentata e interpretata probabilmente non sarebbe valido.

— Jake Kirsch,

@Carl Withhoft: per quanto riguarda il punto che stai sollevando, è importante distinguere tra una statistica (che non deve includere tutti i dati e potrebbe non comprendere tutte le informazioni nel campione) e una statistica sufficiente (che includerà tutti l'informazione rispetto ad alcuni parametri). La teoria statistica ha già concetti ben sviluppati come la sufficienza che catturano l'idea che una statistica includa tutte le informazioni rilevanti nel campione. Non è necessario, o desiderabile, cercare di integrare tale requisito nella definizione di "statistica".

— Ripristina Monica l'

Interpreto ciò dicendo che dovresti decidere prima di vedere i dati quale statistica stai per calcolare. Quindi, per esempio, se hai intenzione di eliminare i valori anomali, dovresti decidere prima di vedere i dati cosa costituisce un "valore anomalo". Se decidi dopo aver visualizzato i dati, la tua funzione dipende dai dati.

— Acccumulation
fonte

anche questo è utile! Quindi prendere una decisione su quali osservazioni includere nella funzione dopo aver saputo quali osservazioni sono disponibili, che è più o meno quello che stavo descrivendo nel mio commento alla risposta precedente.

— Jake Kirsch,

+1 .). È davvero difficile ricavare una distribuzione per una misura che comporta la caduta di punti dati per motivi che non sono definiti in modo chiaro prima.

— Cliff AB,