Qual è il significato intuitivo dietro il collegamento di una variabile casuale nel proprio pdf o cdf?

Un pdf è solitamente scritto come , dove la minuscola viene trattata come una realizzazione o un risultato della variabile casuale che ha quel pdf. Allo stesso modo, un cdf è scritto come , che ha il significato . Tuttavia, in alcune circostanze, come la definizione della funzione score e questa derivazione secondo cui il cdf è distribuito uniformemente , sembra che la variabile casuale sia inserita nel proprio pdf / cdf; così facendo, otteniamo una nuova variabile casuale o $f(x|\theta)$ $x$ $X$ $F_X(x)$ $P(X<x)$ $X$ $Y=f(X|\theta)$ $Z=F_X(X)$ . Non penso che possiamo chiamarlo più un pdf o un cdf poiché ora è una variabile casuale stessa, e in quest'ultimo caso, l'interpretazione " sembra assurda. $F_X(X)=P(X<X)$

Inoltre, in quest'ultimo caso, non sono sicuro di comprendere l'affermazione "il cdf di una variabile casuale segue una distribuzione uniforme". Il cdf è una funzione, non una variabile casuale, e quindi non ha una distribuzione. Piuttosto, ciò che ha una distribuzione uniforme è la variabile casuale trasformata usando la funzione che rappresenta il proprio cdf, ma non vedo perché questa trasformazione sia significativa. Lo stesso vale per la funzione score, in cui stiamo inserendo una variabile casuale nella funzione che rappresenta la sua probabilità logaritmica.

Ho distrutto il mio cervello per settimane cercando di trovare un significato intuitivo dietro queste trasformazioni, ma sono bloccato. Qualsiasi approfondimento sarebbe molto apprezzato!

— Mai
fonte

La notazione potrebbe confonderti. Ad esempio, è esattamente significativo come applicare qualsiasi funzione misurabile a sarebbe. Per una corretta interpretazione dovrai essere molto chiaro su cosa sia una variabile casuale . Per ogni variabile casuale la funzione per è chiaramente una variabile casuale e quindi ha una distribuzione(Notare i due significati distinti del simbolo " " in " .") è uniforme se e solo se ha una distribuzione continua.

F_{X} (X)

$F_X(X)$

X

$X$

X : Ω \to R,

$X:\Omega\to\mathbb{R},$

Y : ω \to F_{X} (X (ω))

$Y:\omega\to F_X(X(\omega))$

ω \in Ω

$\omega\in\Omega$

F_{Y} .

$F_Y.$

X

$X$

F_{X} (X)

$F_X(X)$

F_{Y}

$F_Y$

X

$X$

— whuber

Questo non è davvero un problema teorico della misura: per capirlo, puoi tranquillamente ignorare tutti i riferimenti alla "misurabilità". Potresti trarre vantaggio dallo studio di una piccola teoria dell'insieme all'inizio della tua carriera universitaria: è qui che la maggior parte delle persone impara cosa significano veramente questa terminologia e notazione matematica di base (e onnipresente), quindi è meglio non rimandare l'apprendimento.

— whuber

Forse una parola sul perché si dovrebbe fare una cosa folle come questa: inserire un camper nella propria densità !!?! Un esempio: supponiamo che tu voglia stimare la densità di X, quindi potresti misurare quanto sei bravo integrando over ma questo è “ingiusto”: non otterrai mai una buona approssimazione quando non hai molti esempi di dati (vale a dire la densità reale è piccola). Quindi, una valutazione "equa" sarebbe quella di ponderare il termine con la vera densità. Questo è più o meno l'effetto dell'inserimento di camper nelle proprie densità ...

f (x) - f_{X} (x)

$f(x)-f_X(x)$

— Fabian Werner,

Vedi anche stats.stackexchange.com/questions/324768/…

— Fabian Werner

Risposte:

Come dici tu, qualsiasi funzione (misurabile) di una variabile casuale è essa stessa una variabile casuale. È più semplice pensare a e come "qualsiasi vecchia funzione". Hanno solo delle belle proprietà. Ad esempio, se è un RV esponenziale standard, allora non c'è nulla di particolarmente strano nella variabile casuale Succede proprio che . Il fatto che ha una distribuzione uniforme (dato che è un continuo RV) può essere visto per il caso generale ricavando la CDF di . $f(x)$ $F(x)$ $X$

Y = 1 - e^{- X}

$Y = 1 - e^{-X}$

Y = F_{X} (X)

$Y=F_X(X)$

Y

$Y$

X

$X$

Y

$Y$

\begin{aligned} F_{Y} (y) & = P (Y \leq y) \\ = P (F_{X} (X) \leq y) \\ = P (X \leq F_{X}^{- 1} (y)) \\ = F_{X} (F_{X}^{- 1} (y)) \\ = y \end{aligned}

$\begin{align*} F_Y(y) &= P(Y \leq y) \\ &= P(F_X(X) \leq y) \\ &= P(X \leq F^{-1}_X(y)) \\ &= F_X(F^{-1}_X(y)) \\ &= y \end{align*}$

Che è chiaramente il CDF di una variabile casuale . Nota: questa versione della prova presuppone che sia strettamente crescente e continuo, ma non è troppo difficile mostrare una versione più generale. $U(0,1)$ $F_X(x)$

— knrumsey
fonte

La tua conclusione non è corretta per la più strettamente crescente : hai assunto è l'identità, ma non è sempre così.

F_{X}

$F_X$

F_{X} \circ F_{X}^{- 1}

$F_X\circ F_X^{-1}$

— whuber

Si Grazie. La variabile casuale deve chiaramente essere continua. Mi sto perdendo qualcosa adesso?

X

$X$

— Knrumsey,

F_{X}

$F_X$ non deve essere biiettivo. Prendiamo ad esempio il caso in cui stesso ha una distribuzione uniforme! La chiusura dell'immagine di deve essere l'intero intervallo Questa è essenzialmente la definizione di una distribuzione continua.

X

$X$

F_{X}

$F_X$

[0, 1] .

$[0,1].$

— whuber

Una trasformazione di una variabile casuale mediante una funzione misurabile è un'altra variabile casuale cui distribuzione è data dalla trasformazione di probabilità inversa per tutti i set tale che è misurabile sotto la distribuzione di . $X$ $T:\mathcal{X}\longrightarrow\mathcal{Y}$ $Y=T(X)$

P (Y \in A) = P (X \in {x; T (x) \in A}) \overset{def}{=} P (X \in T^{- 1} (A))

$\mathbb{P}(Y\in A) = \mathbb{P}(X\in\{x;\,T(x)\in A\})\stackrel{\text{def}}{=} \mathbb{P}(X\in T^{-1}(A))$

A

$A$

{x; T (x) \in A}

$\{x;\,T(x)\in A\}$

X

$X$

Questa proprietà si applica al caso speciale quando è il cdf della variabile casuale : è una nuova variabile casuale che prende le sue realizzazioni in . Accade che sia distribuito come Uniform quando è continuo. (Se è discontinuo, l'intervallo di non è più . Ciò che accade sempre è che quando è uniforme , allora ha la stessa distribuzione di , dove $F_X:\mathcal{X}\longrightarrow[0,1]$ $X$ $Y=F_X(X)$ $[0,1]$ $Y$ $\mathcal{U}([0,1])$ $F_X$ $F_X$ $Y=F_X(X)$ $[0,1]$ $U$ $\mathcal{U}([0,1])$ $F_X^{-}(U)$ $X$ $F_X^{-}$ indica l'inverso generalizzato di . Quale è un modo formale per (a) comprendere le variabili casuali come trasformazioni misurabili di un fondamentale poiché è una variabile casuale con cdf e (b ) genera variabili casuali da una determinata distribuzione con cdf .) $F_X$ $\omega\in\Omega$ $X(\omega)=F_X^{-}(\omega)$ $F_X$ $F_X$

Per comprendere il paradosso di , prendi la rappresentazione se è la misura dominante e la densità corrispondente. Quindi è una variabile casuale dal limite superiore del l'integrale è casuale. (Questa è l'unica parte casuale dell'espressione.) L'apparente contraddizione in è dovuta a una confusione nelle notazioni. Per essere correttamente definito, sono necessarie due versioni indipendenti della variabile casuale , e $\mathbb{P}(X\le X)$

F_{X} (x) = P (X \leq x) = \int_{0}^{x} d F_{X} (x) = \int_{0}^{x} f_{X} (x) d λ (x)

$F_X(x)=\mathbb{P}(X\le x)=\int_0^x \text{d}F_X(x) = \int_0^x f_X(x)\,\text{d}\lambda(x)$

d λ

$\text{d}\lambda$

f_{X}

$f_X$

F_{X} (X) = \int_{0}^{X} d F_{X} (x) = \int_{0}^{X} f_{X} (x) d λ (x)

$F_X(X)=\int_0^X \text{d}F_X(x) = \int_0^X f_X(x)\,\text{d}\lambda(x)$

P (X \leq X)

$\mathbb{P}(X\le X)$

X

$X$

X_{1}

$X_1$

X_{2}

$X_2$ , nel qual caso la variabile casuale è definita da la probabilità calcolata per la distribuzione di .

F_{X} (X_{1})

$F_X(X_1)$

F_{X} (X_{1}) = P^{X_{2}} (X_{2} \leq X_{1})

$F_X(X_1)=\mathbb{P}^{X_2}(X_2\le X_1)$

X_{2}

$X_2$

La stessa osservazione si applica alla trasformazione per densità (pdf), , che è una nuova variabile casuale, tranne per il fatto che non ha una distribuzione fissa quando varia. È comunque utile a scopi statistici quando si considera ad esempio un rapporto di verosimiglianza che 2 x logaritmo è approssimativamente un variabile casuale sotto alcune condizioni. $f_X(X)$ $f_X$ $f_X(X|\hat{\theta}(X))/f_X(X|\theta_0)$ $\chi^2$

E lo stesso vale per la funzione score che è una variabile casuale tale che la sua aspettativa è zero se presa al vero valore del parametro , ovvero,

\frac{\partial \log f_{X} (X | θ)}{\partial θ}

$\dfrac{\partial \log f_X(X|\theta)}{\partial \theta}$

θ

$\theta$

E_{θ_{0}} [\frac{\partial \log f_{X} (X | θ_{0})}{\partial θ}] = \int \frac{\partial \log f_{X} (x | θ_{0})}{\partial θ} f_{X} (x | θ_{0}) d λ (x) = 0

$\mathbb{E}_{\theta_0}\left[ \dfrac{\partial \log f_X(X|\theta_0)}{\partial \theta}\right]=\int \dfrac{\partial \log f_X(x|\theta_0)}{\partial \theta}f_X(x|\theta_0)\,\text{d}\lambda(x)=0$

[Risposta digitata mentre @whuber e @knrumsey scrivevano le rispettive risposte!]

— Xi'an
fonte

Potresti spiegare a parole qual è il significato / interpretazione ? Mi sembra ancora che dire "il cdf di un camper ha una distribuzione uniforme" non ha alcun senso.

F_{X} (X_{1}) = P (X_{2} \leq X_{1})

$F_X(X_1)=P(X_2 \leq X_1)$

— mai

Il cdf di un rv non è la stessa cosa della trasformazione di un rv dal cdf di questo rv, vale a dire .

F_{X}

$F_X$

X

$X$

F_{X} (X)

$F_X(X)$

— Xi'an,

Sì, sono d'accordo che non sono la stessa cosa. Nel primo caso non è un camper, mentre nel secondo caso è un camper Ho ragione?

— mai

Sì, che si riferisce ai diversi significati di in

X

$X$

F_{X} (X)

$F_X(X)$

— Xi'an,

Potresti spiegare cosa intendi con "l'attesa è zero se presa al vero valore del parametro ? Sembra che sia trattata come una variabile qui. Cosa cambia se non è al suo" vero valore "?

θ

$\theta$

θ

$\theta$

θ

$\theta$

— mai