Funzioni di perdita percentuale

11

La soluzione al problema:

min_{m} E [| m - X |]

$\min_{m} \; E[|m-X|]$

è noto per essere la mediana di $X$ , ma come appare la funzione di perdita per altri percentili? Esempio: il 25 ° percentile di X è la soluzione per:

min_{m} E [L (m, X)]

$\min_{m} \; E[ L(m,X) ]$

Cosa è $L$ in questo caso?

expected-value loss-functions

— Cam.Davidson.Pilon
fonte

12

Permettetemi $I$ essere la funzione dell'indicatore: è uguale a $1$ per veri argomenti e $0$ altrimenti. Scegli $0\lt\alpha\lt 1$ e imposta

Λ_{α} (x) = α x I (x \geq 0) - (1 - α) x I (x < 0) .

$\Lambda_\alpha(x)=\alpha x\, I(x\ge 0) - (1-\alpha)x\, I(x\lt 0).$

figura

Questa figura rappresenta $\Lambda_{1/5}$ . Utilizza un formato preciso per aiutarti a misurare le pendenze, che equivalgono a $-4/5$ sul lato sinistro e $+1/5$ a destra. In questo caso, le escursioni superiori a $0$ sono fortemente sottopesate rispetto alle escursioni inferiori a $0$ .

Questa è una funzione naturale da provare perché pondera i valori di che superano diverso da che sono inferiori a . Calcoliamo la perdita associata e quindi ottimizziamo. $x$ $0$ $x$ $0$

Scrivere per la funzione di distribuzione di e impostare , calcolare $F$ $X$ $L_\alpha(m,x) = \Lambda_\alpha(x-m)$

\begin{aligned} E_{F} (L_{α} (m, X)) & = \int_{R} Λ_{α} (x - m) d F (x) \\ = α \int_{R} I (x \geq m) (x - m) d F (x) - (1 - α) \int_{R} (x - m) I (x < m) d F (x) \\ = α \int_{m}^{\infty} (x - m) d F (x) - (1 - α) \int_{- \infty}^{m} (x - m) d F (x) . \end{aligned}

$\eqalign{ \mathbb{E}_F(L_\alpha(m,X))&=\int_\mathbb{R} \Lambda_\alpha(x-m)dF(x)\\ &=\alpha\int_\mathbb{R} I(x\ge m)(x-m) dF(x) - (1-\alpha)\int_\mathbb{R} (x-m)I(x\lt m) dF(x)\\ &=\alpha\int_m^\infty(x-m)dF(x) - (1-\alpha)\int_{-\infty}^m(x-m) dF(x). }$

figura 2

Poiché varia in questa illustrazione con la distribuzione normale standard , viene tracciata l' area totale ponderata in base alla probabilità di . (La curva è il grafico di .) Il diagramma a destra per mostra chiaramente l'effetto del downweight dei valori positivi, poiché senza questo downweight il plot sarebbe essere simmetrici rispetto all'origine. La trama centrale mostra l'ottimale, in cui la quantità totale di inchiostro blu (che rappresenta ) è la più piccola possibile. $m$ $F$ $\Lambda_{1/5}$ $\Lambda_{1/5}(x-m)dF(x)$ $m=0$ $\mathbb{E}_F(L_{1/5}(m,X))\$

Questa funzione è differenziabile e quindi il suo extrema può essere trovato ispezionando i punti critici. Applicando la regola della catena e il teorema fondamentale del calcolo per ottenere il derivato rispetto a dà $m$

\begin{aligned} \frac{\partial}{\partial m} E_{F} (L_{α} (m, X)) & = α (0 - \int_{m}^{\infty} d F (x)) - (1 - α) (0 - \int_{- \infty}^{m} d F (x)) \\ = F (m) - α . \end{aligned}

$\eqalign{ \frac{\partial}{\partial m}\mathbb{E}_F(L_\alpha(m,X))&=\alpha\left(0-\int_m^\infty dF(x)\right) - (1-\alpha)\left(0 - \int_{-\infty}^m dF(x)\right)\\ &= F(m) - \alpha. }$

Per distribuzioni continue questo ha sempre una soluzione che, per definizione, è qualunque quantile di . Per le distribuzioni non continue questo potrebbe non avere una soluzione ma ci sarà almeno un per cui per tutti e per tutti : anche questo (per definizione) è un quantile di . $m$ $\alpha$ $X$ $m$ $F(x)-\alpha\lt 0$ $x\lt m$ $F(x)-\alpha\ge 0$ $x\ge m$ $\alpha$ $X$

Infine, poiché e , è chiaro che né né minimizzeranno questa perdita. Ciò esaurisce l'ispezione dei punti critici, dimostrando che adatta al conto. $\alpha\ne 0$ $\alpha\ne 1$ $m\to-\infty$ $m\to\infty$ $\Lambda_\alpha$

Come caso speciale, è la perdita mostrata nel domanda. $\mathbb{E}_F(2L_{1/2}(m,X)) = \mathbb{E}_F\left(\left|m-x\right|\right)$

— whuber
fonte

Apprezzo lo sforzo che hai fatto nel mostrare la perdita attesa è minimizzata dal punto corretto . Mi chiedevo come farlo da solo per la mia risposta, ma la tua spiegazione è buona. (+1)

m

$m$

2

Hai dimostrato che le immagini valgono 1000 parole. Grazie @whuber =)

— Cam.Davidson.Pilon l'

8

Questo articolo ha la tua risposta. Per essere precisi, La funzione di perdita può essere interpretata come "bilanciamento" delle diverse regioni di massa di probabilità intorno a attraverso la sottrazione . Per la mediana queste regioni di massa sono uguali: rendendo proporzionale la funzione di perdita (nell'aspettativa che la costante sia invisibile) a che fornisce la conclusione desiderata per la mediana.

L_{0.25} (m, X) = | (X - m) (0.25 - 1 {X > m}) | .

$L_{0.25}(m,X) = \left| \left( X - m \right) \left(0.25 - \mathbf{1}\{ X > m \} \right) \right|.$

0.25

$0.25$

0.25 - 1 {X > m}

$0.25 - \mathbf{1}\{ X > m \}$

L_{0.5} (m, X) = | (X - m) (0.5 - 1 {X > m}) | = | (X - m) \times \pm 0.5 |,

$L_{0.5}(m,X) = \left| \left( X - m \right) \left(0.5 - \mathbf{1}\{ X > m \} \right) \right| = \left| \left( X - m \right) \times \pm 0.5 \right|,$

| X - m |,

$\left| X - m\right|,$

(+1) Ben fatto! - non era ovvio dove cercare quell'articolo di Wikipedia; dovevi pensare alla regressione quantile.

— whuber

Grazie @Matthew, questa è un'ottima scoperta. Mi piace bilanciare l' interpretazione

— Cam.Davidson.Pilon l'

Non riesco ancora a capire. Da dove viene? Se X è al di sopra del quantile, viene ponderato 0,75, altrimenti 0,25? Giusto?

| (0.25) - 1 X > m) |

$|(0.25)-\mathbb{1}{X>m})|$

(X - m)

$(X-m)$

— IcannotFixQuesto