Qualcuno può spiegare come ho 5 anni su questo problema dal libro ESL di Hastie?

Sto lavorando al libro ESL di Hastie e sto attraversando un periodo difficile con la domanda 2.3. La domanda è la seguente:

Stiamo considerando una stima del vicino più vicino all'origine e questa distanza equivale alla distanza mediana dall'origine al punto dati più vicino. Non ho idea di dove cominciare in termini di tentativi di derivazione.

So che la maggior parte dei punti di dati sono più vicini al limite dello spazio di campionamento, piuttosto che a qualsiasi altro punto di dati (maledizione della dimensionalità), ma ho problemi a tradurlo nel senso di algebra lineare / probabilità.

Grazie!

machine-learning computational-statistics

— Gary
fonte

Cosa significa "ELI5" nel titolo? Se vuoi derivare quell'equazione dovrai iniziare con un modello di probabilità per i punti nella palla: che cos'è quel modello? (Per favore, non richiedere ai tuoi lettori di fare riferimento a un libro o qualche altro sito per capire la tua domanda.)

— whuber

@whuber Sono d'accordo - Gli acronimi sono un terribile schema di hashing.

— Sycorax dice di reintegrare Monica il

Hai cinque anni. Tutto merito a te per voler capire ESL, ma dovrai aspettare fino a quando non hai sei anni. È un libro per grandi ragazzi e ragazze.

— Nick Cox,

Un bambino di cinque anni potrebbe iniziare osservando il caso unidimensionale (p = 1). E una volta che è in mano, prendilo da lì.

— Mark L. Stone,

Se avremo ELI5 spiegato cosa dire di ESL?

— mdewey,

Sia distanza dall'origine e sia il volume dell'ipersfera dell'unità in dimensioni . Quindi il volume contenuto in un'ipersfera di raggio è $r$ $V_0[p]$ $p$ $r$

V [r] = V_{0} [p] r^{p}

$V[r]=V_0[p]r^p$

Se lasciamo denotiamo la frazione del volume contenuto in questa ipersfera e definiamo , allora $P=V[r]/V_0[p]$ $R=r^p$

P [R] = R

$P[R]=R$

Se i punti di dati sono uniformemente distribuiti all'interno della palla unitaria, poi per la formula è una funzione di distribuzione cumulativa (CDF) per . Ciò equivale a una densità di probabilità uniforme per nell'intervallo unitario, ovvero . Quindi, come suggerito da Mark Stone nei commenti, possiamo ridurre il caso dimensionale a un problema 1D equivalente. $0\leq R\leq 1$ $R$ $R$ $p[R]= P'[R] =1$ $p$

Ora se abbiamo un singolo punto , allora per definizione di un CDF abbiamo e . Se è il valore più piccolo tra punti e tutti i punti sono indipendenti, il CDF per è dato da $R$ $\Pr[R\leq \rho]=P[\rho]$ $\Pr[R\geq \rho]=1-P[\rho]$ $R_{\min}$ $n$ (questo è un risultato standard dellateoriaunivariata delvalore estremo).

Pr [R_{min} \geq ρ] = Pr [R \geq ρ]^{n} = (1 - ρ)^{n}

$\Pr[R_{\min}\geq \rho]=\Pr[R\geq \rho]^n=(1-\rho)^n$

Per definizione della mediana, abbiamo che possiamo riscrivere come

\frac{1}{2} = Pr [(R_{min})_{m e d} \geq R] = (1 - R)^{n}

$\frac{1}{2}=\Pr[(R_{\min})_{\mathrm{med}}\geq R]=(1-R)^n$

che equivale al risultato desiderato.

(1 - d^{p})^{n} = \frac{1}{2}

$(1-d^p)^n=\frac{1}{2}$

EDIT: Tentativo di risposta in stile " ELI5 ", in tre parti.

$[0,1]$ $\frac{1}{2}$
$n$ $n$
$p$ $r$ $r^p$

— GeoMatt22
fonte

Ah ah, ho dato il commento che un bambino di 5 anni potrebbe iniziare guardando il caso p = 1. Ho pensato di aggiungere un commento sul fatto che un bambino di 4 anni potrebbe non solo iniziare con il caso p = 1, ma anche n = 1. Ma ho pensato di lasciarlo capire al bambino di 5 anni.

— Mark L. Stone,

L_{2}

$L_2$

p

$p$