"Stima della densità del kernel" è una convoluzione di cosa?

Sto cercando di comprendere meglio la stima della densità del kernel.

Utilizzando la definizione da Wikipedia: https://en.wikipedia.org/wiki/Kernel_density_estimation#Definition

$\hat{f_h}(x) = \frac{1}{n}\sum_{i=1}^n K_h (x - x_i) \quad = \frac{1}{nh} \sum_{i=1}^n K\Big(\frac{x-x_i}{h}\Big)$

Prendiamo come una funzione rettangolare che dà 1 se x è compreso tra -0,5 e 0,5 e 0 altrimenti, e h (dimensione della finestra) deve essere 1.1 x - 0,5 0,5 0 $K()$$1$$x$$-0.5$$0.5$$0$$h$

Capisco che la densità è una convoluzione di due funzioni, ma non sono sicuro di sapere come definire queste due funzioni. Uno di questi dovrebbe (probabilmente) essere una funzione dei dati che, per ogni punto in R, ci dice quanti punti dati abbiamo in quella posizione (principalmente $0$ ). E l'altra funzione dovrebbe probabilmente essere una modifica della funzione del kernel, combinata con la dimensione della finestra. Ma non sono sicuro di come definirlo.

Eventuali suggerimenti?

Bellow è un esempio di codice R che (sospetto) replica le impostazioni che ho definito sopra (con una combinazione di due gaussiani e $n=100$ ), su cui spero di vedere una "prova" che le funzioni da contorto sono come sospettiamo .

# example code:
set.seed(2346639)
x <- c(rnorm(50), rnorm(50,2))
plot(density(x, kernel='rectangular', width=1, n = 10**4))
rug(x)

Corrispondente a qualsiasi batch di dati è la sua "funzione di densità empirica"$X = (x_1, x_2, \ldots, x_n)$

$$f_X(x) = \frac{1}{n}\sum_{i=1}^{n} \delta(x-x_i).$$

Qui, è una "funzione generalizzata". Nonostante quel nome, non è affatto una funzione: è un nuovo oggetto matematico che può essere utilizzato solo all'interno degli integrali. La sua proprietà determinante è che per qualsiasi funzione di supporto compatto che è continua in un quartiere di ,$\delta$$g$$0$

$$\int_{\mathbb{R}}\delta(x) g(x) dx = g(0).$$

(I nomi per includono la misura "atomica" o "punto" e " Funzione delta di Dirac ." Nel calcolo seguente questo concetto è esteso per includere le funzioni che sono continue da un solo lato.)$\delta$g$g$

Giustificare questa caratterizzazione di è l'osservazione che$f_X$

$$\eqalign{ \int_{-\infty}^{x} f_X(y) dy &= \int_{-\infty}^{x} \frac{1}{n}\sum_{i=1}^{n} \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} \int_{-\infty}^{x} \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} \int_{\mathbb{R}} I(y\le x) \delta(y-x_i)dy \\ &= \frac{1}{n}\sum_{i=1}^{n} I(x_i \le x) \\ &= F_X(x) }$$

dove è il solito CDF empirico e è la solita funzione caratteristica (uguale a dove il suo argomento è vero e altrimenti). (Salto un argomento di limitazione elementare necessario per passare da funzioni di supporto compatto a funzioni definite su ; poiché solo bisogno di essere definito per valori all'interno dell'intervallo di , che è compatto, questo non è un problema.)$F_X$$I$$1$$0$$\mathbb{R}$$I$$X$

La convoluzione di con qualsiasi altra funzione è data, per definizione, come$f_X(x)$$k$

$$\eqalign{ (f_X * k)(x) &= \int_{\mathbb{R}} f_X(x - y) k(y) dy \\ &=\int_{\mathbb{R}} \frac{1}{n}\sum_{i=1}^{n} \delta(x-y-x_i) k(y) dy \\ &= \frac{1}{n}\sum_{i=1}^{n}\int_{\mathbb{R}} \delta(x-y-x_i) k(y) dy \\ &=\frac{1}{n}\sum_{i=1}^{n} k(x_i-x). }$$

Lasciando (che è lo stesso di per i kernel simmetrici - e la maggior parte dei kernel sono simmetrici) otteniamo il risultato dichiarato: la formula di Wikipedia è una convoluzione.$k(x) = K_h(-x)$$K_h(x)$