Genera rumore uniforme da una sfera p-norm (

Sto cercando di scrivere una funzione che genera un rumore distribuito uniformemente che proviene da una sfera di norma p di $n$ dimensioni:

| | x | |_{p} \leq r

$\begin{equation} ||x||_p \leq r \end{equation}$

Ho trovato possibili soluzioni per i cerchi ( $p = 2$ ) ( http://mathworld.wolfram.com/DiskPointPicking.html ), tuttavia ho difficoltà ad estenderlo per diversi valori di $p$ .

Ho provato a farlo semplicemente estraendo un campione casuale da una distribuzione uniforme e ridisegnando quando non soddisfa il vincolo dato. Tuttavia, oltre ad essere una brutta soluzione, diventa anche computazionalmente impossibile per dimensioni elevate.

simulation noise

— Taeke de Haan
fonte

La risposta può essere trovata qui per una sfera con n dimensioni usando la distanza euclidea (p = 2) math.stackexchange.com/questions/87230/… Tuttavia non sono ancora sicuro di come usarlo per diverse p-norme, posso cambiare semplicemente la distanza euclidea usata in una relazione diversa per la distanza?

— Taeke de Haan,

Ci sono molti documenti, ma la maggior parte sono dietro paywall: link.springer.com/article/10.1007/s00184-011-0360-x o vedi google.com/…

— kjetil b halvorsen

"Uniforme" rispetto a quale volume metrico? Dopotutto, se stai usando una

ball, perché il volume euclideo sarebbe interessante?

p

$p$

— whuber

@whuber Sinceramente non ne sono sicuro poiché questo non è chiaramente indicato nell'incarico, ma mi aspetterei in p-norm poiché qualsiasi altra metrica sembra arbitraria in questo caso.

— Taeke de Haan,

Il problema deriva da un incarico di Machine Learning; "Il problema è un problema di classificazione in due classi in 204 dimensioni. Il piccolo set di addestramento con etichetta ha una dimensione di 50 campioni per classe. I dati senza etichetta forniscono 20.000 campioni aggiuntivi. Questi campioni, tuttavia, hanno subito una corruzione di qualche tipo. solo le informazioni aggiuntive che abbiamo riguardo a questa corruzione sono che si tratta di un rumore uniforme additivo e che il rumore proviene da una sfera p-norm fissa,

, dove sia

sia il raggio

sono sconosciuti. " Devo ottenere il tasso di errore più basso sui dati senza etichetta.

| | x | |_{p} \leq r

$||x||_p \leq r$

p

$p$

r

$r$

— Taeke de Haan,

Risposte:

Ho trovato la soluzione completa in un documento come suggerito da kjetil b halvorsen ( https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=758215 ). Sinceramente ho difficoltà a capire la matematica che sta dietro, ma l'eventuale algoritmo è abbastanza semplice. se abbiamo dimensioni, un raggio e la norma di: $n$ $r$ $p$

1) genera scalari reali casuali indipendenti , dove è la distribuzione gaussiana generalizzata (con una diversa potenza nell'esponente invece di solo ) $n$ $\varepsilon_i = \bar{G}(1/p, p)$ $\bar{G}(\mu, \sigma^2)$ $e^{−|x|^p}$ $p=2$

2) costruire il vettore dei componenti , dove sono segni casuali indipendenti $x$ $s_i * \varepsilon_i$ $s_i$

$z = w^{1/n}$ $w$

$y = r z \frac{x}{||x||_p}$

— Taeke de Haan
fonte

G

$G$

È stato aggiornato

— Taeke de Haan il

e^{- | x |^{p}}

$e^{-|x|^p}$

p = 2

$p=2$

x

$\mathbf{x}$

x_{i}

$x_i$

f (x) \propto e^{- | x |_{p}^{p}}

$f(\mathbf{x}) \propto e^{-\vert \mathbf{x} \vert_p^p}$

@MartijnWeterings Grazie mille, è stato aggiornato.

— Taeke de Haan,

Grazie. Per informazioni, esiste un campionatore di questa distribuzione nel pacchetto p pgnorm .

— Stéphane Laurent,

Utilizzo di variabili multivariate distribuite omogeneamente

Taeke fornisce un collegamento a un articolo che il testo seguente rende più intuitivo spiegando in particolare i casi a 2 e 1 norma.

$\Vert x \Vert_2 \leq r$

direzione del campione

È possibile utilizzare questo risultato http://mathworld.wolfram.com/HyperspherePointPicking.html

Un multivariata gaussiana distribuito variabile (con matrice identità di covarianza) dipende solo dalla distanza, o somma dei quadrati. $X$

f (X_{1}, X_{2}, . . ., X_{n}) = \prod_{1 \leq i \leq n} \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} x_{i}^{2}} = \frac{1}{\sqrt{2 π}} e^{\frac{1}{2} \sum_{1 \leq i \leq n} x_{i}^{2}}

$f(X_1,X_2,...,X_n) = \prod_{1\leq i \leq n} \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}x_i^2} = \frac{1}{\sqrt{2\pi}}e^{\frac{1}{2}\sum_{1 \leq i \leq n} x_i^2}$

Pertanto è distribuito uniformemente sulla superficie dell'ipersfera n-dimensionale. $\frac{X}{\Vert X \Vert_2}$

distanza del campione

Per completare devi solo campionare la distanza, per cambiare la distribuzione omogenea sulla sfera in una distribuzione omogenea in una palla. (che è più o meno simile all'esempio collegato per la selezione del punto del disco)

Se campionassi semplicemente come una distribuzione uniforme, avresti una densità relativamente più alta vicino al centro (il volume si ridimensiona come quindi una frazione dei punti finirebbe in un volume , che è più denso vicino al centro e non significherebbe una distribuzione uniforme) $r$ $r^n$ $r$ $r^n$

Se invece usi l' -esima radice di una variabile campionata da una distribuzione uniforme, otterrai una distribuzione uniforme. $n$

1 norma $\Vert x \Vert_1 \leq r$

direzione

In questo caso, campionate dalla distribuzione di Laplace invece della distribuzione gaussiana e dividete per la 1-norma. Il è distribuito uniformemente sulla sfera 1 norma n-dimensionale. $X$ $\frac{X}{\vert X \vert_1}$

Non ho prove formali, solo intuizione

^{(poiché il pdf è indipendente dalla posizione, ci si aspetta che qualsiasi area / volume infinitesimale con la stessa 1-norma abbia la stessa probabilità e quando lo comprimi sulla superficie dell'unità la stessa ) $f(x) dV$ $f(x) dA$}

ma test con simulazioni sembra buono.

library(rmutil)
x <- abs(rlaplace(20000))
y <- abs(rlaplace(20000))
z <- abs(rlaplace(20000))
rn <- abs(x)+abs(y)+abs(z)

xi <- (x/rn)
yi <- (y/rn)
zi <- (z/rn)
plot(sqrt(0.5)*(xi-yi),
     sqrt((0.5-0.5*(xi+yi))^2+zi^2),
     pc=21,bg=rgb(0,0,0,0.02), col=rgb(0,0,0,0),cex=1)

distanza

La distanza è simile a quella del caso a 2 norme (il volume si ridimensiona ancora come ). $r^n$

p-norm $\Vert x \Vert_p \leq r$

In questo caso, se si desidera seguire lo stesso principio, è necessario campionare le distribuzioni con (ipotizzo). Queste sono distribuzioni normali generalizzate e probabilmente si riferiscono alla distribuzione menzionata da Taeke. $f(x) \propto e^{\vert x \vert^p}$ $G()$

— Sesto Empirico
fonte

Potresti approfondire come concludere che i vettori di unità sono distribuiti uniformemente? BTW, credo che si vuole prendere il esima radice.

p

$p$

— whuber

Grazie per il vostro aiuto, ho trovato la soluzione completa qui: ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=758215 ). Sinceramente ho difficoltà a capire la matematica che sta dietro, ma l'eventuale algoritmo è abbastanza semplice. se abbiamo dimensioni, un raggio norma di: 1) generiamo n scalari reali casuali indipendenti E_i = G (1 / p, p) 2) costruiscono il vettore x dei componenti s_i * E_i, dove E_i sono segni casuali indipendenti 3) Genera , dove è una variabile casuale distribuita uniformemente nell'intervallo [0, 1]. 4) return

n

$n$

r

$r$

p

$p$

z = w^{1 / n}

$z = w^{1/n}$

w

$w$

y = r z \frac{x}{| | x | |_{p}}

$y = r z \frac{x}{||x||_p}$

— Taeke de Haan

Genera rumore uniforme da una sfera p-norm (

Utilizzo di variabili multivariate distribuite omogeneamente

∥x∥2≤r‖x‖2≤r\Vert x \Vert_2 \leq r

direzione del campione

distanza del campione

1 norma∥x∥1≤r‖x‖1≤r\Vert x \Vert_1 \leq r

direzione

distanza

p-norm∥x∥p≤r‖x‖p≤r\Vert x \Vert_p \leq r

$\Vert x \Vert_2 \leq r$

1 norma $\Vert x \Vert_1 \leq r$

p-norm $\Vert x \Vert_p \leq r$