Cosa si intende per "rumore di Laplace"?

Attualmente sto scrivendo un algoritmo per la privacy differenziale usando il meccanismo di Laplace.

Sfortunatamente non ho un background in statistica, quindi molti termini mi sono sconosciuti. Quindi ora sto inciampando sul termine: rumore di Laplace . Per rendere un differenziale del set di dati privato tutti i documenti, basta parlare dell'aggiunta del rumore di Laplace in base alla distribuzione di Laplace ai valori della funzione.

$k(X) = f(X) + Y(X)$

(k è il valore privato differenziale, f il valore restituito dalla funzione di valutazione e Y il rumore di Laplace)

Questo significa che creo variabili casuali dalla distribuzione di Laplace secondo questa funzione che ho da Wikipedia https://en.wikipedia.org/wiki/Laplace_distribution ?

$Y = μ − b\ \text{sgn}(U) \ln ⁡ ( 1 − 2 | U | )$

AGGIORNAMENTO: ho tracciato fino a 100 variabili casuali tratte dalla funzione sopra, ma questo non mi dà una distribuzione di Laplace (nemmeno vicino). Ma penso che dovrebbe modellare una distribuzione di Laplace.

UPDATE2:

Queste sono le definizioni che ho:

(Il meccanismo di Laplace). Data qualsiasi funzione , il meccanismo di Laplace è definito come: dove Y sono le variabili casuali tratte da$f:N^{|X|}→R^k$$M_L(x, f(·),\epsilon)=f(x)+(Y_1,...,Y_k)$$Lap(∆f/\epsilon)$

Così come:

Per generare Y (X), una scelta comune è quella di utilizzare una distribuzione di Laplace con media zero e parametro scala Δ (f) / ε

Hai ragione, aggiungere rumore di Laplace significa che alla tua variabile aggiungi la variabile che segue la distribuzione di Laplace . Ci sono molte ragioni per cui si chiama rumore . Innanzitutto, pensa all'elaborazione del segnale, in cui il messaggio viene inviato su alcuni canali e, a causa della natura imperfetta del canale, il segnale ricevuto è rumoroso, quindi devi isolare il segnale dal rumore. In secondo luogo, nella crittografia si parla anche di rumore pseudocasuale e la privacy differenziale è correlata alla crittografia. In terzo luogo, nelle statistiche e nell'apprendimento automatico possiamo anche parlare di rumore statistico , i modelli statistici includono termini di rumore o errore ecc. (C'è anche un libro sui nomi delle previsioni$X$$Y$Signal and the noise di Nate Silver). Quindi usiamo il rumore come sinonimo più preciso di casualità ambigua .

Per quanto riguarda la generazione casuale, esistono diversi modi per disegnare valori casuali dopo la distribuzione di Laplace, ad esempio:

1. Il metodo di trasformazione inversa descritto su Wikipedia:

f <- function(n) {
   u <- runif(n, -0.5, 0.5)
   sign(u)*log(1-2*abs(u))
}

2. Se e sono variabili casuali indipendenti che seguono la distribuzione esponenziale, allora segue la distribuzione di Laplace :$U$$V$$Y = U-V$

g <- function(n) { rexp(n)-rexp(n) }

3. Se segue la distribuzione di Laplace, allorasegue la distribuzione esponenziale , quindi:$Y$$|Y|$

h <- function(n) { rexp(n)*sample(c(-1,1), n, replace = TRUE) }

Sui grafici seguenti è possibile vedere la distribuzione di campioni disegnati usando ciascuna delle funzioni con la densità di Laplace di accompagnamento (linea rossa).$10^{5}$

Per semplificare gli esempi, utilizzo la distribuzione standard di Laplace con scale = 1, ma è possibile modificare facilmente i risultati moltiplicando i risultati utilizzando un fattore di ridimensionamento diverso.

La Laplace o doppia distribuzione esponenziale cade esponenzialmente a sinistra e a destra attorno a una media. Fondamentalmente è l'esponenziale rispecchiato dall'altra parte.

• Se si desidera la probabilità, utilizzare la probabilità dell'esponenziale e aggiungere un abs () al valore osservato. La probabilità logaritmica è semplicemente abs () dei residui, moltiplicato per il tasso dell'esponenziale.

• Per campionare, il più semplice è disegnare da -1,1 e moltiplicare con un disegno dalla distribuzione esponenziale, che è disponibile nella maggior parte dei linguaggi di programmazione. In alternativa, come notato sopra, troverai anche implementazioni dirette di Laplace, ma potrebbe richiedere un po 'più di ricerca.