Migliorare la digitalizzazione aggiungendo rumore bianco prima del sovracampionamento

8

Stavo leggendo un libro di fisica e diceva che durante la digitalizzazione di un segnale veniva aggiunto un rumore bianco per migliorare il processo. Non capisco come funzioni. Pertanto la mia domanda è:

Quando si digitalizza un segnale analogico, in che modo l'aggiunta di rumore può essere utile se combinata con il sovracampionamento nel tempo?

noise digitize dithering

— SiberianSloth
fonte

Stai parlando di dithering? Vedi en.wikipedia.org/wiki/Dither per ulteriori informazioni.

@DavidZ Se questo è fuori tema, perché ci sono già così tante risposte? Diverse persone hanno detto nel meta che a loro piace tenere domande di matematica fintanto che sono rilevanti per la fisica. Perché quel processo di pensiero dovrebbe differire per altri argomenti?

— DanielSank,

@DanielSank perché una domanda fuori tema non impedisce alle persone di rispondere. Se ritieni che le domande sull'elaborazione del segnale debbano essere in tema e ritieni che la community sia d'accordo con te, portalo a meta e pubblica un post proponendo tale modifica all'ambito del sito.

— David Z,

Gli sperimentatori devono affrontare in una certa misura i capricci del campionamento digitale. Non sono esattamente d'accordo con lo spostamento di una domanda da un sito laureato (scambio fisico di stack) a un sito beta (questo sito), ma ciò che è fatto è fatto. Speriamo che questa migrazione attiri l'attenzione di persone con maggiori conoscenze. La mia conoscenza riguardo ai segnali puliti è pre-millenaria. L'ultima volta che ho dovuto lavorare con segnali del mondo reale non avevo solo un problema segnale-rumore basso. Ho avuto un problema di rumore-segnale eccessivamente unitario. Affrontarlo è stato piuttosto divertente (in senso masochistico).

— David Hammen,

4

L'aggiunta di rumore non correlato (cioè bianco) a un segnale analogico prima della digitalizzazione si chiama dithering . Per capire perché dovremmo farlo, dobbiamo capire l'idea del rumore di quantizzazione . Si consideri un sistema analogico che ha segnali che variano in ampiezza da 0 a 100. Supponiamo di digitalizzare questo segnale con un digitalizzatore i cui livelli digitali sono distanziati di 1. In altre parole, i possibili livelli digitalizzati sono

{- 100, - 99, - 98 \dots 99, 100} .

$\left\{ -100, -99, -98 \ldots 99, 100 \right\} \, .$

Supponiamo ora che il segnale analogico sia un segnale DC del valore 0,8, in altre parole $s(t)$

s (t) = 0.8 .

$s(t) = 0.8 \, .$

Se lo inseriamo nel digitalizzatore, il digitalizzatore lo arrotonderà a 1 e lo saranno i nostri campioni digitali $s_n$

s_{n} = 1 .

$s_n = 1\,.$

Questo non va bene perché ora il nostro segnale digitale accumula errori man mano che acquisiamo più segnale. Il livello digitalizzato è sempre troppo alto, quindi più a lungo calcoliamo la media del segnale e più sopravvalutiamo il livello analogico.

L'aggiunta di rumore bianco aiuta a risolvere questo problema perché sposta il livello analogico in modo tale da attraversare i livelli di digitalizzazione vicini. Pertanto, quando si esegue la media su un set di valori digitalizzati, si ottiene effettivamente qualcosa che è vicino al vero livello analogico. Vediamo questo tramite un esempio.

Supponiamo che il rumore che aggiungiamo sia gaussiano distribuito con . Quindi la distribuzione del segnale analogico è $\sigma=2$

p (x) \propto \exp [\frac{- (x - s (t))^{2}}{2 σ^{2}}] = \exp [\frac{- (x - 0.8)^{2}}{8}] .

$p(x) \propto \exp \left[ \frac{-(x - s(t))^2}{2\sigma^2} \right] = \exp \left[ \frac{-(x-0.8)^2}{8} \right] \, .$

Ora calcoliamo il valore digitale medio calcolando la media di sugli interi. La costante di normalizzazione per la distribuzione è e quindi abbiamo questo modo puoi vedere che l'aggiunta del rumore bianco ha fatto sì che il segnale digitalizzato medio corrispondesse più da vicino al vero valore analogico. $\langle s_n \rangle$ $p(x)$

N = \sum_{m = - 100}^{100} \exp [\frac{- (m - 0.8)^{2}}{8}]

$N = \sum_{m=-100}^{100} \exp \left[ \frac{-(m-0.8)^2}{8} \right]$

⟨ s_{n} ⟩ = \frac{1}{N} \sum_{m = - 100}^{100} m \exp [\frac{- (m - 0.8)^{2}}{8}] = 0.79999 \dots

$\langle s_n \rangle = \frac{1}{N} \sum_{m=-100}^{100} m \exp\left[ \frac{-(m-0.8)^2}{8}\right] = 0.79999\ldots$

Naturalmente, l'aggiunta del rumore peggiora il rapporto segnale-rumore. Ciò significa che per avere effettivamente un'alta probabilità di misurare il abbiamo appena calcolato, devi prendere più campioni di quanto pensi nel caso silenzioso. Questo è il motivo per cui si sente parlare contemporaneamente di sovracampionamento e dithering. Poiché il rumore di dithering è veramente non correlato, fare più campioni aiuta sempre a migliorare il rapporto segnale rumore, anche se si sta campionando molto al di sopra della larghezza di banda del segnale analogico in ingresso. $\langle s_n\rangle$

— DanielSank
fonte

2

Il dithering (aggiunta intenzionale di rumore) il segnale di ingresso combinato con il sovracampionamento può (nessuna garanzia!) Migliorare il numero effettivo di bit nel segnale e aumentare il rapporto segnale-rumore.

Supponendo che il processo sottostante sia un processo di rumore bianco, il segnale digitalizzato apparirà comunque come rumore bianco se il livello di quantizzazione è ben inserito nel rumore. Questa è generalmente una buona cosa. Il rumore bianco ha proprietà matematiche piuttosto piacevoli. Affrontare il rumore di quantizzazione non lineare e dipendente dal segnale è difficile. Quel rumore di quantizzazione può generalmente essere ignorato se il livello di quantizzazione è ben inserito nel rumore.

Che cosa succede se il livello di quantizzazione non si adatta bene al rumore? Ora hai un disordinato rumore di quantizzazione da affrontare. Un modo per gestirlo è utilizzare un ADC a risoluzione più elevata e rendere la quantizzazione ben rumorosa. Un'alternativa è aggiungere intenzionalmente rumore bianco al segnale di ingresso in modo da rendere piccolo il rumore di quantizzazione del vostro ADC economico rispetto al rumore del segnale (retinato).

L'idea di base è di controllare il segnale di input in modo che il rumore nel segnale di dithering domini sul rumore di quantizzazione (ma ovviamente non troppo). Il segnale retinato viene intenzionalmente sovracampionato e quindi ricampionato mediando due o più misurazioni successive. Questa media acquista qualcosa solo se il segnale di ingresso è rumoroso rispetto al rumore di quantizzazione. Il rumore di quantizzazione medio si presenta come rumore di quantizzazione. La media del rumore bianco consente al segnale di fuoriuscire dal rumore.

Per di più, leggi il tutorial di Walt Kester Aspetti positivi, negativi e brutti di ADC Input Noise: No Noise Good Noise? .

— David Hammen
fonte

@DanielSank Se avesse specificamente chiesto del rumore bianco, dare una risposta sul rumore di quantizzazione non risponderebbe alla domanda che gli veniva posta.

— The Photon,

@ThePhoton: Ack! Quello era un errore di battitura. Ha chiesto la densità spettrale del rumore di quantizzazione . Ugh, e ora non posso modificare il commento.

— DanielSank,

1

Ripubblicazione del commento con correzione: il fatto che il rumore di quantizzazione non sia additivo mi ha messo nei guai in un colloquio di lavoro. Il ragazzo ha chiesto "qual è la densità spettrale del rumore di quantizzazione"? Ho spiegato che in realtà non ha una densità spettrale e ho provato a mostrargli il perché, ma non ha capito. Penso che volesse solo la risposta predefinita per il caso in cui si presume che i livelli digitali siano già nel rumore analogico (come menzionato nella risposta) nel qual caso il rumore di digitalizzazione è bianco, come dici tu.

— DanielSank,

2

Sì, l'aggiunta di rumore non correlato a un segnale, quindi la media di più campioni, è un modo per gestire il rumore di quantizzazione.

Per renderlo ovvio, pensa al caso limite. Vuoi misurare il valore di un segnale tra 0 e 1, ma tutto ciò che hai è un A / D a 1 bit. L'uscita A / D è 0 quando il segnale è compreso tra 0 e 0,5 e 1 quando il segnale è compreso tra 0,5 e 1.

Ora considera un segnale che è .3. Con un bel pulito di 0,3 pollici, l'A / D produrrà sempre 0. Ad esempio, non è possibile distinguere tra un segnale di ingresso di 0,1, 0,25, 0,3, ecc.

Ora aggiungi un rumore casuale di ± .5. Il segnale visto dall'A / D sarà ora da qualche parte da -.2 a .8. Un'uscita 0 ha una probabilità di .7 e un'uscita 1 di .3. Qualunque lettura non ti dirà molto (diversamente da prima quando ti diceva che il segnale era da 0 a 0,5), ma dopo un sacco di letture ti viene una ragionevole idea del segnale. Ad esempio, se si prendono 100 letture, circa 30 saranno 1 e 70 saranno 0. Non vi è alcuna garanzia, ma più letture si fa nella media, maggiore è la sicurezza che il risultato medio rappresenti il segnale.

Quindi il dithering è un mezzo per scambiare certezza e larghezza di banda per ottenere una soluzione. Nota che non importa quante letture prendi, non sai che il segnale è entro un certo limite, solo che la probabilità che sia all'interno di un determinato limite è alta. Si noti inoltre che si è persa la larghezza di banda poiché sono necessari molti campioni per ottenere un valore di segnale. Tuttavia, in molti casi si tratta di utili compromessi.

2

Le risposte di cui sopra, il dithering, sono giuste, ma vorrei sottolineare esplicitamente che stai scambiando esplicitamente la risoluzione per tempo. Un compromesso tra tempo e precisione. Il caso più drammatico sono i convertitori delta-sigma. Hanno (bene ci sono probabilmente delle eccezioni) 1 bit di precisione ma overcloccando la conversione sono in grado di estrarre 24 bit, o giù di lì, di risoluzione. In questo caso aggirano il compromesso overclockando (molto).

Naturalmente molte altre tecniche sono utilizzate nei convertitori reali; ma si applica il principio.

— rrogers
fonte

0

Molto tempo fa (fine anni '80), avevamo bisogno della capacità di creare uno spettro di energia delle radiazioni in entrata come parte di una gamma camera utilizzata nella medicina nucleare. Ciò richiedeva un ADC veloce con un'eccellente linearità differenziale (in pratica, ogni "bin" dell'ADC deve avere esattamente la stessa larghezza o il segnale analogico, che viene continuamente distribuito, ti darà un "bump" in un bidone che è un po ' un po 'troppo largo - e questo potrebbe apparire come un picco spettrale).

La soluzione era un'interessante variante del dithering: avevamo un piccolo DAC e un contatore e lo usavamo per aggiungere una quantità nota di segnale all'ingresso. Il segnale di somma è stato quindi digitalizzato usando un ADC veloce con (relativamente) scarsa linearità differenziale e il valore del DAC è stato nuovamente sottratto dopo la conversione; successivamente, il contatore (input per il DAC) è stato incrementato di 1 (con overflow ripristinandolo a zero). Il risultato fu che una tensione dello stesso valore sarebbe stata convertita in uno dei molti contenitori, riducendo in effetti la non linearità differenziale dell'ADC in base alle dimensioni del contatore DAC.

Potresti fare la stessa cosa con un rumore casuale, ma se non sai quale rumore stai aggiungendo, stai ovviamente degradando il tuo segnale. Quando il rumore ha all'incirca le dimensioni di un singolo bin nell'ADC e puoi eseguire più misurazioni, questo ti aiuterà a stimare un segnale migliore della risoluzione dell'ADC, supponendo che ti possa fidare della linearità differenziale. Ma aggiungendo un segnale "casuale" noto (anche se abbiamo usato un contatore, era "casuale nel tempo" quale valore sarebbe accaduto essere presente per una particolare conversione) e tener conto del suo valore consente una precisione ancora maggiore.

— Floris
fonte