Capacità del canale AWGN

Sono confuso nel comprendere i concetti di base della comunicazione sui canali AWGN. So che la capacità di un canale AWGN a tempo discreto è:

C = \frac{1}{2} \log_{2} (1 + \frac{S}{N})

$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$ e si ottiene quando il segnale di ingresso ha distribuzione gaussiana. Ma cosa significa che il segnale di ingresso è gaussiano? Significa che l'ampiezza di ogni simbolo di una parola in codice deve essere presa da un insieme gaussiano? Qual è la differenza tra l'uso di un libro di codici speciale (in questo caso gaussiano) e la modulazione del segnale con segnalazione M-ary, diciamo MPSK?

digital-communications gaussian information-theory

— mah
fonte

Risposte:

Supponendo un canale il cui input in ogni momento è una variabile casuale continua $X$ e il suo output è $Y=X+Z$ , dove $Z\sim\mathcal{N}(0,N)$ e $Z$ è indipendente da $X$ , poi

C_{CI-AWGN} = \frac{1}{2} \log_{2} (1 + \frac{P}{N})

$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$ è la capacità del canale di ingresso continuo sotto il vincolo di potenza

E X^{2} \leq P

$\mathsf{E}X^2\le P$ L'informazione reciproca

I (X; Y)

$I(X;Y)$ è ingrandito (ed è uguale a

C_{CI-AWGN}

$C_{\text{CI-AWGN}}$ ) quando

X \sim N (0, P)

$X\sim\mathcal{N}(0,P)$ .

Questo significa che se $X$ è una variabile casuale gaussiana continua con la varianza data, quindi l'output ha la massima informazione reciproca possibile con l'input. Questo è tutto!

Quando la variabile di input $X$ è discretizzato (quantizzato), è necessaria una nuova formulazione. In effetti, le cose possono facilmente diventare difficili. Per vederlo un po ', si può considerare il semplice caso di una discretizzazione molto grossolana di $X$ dove può avere solo due valori. Quindi supponiamo che $X$ è selezionato da un alfabeto binario, ad esempio let $X\in\{\pm1\}$ (o una versione ridimensionata per soddisfare un vincolo di potenza). In termini di modulazione, è identico a BPSK.

Si scopre che la capacità (anche in questo semplice caso) non ha forma chiusa. Riporto da "Modern Coding Theory" di Richardson e Urbanke:

\begin{aligned} C & _{BI-AWGN} = 1 + \\ \frac{1}{\ln (2)} ((\frac{2}{N} - 1) Q (\frac{1}{\sqrt{N}}) - \sqrt{\frac{2}{π N}} e^{- \frac{1}{2 N}} + \sum_{i = 1}^{\infty} \frac{(- 1)^{i}}{i (i + 1)} e^{\frac{2 i (i + 1)}{N}} Q (\frac{1 + 2 i}{\sqrt{N}})) \end{aligned}

$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$ Un confronto tra i due casi può essere visto nella figura seguente:

— msm
fonte

Cosa faresti se vuoi avvicinarti alla capacità? utilizzando uno schema PSK di ordine superiore?

— Mah,

@msm Ho sempre creduto che FEC fosse un concetto generale che includeva H-ARQ, o H-ARQ è un trucco per ridurre la lunghezza della parola in codice per trasmissione, cioè per ridurre la complessità della decodifica, con il costo di un tempo di trasmissione totale più lungo, non è vero?

— AlexTP,

@msm Per favore, smetti di cancellare i tuoi vecchi e preziosi post!

— Peter K.

@msm Quando ti sei registrato a SP.SE, hai concesso al sito una licenza irrevocabile per utilizzare il contenuto. Si prega di interrompere l'eliminazione del contenuto prezioso.

— Peter K.

La formula della capacità

\begin{matrix} (1) & C = 0.5 \log (1 + \frac{S}{N}) \end{matrix}

$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$ è per canale temporale discreto.

Supponendo di avere una sequenza di dati $\left\lbrace a_n \right\rbrace$ per inviare, è necessario un set di forme d'onda ortonormali $\left\lbrace \phi_n(t) \right\rbrace$ per la modulazione. Nella modulazione lineare, a cui appartiene la modulazione M-ary, $\phi_n(t) = \phi(t - nT)$ dove $T$ è la durata del simbolo e $\phi(t)$ è una forma d'onda prototipo in modo che il segnale TX a tempo continuo in banda base diventi

\begin{matrix} (2) & x (t) = \sum_{n} a_{n} ϕ (t - n T) \end{matrix}

$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$

Le modulazioni tipiche usano questo caso speciale $\left\lbrace \phi_n(t) \right\rbrace$ soddisfa il criterio ISI di Nyquist con filtro abbinato da recuperare $a_n$ . Un ben noto $\phi(t)$ è il coseno sollevato dalla radice .

Il canale AWGN continuo è un modello che

\begin{matrix} (3) & y (t) = x (t) + n (t) \end{matrix}

$y(t) = x(t) + n(t) \tag{3}$

dove $n(t)$ è un processo stocastico bianco gaussiano.

Da (2), possiamo vederlo $a_n$ è la proiezione di $x(t)$ su $\left\lbrace \phi_n(t) \right\rbrace$ . Fai la stessa cosa con $n(t)$ , le proiezioni di $n(t)$ su un insieme ortonormale è una sequenza di variabili casuali iid gaussiane $w_n = \langle n(t),\phi_n(t) \rangle$ (Lo penso davvero $n(t)$ è definito dalle sue proiezioni); e chiama $y_n = \langle y(t),\phi_n(t) \rangle$ . Voilà, abbiamo un modello temporale discreto equivalente

\begin{matrix} (4) & y_{n} = a_{n} + w_{n} \end{matrix}

$y_n = a_n + w_n \tag{4}$

La formula (1) è indicata per $S$ e $N$ sono energia (varianza se $a_n$ e $w_n$ sono zero media) di $a_n$ e $w_n$ , rispettivamente. Se $a_n$ e $w_n$ sono gaussiani, così è $y_n$ e la capacità è massimizzata. (Posso aggiungere una semplice prova se vuoi).

cosa significa che il segnale di ingresso è gaussiano? Significa che l'ampiezza di ogni simbolo di una parola in codice deve essere presa da un insieme gaussiano?

Significa variabili casuali $a_n$ sono gaussiani.

Qual è la differenza tra l'uso di un libro di codici speciale (in questo caso gaussiano) e la modulazione del segnale con segnalazione M-ary, diciamo MPSK?

La forma d'onda $\phi_n(t)$ set deve essere ortonormale, il che è vero per M-PSK, quindi $w_n$ è gaussiano.

Aggiornamento comunque $a_n$ è quantizzato, quindi in generale, non è più gaussiano. Ci sono alcune ricerche su questo argomento, come l'uso di Lattice Gaussian Coding (link) .

— AlexTP
fonte

@msm intendevo il canale "tempo discreto". Sì, queste variabili casuali sono continue, il loro supporto è continuo. Ho parlato di tempo continuo e tempo discreto perché l'autore ha chiesto la modulazione.

— AlexTP,

@msm my (3) è continuo e (4) è l'equivalente discreto. Fisicamente in scala non quantistica, siamo in (3). Per analizzare, usiamo (4). Stiamo solo parlando di due cose diverse, suppongo. Ho modificato la mia risposta per utilizzare la terminologia corretta.

— AlexTP,

@msm ha visto la tua risposta e ho scoperto che avevo frainteso ciò che l'autore della domanda voleva porre sulla modulazione e cosa mi stai dicendo. Ho aggiornato la mia risposta per evitare la parte fuorviante. Grazie.

— AlexTP,

"Penso davvero che n (t) sia definito dalle sue proiezioni" - Il problema è che il rumore bianco ha dimensioni infinite. Ciò che è interessante è che, per il problema del recupero

a_{n}

$a_n$ , solo la proiezione

ϕ_{n} (t)

$\phi_n(t)$ è rilevante - tutte le altre infinite possibili proiezioni non aiutano. Vedi il "teorema dell'irrilevanza".

— MBaz,

@MBaz sì, sono d'accordo. Il teorema di irrilevanza e il teorema del campionamento sono la coppia per stabilire un modello di canale temporale discreto di base. La parte ortogonale è non correlata, quindi indipendente sotto l'ipotesi gaussiana. Tuttavia, penso che non modificherei la mia risposta perché questo materiale di proiezione non è direttamente correlato alla domanda. Grazie per averlo chiarito.

— AlexTP,

Dire che il segnale di ingresso ha una distribuzione gaussiana significa che è distribuito come una variabile casuale gaussiana. In pratica, ci si basa sulla codifica su più istanze del canale (nel tempo) invece di fare affidamento su una distribuzione di input gaussiana. C'è una bella teoria piena di prove che va oltre lo scopo di questa risposta (Teoria dell'Informazione). I codici di controllo degli errori (o codici di canale) in genere si basano sull'uso delle modulazioni QAM / PSK familiari, ma attraverso la ridondanza del codice e gli usi di più canali, possono avvicinarsi (sebbene non raggiungano del tutto) la capacità del canale. Di seguito viene fornito uno schizzo del ragionamento (senza dettagli completi).

La definizione di capacità del canale è

C = sup_{p_{X} (x)} I (X; Y)

$C = \sup_{p_X(x)} I(X; Y)$ dove

X

$X$ può essere liberamente definito come variabile casuale di input e

Y

$Y$ può essere liberamente definito come variabile casuale di output e

I (\cdot, \cdot)

$I(\cdot,\cdot)$ sono le informazioni reciproche di

X

$X$ e

Y

$Y$ . Questa definizione ci impone di cercare su tutte le possibili distribuzioni dell'input

p_{X} (x)

$p_X(x)$ per le distribuzioni che massimizzano le informazioni reciproche. Il canale AWGN discreto ha una relazione di input / output definita come

Y = X + Z

$Y = X + Z$ dove

Z

$Z$ è una media gaussiana con varianza zero

σ_{Z}^{2}

$\sigma_Z^2$ (notare che

σ_{Z}^{2} = N

$\sigma_Z^2=N$ e

σ_{X}^{2} = S

$\sigma_X^2=S$ nella tua notazione). Non ho tempo di fornire tutti i dettagli in questo momento. Tuttavia, qualsiasi libro sulla teoria dell'informazione può guidarti attraverso la prova che dimostra che se

X

$X$ viene distribuito come gaussiano allora

I (X; Y)

$I(X;Y)$ (le informazioni reciproche di

X

$X$ e

Y

$Y$ ) è ingrandito. Ad esempio, vedi Elements of Information Theory di Thomas Cover. Se non l'hai ancora letto, il trattato originale di Shannon A Mathematical Theory of Communication è una lettura utile con un chiaro ragionamento in tutto.

— luppolo
fonte

Nessun motivo dato per il voto negativo?

— salta