加法性白色ガウスノイズ

Basic noise model used in information theory

加法性白色ガウス雑音（AWGN ）は、情報理論において自然界で起こる多くのランダムプロセスの影響を模倣するために使用される基本的なノイズモデルです。修飾子は特定の特性を表します。

• 情報システムに固有の可能性のあるノイズに追加されるため、付加的です。
• 白とは、情報システムの周波数帯域全体にわたって均一なパワースペクトル密度を持つという概念を指します。これは、可視スペクトルのあらゆる周波数において均一な放射によって実現される白色に似ています。
• ガウス分布は、時間領域で正規分布し、平均時間領域値がゼロであるためです(ガウス過程)。

広帯域ノイズは、導体中の原子の熱振動（熱ノイズまたはジョンソン・ナイキストノイズと呼ばれる）、ショットノイズ、地球などの高温物体からの黒体放射、太陽などの天体源など、多くの自然ノイズ源から発生します。確率論の中心極限定理によれば、多くのランダムプロセスの総和は、ガウス分布または正規分布と呼ばれる分布を示す傾向があります。

AWGNは、通信への唯一の障害が、一定のスペクトル密度（帯域幅1ヘルツあたりのワット数で表される）と振幅のガウス分布を持つ広帯域ノイズまたは白色ノイズの線形加算のみであるチャネルモデルとしてよく使用されます。このモデルは、フェージング、周波数選択性、干渉、非線形性、分散を考慮していません。しかし、AWGNは、これらの他の現象を考慮する前に、システムの根本的な動作を理解するのに役立つ、シンプルで扱いやすい数学モデルを生成します。

AWGNチャネルは、多くの衛星通信リンクや深宇宙通信リンクに適したモデルです。しかし、マルチパス、地形ブロッキング、干渉などの影響により、ほとんどの地上リンクには適していません。しかしながら、地上パスモデリングにおいては、AWGNは、現代の無線システムが地上運用で遭遇するマルチパス、地形ブロッキング、干渉、地上クラッター、自己干渉に加えて、対象チャネルの背景ノイズをシミュレートするために広く使用されています。

チャネル容量

AWGNチャネルは、離散時間イベントインデックスにおける一連の出力によって表されます。は入力とノイズの和です。ここで、は独立かつ同一分布に従うものであり、分散（ノイズ）を持つゼロ平均正規分布から抽出されます。さらに、はと相関がないものと仮定されます。 ${\displaystyle Y_{i}}$ ${\displaystyle i}$ ${\displaystyle Y_{i}}$ ${\displaystyle X_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle N}$ ${\displaystyle Z_{i}}$ ${\displaystyle X_{i}}$

${\displaystyle Z_{i}\sim {\mathcal {N}}(0,N)\,\!}$

${\displaystyle Y_{i}=X_{i}+Z_{i}.\,\!}$

通信路の容量は、ノイズがゼロでない限り無限大であり、かつ十分に制約されている。入力に対する最も一般的な制約は、いわゆる「電力」制約であり、通信路を介して伝送される符号語に対して、以下の式が成り立つことを要求している。 ${\displaystyle N}$ ${\displaystyle X_{i}}$ ${\displaystyle (x_{1},x_{2},\dots ,x_{k})}$

${\displaystyle {\frac {1}{k}}\sum _{i=1}^{k}x_{i}^{2}\leq P,}$

ここで、最大チャネル電力を表す。したがって、電力制限チャネルのチャネル容量は次のように表される。 ^{[説明が必要]} ${\displaystyle P}$

${\displaystyle C=\max \left\{I(X;Y):f{\text{ s.t. }}E\left(X^{2}\right)\leq P\right\}\,\!}$

ここで はの分布です。 を展開し、これを微分エントロピーの観点から書き表すと、次のようになります。 ${\displaystyle f}$ ${\displaystyle X}$ ${\displaystyle I(X;Y)}$

${\displaystyle {\begin{aligned}&I(X;Y)=h(Y)-h(Y\mid X)\\[5pt]={}&h(Y)-h(X+Z\mid X)\\[5pt]={}&h(Y)-h(Z\mid X)\end{aligned}}\,\!}$

しかし、とは独立しているので、次のようになります。 ${\displaystyle X}$ ${\displaystyle Z}$

${\displaystyle I(X;Y)=h(Y)-h(Z)\,\!}$

ガウス分布の微分エントロピーを評価すると次のようになります。

${\displaystyle h(Z)={\frac {1}{2}}\log(2\pi eN)\,\!}$

とは独立しており、それらの和は次のようになる。 ${\displaystyle X}$ ${\displaystyle Z}$ ${\displaystyle Y}$

${\displaystyle E(Y^{2})=E((X+Z)^{2})=E(X^{2})+2E(X)E(Z)+E(Z^{2})\leq P+N\,\!}$

この境界から、微分エントロピーの性質から次のことが推測される。

${\displaystyle h(Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))\,\!}$

したがって、チャネル容量は相互情報量の達成可能な最高限界によって与えられる。

${\displaystyle I(X;Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))-{\frac {1}{2}}\log(2\pi eN)\,\!}$

が最大化されるのは次の場合です: ${\displaystyle I(X;Y)}$

${\displaystyle X\sim {\mathcal {N}}(0,P)\,\!}$

したがって、 AWGN チャネルのチャネル容量は次のように表されます。 ${\displaystyle C}$

${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)\,\!}$

チャネル容量と球体パッキング

から（異なるメッセージの数）の範囲のインデックスを持つチャネルを介してメッセージを送信するとします。メッセージをビットにエンコードする場合、レートは次のように定義されます。 ${\displaystyle 1}$ ${\displaystyle M}$ ${\displaystyle M}$ ${\displaystyle n}$ ${\displaystyle R}$

${\displaystyle R={\frac {\log M}{n}}\,\!}$

あるレートが達成可能であるとは、最大誤り確率が無限大に近づくにつれてゼロに近づくような符号列が存在する場合を言う。容量とは、達成可能な最高レートのことである。 ${\displaystyle n}$ ${\displaystyle C}$

ノイズレベル のAWGNチャネルを介して送信された長さ のコードワードを考えます。受信時、コードワードベクトルの分散は となり、その平均は送信されたコードワードとなります。ベクトルは、送信されたコードワードを中心とする半径 の球面内に含まれる可能性が非常に高いです。受信したすべてのメッセージをこの球面の中心にあるコードワードにマッピングして復号すると、受信ベクトルがこの球面の外側にある場合にのみエラーが発生しますが、これは非常に起こりにくいことです。 ${\displaystyle n}$ ${\displaystyle N}$ ${\displaystyle N}$ ${\textstyle {\sqrt {n(N+\varepsilon )}}}$

各コードワードベクトルには、それにデコードされる受信コードワードベクトルの球が関連付けられており、各球はコードワードに一意にマッピングされる必要があります。したがって、これらの球は交差してはならないため、球のパッキングという問題に直面します。 ビットのコードワードベクトルには、いくつの異なるコードワードをパックできるでしょうか。 受信ベクトルは最大エネルギーが であるため、半径 の球を占有する必要があります。各コードワード球の半径は です。 n次元球の体積はに正比例するため、送信電力Pで球にパックできる一意にデコード可能な球の最大数は次のとおりです。 ${\displaystyle n}$ ${\displaystyle n(P+N)}$ ${\textstyle {\sqrt {n(P+N)}}}$ ${\displaystyle {\sqrt {nN}}}$ ${\displaystyle r^{n}}$

${\displaystyle {\frac {(n(P+N))^{n/2}}{(nN)^{n/2}}}=2^{(n/2)\log \left(1+P/N\right)}\,\!}$

この議論によれば、レートR は以下になります。 ${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

達成可能性

このセクションでは、前のセクションで示したレートの上限が達成可能かどうかを示します。

エンコーダとデコーダの両方に既知であるコードブックは、長さn、分散と平均がゼロの iid ガウス分布のコードワードを選択することで生成されます。n が大きい場合、コードブックの経験的分散はその分布の分散に非常に近くなり、確率的に電力制約の違反を回避できます。 ${\displaystyle P-\varepsilon }$

受信メッセージは、コードブック内の一意に共通典型性を持つメッセージに復号されます。そのようなメッセージが存在しない場合、または電力制約に違反している場合は、復号エラーが宣言されます。

をメッセージ のコードワード、を受信ベクトル とします。次の3つのイベントを定義します。 ${\displaystyle X^{n}(i)}$ ${\displaystyle i}$ ${\displaystyle Y^{n}}$

1. イベント: 受信したメッセージの電力は より大きいです。 ${\displaystyle U}$ ${\displaystyle P}$
2. イベント: 送信されたコードワードと受信されたコードワードは共同で典型的ではありません。 ${\displaystyle V}$
3. イベント:はの典型的なセットにあります。つまり、誤ったコードワードは受信ベクトルと共同で典型的なものです。 ${\displaystyle E_{j}}$ ${\displaystyle (X^{n}(j),Y^{n})}$ ${\displaystyle A_{\varepsilon }^{(n)}}$ ${\displaystyle i\neq j}$

したがって、 、または のいずれかが発生した場合、エラーが発生します。大数の法則により、n が無限大に近づくにつれて はゼロに近づき、 の合同漸近等分割法則により、にも同じことが当てはまります。したがって、十分に大きい に対して、と はそれぞれ 未満です。と はに対して独立であるため、とも独立であることがわかります。したがって、合同漸近等分割法則により、 となります。これにより、エラーの確率を次のように計算できます。 ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle E_{i}}$ ${\displaystyle P(U)}$ ${\displaystyle P(V)}$ ${\displaystyle n}$ ${\displaystyle P(U)}$ ${\displaystyle P(V)}$ ${\displaystyle \varepsilon }$ ${\displaystyle X^{n}(i)}$ ${\displaystyle X^{n}(j)}$ ${\displaystyle i\neq j}$ ${\displaystyle X^{n}(i)}$ ${\displaystyle Y^{n}}$ ${\displaystyle P(E_{j})=2^{-n(I(X;Y)-3\varepsilon )}}$ ${\displaystyle P_{e}^{(n)}}$

${\displaystyle {\begin{aligned}P_{e}^{(n)}&\leq P(U)+P(V)+\sum _{j\neq i}P(E_{j})\\&\leq \varepsilon +\varepsilon +\sum _{j\neq i}2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{nR}-1)2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{3n\varepsilon })2^{-n(I(X;Y)-R)}\\&\leq 3\varepsilon \end{aligned}}}$

したがって、nが無限大に近づくにつれて、はゼロになり、とな​​る。したがって、先に導出した容量に任意に近いレートRのコードが存在する。 ${\displaystyle P_{e}^{(n)}}$ ${\displaystyle R<I(X;Y)-3\varepsilon }$

符号化定理の逆

ここでは、容量を超えるレートは達成できないことを示します。 ${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

コードブックの電力制約が満たされ、さらにメッセージが一様分布に従うと仮定する。入力メッセージを 、出力メッセージを とする。したがって、情報の流れは以下のようになる。 ${\displaystyle W}$ ${\displaystyle {\hat {W}}}$

${\displaystyle W\longrightarrow X^{(n)}(W)\longrightarrow Y^{(n)}\longrightarrow {\hat {W}}}$

ファノの不等式を利用すると次のようになります。

${\displaystyle H(W\mid {\hat {W}})\leq 1+nRP_{e}^{(n)}=n\varepsilon _{n}}$一方​ ${\displaystyle \varepsilon _{n}\rightarrow 0}$ ${\displaystyle P_{e}^{(n)}\rightarrow 0}$

をコードワードインデックスiの符号化されたメッセージとします。すると、次の ようになります。 ${\displaystyle X_{i}}$

${\displaystyle {\begin{aligned}nR&=H(W)\\&=I(W;{\hat {W}})+H(W\mid {\hat {W}})\\&\leq I(W;{\hat {W}})+n\varepsilon _{n}\\&\leq I(X^{(n)};Y^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Y^{(n)}\mid X^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}h(Y_{i})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}I(X_{i};Y_{i})+n\varepsilon _{n}\end{aligned}}}$

インデックスiのコードワードの平均電力を次のようにします。 ${\displaystyle P_{i}}$

${\displaystyle P_{i}={\frac {1}{2^{nR}}}\sum _{w}x_{i}^{2}(w)\,\!}$

ここで、合計はすべての入力メッセージにわたって行われます。とは独立しているので、ノイズレベル の場合の の検出力の期待値は次のようになります。 ${\displaystyle w}$ ${\displaystyle X_{i}}$ ${\displaystyle Z_{i}}$ ${\displaystyle Y_{i}}$ ${\displaystyle N}$

${\displaystyle E(Y_{i}^{2})=P_{i}+N\,\!}$

そして、正規分布する場合は、 ${\displaystyle Y_{i}}$

${\displaystyle h(Y_{i})\leq {\frac {1}{2}}\log {2\pi e}(P_{i}+N)\,\!}$

したがって、

${\displaystyle {\begin{aligned}nR&\leq \sum (h(Y_{i})-h(Z_{i}))+n\varepsilon _{n}\\&\leq \sum \left({\frac {1}{2}}\log(2\pi e(P_{i}+N))-{\frac {1}{2}}\log(2\pi eN)\right)+n\varepsilon _{n}\\&=\sum {\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)+n\varepsilon _{n}\end{aligned}}}$

ジェンセンの等式をxの凹関数（下向き関数）に適用すると、次の式が得られます。 ${\displaystyle \log(1+x)}$

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\,\!}$

各コードワードは個別に電力制約を満たすため、平均も電力制約を満たす。したがって、

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}},\,\!}$

これを適用して上記の不等式を簡略化すると次の式が得られます。

${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right).\,\!}$

したがって、 でなければなりません。したがって、R は、 として、前に導出した容量に任意に近い値より小さくなければなりません。 ${\displaystyle R\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)+\varepsilon _{n}}$ ${\displaystyle \varepsilon _{n}\rightarrow 0}$

時間領域における効果

ノイズのあるコサインのゼロ交差

シリアル データ通信では、ランダムジッタ(RJ) によって発生するタイミング エラーをモデル化するために、AWGN 数学モデルが使用されます。

右のグラフは、AWGNに関連するタイミング誤差の例を示しています。変数Δtはゼロ交差における不確実性を表しています。AWGNの振幅が増加すると、信号対雑音比は低下します。その結果、不確実性Δtが増加します。 [ ^1]

AWGNの影響を受けると、入力が正弦波のとき、狭帯域フィルタの出力における1秒あたりの正方向または負方向のゼロ交差の平均数は、

${\displaystyle {\begin{aligned}&{\frac {\text{positive zero crossings}}{\text{second}}}={\frac {\text{negative zero crossings}}{\text{second}}}\\[8pt]={}&f_{0}{\sqrt {\frac {{\text{SNR}}+1+{\frac {B^{2}}{12f_{0}^{2}}}}{{\text{SNR}}+1}}},\end{aligned}}}$

どこ

ƒ ₀ = フィルタの中心周波数、

B = フィルタ帯域幅、

SNR = 線形用語での信号対雑音電力比。

位相領域における効果

位相領域におけるAWGNの寄与

現代の通信システムでは、帯域制限されたAWGNを無視することはできません。帯域制限されたAWGNを位相器領域でモデル化すると、統計解析により、実数成分と虚数成分の振幅がガウス分布モデルに従う独立変数であることが明らかになります。これらを組み合わせると、結果として得られる位相器の振幅はレイリー分布に従う確率変数となり、位相は0から2πまで均一に分布します。

右のグラフは、帯域制限されたAWGNがコヒーレント搬送波信号にどのような影響を与えるかを示す例です。ノイズベクトルの瞬間的な応答を正確に予測することはできませんが、時間平均応答は統計的に予測できます。グラフに示すように、ノイズ位相器は1σ円内に約38%、 2σ円内に約86% 、3σ円内に約98%の確率で存在すると自信を持って予測できます。^[1]

参照

• グラウンドバウンス
• ノイズチャネル符号化定理
• ガウス過程

参考文献

1. McClaning, Kevin, Radio Receiver Design , Noble Publishing Corporation

Retrieved from "https://en.wikipedia.org/w/index.php?title=Additive_white_Gaussian_noise&oldid=1181981955"