LDPC(Low-Density Parity-Check)符号は、1960年代にGallagerによって発見されました。 この符号が注目されるようになったのは30年以上後のMackayによる再発見(1990年代)から1ですが、この再発見により符号理論界にブレイクスルーを起こしました。 現在では、LDPC符号はイーサネットや衛星通信、LTEやWiFiにおける誤り訂正方式として標準化されています。
これほど注目されるようになった大きな理由は、その復号方式によります。 LDPC符号の復号方式は、そのタナ―グラフ(Tanner Graph)が疎であることを活用してsum-product復号法2と呼ばれる方法を使って復号します。 それによって、非常に良いパフォーマンスで復号することが可能になります。 また、適切に符号を設定するとシャノン限界に迫る特性を達成することも大きな理由の一つとして挙げられます。
LDPC符号の定義
まずは本題のLDPC符号の定義を紹介します。
定義 1.1. LDPC符号(Low-Density Parity-Check Codes)
Hを{\mathbb F}_2上の行列とする。Hの成分に1が少ないとき、Hを疎行列(sparse matrix)といい、
疎行列Hをパリティ検査行列にもつ線形符号Cと疎行列Hのペア(C, H)をLDPC符号(Low-Density Parity-Check Codes)という。
(C, H)を単にCと書くこともありますが、符号Cから得られたHが疎行列であることは必ずしも言えないため、Cだけを指してLDPC符号と呼ぶのは好ましくないとされています。
定義 1.2. 正則・非正則LDPC符号(Regular/Irregular LDPC Codes)
LDPC符号(C, H)の行列Hにおいて、全ての列のハミング重みが等しく全ての行のハミング重みが等しいとき、正則LDPC符号(Regular LDPC Codes)といい、そうでないとき非正則LDPC符号(Irregular LDPC Codes)という。
正則LDPC符号は構築しやすく、非正則LDPC符号はパフォーマンスがよりよいといった特徴があります。
タナ―グラフ
LDPC符号の復号法で重要な役割を持っているタナ―グラフを見ていきます。 タナ―グラフは行列Hから表される二部グラフのことで、次のように定義されます。
定義 2.1. タナ―グラフ(Tanner Graph)
H=(h_{i,j})をサイズがm\times nの{\mathbb F}_2上の行列として、集合V_c,V_vをそれぞれV_c := \{c_1, c_2, \dots, c_m\}, V_v := \{v_1, v_2, \dots, v_n\}とする。
集合V,Eをそれぞれ
としたとき、二部グラフG=(V,E)をタナ―グラフ(Tanner Graph)という。また、V_cの元を検査ノード(check nodes)、V_vの元を変数ノード(variable nodes)という。
例 2.2.
パリティ検査行列Hを以下とします:
このとき、Hから表されるタナ―グラフは次のようになります。
パリティ検査行列とタナ―グラフの関係
序論で説明していますが、LDPC符号の復号法はそのタナ―グラフを用いて表されることがほとんどです。 パリティ検査行列(行列での表現)とタナ―グラフ(グラフでの表現)にはどのような関係があるのでしょうか。
例2.2.を参考にしながら進めていくと、行列と比べてタナ―グラフはある列(行)に関係している行(列)がわかりやすくなっていることがわかります。 例えば、このHを用いて生成された符号語{\textbf c}はH\cdot {\textbf c}^{\rm T}={\textbf 0}と表すことができますが、 検査ノードc_i(i\in\{1, 2, 3\})と接続している変数ノードの集合をV(c_i)と表すとすると、次のように表すことができます:
ここで、\delta[p]は、pが真のときのみ1、それ以外は0となる関数とします。
また、変数ノードv_j(j\in\{1,2,\dots,7\})と接続している検査ノードの集合をC(v_j)と表すとすると、定義1.2.は次のように言い換えることができます:
定義1.2.の言い換え
任意のi, j(i\in\{1, 2,\dots, m\}, j\in\{1,2,\dots,n\})において、|V(c_i)|と|C(v_j)|がそれぞれ等しいとき正則、そうでないとき非正則という。
このように、LDPC符号のパリティ検査行列Hで定義されていた概念をタナ―グラフを用いて言い換えることが可能であることがわかったと思います。 復号法のみでなく、パリティ検査行列で説明される概念はパリティ検査行列Hとタナ―グラフの両方の表現で考えることが重要になります。
符号化について
定義1.2.の後に述べていますが、LDPC符号が正則のとき構成するのは簡単ですが、非正則かつ擬巡回(quasi-cyclic)の性質を持っていないときは複雑になります。 その場合の符号化手法の一つである下三角行列(lower-trianglar matrix)での後退代入(back substitution)については参考文献3.で紹介されています。 非正則で擬巡回の場合は、(恐らく)QC-LDPC符号で紹介していると思います。
以上の理由から、ここでの符号化についての説明は割愛します。
復号化の概要
復号化についても、ここから説明していくと非常に長くなると考えられるため簡単に説明します。
復号化において、LDPC符号が優れている理由は、復号法であるsum-product復号法は確率伝播によるものであり、 この確率がパリティ検査行列Hが疎であるほど良いパフォーマンスで求まるということにあります。 具体的に言うと、Hのタナ―グラフにサイクルがない、もしくは少ないほうが好まれる傾向にあります。
まずは、sum-product復号法を定義していきます:
定義 4.1 (確率領域)sum-product 復号法
入力: {\mathbb F}_2上の m\times n 行列H、y\in {\mathbb F}_2^{n}、整数 l_{\rm max}
出力: Hが与える線形符号Cの符号語c あるいは記号?
1. 初期化:
h_{i,j} = 1を満たす全ての組(i,j)に対して、\beta_{i,j}(x)\in {\mathbb R}を以下で定義する:
ただし、x\in \{0,1\}であり、P(a|b)は b のとき a となる確率とする。 また、反復回数のカウンタとしてl:=1とする。
2. 行処理:
h_{i,j} = 1を満たす全ての組(i,j)に対して、\alpha_{i,j}(x)\in {\mathbb R}を以下で定義する:
ここで、定数Kは\alpha_{i,j}(0)+\alpha_{i,j}(1)=1を満たすように定める。また、
とする。
3. 列処理:
h_{i,j} = 1を満たす全ての組(i,j)に対して、\beta_{i,j}(x)\in {\mathbb R}を以下のように更新する:
同様に、定数K'は\beta_{i,j}(0)+\beta_{i,j}(1)=1を満たすように定める。
4. 一時推定:
j\in \{1, 2, \dots, n\}に対して、\gamma_{j}(x)\in {\mathbb R}を以下のように求める:
そして、\gamma_{j}(0) \geq \gamma_{j}(1)のとき、\hat{c}_{j}:=0、そうでないときは\hat{c}_{j}:=1とする。
5. パリティ検査:
H\cdot (\hat{c}_{1}, \hat{c}_{2}, \dots, \hat{c}_{n})^{\rm T}={\textbf 0}を満たすならば、c:=(\hat{c}_{1}, \hat{c}_{2}, \dots, \hat{c}_{n}) を出力する。そうでないときは6.へ
6.
l \geq l_{\rm max}ならば、? を出力する。そうでないときは、l = l+1として3.へ
例 4.2
定義4.1.で説明されたsum-product復号法の例をあげていきます。 まず最初に、パリティ検査行列Hを次のように設定します:
また、y = (0, 0, 1, 1, 0, 1, 0, 0)、l_{\rm max}=5として、任意の a, b\in {\mathbb F}_2においてP(a|b)=\frac{3}{4} (a = b), \frac{1}{4} (a \neq b)とします。
初期化
\beta(x):=(\beta_{i,j}(x)), x\in \{0, 1\}は次のようになります:
行処理
手順2.より、\alpha_{i,j}(x)を求めていきます。
例えば、\alpha_{1,5}(x)を考えていくとしましょう。 Hのタナ―グラフの検査ノードc_iに隣接している変数ノードはV(i)=\{4,5,6\}の三つですね。 よって、\alpha_{1,5}(x)を書き直すと次のようになります:
ここからx = 0の場合とx = 1の場合に分けて見ていきましょう。 x=0のとき、\delta[\dots]が1になるのは、c_4, c_6 = 0\ {\rm or}\ 1のときですね。よって、
同様にして、x=1のときは、c_4, c_6 = 0, 1 \ {\rm or}\ 1, 0のときであり、
したがって、\alpha_{1,5}(0) = \frac{5}{8},\alpha_{1,5}(1) = \frac{3}{8}となります。 同様に進めていくと、\alpha(x)=(\alpha_{i,j}(x))は次のようになります:
列処理
次に手順3.にいきます。先ほどの列バージョンになっています。最終的に\beta(x)は次のようになります:
一時推定
手順4.に移ります。一ビットずつ列ベクトルから符号語の予想を出していきます。 最終的な\hat{c}は次のようになります:
まだ初期のyと同じですね。 もちろんパリティ検査行列とかけても{\textbf 0}とはならないので、l を増やしてループします。
という風な感じで復号が進んでいきます。最終的にどうなるか気になったら、ぜひ手を動かして見てください。 めちゃくちゃ大変です。😇(ちなみに自分は l=2で諦めました)
今回は、一般的なsum-product復号法を紹介しましたが、対数を使ったsum-product復号法もあり、こちらの方がコンピュータなどで計算する際に都合がよくなります。
参考文献
- 井坂元彦,「知識の森」6章 ターボ符号・LDPC符号, 電子情報通信学会, 2012
- 萩原学, 「符号理論」, 日本評論社, 2012
- Marco Baldi, QC-LDPC Code-Based Cryptography, Springer, 2014
- IEEE, Enhancing the error-correcting performance of LDPC codes for LTE and WiFi, https://ieeexplore.ieee.org/abstract/document/7148600, 2015