判定ソロモン

目次
「応用電気通信工学」
3.1 誤り訂正符号化の役割
3.2 ブロック符号化
3.2.1
符号生成と復号
3.2.2
ハミング符号
3.2.3
BCH符号
3.3 ビタビ(Viterbi)アルゴリズムを用いて復号する畳み込み符号
3.3.1
畳み込み符号器
3.3.2
最尤復号とビタビ゙復号
3.3.3
ハミング距離に基づく最尤復号法
3.3.4
ユークリッド距離に基づく最尤復号法
3.4 復号後のビット誤り率
3.4.1
ブロック符号
3.4.2
最尤復号
3.5 インターリーブ
第3章
誤り訂正符号化理論
電気・通信工学専攻
安達文幸
参考書
・山本,加藤:TDMA通信,5章,電子情報通信学会,1989年
・岩垂:符号理論入門,昭晃堂,1992年
・今井,情報理論,昭晃堂,1984年
FA/Tohoku U
応用電気通信工学
1
応用電気通信工学
FA/Tohoku U
2
符号の分類
構造的分類
3.1
ブロック符号:誤り検出,訂正のために付け加えられる検査ビット
(check bit)が,同じブロック内の情報ビットのみから決定される.
畳み込み符号:各検査ビットが,先行するいくつかの情報ビット
の畳み込みで生成される.
連接符号:2つの符号を組み合わせた符号化
誤り訂正符号化の役割
誤り検出符号
誤りがあるかどうかを検出する符号
誤り訂正符号
訂正すべき誤りの種類による分類
ランダム性の誤りを訂正するランダム誤り訂正符号
バースト性の誤りを訂正するバースト誤り訂正符号
FA/Tohoku U
応用電気通信工学
3
安達:通信符号理論
4
ブロック符号
通信路符号化の目的
通信路で生ずる符号誤りを訂正して,通信の信頼性を高
める.
通信路符号化技術の分類
誤り検出符号化
誤り訂正符号化
自動再送(Automatic Repeat Request: ARQ)
ハミング符号
BCH符号
リード・ソロモン符号
畳み込み符号
最尤復号法(Viterbi algorithm)を用いる符号
逐次復号法を用いる符号
Wyner-Ash符号
代数的復号法
岩垂符号
情報源 通信路
変調器
符号化器 符号化器
通信路
復調器
通信路
復号器
情報源
復号器
自己直交符号
連接符号
信号伝送系のモデル
畳み込み符号+リード・ソロモン符号
安達:通信符号理論
5
応用電気通信工学
FA/Tohoku U
6
誤り訂正符号化
kビットの伝送情報系列をnビットの符号化系列に変換す
るブロック符号化を考える.R=k/nを符号化率 (coding
rate)と言う.
情報伝送速度が一定と言う条件のもとでは,帯域幅はR-1
(>1)に拡大する.帯域を拡大することにより所要Eb/N0 を
シャノン限界(- 1. 6 dB)に近づける技術が誤り訂正符号化
である.
Eb/N0を無符号化時と同じに保つ(つまり送信電力を同じ
にする)とすると,符号化ビット当たりの信号エネルギー
対雑音電力スペクトル密度比Ec/N0はEb/N0のR (<1)倍に
なる.
●符号化しないときの1ビット当たりの信号エネルギー対雑音電力
スペクトル密度比をEb / N 0で表す.
●符号化したときの符号化ビット当たりの信号エネルギー対雑音電力
スペクトル密度比Ec / N 0は
Ec  P  Tc  P  R  Tb  R  Eb
であるから
Ec / N 0  R( Eb / N 0 )
となる.R  1であるから,Ec / N 0  Eb / N 0.
Tb
情報ビット
符号化
符号化系列
Ec  R  Eb
FA/Tohoku U
応用電気通信工学
Eb=P Tb
7
FA/Tohoku U
Ec
Tc
応用電気通信工学
8
誤り率特性の比較
Ec/N0はEb/N0より小さくなるから,誤り訂正復号前の平均
ビット誤り率は,誤り訂正符号化を用いないときに比べて
大きくなる.
しかし,誤り訂正復号後の平均ビット誤り率を誤り訂正符
号化を用いないときに比べて小さくできる.
この結果,平均ビット誤り率対Eb/N0特性を符号化しない
ときより改善できる.
応用電気通信工学
FA/Tohoku U
山本,加藤:TDMA通信,5章,電子情報通信学会,1989年
9
応用電気通信工学
FA/Tohoku U
10
符号生成と復号
誤り訂正符号化を用いた時の伝送系
情報源
符号器
X
3.2 ブロック符号
3.2.1
3.2.2
3.2.3
FA/Tohoku U
通信路
符号器
変調器
C
通信路
通信路
復号器
復調器
R
情報源
復号器
X̂
X  ( x0 x1     xk 1 )
C  (c0c1    c n  k 1c n  k    c n 1 )  (c0c1    cn  k 1 x0     xk 1 )
R  (r r    r
n  k 1rn  k    rn 1 )
0 1
ˆ
X  ( xˆ0 xˆ1     xˆk 1 )
情報伝送速度をとすると,符号化系列の伝送速度は
次式のようになる.
n
 coded      / R
k
符号生成と復号
ハミング符号
BCH符号
応用電気通信工学
11
FA/Tohoku U
応用電気通信工学
12
組織符号(systematic code)
符号化されたビット系列にkビットの情報がそのまま現れ
る.
復号
生成行列(generator matrix)はG,検査行列(parity check
matrix)はHである.
●検査行列Hを用いてシンドロームSを計算する.
情報系列 X  ( x 0 x1    x k  1 )から符号語 C  ( c 0 c1    c n  k  1, c n  k    c n  1 )
を生成する.ここで, c jは次のような mod 2 加算により得られる.
c j 
k 1
xg
i0
i
i, j
S t  HR t
1
0

H   


0

, j  0 ,1,..., n  k  1
上式を行列で表示する
と
 
g 0 , n  k 1
 g 0,0
 g
g 1, n  k  1
 1, 0

C  X  


 
 g k  1, 0   g k  1, n  k  1

ここで, G は生成行列である.
1
0


0
1




0
0


0
0 
   XG


1 
0 
1


0 
 0
g 0, 0
0
g 0,1

0

0
 1 g 0,n k 1
g1,0
g1,1




g1,n k 1


g k 1,0 
g k 1,1 
 

g k 1,n k 1 
受信した検査ビット
kビットの情報から検査ビットの生成
●誤りベクトルをE  C  Rとすると
S t  HR t  H(C  E) t  HCt  HE t
応用電気通信工学
FA/Tohoku U
安達:通信符号理論
13
14
符号の訂正能力
●HC t の第j要素は, 復号器で新たに生成し た j番目の検査ビット c j と,
nビットの符号語の全ての組について,それぞれnビットに
わたりmod2加算を行って得られる1の総数の最小値を符
号間距離dminとすると,
符号器で生成した検査 ビットc j との mod 2加算であるから0になる.
ただし, j  0,1,.., n  k  1. すなわち

 k 1
(HC t ) j  c j   x i g i , j   c j  c j  0, for j  0,1,.., n  k  1



 i 0
これより
復号器で生成
した検査ビット
S t  HC t  HE t  0  HE t  HE t

t  (d min  1) / 2
個の誤りまで訂正できる.
従って,
●1ビット誤りが特定でき る(訂正できる)のは Hの各列ベクトルが
符号語A
全て異なるときである .また,2ビット誤りが特定でき るのはHの任意の
2つの列ベクトルの mod 2加算が互いに異なる場 合である.
t  ( d min  1) / 2
●H行列の各列は全て 0の系列を含んではなら ない.
安達:通信符号理論
d min
15
FA/Tohoku U
符号語B
応用電気通信工学
16
ハミング符号
単一誤りを訂正するブロック符号
n-kビットの検査ビット系列で表せる個数は,全零を除いて
2(n-k)-1個である.これがnビット符号語に単一誤りが発生
する場合の総数nに等しくなければならない.従って,
n=2(n-k)-1である.
ハミング(7,4)符号語の生成
符号語長は7ビットであるので全部で128種類の系列があ
る.このうち符号語となり得るのは,情報が4ビット長であ
るから,16個である.
符号空間
符号生成
C  XG
1
0
G
1

1
1の個数が
偶数とな
る符号語
1 0 1 0 0 0
1 1 0 1 0 0
1 1 0 0 1 0

0 1 0 0 0 1
検査ビッ
ト(3ビット
)の生成
1の個数が
奇数とな
る符号語
S 0 
S   S 1   HR t
 S 2 
1 0 0 1 0 1 1
H  0 1 0 1 1 1 0
0 0 1 0 1 1 1
t
情報(4ビット)
岩垂:符号理論入門,昭晃堂,1992年
応用電気通信工学
FA/Tohoku U
17
FA/Tohoku U
受信した
検査ビッ
ト(3ビット
)
情報(4ビット
)から検査ビ
ットの生成
応用電気通信工学
18
ハミング(7,4)符号
ハミング(7,4)符号語
FA/Tohoku U
c0
c1
c2
c3
c4
c5
c6
0
0
0
0
0
0
0
1
0
1
1
1
0
0
1
1
1
0
1
0
1
1
0
0
0
0
0
0
1
1
1
0
0
1
0
0
1
0
0
0
1
1
0
0
1
0
1
0
1
1
1
1
1
0
0
0
1
0
1
0
0
0
1
0
1
0
1
0
0
1
1
1
0
0
1
0
1
0
0
0
1
1
0
1
0
1
0
0
0
1
1
1
0
0
1
0
1
1
0
0
1
0
1
1
1
1
1
1
1
1
1
1
応用電気通信工学
単一誤りに対するシンドローム
全ての単一誤りに対してシンドロームパターンは互いに
異なるから,単一誤りの位置が判別できて訂正可能とな
る.
S t  HR t  HE t
0 
1
 
1
0
0
1
0
1
1

 0   0 
 

 0 1 0 1 1 1 0 0  1
0 0 1 0 1 1 1 0 0
 
0 
0 
 
19
FA/Tohoku U
応用電気通信工学
20
BCH符号
単一誤りに対するシンドロームパターン
誤りパターン
e0
1
0
0
0
0
0
0
0
e1
0
1
0
0
0
0
0
0
FA/Tohoku U
e2
0
0
1
0
0
0
0
0
e3
0
0
0
1
0
0
0
0
e4
0
0
0
0
1
0
0
0
ブロック長n,検査ビット長(n-k),訂正可能なビット数tの
表
シンドロームパターン
e5
0
0
0
0
0
1
0
0
e6
0
0
0
0
0
0
1
0
S0
1
0
0
1
0
1
1
0
S1
0
1
0
1
1
1
0
0
S2
0
0
1
0
1
1
1
0
応用電気通信工学
21
応用電気通信工学
FA/Tohoku U
22
畳み込み符号器
ビタビアルゴリズムは畳み込み符号を最尤復号するアル
ゴリズムであり,最近広く用いられている.極めて強力な
誤り訂正能力を有する.
符号化率R=1/2の簡単な畳み込み符号器
拘束長3ビット
生成多項式(g0,g1)=(7,5)8
3.3 ビタビ(Viterbi)アルゴリズム
を用いて復号する畳み込み符号
3.3.1
3.3.2
3.3.3
3.3.4
3.3.5
c2n
畳み込み符号器
最尤復号とビタビ復号
ハミング距離に基づく最尤復号法
ユークリッド距離に基づく最尤復号法
誤り率の上界
入力
xn
応用電気通信工学
出力
(c2nc2n+1)
c2n+1
岩垂,符号理論入門,5章,昭晃堂,1992
FA/Tohoku U
並直
変換
23
FA/Tohoku U
応用電気通信工学
24
状態遷移
情報1ビットxn が入力されると2ビット(c2nc2n+1)が出力され
る
1ビット入力で2ビットが出力されるので,符号化率は1/2
入力ビットとシフトレジスタの内部状態(2ビット)を用いて,
符号器出力を表現できる
レジスタの状態
S n 1
出力
入力xn
(xn-2xn-1xn) (c2n c2n+1)
000
00
001
11
010
10
入力
100
11
xn
101
00
011
01
110
01
111
10
xn-2
xn-2
並直
変換
xnが入力
されると
出力
xn
(c2nc2n+1)
xn-1
xn-2
c2 n 1  xn  xn  2
c2n+1
S n  ( x n x n 1 )
安達:通信符号理論
A
00
B
01
C
10
D
xn-1
安達:通信符号理論
26
格子状(トレリス)表現
レジスタ内部状態Sn=(xnxn-1)の表示
A=(00), B=(10), C=(01), D=(11)とする
00
00
初期状態S-1=A
00
A
11
(0) A
11
状態遷移
10
B
00
01
AA,B
A
10
11
BC,D
C
11
00
(1)
(x0=0)
01
B
01
CA,B
D
10
DC,D
11
10
(x0=1) (0) C
11
B
(1) 01
D
xn
25
樹枝状表現
A
出力
c2 n  xn  xn 1  xn  2
c2n
xn-1
第1桁
第0桁
 ( x n 1 x n  2 ) xn-1
畳み込み符号は,符号器に用いたシフトレジスタの内部
状態の遷移を用いて表現できる.これを格子状表現(トレ
リス)と言う.
初期状態
t=0
t=-1
c0 c1
A
A
=00
c0 c1
=11
t=2
t=3
t=4
t=5
t=6
A
A
A
A
A
A
B 11
B
B
B
B
B
C
C
C
C
C
D
D
D
D
D
10
00
11
10
01
A=(00), B=(10)
C=(01), D=(11)
入力ビット
xn=0
1
11
00
01
10
安達:通信符号理論
B
t=1
27
01
00
C
01
D
10
安達:通信符号理論
28
最尤復号とビタビ復号
送信データを畳み込み符号化して得られた送信系列
C=(c0c1c2c3c4,…..,cN-1)を送信する.伝送路途中の雑音の
ため誤りが発生し,受信系列は伝送した符号系列とは異
なる.受信系列R=(r0r1r2r3r4,…..,rN-1)からCを推定するの
が復号である.
受信系列Rと符号系列Cの近さの目安としてハミング距
離を用いるときハミング距離に基づく最尤復号法,ユーク
リッド距離(Euclidian distance)を用いるときユークリッド距
離に基づく最尤復号法(maximum likelihood decoding)に
なる.
送信系列を受信し終えたときに,あり得る全ての系列に
ついてハミングまたはユークリッド距離を計算し,距離最
小の系列を送信系列であると判定する.しかし,系列長
がNビットであるとき,系列の個数は2Nであるので,演算
量が大きい.
FA/Tohoku U
応用電気通信工学
符号系列のトレリス表現を用いて,受信途中で距離の小
さい候補系列を選択し残して行くことにより,効率的に復
号するのがビタビアルゴリズムである.
時点t=nにおける各状態S(n)に合流する2つのパスのハミ
ング(またはユークリッド)距離を比較し,ハミング(または
ユークリッド)距離の小さいパスを残す.各状態で以下の
計算を行う.
 ブランチメトリック(状態S(n)に至るブランチのハミング
(またはユークリッド)距離)の計算
 パスメトリック(状態S(n)に至るパスのハミング(または
ユークリッド)距離)の計算=時点n-1における状態の
パスメトリック+ブランチメトリック
 状態S(n)に到達するパスメトリックの比較
 パスメトリックの小さい方のブランチを残す
29
応用電気通信工学
FA/Tohoku U
30
ハミング距離に基づくビタビ復号
符号系列のトレリス表現を用いて,受信途中で距離の小
さい候補系列を選択し残して行くことにより,効率的に復
号するのがビタビアルゴリズムである.
00
状態遷移と出力符号
A
A
受信最後に全状態のパスメトリックを比較し,最小値の
状態を選ぶ.
 その状態に至る生き残りパスを,最初の状態S(-1)=00
まで遡る.
 生き残りパス上の各ブランチの符号化系列が最尤符
号化系列である.
 最尤符号化系列を出力する情報系列を復号系列とし
て出力する.
11
ビタビ復号は次のような動作
から成り立っている
ブランチメトリックの計算
パスメトリックの計算
パスメトリックの比較
生き残りパスの選択
B
11
B
00
C
10
01
C
D
01
10
D
入力ビット
A=(00), B=(10)
C=(01), D=(11)
FA/Tohoku U
応用電気通信工学
31
xn=0
1
安達:通信符号理論
32
●ブランチメトリック
Br ( S (n  1)  S (n))  d H (c2 n 1c2 n ; S (n  1)  S (n)), (r2 n 1r2 n )
ただし,d H a, b は符号系列aとbのハミング距離
●パスメトリックの計 算
L( S (n) S (n  1))  L( S (n  1))  Br ( S (n  1)  S (n))
●パスメトリック比較
min
L(S (n) S (n  1))
L( S (n)) 
情報系列:
1 1 0 0 0 1 0
符号化系列: 11010111001110
受信系列:
10010101001110
t=-1
t=1
t=2
t=3
t=4
t=5
t=6
A
3
4 A
4
A
2
2
A
4
4
3 A
4
A
4
2 B 11 3 B
4
10
00
4
C
C
01 3
1
01
2 D
入力ビット 1 D
10
3
xn=0
1
4
B
2
4
B
2
2
B
5
4 B
4
5
C
2
3 C
4
3
4 D
3
C
4
2
C
5
3
D
4
4
D
3
{S ( n  1)}
●パス選択
最小パスメトリック のブランチのみ生き残りパスとして残す
t=n-1
A
状態:A
t=n
状態:B
L( B A)  L( A)  Br ( A  B)
L( A)
B
L(C )
L( B)  arg
min
{S ( n  1)  A, B}
状態:C
L( B S (n  1))
状態:D
L( B C )  L(C )  Br (C  A)
C
FA/Tohoku U
応用電気通信工学
33
A
t=0
00
1
A
2
11
1 B
3
4 D
応用電気通信工学
FA/Tohoku U
最小パ
スメトリ
ックを与
え る 状
態
34
ユークリッド距離に基づく最尤復号法
受信信号
条件付結合確率密度関数
符号系列C  (cn )が送信送信されたときの受信系列R  ( rn )
の条件付結合確率密度関数は,雑音が白色(つまり独立)であれば,
次式のようになる.
簡単のために,2PSK変調を考える.受信信号の等価低域
表現は
rn  2 P hn cn  wn
ここで,Pは受信電力,hnは伝送路(チャネル)の振幅変動
や位相変動を表す複素チャネル利得であり,wnは電力 2の
複素ガウス雑音(分散は2 2)である.cnは送信シンボルで
あり,2PSKであるから
cn  1
もし,伝送路のチャネル利得hnに振幅変動がなければ
hn  exp( j 2 ), は送受信機間の位相差.
wn
チャネル
2 P cn
hn
2 P hn cn  wn
2 P hn cn
FA/Tohoku U
応用電気通信工学
N 1
p (R | C)   p (rn | cn )
n0
 1
1
exp  2
2N
( 2  )
 2
ここで,hnは複素チャネル利得である.

N 1
r
n 0
n
2
 2 P hn cn 

最尤系列推定
ˆ )を最大とする符号系列C
ˆを
最尤系列推定による復号ではp (R | C
ˆ
ˆ
探索する.ところでp(R | C)を最大とするCの探索は
N 1
 rn  2 P hncˆn
2
n 0
ˆ の探索と等価である.
を最小とするC
35
FA/Tohoku U
応用電気通信工学
36
上式をさらに展開すると
L(n)  L(n  1)  Br (n)
となる.ここで,Br (n)  Re rn hn  cˆn.
ハミング距離の代わりに上式のメトリックを用いて,
逐次計算により実行するのがビタビ復号であり,これは
軟判定ビタビ復号と呼ばれている.
 
 N 1

ˆ
cn hn  2 2 P Re 
rn hn*cˆn 
rn  2 P


n0
n0
 n0

であり,cˆn  1であるから,結局
N 1

N 1

2
2

N 1
L 
 Rer h  cˆ
*
n n
n
n 0
を最大とする符号系列{cˆn }の探索と等価である.
時点nにおける距離関数(メトリック)を
 Rer h  cˆ
n
L(n) 
*
t t
t
t 0
のように表すと
応用電気通信工学
FA/Tohoku U
37
●ブランチメトリック
Br ( S (n  1)  S (n))  Re rk hk  cˆk.
●パスメトリックの計算
L( S (n) S (n  1))  L( S (n  1))  Br ( S (n  1)  S (n))
●パスメトリック比較
min
L(S (n) S (n  1))
L( S (n)) 
応用電気通信工学
FA/Tohoku U
38
 
3.4
{S ( n  1)}
●パス選択
最小パスメトリックのブランチのみ生き残りパスとして残す.
t=n-1
A
復号後のビット誤り率
3.4.1 ブロック符号
3.4.2 畳み込み符号
t=n
L( B A)  L( A)  Br ( A  B)
L( A)
B
L(C )
L( B)  arg
min
{S ( n  1)  A, B}
L( B S (n  1))
L( B C )  L(C )  Br (C  A)
C
FA/Tohoku U
応用電気通信工学
39
FA/Tohoku U
応用電気通信工学
40
ブロック符号の代数的復号
最小ハミング距離dminとする.各符号語を中心として半径
t1の球をつくると,
復号後のビット誤り率を厳密に求めることは大変難しい.以下
に近似解を示す.符号語にt  1個以上のビット誤りが生じると
他の符号語に復号される.その符号語は最小ハミング距離
d min  2t1  1
が 2t  1の符号語である.従って,nビット中に2t  1個のビット
であれば球は重複しない.すなわちt1以下の誤りを訂正
できる. t1の最大値はこの符号の誤り訂正能力といわれ
誤りになる.
チャネルのビット誤り率をpとすると,復号誤りPeは
t  (d min  1) / 2
n
Pe 
である.
n
  i  p (1  p)
i  t 1
i
n i
 n  t 1
 p (1  p ) n  (t 1)
 
t

1


となるので,復号後のビット誤り率pbは次式のようになる.
t1
pb 
dmin=2t+1
2t  1
2t  1  n  t 1

 p (1  p ) n  (t 1)
Pe 
n
n  t  1
S.G. Glisic, “Efficiency of block error-correcting
codes,” Electronics Letters, vol.23, pp. 557-558,
May 1987.
42
応用電気通信工学
今井,情報理論,昭晃堂,1984年
応用電気通信工学
FA/Tohoku U
41
FA/Tohoku U
シンドローム
(7,4)ハミング符号
符号生成
復号
S  HR t  HEt
C  XG
1
0
G
1

1
1 0 1 0 0 0
1 1 0 1 0 0
1 1 0 0 1 0

0 1 0 0 0 1
検査ビット(3ビッ
ト)の生成
情報(4ビット)
 S0 
S   S1   HR T
 S 2 
1 0 0 1 0 1 1 
H  0 1 0 1 1 1 0
0 0 1 0 1 1 1
e0 
e 
 1
1
0
0
1
0
1
1
 e2 

 

 0 1 0 1 1 1 0 e3 
0 0 1 0 1 1 1 e4 
 
e5 
e 
 6
誤りベクトル
e0
1
0
0
0
0
0
0
0
e1
0
1
0
0
0
0
0
0
e2
0
0
1
0
0
0
0
0
e3
0
0
0
1
0
0
0
0
シンドローム
e4
0
0
0
0
1
0
0
0
e5
0
0
0
0
0
1
0
0
e6
0
0
0
0
0
0
1
0
S0
1
0
0
1
0
1
1
0
S1
0
1
0
1
1
1
0
0
S2
0
0
1
0
1
1
1
0
受 信 し た 検 査 情報( 4 ビット)から
ビット(3ビット) 検査ビットの生成
岩垂:符号理論入門,昭晃堂,1992年
FA/Tohoku U
応用電気通信工学
43
FA/Tohoku U
応用電気通信工学
44
誤訂正
2ビット誤りが生じた時の復号後誤りベクトル
3ビット誤りが生じた時の復号後誤りベクトル
e0
e1
e2
e3
e4
e5
e6
s0
s1
s2
e0
e1
e2
e3
e4
e5
e6
1
1
0
0
0
0
0
1
1
0
1
1
0
1
0
0
0
1
0
1
0
0
0
0
1
0
1
1
0
1
0
0
0
1
e0
e1
e2
e3
e4
e5
e6
s0
s1
s2
e0
e1
e2
e3
e4
e5
e6
1
0
0
1
0
0
0
0
1
0
1
1
0
1
0
0
0
1
1
1
0
0
0
0
1
1
1
1
1
1
0
0
1
0
1
0
0
0
1
0
0
1
1
1
1
0
0
0
1
1
0
1
1
0
1
0
0
0
0
0
0
1
1
0
1
0
0
0
1
0
0
0
0
1
0
0
1
1
1
0
0
1
0
1
0
1
1
0
0
1
0
0
1
0
1
1
1
0
0
1
0
1
1
0
0
0
0
0
1
0
0
1
1
1
0
0
0
0
1
1
1
0
0
0
1
0
0
0
1
1
1
1
0
0
1
0
0
1
1
0
0
0
0
0
1
1
0
1
1
1
0
0
0
1
1
0
0
0
0
1
0
1
1
1
1
0
0
1
0
1
0
1
0
1
0
0
0
1
0
0
1
1
0
1
0
0
0
1
0
1
1
0
0
0
0
1
1
1
0
1
1
1
0
0
0
1
0
0
1
0
0
0
0
1
0
1
1
0
1
0
0
1
0
1
0
1
0
0
1
1
0
1
0
1
1
1
0
0
0
1
0
0
0
1
0
1
0
1
0
1
0
0
0
1
1
1
0
1
0
0
1
0
0
1
0
1
1
1
0
0
1
0
0
1
0
0
0
0
1
1
1
1
0
1
0
0
0
1
1
1
0
1
0
0
0
1
0
0
0
1
0
1
0
0
0
1
0
0
1
1
0
0
0
1
1
1
0
0
1
1
0
1
0
1
0
0
1
1
0
0
0
0
1
1
0
1
1
1
0
0
0
0
1
0
1
0
0
0
1
0
0
1
1
0
1
0
0
1
0
0
1
0
1
0
1
0
1
1
0
0
1
0
1
1
0
0
1
0
0
1
0
1
1
0
0
0
1
1
0
1
0
1
0
0
1
0
0
1
1
1
1
1
0
0
1
0
1
1
0
0
1
0
0
0
1
1
0
0
1
0
1
0
0
0
1
1
0
0
0
1
1
0
0
0
0
1
0
0
0
1
1
0
0
0
0
1
1
0
0
1
0
1
0
0
0
1
1
0
1
1
0
0
0
1
0
1
0
1
0
1
1
0
0
1
0
1
0
0
0
1
0
1
0
0
0
1
0
0
1
1
0
1
0
1
0
0
0
0
1
1
1
1
0
1
0
0
1
0
1
1
0
0
0
1
0
0
1
0
1
1
0
0
0
1
1
0
1
0
0
0
0
1
1
0
1
0
0
1
0
0
0
1
1
0
0
0
0
0
1
0
1
1
1
0
0
0
0
1
1
0
1
0
0
0
0
0
1
1
0
1
0
0
1
0
0
0
1
1
(7,4)ハミング
符号語に復号
応用電気通信工学
FA/Tohoku U
45
符号化しないときの誤り率は次式のようになる.
1
pb  erfc Eb / N 0
2
所要誤り率(例えば10 3 )を確保するために必要なEb / N 0を
比較する.符号化しないときの値と符号化したときの値の比
(E / N )
G  b 0 uncoded
( Eb / N 0 )coded
を符号化利得と言う.

7
7
Pe    p 2 (1  p ) 5    p 3 (1  p ) 4    21 p 2
 2
 3
3
pb  Pe  9 p 2
7
2PSKを用いるときの復号後ビット誤り率


1
1
p  erfc ( Eb / N 0 )(k / n)  erfc (4 / 7)( Eb / N 0 )
2
2
であるので
2
9
pb  erfc (4 / 7)( Eb / N 0 )
4
ここでEb / N 0は情報1ビットあたりのエネルギー対雑音電力
スペクトル密度である.
 
FA/Tohoku U
46
符号化利得G
dmin=3であるので,t=1となり

応用電気通信工学
FA/Tohoku U
(7,4)ハミング符号のビット誤り率

(7,4)ハミング
符号語に復号


応用電気通信工学
47
FA/Tohoku U
応用電気通信工学
48
畳み込み符号のビット誤り率
10-2
下図のような符号器を用いるときの硬判定(ハミング距離
)ビタビ復号と軟判定(ユークリッド距離)ビタビ復号の復
号後ビット誤り率の解析は難しい.近似解析について述
べる.
計算機シミュレーションによるビット誤り率特性と比較す
る.
Haming (7,4)
No coded
Coded
10-4
10-6
10-8
c2n
10-10
入力
xn
10-12
並直
変換
出力
(c2nc2n+1)
10-14
4
6
8
10
Eb/N0 (dB)
12
c2n+1
14
応用電気通信工学
FA/Tohoku U
49
安達:通信符号理論
50
復号後ビット誤り率の近似式
ハミング距離は5であるので,送信された6ビット系列
(000000)に3個以上の誤りが生じたとき,復号誤りが発生
する.
このときのパスメトリック最小の状態遷移はABCA
であり,そのときの符号系列は(111011)である.
状態遷移ABCA(または符号系列(111011))を与
える情報ビット系列は(010)であるから,1ビット誤りを引き
起こす.
線形符号では誤りの生じた系列は同じ符号に含まれる
ので,全ての要素が0の符号語C0が送信されたものと考
えて復号誤りを考察してよい.
符号語C0に最も近い符号語は,時点nで状態Aから離れ,
状態B,状態Cを経て,時点n+3でAに合流する符号語で
ある.
その符号語は,00…0011101100…00である.
ハミング距離は5である.
n-1
状態:A=(00) A
状態:B=(01)
00
n
n+1
n+2
n+3
n+4
A
A
A
A
A
11
11
C
10
状態:C=(10)
C
安達:通信符号理論
51
安達:通信符号理論
52
誤りパスの例
復号後ビット誤り率の近似解
1bit error (001000000)
2bit error (001010000)
(1)"000000" "111011"に誤る確率を確率 Pr("000000" "111011" )
で表わす.
(2)どの時点においても, 状態Aから離れパスA  B  C  Aを
選択(送信符号系列が"111011"であると誤判定)してしまう可能性
がある.
(3)パスA  B  C  Aが選択されると,復号出力に1ビット誤りが
生ずる.
(4)それ以外のパスに誤ってしまう確率は充分小さい.
以上より,復号後ビット誤り率Pbは次式のように近似できる.
Pb  1  Pr("000000" "111011" )
A=(00)
B=(01)
C=(10)
D=(11)
0
1
2
3
5
Time
6
7
8
9
All “0” transmission
安達:通信符号理論
安達:通信符号理論
53
54
ハミング距離を用いる硬判定ビタビ復号
●2PSKを用いるときの符号系列の判定誤り率
 Ec
1
erfc
 N0
2





ところで,符号化率Rの符号化では1ビットあたりの信号
●受信系列の6ビット中に3ビット以上の誤りが発生する確率
p 
ビット判定誤り率をpとすると
6
6
  k  p k (1  p) 6k
k 3
であるから
エネルギーがR倍に減少するから,E c  R  E b になる.
したがって,
3
 1
 1 E b 
 Pb  20 erfc
 2 N 0 
 2


一方,符号化なしのときの判定誤り率は
6
6
Pr ob("000000" "111011" )     p k (1  p ) 6  k
k 3  k 
 Eb 
1

erfc
 N0 
2


●まとめ
 20 p 3 , p  1のとき
以上より,復号後ビット誤り率Pbは次式のように近似できる.

 Eb
1
 Pb  erfc
 N0
2







1
 Pb  20 erfc
2



Pb  20 p , p  1のとき
3
安達:通信符号理論
情報ビット系列
Pb 
55
符号化系列

 符号化 なし


Eb
#n-1
#n
#2n-2 # 2n-1 #2n #2n+1
Ec
3
1 E b 
 符号化あり
2 N 0 

安達:通信符号理論
56
ユークリッド距離を用いる軟判定ビタビ復号
以下では簡単のため2PSK伝送を考える.
ˆ  cˆ  1 : n  0 ~ N  1のパスメトリックL C
ˆ は次式で
符号系列C
n
与えられている(ユー クリッド距離に基づく最尤復号法を参照).
(符号化利得)
 Eb 


1
  exp  Eb 
erfc



2
 N0 
 N0 
を用いると,ビット誤り率は次式のように近似できる.
  Eb 
 符号化なし
exp 
  N 0 
Pb  
20 exp  3R Eb   20 exp  3 Eb  符号化あり
 2N 


N 0 
0 


となる.
これまで考えてきた拘束長3ビット,符号化率R  1 / 2の
畳み込みの符号化利得(符号化なしとありで同じビット
誤り率を得るために必要なEb / N 0の比)は次のようになる.
3
G  (デシベル表示では1.76dB)
2


N 1
N 1

 
N 1

 
n0
n0
N 1


  2 P hn cn cn  cˆn    cn  cˆn  Re wn hn*
n 0
2

57


0

 

Tb
情報ビット系列
#0
Eb
#1
#k-1
Tc

応用電気通信工学

58
   2 2Pd 2 
min
 d
Prob  0 
exp 






d
N
T
2
4
(
/
)
2  4d min ( N 0 / Tc )
c 
min
0




y2
1

dy


exp


2  4d min ( N 0 / Tc ) 2 2 P d min
 2  4d min ( N 0 / Tc ) 


1 
1
2
 d  Ec  

PTc exp  t dy  erfc
min 



2
 d min N 0
 N 0  

ここで,Ec  PTcは1符号ビット当たりの信号エネルギーを表す.
ただし,Ec  R  Ebである.
 X  W
ところで,cˆnとcnが一致していればcn  cˆn  0,そうでなければ
cn  cˆn  2である.
送信符号系列Cに最もハミング距離が近い系列(最小ハミング
距離をd minとする)へ誤る場合が殆どである.簡単のため,hn  1
であるとする.ここで,cn cn  cˆn   0または2であること,Re wn hn*
は平均0で分散N 0 / Tcのガウス変数であることに注意すれば
X  2 2 P d min
W  平均0で分散d min  4( N 0 / Tc )
以上より,  0となる確率は
   2 2Pd 2 
0
1
min
d
Prob  0 
exp 
 2  4d min ( N 0 / Tc ) 
2  4d min ( N 0 / T )  


FA/Tohoku U
応用電気通信工学
FA/Tohoku U
1
n 0

 

       cˆn Re rn hn*   cn  cˆn  Re rn hn*
n0
N 1

n0
Nは符号長である.ただし,
rn  2 P hn cn  wn
ここで,第1項が信号成分で,第2項が雑音成分.Pは受信電力,
hnはチャネル利得,wnは平均0で分散2 N 0 / Tcの複素ガウス雑音
である.
ユークリッド距離に基づく最尤復号法ではLを最大とする系列
ˆ を探索する.送信系列がCであるとき,次式を満たす系列C
ˆ C
C
が存在すれば送信系列以外の系列が送信されたものと誤判定
してしまうことになる.
ˆ
LC  L C
上式は次式のように変形できる.
ˆ 0
  LC  L C
安達:通信符号理論
は次式のように表せる.
N 1
ˆ 
L C
 cˆn Re rn hn*
符号化系列
#0
Ec
59
FA/Tohoku U
#1
#n-1
時間
応用電気通信工学
60
符号化利得G
所要誤り率(例えば103 )を確保するために必要なEb / N 0を
比較する.符号化しないときの値と符号化したときの値の比
(E / N )
G  b 0 uncoded
( Eb / N 0 )coded
を符号化利得と言う.
拘束長3ビット,生成多項式(7,5)8 の畳み込み符号を軟判定
ビタビ復号したときに得られる符号化利得はG  2.5(デシベル
表示では3.98dB)になる.硬判定ビタビ復号より大きな符号化
利得が得られる
c2n
送信符号系列をC  (000000)とする.それに最も近 い符号系列は
ˆ  (111011)であるから,d  5である.R  1 / 2であるから
C
min

E 
1
Prob("000000" "111011" )  erfc R  d min b  N0 
2

 5 Eb 
1

 erfc

2
 2 N0 
この系列が選択されると1ビットの情報誤りが発生するから
復号後ビット誤り率Pbは次式のように近似できる.
 5 Eb 
1

Pb  erfc

N
2
2
0 

一方,符号化なしのときは
 Eb 
1

Pb  erfc

2
N
0 

入力
xn
出力
並直
変換
(c2nc2n+1)
c2n+1
安達:通信符号理論
61
応用電気通信工学
FA/Tohoku U
硬判定ビタビ復号
-2
10
-3
Uncoded
(Theory)
Soft Decision Viterbi
(Theory)
Uncoded
(Simulation)
Soft Decision Viterbi
(Simulation)
-1
10
-2
10
-3
10
Average BER
10
Average BER
軟判定ビタビ復号
Uncoded
(Theory)
Hard Decision Viterbi
(Theory)
Uncoded
(Simulation)
Hard Decision Viterbi
(Simulation)
-1
10
62
-4
10
-5
10
-4
10
-5
10
-6
10
-6
-7
10
10
-7
10
-8
-8
10
10
0
5
10
Average received Eb/N0 [dB]
15
安達:通信符号理論
0
63
5
10
Average received Eb/N0 [dB]
15
安達:通信符号理論
64
軟判定と硬判定ビタビ復号の比較
Uncoded
(Theory)
Hard Decision Viterbi
(Hard)
Soft Decision Viterbi
Uncoded
Hard Decision Viterbi
(Simulation)
Soft Decision Viterbi
(Simulation)
-1
10
-2
10
-3
Average BER
10
-4
3.5 インターリーブ
10
-5
10
-6
10
-7
10
-8
10
0
5
10
Average received Eb/N0 [dB]
15
安達:通信符号理論
65
符号化系列のインターリーブ
デ・
インター
リーバ
書き込み
送信側
n x mビット
デ・ブロック
インタリーバー
受信側
8×8インタリーバ
1 2 3 4 5 6 7 8 9 101112131415161718192021222324
入力
雑音による誤り
×××
1 9172533414957 2 10182634425058 3 11192735435159
通信路
誤り訂正
復号器
応用電気通信工学
n x mビット
ブロック
インタリーバー
読み出し
書き込み
無線
通信路
デ・インターリーバーは,連続して発生したビット誤りを時
間的に離すことができる.これにより,1符号語の中に多
数のビット誤りが含まれることがなくなって,誤り訂正符号
の復号器で訂正できるようになる.
読み出し
FA/Tohoku U
インター
リーバ
66
ブロックインタリーバ
これまで述べてきた誤り訂正符号化は,ランダムに発生する誤りを訂
正するランダム誤り訂正符号化である.
ところが,通信路では通信路状態が連続して悪化する場合がある.こ
れは通信路に記憶があるからである.この場合,ランダム誤り訂正符
号化を用いて訂正できない誤りが発生する場合がある.
そこで,符号化系列の時間的順番を入れ換えて通信路に送出し,受
信側でもとの順番に戻すことにより,記憶の無い通信路に近い状態
に変換する.これをインターリーブ(交錯)という.
連続して発生した雑音を時間的に離すことができるから,1符号語の
なかに複数のビットが誤ることがなくなって,ランダム誤り訂正符号で
誤り訂正できるようになる.
誤り訂正
符号化器
応用電気通信工学
FA/Tohoku U
67
デ・インタリ
ーバ出力
1 2 3 4 5 6 7 8 9 101112131415161718192021222324
×
×
×
安達:通信符号理論
68
畳み込みインタリーバ
まとめ
誤り訂正符号化(Forward Error Correction: FEC)により帯域拡大が
発生するから雑音電力が増加するため,ビット誤り率が増加してしま
う.しかし,その誤りを訂正することができるので,結局,符号化前よ
りも復号後のビット誤り率特性が向上する.
FECは,いまやほとんど全ての通信システムに利用されている.
本章では,自動再送(Automatic Repeat Request: ARQ)については触
れなかった.ARQでは送信データ系列をパケット化し,そのパケット
が正しく受信されるまで再送を繰り返す.
ARQとFECを組み合わせたのがハイブリッド自動再送(Hybrid ARQ:
HARQ)である.
携帯電話など最近の無線システムではパケットサービスが主流にな
りつつある.HARQはこのようなシステムに利用できる.
連続して発生した雑音を時間的に離すことができるから,
1符号語のなかに複数のビットが影響を受けることがなく
なって,誤り訂正符号の復号器で訂正できるようになる.
誤り訂正
符号化器
誤り訂正
復号器
通信路
インタリーバ
デ・インタリーバ
インタリーバ
1 2 3 4 5 6 7 8 9 101112131415161718192021222324
入力
雑音による誤り
×××
1
4
7 2 10 5 13 8 3 1611 6 1914 9 221712
通信路
デ・インタリ
ーバ出力
1 2 3 4 5 6 7 8 9 101112131415161718192021222324
×
×
×
安達:通信符号理論
69
演習問題3.1
次式が成り立つことを示せ.

 k 1
(HC T ) j  c j   x i g i , j   c j  c j  0, for j  0,1,.., n  k  1



 i 0

FA/Tohoku U
応用電気通信工学
71
FA/Tohoku U
応用電気通信工学
70