ガウス型通信路容量と作用素不等式
Capacity of Gaussian Channel and Operator Inequality
柳 研二郎 (Kenjiro Yanagi)∗ 陳 漢武 (Han Wu Chen)†
{1, . . . , 2nR } と復号函数 gn : Rn → {1, 2, . . . , 2nR } に
対して 、誤り確率は
Abstract: We consider the upper bounds of the
finite block length capacity Cn,F B (P ) of the discrete
time Gaussian channel with feedback. We prove the
concavity of Cn,F B (P ) with respect to P . As its
application we give the following relation. For any
P > 0 and any 0 < α ≤ 1,
αCn,F B (
Pe(n) = P r{gn(Y n ) = W ; Y n = xn (W, Y n−1 ) + Z n },
で定義される. ただし W は {1, 2, . . . , 2nR } 上の一様
分布で雑音 Z n = (Z1 , Z2 , . . . , Zn ) とは独立である. 入
P
1
) ≤ Cn,F B (P ) ≤ Cn,F B (αP ).
α
α
力信号には平均電力制限が課せられる. 即ち
n
1
E[Si2 ] ≤ P
n i=1
We also obtain the following relation.
Cn,F B (
1
P
1 1
)+ ln α ≤ Cn,F B (P ) ≤ Cn,F B (αP )+ ln .
α 2
2 α
である. またフィード バックは causal である. つまり
Si (i = 1, 2, . . . , n) は Z1 , . . . , Zi−1 に従属している. 同
様にフィード バックがない場合は Si (i = 1, 2, . . . , n) は
Z n = (Z1 , Z2 , . . . , Zn ) と独立である.
有限ブロック長容量は次のように定義される.
These can be applied to the refined upper bound on
capacity of Gaussian channel with blockwise white
noise.
Key Words: Gaussian channel, Capacity, Feedback
Cn,F B (P ) = max
1
Introduction
(n)
(n)
|R + R |
1
log X (n) Z ,
2n
|RZ |
ただし | · | は行列式を表し 、最大値は
次のようなフィード バックをもつ離散時間ガウス型
(n)
(n)
T r[(I + B)RX (I + B t ) + BRZ B t ] ≤ nP
通信路を考える.
(n)
を満たす狭義下三角行列 B と 非負対称行列 RX につ
Yn = Sn + Zn , n = 1, 2, . . . ,
いてとる. 同様にフィード バックがないときには容量
ただし Z = {Zn ; n = 1, 2, . . .} は雑音を表す退化して
Cn (P ) は B = 0 としたときの最大値である . これらの
条件の下で Cover and Pombra は次の結果を得た .
いない平均０のガウス過程、S = {Sn ; n = 1, 2, . . .} と
Y = {Yn ; n = 1, 2, . . .} はそれぞれ入力信号と出力信号
を表す確率過程である. 通信路は雑音のかからないフ
ィードバックをもつとする. したがって Sn は送信するメ
ッセージと出力信号 Y1 , . . . , Yn−1 の函数であるとして表
される. レート R, 長さ n の符号語 xn (W, Y n−1 ), W ∈
Proposition 1 (Cover-Pombra [5]) 任 意の >
0 に 対し て 各 n = 1, 2, . . . でブ ロック長 n で
2n(Cn,F B (P )−) 個の符号語が存在して n → ∞ のと
き P e(n) → 0 とできる. 逆に任意の > 0 とブ ロック
長 n で 2n(Cn,F B (P )+) 個の符号語からなる任意の符号
の列に対しても P e(n) → 0 (n → ∞) が成り立たない.
これはフィード バックをもたない場合も成り立つ.
∗ 山 口 大 学 工 学 部 共 通 講 座, 〒 755-8611 宇 部 市 常 盤 台 216-1, Department of Applied Science, Faculty of Engineering, Yamaguchi University, Tokiwadai 2-16-1, Ube, 7558611. [email protected], This paper was partially supported in Grant-in-Aid for Scientific Research (C),
No.11640169, Japan Society for Promotion of Science
† 山 口 大 学 大 学 院 理 工 学 研 究 科, 〒 755-8611 宇 部 市 常 盤
台 2-16-1, Graduate School of Science and Engineering,
Yamaguchi University, Tokiwadai 2-16-1, Ube, 755-8611.
[email protected]
ここではブロック長 n を固定したとき Cn,F B (P ) と
Cn (P ) との間の関係に興味がある. Cn (P ) は正確に求
められている.
1
Proof of Theorem 1. Γ(P ) = {S : T r[RS ] ≤ nP }
Proposition 2 (Gallager [9])
とおくと
k
Cn (P ) =
1 nP + r1 + · · · + rk
log
,
2n i=1
kri
(n)
ただし 0 < r1 ≤ r2 ≤ · · · ≤ rn は RZ
Cn,F B (P ) = max{
の固有値、
|RS+Z |
1
ln
; S ∈ Γ(P )}
2n
|RZ |
である．Lemma 1 より次の関係式を得る．
k(≤ n) は nP + r1 + · · · + rk > krk を満たす最大整数
である.
αRS1 +Z + βRS2 +Z
= RαS1 +βS2 +Z + αβRS1 −S2
ところで Cn,F B (P ) は正確には得られないので 、今
= RαS1 +βS2 + RαS1 +βS2 ,Z
まで多くの人々によって様々な形の上界が得られてい
+RZ,αS1 +βS2 + RZ + αβRS1 −S2
る ([2], [3], [4], [5], [7], [8], [10], [12]).
= αRS1 + βRS2 + RαS1 +βS2 ,Z
この論文では容量についてのある不等式が成り立つこ
とを示す．これによってブロック型ホワイトノイズをも
+RZ,αS1 +βS2 + RZ
つガウス型通信路の容量の上界の精密化が得られる．以
1/2
1/2
= αRS1 + βRS2 + RαS1 +βS2 V RZ
下計算の都合上、対数は自然対数を用いることにする.
1/2
1/2
+RZ V t RαS1 +βS2 + RZ
1/2
2
= αRS1 + βRS2 + (αRS1 + βRS2 )1/2 W V RZ
容量は P の凹函数
1/2
Cn,F B (P ) が P の函数として凹であることを証明す
る前に必要な Lemma を挙げる.
ただし Baker [1] より
1/2
また Douglas [6] より
(RαS1 +βS2 )1/2
(1) αRS1 + βRS2 = RαS1 +βS2 + αβRS1 −S2 .
であることを用いた．次に両辺の行列式をとった後、行
列式の log concavity を用いると次を得る．
|αRS1 + βRS2 + ∆ + ∆t + RZ |
(3) αRS1 +Z + βRS2 +Z = RαS1 +βS2 +Z + αβRS1 −S2 .
Proof of Lemma 1. (1) の証明のみ示す．
α2 RS1 + αβRS1 S2 + αβRS2 S1 + β 2 RS2
αRS1 + βRS2 .
|αRS1 + βRS2 |
≥
|RS1 +Z |α |RS2 +Z |β .
1/2
∆ = (αRS1 + βRS2 )1/2 W V RZ
+αβRS1 − αβRS1 S2 − αβRS2 S1 + αβRS2
=
=
ここで
RαS1 +βS2 + αβRS1 −S2
α(α + β)RS1 + β(α + β)RS2
= (αRS1 + βRS2 )1/2 W,
W ≤ 1
(2) αRS1 + βRS2 ≥ RαS1 +βS2 ,
ここで 0 < α < 1 のとき等号が成り立つための必
要十分条件は S1 = S2 .
=
1/2
RαS1 +βS2 ,Z = RαS1 +βS2 V RZ , V ≤ 1
Lemma 1 RS を random vector S の covariance matrix とする. このとき任意の α, β ≥ 0 (α + β = 1) に
対して次の関係式が成り立つ．
=
1/2
+RZ (W V )t (αRS1 + βRS2 )1/2 + RZ .
とおいた．したがって
✷
≥
Theorem 1 Cn,F B (P ) は P の凹函数である．即ち任
意の P1 , P2 ≥ 0 と任意の α, β ≥ 0 (α + β = 1) に対
して
=
|αRS1 + βRS2 + ∆ + ∆t + RZ |
1
ln
2n
|RZ |
α
|RS1 +Z | |RS2 +Z |β
1
ln
2n
|RZ |
|RS1 +Z |
β
|RS2 +Z |
α
ln
+
ln
.
2n
|RZ |
2n
|RZ |
Cn,F B (P1 ), Cn,F B (P2 ) に attain する S1 ∈ Γ(P1), S2 ∈
Γ(P2) をそれぞれとり、また
Cn,F B (αP1 + βP2 ) ≥ αCn,F B (P1 ) + βCn,F B (P2).
T r[αRS1 + βRS2 ] ≤ n(αP1 + βP2 )
2
(n)
かつ
(a) 任意の k に対して Lk = ∅ のとき RZ をホワイ
トという．
W V ≤ W V ≤ 1
であることに注意することにより Cn,F B (P ) の concave
(n)
(b) 任意の k に対して Lk = ∅ のとき RZ を完全非
ホワイトという．
✷
性を得る．
(c) Lk = ∅ かつ L = ∅ となる k, が存在するとき
(n)
RZ をブロック型ホワイトという．また Lk = ∅
(n)
となる k によって生成される RZ の部分行列を
R̃Z とする．
容量が満たすある不等式
3
次の２定理は前回の SITA98 で与えたものであるが、
特に Theorem 2 の (a) の証明は Theorem 1 から容易
に得られることに注意する．
次の命題が得られている．
Proposition 3 (Yanagi [11]) 次の (1), (2), (3) が
成り立つ．
Theorem 2 次の (a), (b), (c) が成り立つ．
(a) 任意の P > 0 と任意の 0 < α ≤ 1 に対して
αCn,F B (
(b) αCn,F B (
P
1
) ≤ Cn,F B (P ) ≤ Cn,F B (αP ).
α
α
Cn (P ) = Cn,F B (P ).
(n)
P
) は α の増加関数であり、かつ
α
lim αCn,F B (
α→0
(c)
(n)
(1) RZ がホワイトのとき任意の P > 0 に対して
(2) RZ が完全非ホワイトのとき任意の P > 0 に対
して
Cn (P ) < Cn,F B (P ).
P
) = 0.
α
(n)
(3) RZ がブロック型ホワイトのとき次の場合に別れ
る．ただし R̃Z の最小固有値を rm としかつ nP0 =
mrm − (r1 + · · · + rm ) とおく．
1
Cn,F B (αP ) は α の減少関数であり、かつ上に有
α
界である．
(a) P > P0 のとき
Theorem 3 次の (a), (b), (c) が成り立つ．
Cn (P ) < Cn,F B (P ).
(a) 任意の P > 0 と任意の 0 < α ≤ 1 に対して
Cn,F B (
(b) P ≤ P0 のとき
1
P
) + ln α
α
2
≤ Cn,F B (P ) ≤ Cn,F B (αP ) +
Cn (P ) = Cn,F B (P ).
1 1
ln .
2 α
P > P0 のとき αP = P0 とおくと Theorem 2 と
Proposition 3 より次の関係式が得られる．
1
P
(b) Cn,F B ( ) + ln α は α の増加関数であり、かつ
α
2
下に有界である．
Cn (P ) < Cn,F B (P ) ≤
1 1
(c) Cn,F B (αP ) + ln は α の減少関数であり、かつ
2 α
また Theorem 3 と Proposition 3 より次の関係式が得
1 1
lim {Cn,F B (αP ) + ln } = ∞.
α→0
2 α
4
られる．
Cn (P ) < Cn,F B (P ) ≤ Cn,F B (P0 ) +
= Cn (P0 ) +
ブロック型ホワイト ノイズをもつ
P
1
ln .
2 P0
P
1
ln
2 P0
さらに Theorem 1 より精密な次の関係式が得られる．
ガウス型通信路
(n)
RZ
P
P
Cn,F B (P0 ) =
Cn(P0 ).
P0
P0
Cn,F B (P ) ≤ Cn (P0 ) (P − P0 ) + Cn(P0 ).
について次の定義を与える．
P > P0 ではあるがそれほど 大きくない場合はこれら
(n)
Definition 1 (Yanagi [11]) RZ = {zij } のとき
Lk = {l(= k); zkl = 0} とおく．このとき
は Cn,F B (P ) の上界としては今まで得られている結果
のより精密なものとなっている．
3
5
例 と グラフ
[3] H. W. Chen and K. Yanagi, “Refinements of the
half-bit and factor-of-two bounds for capacity in
Gaussian channel with feedback”, IEEE Trans.
Information Theory, vol IT-45, pp 319-325, January 1999.
次のようなブ ロック型ホワイト ノイズをもつガウス
型通信路を考える．
(4)
RZ
1 0 0
0 2 0
=
0 0 4
0 0 1
0
0
.
1
4
[4] T. Cover, “Conjecture: Feedback does not help
much” in Open problems in communication and
computation, T. Cover and B. Gopinath (Ed.),
pp 70-71, Springer-Verlag, New York, 1987.
このとき
[5] T. Cover and S. Pombra, “Gaussian feedback capacity”, IEEE Trans. Information Theory, vol IT35, pp 37-43, January 1989.
r1 = 1, r2 = 2, r3 = 3, r4 = 5
である．この例について今まで得られている結果との
[6] R. G. Douglas, “On majorization, factorization, and range inclusion of operators on Hilbert
space”, Proc. Amer. Math. Soc., vol 17, pp 413415, 1966.
比較を次のグラフで示す．
[7] A. Dembo, “On Gaussian feedback capacity”,
IEEE Trans. Information Theory, vol IT-35, pp
1072-1089, September 1989.
[8] P. Ebert, “The capacity of the Gaussian channel
with feedback”, Bell. Syst. Tech. J., vol 49, pp
1705-1712, 1970.
[9] R. G. Gallager, Information theory and reliable
communication, John Wiley and Sons, New York,
1968.
[10] M. Pinsker, talk delivered at the Soviet Information Theory Meeting, (no abstract published),
1969.
[11] K. Yanagi, “Necessary and sufficient condition for
capacity of the discrete time Gaussian channel
to be increased by feedback”, IEEE Trans. Information Theory , vol IT-38, pp 1788-1791, no 6,
November 1992
参考文献
[12] K. Yanagi, “An upper bound to the capacity of
discrete time Gaussian channel with feedback,
II”, IEEE Trans. Information Theory, vol IT-40,
pp 588-593, March 1994.
[1] C. R. Baker, “Joint measures and cross covariance operators”, Trans. Amer. Math. Soc., vol
186, pp 273-289, 1973.
[2] H. W. Chen and K. Yanagi, “On the Cover’s
conjecture on capacity of Gaussian channel with
feedback”, IEICE Trans. Fundamentals, vol E80A, no 11, pp 2272-2275, November 1997.
4
© Copyright 2024 Paperzz
