• 逆関数法公開コピー誌分布関数 F (x) サンプリング法のノート ( ) ∫ = f (x)dx がわかっていて、その逆関数 F −1 (z) が計算できるときの方法。0∼1 のあいだの一様乱数 z を x = F −1 (z) によって変換すると x は f (x) に従う。こ暗黒通信団れは 0∼1 のあいだに f (x) に従った目盛りをふっておくようなイメージである。 • 階段関数の近似サンプリング逆関数法を任意確率分布に拡張する際の方法。f (x) の定義域 1 はじめに ● を微小区分に分割し、その和が 1 になるようにしておく。一本稿は確率分布からのサンプリングについてまとめたノートである。様乱数を発生させ、その位置がどこにあるかを探索する。乱サンプリングというのは、ある与えられた確率分布 f (x) から標本列数発生毎に探索が発生する点が問題である。を得ること、要するに複雑な分布に従う乱数を発生させるための方法 • 棄却法（Rejection sampling）である。本稿は短いので Web で一般公開するが、自分は専門家では任意確率分布を発生させるときの方法。f (x) を覆うような単ないので情報の利用は自己責任でお願いしたい。なお、本稿は一様乱純な領域に点を打ち、点の位置が f (x) 以下であればその x を数を得るアルゴリズムについて深く掘ったものではない。現実問題と乱数値として返す。そうでないなら点を打ち直す。覆い方がして一様乱数を計算機で得るにはメルセンヌツイスタ (以下 MT) が悪いと何回も点を打つことになる点が問題である。f (x) を覆標準的であり、他の方法は極端な計算量軽減や特殊な CPU での動作うような関数を「提案分布」と呼ぶ。など用途が限られている。万一物理乱数が必要な場合は統計数理研究 • 適応的棄却サンプリング所のページから無料で取得することもできる。乱数の評価について棄却法において、f (x) を覆う分布自体を学習する方法。分は NIST テストが有名であるが、本稿はそれについてもふれない*1 。布 p(x) の観測値に基づいてその場で提案分布を構築してゆ本稿はその前提として一様乱数を発生させるエンジン (MT など) はく。大抵は線分で区切って凸関数状に覆う（包絡分布）。分布既にあるものとする。を確実に覆える関数であることが大事。あるいは、後述する現代のサンプリング法は大きく分けて MCMC とそれ以外に大別 Metropolis-Hastings ステップをおく方法もある。される。個人的には MCMC を理解するには、MCMC 以外の素朴な • 分布 f (x) に特化したサンプリング法乱数発生器から入ったほうが理解しやすいと思うので、その順に排列正規分布を発生させる Box-Muller 変換や、一様乱数を発生さした。せるメルセンヌツイスタなどは分布に特化した方法といえる。その他「重点サンプリング*2 」や「SIR(sampling-importance- 2 乱数と逐次処理 ● resampling)*3 」がある。一様乱数を使った処理と逐次処理アルゴリズムの関係について、一般こうしてみると、分布 f (x) が必ずしも積分できないところに本的な枠組みは次のようなものである。ある区間 x ∈ [a, b] の間で n 個当の問題がある。f (x) が離散値で与えられている場合は一度数値積の一様乱数 {x1 , x2 , ..., xn } を発生させて処理 f (x) を反復すると分しておく方法もあるが、f (x) 自体が動的に変化する場合は現実的いうことは、a から b にステップ |a − b|/n 毎に逐次的に処理 f (x) ではない。MCMC はそうした場合にも対応できるアルゴリズムでを繰り返すことに統計的に等しい。ある。 ∫ b 顕著な例は積分である。 f (x)dx は a n ∑ f (i) · |a − b|/n に近似 4 MCMC(Markov chain Monte Carlo) 法 ● i=1 され、それは n 個の乱数を発生させて f (x) を計算し加算することマルコフ連鎖とは有限個の状態があって、変数が現在の状態に応じよっても実現される。つまり範囲と刻み幅が明確な反復計算は多数て確率的に次の状態に遷移するネットワークモデルである。MCMC の一様乱数を使った処理に置き換えることができる。通常の逐次処法は、マルコフ連鎖を構成する各状態を「密度関数の各値」に対応さ理と乱数を使った方法の違いは収束方法である。逐次処理は処理がせ、密度関数に従ったサンプリングを行おうとするものである。必然終わるまで本質的に値は分からない。その代わり処理が終われば厳的にサンプリング値同士に相関がうまれるが、十分間をとれば独立と密な結果を得られる。一方で乱数を使った処理は、処理の回数に応じ見なせるという仮定の下で実行される。マルコフ過程によって状態て徐々に正確な値に近づくため、最終的な値の予測値を処理の途中でが収束する場合、それは一意であり、かつ開始位置によらないという得られる。その代わり処理を無限回行うまで（それは不可能である）性質がある（一意性初期値非依存性、あるいはエルゴード性）。本稿厳密な結果は得られない。ではこの点について証明はしない。現実の MCMC 法は「マルコフ連鎖を使う」という発想の他に「提案分布を使う」という発想が必要 3 古典的サンプリング ● である。以下ではこれらを順に概説する。 *1 円周率の数列は乱数か、などという問題にはこれが出てくるが、あくまで統計的な方法なので絶対判定はできない。期待値計算のためだけに密度関数を変数変換してサンプリングし、逆変換で期待値を求める。 *3 重点サンプリングの改良。変数変換部分自体を学習する。 *2 1 • そもそもの発想（ナイーブな MCMC）もする。 x を多数の微小区間 x ∼ x + δx に分割し、密度関数を分割し • ギブスサンプリングた長方形領域 δxf (x) を一つの状態とみなす。そしてその面密度関数の次元が高い場合、またそれぞれの次元の密度関数積を、その状態に移行する遷移確率であるとする。が複雑な相関を持っている場合、次元毎に適切な提案分布をいま、あるサンプル x0 が得られているとすると、次の状態は決めることは、それ自体が困難になる。MCMC はせっかく x0 が大きくなるか小さくなるかのどちらかである、とする。高次元に使えるのに、提案分布が適切でないために使い物にそこで、x0 の（密度関数のグラフで）右隣の関数のと左隣のならなくなるのは残念だ。そこで、すべての次元から一度に関数値を計算してやり、その比に従って x0 を右か左かに移動サンプルするのではなく、個々の次元に関してサンプリングし、新しい x の値をサンプルにする。この方法は原理的に隣を行い、ある次元でサンプリングを行うときは、他の次元の分接する密度関数の値を計算するだけなので積分作業が必要な布は直前のサンプル値で代表させてしまうということが行わい。つまりどんな複雑な分布でも使える。さらに、使う量は、れる。つまり、あるステップではある 1 つの確率変数 x にの密度関数の値の比だけなので、密度関数も規格化されているみ着目し、他の確率変数 (y, z, ...) は、直前に得られたサンプ必要がない。これはかなり大きな利点である*4 。マルコフ連ル値 (yn , zn , ...) の定数と見て xn+1 をサンプリングする。次鎖を使う方法は、高次元の分布であっても、さほど計算量をのステップでは今度は xn+1 , zn , ... を定数として yn+1 をサ爆発させずに計算できるという利点もある*5 。ンプリングし、さらにその次は、xn+1 , yn+1 , ... を定数として • メトロポリス (MT) 法 zn+1 をサンプリングする。こうして一巡すればまた xn+2 のところがこのナイーブな発想では系列相関が強すぎる上に、サンプリングに戻る。これがギブスサンプリングである。特一つの致命的な問題が発生する。確率分布が複数の区間に分に条件付き確率が書き下せる場合にサンプルを得る場合に使断されている場合、初期状態が属する区間以外には絶対に遷われる。 • メトロポリス・ヘイスティングス (M-H) 法移できなくなる、という問題だ。そこで、初期状態からある程度遠くへ飛び跳ねることで、区間の壁を乗り越える必要がメトロポリス法を非対称分布に拡張したものである。まず出てくる。は初期サンプル値 x0 の次のサンプル候補 x を、提案分布そのためにはどうするか。ある程度遠くへ飛び跳ねることも q(x; x0 ) に従って生成する。ここで目標分布 f (x) に対して、確率分布に従って行う。この際の確率分布は「対称」であるこ a1 = とが必要である*6 。でないと、飛び跳ね方がグラフの右に寄ったり左に寄ったりして正しい確率分布を再現できない。この a2 = 「飛び跳ねる」ための分布を「提案分布（jumping distribu- tion）」という。正規分布や一様分布は対称なので提案分布と f (x) f (x0 ) q(x0 ; x) *7 q(x; x0 ) という 2 つの値を計算し、その積 a = a1 a2 を計算する。新してよく使われる。要するに、何か現在の値を中心にして対しいサンプル x1 は次の条件で選択される。称な分布に従って乱数を振り、その値を新しい候補としてナ ▷ a ≥ 1 ならば x1 = x イーブなマルコフ連鎖法を使うのだ。提案分布によって飛び ▷ a < 1 なら、a の確率で x1 = x、1 − a の確率で x1 = x0 跳ねて、元の値と飛び跳ねた先の値の比にしたがって、遷移す M-H 法は提案分布と密度関数の形が似ている場合に、うまくるかどうかを決める方法はメトロポリス法と呼ばれ MCMC 動作することが知られているが、M-H 法を使う場合、そもその中でも最も基本的な実装である。提案分布によってどの程も密度関数の値は未知であることが多い。度の距離を飛び跳ねたらいいかという自由度が発生するが、 • その他の MCMC 一般に飛び跳ねる距離が大きくなれば棄却率も高まり、小さマルチカノニカル法、交換法（MCMCMC、温度並列アニーくなればサンプル間の相関が強くなる。そこで出てきた乱数リング法）などがある。割愛。列の自己相関をはかり、棄却率との兼ね合いで、飛び跳ねる量をアドホックに設定したり、n 個飛ばしでサンプルを集めたりもする。 5 プログラミング ● MCMC のサンプリングは、十分にサンプルの量が多ければ多くの資料は R を使うことを推奨している。R はフリーでありマルもとの密度関数に従ったサンプリングができるが、量が少なチプラットフォームであり推薦できる逸品であるが、困ったことに他いと初期値の影響を受ける。そこで通常は、burn-in といっのプログラムとの結合がしにくい。例えば R の出力には余計な情報て、はじめの数千、数万サンプルは捨てられるのが常である。が付いてきて、これを黙らせるのは大変である。また、スクリプトに burn-in のあいだに、提案分布の「飛び跳ねる量」を決めたり「#!/usr/bin/R」のようなヘッダを付けてシェルから実行することもできない。R の自動実行は「R CMD BATCH command.r」というよ *4 *5 *6 *7 確率密度関数の正規化係数を計算するのは、つまり密度関数を全区間で積分することになるので非常に難しい。マルコフ連鎖を使う方法は、これを回避できるので、有用である。高次元になるほどに棄却率が指数関数的に増大することを「次元の呪い」という。多くの棄却サンプリング法は次元の呪いの影響を受ける。MCMC 法では一般に指数関数的な爆発は起こらないため、階層ベイズモデルや高次元な統計モデルからのサンプルを生成する方法としてよく使われる。正確には「詳細釣合条件」と呼ばれる条件に定式化される。割愛。これは 2 つの提案分布 (x0 から x へとその逆方向) の比率であり、提案分布が対称なら a2 = 1 である。 2 うな書式になり、少し使いにくい。さらに R の関数群は他の言語か結果は以下のように、元の密度関数が規格化されていなくても、ら直接呼べない。密度関数に比例したサンプリングができている。点線は関数 | exp(−x2 ) sin 2x cos 3x| で、実線が得られたサンプルのヒストグ …といういくつかの事情から、ここでは C++のやりかたを書いておく。非常に単純だし、実際に自分が使っているのがこの方法だからラムである。である。R の資料は既にネットにたくさんあるので調べるのは容易 0.7 である。 0.6 /* MCMC の実験：メトロポリス法 */ // 標準偏差 s の正規分布を発生させる randnormal(s) 関数を仮定 0.5 #include <iostream> f(x) /* 密度関数:規格化されていない点に注意 */ double f(double x){ return fabs(exp(-x*x)*sin(2*x)*cos(3*x)); 0.4 0.3 } 0.2 /* main */ int main(){ 0.1 unsigned int iterate=1000000; /* 初期値 */ 0.0 -3 double x=randuniform(1.)-0.5, xnew; -2 -1 0 1 2 x for(unsigned int i=0;i<iterate;i++){ /* 提案:かなりアドホック */ xnew=s.randnormal(2.)+x; /* 判定 */ サンプリング法のノート if(f(xnew)/(f(xnew)+f(x))>randuniform(1.)){ 2014 年 9 月 28 日初版（Web 公開版）発行 x=xnew; 著者シ（し）発行者星野香奈（ほしのかな）発行所同人集合暗黒通信団（http://www.mikaka.org/~kana/）〒277-8691 千葉県柏局私書箱 54 号 D 係頒価 0 円 / ISBN978-4-87310-Free C0041 } if(i>1000){/* 最初の 1000 個を捨てる */ ∑ ∞ ·`· std::cout<<x<<std::endl; } 読む人いるのかなぁ c ⃝Copyright 2014 暗黒通信団 } } 3 Printed in Japan 3