RISTニュース No．５７（２０１４）高速フリエ変換におけるキャッシュ最適化筑波大学システム情報系（計算科学研究センター）高橋大介高速フーリエ変換（、）は、科学技術計算において今日広く用いられているアルゴリズムである。本稿ではにおけるキャッシュ最適化について述べる。まず、離散フーリエ変換（、）の定義を示した後にの基本的な考え方について説明する。さらに、アルゴリズムについて説明した後、キャッシュブロッキングがに対して適用できることを示す。１．はじめにが重要になる。ここで、キャッシュミスの回高速フーリエ変換（数を減らすことができれば、主記憶のアクセ、）は、離散フーリエ変換ス回数を減らすうえで非常に効果があるとい（、）を高速える。に計算するアルゴリズムとして知られてい本稿では、におけるキャッシュ最適化る。について述べる。は１９６５年のと［１］の論文によって一般に広く知られるようになった２．離散フーリエ変換が、１８０５年頃にが同様のアルゴリズム n点のデータに対するは次式で定義さを独自に発見していた［２］。れる。多くのアルゴリズムは処理するデータがキャッシュメモリに載っている場合には高（１）い性能を示す。しかし、問題サイズがキャッシュメモリのサイズより大きくなった場合においては著しい性能の低下をきたす。アまた、n点のデータに対する離散フーリエルゴリズムにおける１つの目標は、いかにし変換（、てキャッシュミスの回数を減らすかというこ逆）は次式で定義される。とにある。近年のプロセッサの演算速度に対する主記憶のアクセス速度は相対的に遅くなってきて（２）おり、主記憶のアクセス回数を減らすことは、より重要になっている。したがって、キャッシュメモリを搭載したプロセッサにおここで、x （）およびy （）は複素数の値であけるアルゴリズムでは、演算回数だけでり、はなく、主記憶のアクセス回数も減らすこと式（１）において、例えばn=４のとき、 −− である。 RISTニュース No．５７（２０１４）は以下のように計算できる。（３）（７）式（３）は行列を用いれば、より簡単に（４）（８）と行列ベクトル積の形で表すことができる。式（１）において、x （）、（ y ）およびωは複素数の値であることから、この式の行列ベクトル積を計算するためには、n回の複素数乗式（７）、（８）におけるn ２点は、直接算とn （n-１）回の複素数加算が必要となるこ計算するとn ４回の複素数乗算と（n ２）（n とが分かる。２１）回の複素数加算で計算できることから、この分解により計算量が約１２になること３．高速フーリエ変換が分かる。さらに、nが２のべきである場合３．１基本的な考え方には、この分解を再帰的に行うことで、最終式（１）においてnが２で割り切れる場合に的には２点に帰着させることができ、そは、n点のデータをn ２点の前半部分とn ２ n）に削減することがの結果演算量をO （n 点の後半部分に分解することにより、n点可能になる。は以下のように表すことができる。の分解には、式（５）のようにn点のデータをn ２点の前半部分とn ２点の後半部分に分解する周波数間引き（）と、n点のデータを偶数番目と奇（５）数番目に分解する時間間引き（）の方法があるが、どちらの方法でも演算量は同じになる。式（７）、（８）の考え方を素直にコーディン式（５）において、x （ n ２）に掛かっているは、グすると、図１のような再帰呼び出しによる周波数間引きルーチンが書ける。より、（６）となる。したがって、が偶数の場合と奇数の場合に分けると、n点は以下のように２つの n ２点に分解できる。 −− RISTニュース No．５７（２０１４）図１再帰呼び出しによる周波数間引きルーチンこのルーチンでは、nが２のべきである場合 n回の再帰呼び出しが行われるが、１回の呼び出し毎にn ２回の複素数乗算とn 回の複素数加減算が行われるので、結局O （n n）回の演算量になることが分かる。また、このルーチンでは最内側ループにおいて毎回、関数を呼び出して三角関数の値を計算しているが、高速化のためにはあらかじめこれらの値を計算しておきテーブル図２周波数間引きルーチンにするなどの工夫を行うことが多い。なお、逆を求めるにはと計算している部分の符号を反転させ３．１節で示したルーチンにおける再帰として計算を行い、計算結果呼び出しをループに書き換えることにより、を１ n倍すればよい。アルゴリズム［１］としてよく知られているアルゴリズムが導かれる。３．２アルゴリズムと図２に周波数間引きルーアルゴリズムアルゴリズムでチンを示す。は、入力データは出力データに上書きされる −− RISTニュース No．５７（２０１４）（）という特徴がある。算することにより、キャッシュミスを少なくその一方でアルゴリズムでできるのが特徴である。は、出力データの順序がビット反転（ n点を計算する際にnn×nと分解で）して得られた順序になる。出力デきるものとすると、式（１）におけるおよびータの順序を入力データと同じにするためには、は、ビット反転して得られた順序を元通りに（９）並べ替えることが必要になるが、この並び替えはメモリアクセスの局所性が低いことからと書くことができる。そのとき、式（１）のx キャッシュミスが多発する。さらに、とyは次のような二次元配列（）アルゴリズムの最内側ループで表すことができる。では２のべき乗飛びのストライドアクセスになっていることから、キャッシュラインコンフリクトも多発する。したがって、階層型メ（１０）モリを意識した場合、アルゴリズムは必ずしも好ましいアルゴリズムではない。したがって式（１）は式（１１）のように変のアルゴリズムは、入力デ形できる。ータは出力データに上書きされる、いわゆるアルゴリズムであったが、入力データと出力データを別の配列にする（１１）アルゴリズムを構成することもできる。アルゴリズムとしてよく知られ７］ているのは、アルゴリズム［３式（１１）から次に示されるような、である。アルゴリズム［４５］が導かれる。１：転置アルゴリズムでは、入力データが出力データに上書きできないため、アルゴリズムに比べて必要と２：n組のn点なるメモリ容量が２倍になる。しかし、最内側ループが連続アクセスになっており、またビット反転順に並べ替える処理が不要になっている。したがって、階層型メモリへの適合性という観点からは、アルゴリズムがアルゴリズムに比べて有３：ひねり係数の乗算利であるといえる。４．アルゴリズム４：転置キャッシュメモリを有効に活用することのできる、アルゴリズム［４５］について説明する。アルゴリズムでは、一次元を二次元表現で表して計 −− RISTニュース No．５７（２０１４）５：n組のn点６：転置３におけるは、ひねり係数［６］と呼ばれる１の原始根であり、複素数である。図３にアルゴリズムを示す。１および４において行列の転置を行っているが、これは２および５におけるのメモリアクセスを連続にするためである。さらに、６の行列の転置は入力データと出力データの順序を同じにするために必要になる。において、１、４、６の行列の転置および、３のひねり係数の乗算をブロック化したアルゴリズムが文献［５］に示されている。しかし、このアルゴリズムではの部分と行列の転置の部分が分離されているため、においてキャッシュメモリに載っていたデータが行列の転置の際に有効に再利用されないという問題点が図３アルゴリズムある。ここで、３回の行列の転置がキャッシュメモリを搭載した計算機においてボトルアルゴリズムは以下のようになる。ネックとなる。１： nn×nの大きさの複素数配列５．ブロックアルゴリズムに入力データが入っているとする。このとにおいて、さらにキャッシュき、n×nの大きさの配列からn列ずつデ内のデータを有効に再利用し、キャッシュミータを転置しながら、n×nの大きさの作業スの回数を少なくするため、で用配列に転送する。ここでブロックサは分離されていたと行列イズnは配列が２キャッシュに載るよの転置を統合した、ブロックアうに定める。ルゴリズムを構成することができる。４章で２： n組のn点を説明したにおいて、nn×nと２キャッシュに載っているn×n配列し、nをブロックサイズとする。ここで、プの上で行う。ここで各は、ほぼロセッサはキャッシュメモリを１キャッシュ内で行えるものとする。搭載しているものと仮定する。ブロック３：を行った後２ −− RISTニュース No．５７（２０１４）ブロックアルゴリズムのプログラムは図４のようになる。このプログラムにおいて、はブロックサイズ、はパディングサイズ、は作業用の配列である。図５にブロックアルゴリズムのメモリ配置を示す。なお、図５において、配列、、の中の１から１６の数字は、配列のアクセス順序を示している。また、作業用の配列にパディングを施すことにより、配列から配列にデータを転送する際や、配列上でを行う際にキャッシュラインコンフリクトの発生を極力防ぐことができる。このパディングは、配列の先導次元）が２のべき乗となって（いる場合、これが２のべき乗にならないようにすることで、行列の転置において２のべき乗飛びのストライドアクセスになることを防ぐために用いられる。ブロックアルゴリズムは、いわゆるアルゴリズム［４］となる。つまり、ブロックアルゴリズムではn点の演算回数はO （n n）であるのに対し、主記憶のアクセス回数は理想的にはO （n）で済む。なお、本稿では２および４の各図４ブロックアルゴリズムは１キャッシュに載ると想定しているが、問題サイズが非常に大きい場キャッシュに残っているn×n配列の合には各が１キャッシュに載各要素にひねり係数の乗算を行う。そしてらないことも十分予想される。このような場このn×n配列のデータをn列ずつ転合は二次元表現ではなく、多次元表現［８，置しながら元のn×n配列の同じ場所に再９］を用いて、各の問題サイズをび格納する。小さくすることにより、１キャッシュ内で４：n組のn点を各を計算することができる。たの上で行う。ここでも各 n×n配列だし、三次元以上の多次元表現を用いた場合は、ほぼキャッシュ内で行えにはアルゴリズムとすることはでる。きず、例えば三次元表現を用いた場合には５：最後にこのn×n配列をn列ずアルゴリズムになる。このようつ転置して、n×n配列に格納する。に、多次元表現の次元数を大きくするに従っ −− RISTニュース No．５７（２０１４）図５ブロックアルゴリズムのメモリ配置て、より大きな問題サイズのに対応するの結果主記憶のアクセス回数も少なくするこことが可能になるが、その一方で主記憶のアとができる。データがキャッシュに入り切らクセス回数が増加する。これは、ブロックないような大きな問題サイズのでは、ブにおいても性能はキャッシュメロックは効果的である。モリの容量に依存することを示している。本稿で述べたブロック化の手法は、他のアなお、アルゴリズム（例えばプリケーションの高速化にも適用できると考アルゴリズム）を２、４のえられる。に用いたとしても、余分に必要となる配列の大きさは参考文献で済む。また、一次元の結果が転置された出力［１］で構わなければ、５の行列の転置は省略することができる。この場合、作業用の配列はの大きさの配列だけで済むことが分かる。［２］６．まとめ本稿では、におけるキャッシュ最適化について述べた。ブロックでは、キャッシュメモリの再利用率を高くする［３］ことにより、キャッシュミスを少なくし、そ −− RISTニュース No．５７（２０１４）［４］［５］［８］［６］［９］［７］ −−