The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）組合せ最適問題の厳密解探索のためのＧＡによる解法の検討（数独パズルの解探索）椋田實（日本工業大学特別研究員）、江藤香（日本工業大学） Solution method of the elucidation by GA for exact solution searches of the combinatorial optimization Minoru Mukuda*, Kaoru Eto* ( *Nippon Institute of Technology) キーワード：遺伝的アルゴリズム、バックトラック法、組合せ最適化、厳密解探索、数独パズル (Genetic Algorithm, backtracking, depth-first search, combinatorial optimization, exact solution, search tree, Sudoku puzzle) 1. はじめに多数であり、多数の局所解が存在する。このパズルと同じルールでも最初のマスの数字設定（図１の１，３，２，３）我々は組合せ最適問題の厳密解の解法として遺伝的アルにより複数の解が存在する。なお、解の探索には組み合せゴリズム（GA: Genetic Algorithm）を考察した。ＧＡは多目を探索木に形成できる。的で複雑な組合せ問題の近似解を探索する方法として効果厳密解を組合せにより求めるには、全ての探索木を根から的である[1]。しかし、厳密解を解くには苦手な事が知られ辿ることで発見できる。これらの探索は再帰的に行うと手ている。本論文では、厳密解を解くためのＧＡの手法につ続きが容易となる。いて「どの様な方法が考えられるか」「どの様な点を考慮す探索速度を早くするには、枝を制約条件で「刈り取る」こるのか」、実例を用いて検討した。とで実現する。この様な方法をバックトラック法と呼ぶ。問題には「数独パズル[2]（ナンバープレースも同じルーまた、全ての組合せを単純に生成し、制約条件で判定するル）」を採用した。探索方法の比較対象としてバックトラッことでも探索できるが、組合せが膨大になるため、効率的ク法（backtracking）を使用した。バックトラック法は探索ではない。次に数字置きパズルの例を用いて説明する。木を“刈り取る”ので、全組合せ探索よりも早く厳密解を得ることができる。ＧＡでは厳密解を得られない場合があ＜数字置きパズル＞るが、バックトラック法は処理時間を考えなければ必ず発 1 見できる。ＧＡは、染色体の初期値や突然変異、交叉の方法が探索時 3 間に大きく影響する。本稿では、①全組合せから基本的な制約条件を適用して解空間を縮小する。②ＧＡにより解空間をさらに絞り込む、③力まかせ探索により厳密解を探索する、と言う３段階の手順で解の探索を行った。 2. 2 組合せ最適化と数独パズル 3 ①４×４の空マスに１，２，３，４の数字を次のルールに従って入れる。 ②横・縦列に１〜４、２×２ブロックに１〜４の数字を置く。なお、縦・横・ブロックに置く数字はユニークとする。 ※この例では解が２個ある。図１数字置きパズル厳密解とは、近似解ではなく全ての制約条件を満足した最 Fig.1 Set Number Puzzle 良の解である。数独パズルは近似解がなく、解が１つ（あるいは２つ）程度に設定されている。厳密解をＧＡで探索数独パズルは、図１の４×４マスを９×９マスにして、する例として、数独パズル（同様のルールを持つパズルを１〜９の数字を置くパズルであり、仕組みは同じである。数字置きパズルと呼ぶ）は制約条件を満足すれば最適解で 3．遺伝的アルゴリズムの適用あること、近似解がないことから実験対象に採用した。なお、パズルには解空間は９５７個程度の解候補が存在す数独パズルの解を探索するのに遺伝的アルゴリズム（Ｇる。これらの中から１つの解を探索するので、非実行解がＡ）を適用する。図 1 の数字置きパズルを使用して，GA の 1 The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）この探索木は表１の遺伝子座番号１から２,３ ,… ,１６と遺伝子表現を説明する。空マスに置ける数字はルール（制約条件）を複数回に渡り１６段階（深度１６）で構成される。全組合せの生成は、適用すると表１の様に各マスの数字候補が得られる。最初図２の木を全て辿ることで実現できる。これに制約条件をから数字が設定されているマスは確定であるが、制約条件加えて枝の刈り込みを行えば効率よく解を探索できる。を適用すると候補がひとつになるマスもある。この候補が遺伝子から実際のパズルにデコードするには、表１の候ひとつなら数字は確定である。この段階で解が得られる場補表を用いて変換する。合もあるが、これは初心者向けの問題である。図１の問題に制約条件を適用した結果を表１に示す。遺伝子には候補数字に付けた“順序番号”を使用する。たにエンコードすると表２の様になる。表１マスに置く数字の候補表表２遺伝子 Table 1 Set Candidate Number table Table 2 Gene 1 2 3 1 2 1 3 2 3 2 3 2 1 2 2 1 2 3 4 3 遺伝子 1 1 3 1 1 1 2 2 2 1 2 2 1 2 1 1 4 4 4 4 3 4 2 4 4 4 4 4 4 2 4 1 1 3 4 4 3 1 2 4 2 4 1 3 ・・・・ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 1 4 2 2 1 1 3 2 2 1 1 1 2 2 1 1 3 解候補 1 1 3 1 1 1 2 2 2 1 2 2 1 2 1 1 ・・・・候補数遺伝子 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 表１のマスに置く数字の候補表とえば、２個の候補があれば１と２である。図１を遺伝子 No. 図３デコード（遺伝子→候補数字） Fig.3 Decord (Gene -> Candidate Number) ４×４パズル 4 1 3 2 （注）基本的な制約条件の適用後この例における遺伝子座は１６座あり、１０,３６８通りの組合せがある。このパズルの探索木を図２に示す。 2 3 1 4 4 4 2 1 1 4 4 3 １次元を２次元に展開する。 No.1→1 行 1 列 No.2→1 行２列 No.3→1 行３列図４候補数字を埋めた４×４マス深度は１６段階１１２１１・・・１・・・・・・２・・・・・・ Fig.4 Put Candidate Number on 4x4 Puzzle 遺伝子は表１の候補表から順序番号を使用して、実際の数字を得る。これが図３の右側にある「解候補」である。この候補数字は図４の様に４×４のマスに配置される。１３１・・・・・・ ≪2-1 ＧＡによる進化手順≫ １１・・・・・・ ①第１段階：空マスに制約条件を適用して候補数字を置く２１・・・・・・３１・・・・・・本稿の探索手順は３段階（図５参照）で構成している。ことで解空間を縮小する。制約条件は横・縦・ブロックの２数字が１〜４のユニークであること。なお、９×９マスでは１〜９である。この段階で解が得られれば終了である。 ②第２段階：ＧＡにより解空間をさらに絞り込む。表１の候補表と染色体（遺伝子）を用いて、交叉、突然変異、選図２４×４数字置きパズルの組合せの探索木 Fig.2 択を行い、解空間を縮小する。ＧＡは初期値を変えて評価 Search Tree of 4x4 Puzzle 値が一定以上になるまで反復処理する。この処理で得られ 2 The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）た組合せを１０個保存する。もちろん、この段階で解が得横列に同じ数字が存在することが多数ある。この時、縦列られれば終了である。と横列の数字を異なる数字の候補（遺伝子）に変更する。 ③第３段階：力まかせ探索により厳密解を探索する。ＧＡただし、その数字が突然変異で選んだ数字と同じで、候補で保存した解候補の１０個を２×２マスブロック（９×９数が１の場合はその突然変異を中止する。マスでは３×３マスブロック）単位に組み合せる。組合せ親個体総数は１０９通りとなる。この段階で解が得られない場合は、②の処理で再探索回数を増やす、進化世代数を多くするなどの変更を行い、第１段階から解探索を行う。はじめ第１段階制約条件を適用して解空間を減少させる第２段階ＧＡにより解空間の絞り込むＹｅｓ再探索か？Ｎｏ第３段階１０個の途中解を使い全組合せで探索するおわり４２４１１３４４遺伝子座の１０（３行２列）が選ばれたとする。この数字は【第１段階】制約条件を適用して空マスに解候補となる数字を記録する。【第２段階】ＧＡにより解を探索する。評価基準を満たした途中解を１０個探し保存する。１０個未満ならば再探索する。【第３段階】ブロック単位に全部の組合せを行い、解を探索する。ブロックとは９× ９の場合、３×３マスをブロックと呼ぶ。４であるが突然変異で１となると、横列１４２４と縦列に１があり、制約条件を満たさな１２３１い。突然変異で生成された子個体そこで、３行２列の４４２１数字を４から１にした場合、３行１列の１４３４数字は３に変えた。また、４行２列の数図５解探索の３段階の流れ Fig. 5 Solution searches of 3 steps flow ３ 1 ２４字は４に変えた。も２４１３数字に変えることはちろん、候補以外のできない。図７突然変異の操作 ≪2-2 交叉・突然変異≫ Fig.7 交叉は一般的な１点交叉と数字置きパズルを考慮した特別な交叉を適用する。１点交叉は８１個の遺伝子を一様ラ Operation of Mutation ≪2-3 選択≫ ンダム（以後単にランダムと呼ぶ）な１点で交叉させる。選択はエリート選択で、親個体は３０とする。なお、選つまり、ランダムに選んだ２個の親個体から２個の子個体択する時に、良い個体を複数個、残すために上位の５個体を生成する。もう一つの交叉はランダムに選んだ個体で、は常に保存する。評価値は全て８１個のマスを対象に、縦・ランダムで指した遺伝子座に候補が２個の場合、異なる候横・３×３ブロックに「ない数字」があればその数を計数補を組み込んだ１個の個体を生成する。この交叉を局所探して、合計値を評価値とする。つまり、１〜９の数字が必索的な交叉と呼ぶ。なお、交叉の対象は５％である。ず「１個ある」のが解である。評価値が小さいほど解に近いことになり、解の評価値はゼロとなる。親個体１１３２１ ≪2-4 ブロック単位の全組合せ≫ １４×４パズルで、第３段階の総組合せは、図７の２×２ブロックの４個×10 枚を組合せる。遺伝子座に候補が２個の場合、異なる候補の個体を生成する子個体１・・・・２３・・・・２１１ 4 1 3 2 図６局所探索的な交叉 Fig.6 Crossover with Local Search 突然変異はランダムに選んだ個体で、ランダムで指した遺伝子座の候補をランダムに変更する。この場合、縦列と 3 3 21 33 12 2 43 41 24 4 1 3 1 43 132 42 41 3 2 3 11 24 4 3 3 4 2 1 1 2 4 3 ２×２ブロックが組合せの単位である。数独パズルの場合、３×３ブロックである。図８保存したパズルの解候補 Fig.8 Candidate solution of puzzle The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）データ１０１の試行では解の未発見が多くあった。試行 3．バックトラック法で解探索回数の比で言えば、約８０％が未発見であった。難易度がバックトラック法は全ての厳密解を探索する方法として上がると未発見回数が増加する。効率的な方法である。この方法は深さ優先探索＋刈り込みと同じ方法である。探索には探索木を用いるが、深度を進表４数独パズルの解探索の結果（２） Table 4 Result of Solution searches in Sudoku puzzle (2) めるごとに制約条件を調べ満足しなければ、これ以下の深度への探索を中止（枝を刈り取る）する。この刈り込みにバックトラック法より無駄な探索を省いている。データ番号実際の探索は図２の様な探索木を適用して、全ての枝を再帰構造で辿ることで実現する。なお、この探索では深度がひとつ進むごとに、制約条件による判断とそのノードの 101 ９×９マス（例では４×４マス）の状態を保存する。保存 104 発見（秒）人間最大深度 32 1,620 1 20 1,800 105 56 24 1,800 本稿のプログラムでは染色体（遺伝子）に使用した表２ 300 1 1 - の１次元データを利用して探索木を作成している。実際の 339 1 4 - 387 1 7 - 398 1 7 - 1 15 - した９×９マスデータは枝を辿って戻ってきた時に、９× ９マスの状態を再生するために使用する。数字データではなく、数字データの格納位置を示す順序番号（１〜ｎ連番）を使用する（表１参照）。この方法で組合せを生成することで、探索処理が効率よく実現できる。 901 ４．数値実験 ※１秒とは１秒以下を含む。本稿の厳密解の探索は３段階で実施する。使用したパソコンは、ＭＰＵ：Intel® Core™ i7-4770 CPU @ 3.40GHz、メ表４はバックトラック法と人で解を探索した結果であモリ：16.0GB、ＯＳ：64 ビット Windows 8.1 Pro である。る。バックトラック法では探索木の深度が深いほど組合せＧＡによる解探索は，親個体は３０個体、個体群の最大数が多くなり、解発見に時間を要する。しかし、組合せの格納数は８００個体、染色体の遺伝子数は８１座、進化世最初に解がある場合は早く発見できる。代数は４０,０００から９０,０００世代、第３段階用に探索人間の場合、操作速度が遅いが、解を探索するアルゴリ結果を１０個保存する。保存の評価基準は１８から６４でズムの中で、①局所解を早期に飛ばす、②候補数字をトラある。また、染色体の初期値は時刻から乱数の種を生成さイする、③候補数字が少ない所を優先する、④３ヵ所や４せる。再探索は事前の乱数列を継続する。ヵ所が相互に関連して同じ数字が競合する時の仮置きな数字置きパズルの問題の多くは“激辛数独７”[1]から引ど、探索操作をジャンプすることができる。そのため、デ用した。実験結果の１例を表３、表４に示す。表３ 8,931 発見（秒）ータ１０１、１０４、１０５の処理時間が約１,８００秒と同じ程度になる。数独パズルの解探索の結果（１）本稿のＧＡによる解探索は染色体の初期値で探索時間が Table 3 Result of Solution searches in Sudoku puzzle (1) 大きく変化する。次にデータ１０４の例を示す。表５の様本稿の探索結果（カッコの数字は秒）に、発見までの探索時間のバラツキが非常に大きい。これデータ番号第１段階総組数（組）第２段階１０個生成時間(秒) 第３段階（秒） 101 1.80×10 41 発見（3,416） - 104 8.56×10 35 発見（580） - 105 7.7×10 33 発見（3,651） - Table 5 Result of Solution searches in data104 300 発見（１） - - 339 1.87×10 27 発見（３６） - 387 7.26×10 24 229 発見（294） 398 4.16×10 23 発見（776） - ＧＡ４回目ＧＡ３回目ＧＡ２回目ＧＡ１回目平均 901 3.72×10 30 1209 発見（1,427）は、染色体の初期値が大きく影響していると思われる。しかし、ＧＡの再探索回数を多くしても変わらないことがある（例えば３００回）。表５データ番号１０４の解探索結果 580 1,274 68 2,233 1,039 秒秒秒秒秒 ※最短で６８秒、最長で２，２３３秒と探索時間が大きく異なり、平均は１,０３９秒であった。図９のグラフはデータ１０４の進化過程である。ＧＡ ※第１段階の総組数とは、制約条件を適用した後の組数。（１）は解を発見したケースで、４０,０００世代付近で解を発見している。ＧＡ（２），（３），（４）は局所解に落ち 4 The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）たケースである。進化世代から見ると、一定世代の間、進厳密解を探索した。なお、多くの場合、数独パズルはＧＡ化が止まると、局所解に落ちていると判断できる。本稿の段階で発見されている。この段階での発見の可否は難易度突然変異では局所解に落ちると抜け出すことが難しかったに依存しない（親個体の初期設定に依存）。なお、ＧＡでのので、初期値を変えて再探索を行った。解発見は組合せ数が多い（深度が深い）と“再探索の回数が多くなる”傾向がある。厳密解の探索の場合、次のような点を考慮すると良い。 350 評価値 300 250 GA(1) ①解空間が広く、解が少ないと考えられるので、局所解に GA(2) 落ちる確率が高いので、落ちた場合の対策が重要である。 GA(3) 200 本稿では初期染色体の値を変えて、再探索を行っている。 GA(4) ②局所解に落ちたことを早期に発見する仕組みを組み込 150 み、処理時間を短縮する。本稿では評価値が連続する回数 100 を決めて打ち切る。 50 0 ③親個体の初期設定（初期の染色体）は解空間を広く網羅 0 20000 40000 60000 する。単純にランダムな数値を使う方が良いが制約条件を 80000 適用する等の操作も考えられる。本稿では遺伝子を一様な世代乱数で生成している。図９進化過程の例（データ１０４） Fig.9 Sample of Evolution process (data104) ④遺伝的操作は問題に対応した突然変異や交叉が効果的である。本稿では、一般的な１点交叉に加えて問題対応の突然変異と交叉を組み合せている。選択は一般的なエリート第３段階の力まかせ探索で解を発見できないケース（データ番号１０１の例）がある。理由はＧＡで解の一部となる３×３ブロックが得られなかったことによる。なお、図１０は第３段階で解が得られた時に保存された途中結果のひとつである。網掛けの１２マスが解と異なるが、５つの３×３ブロックは解と同じである。選択を用いている。 ⑤進化処理は単純な構造とし、世代進化や再探索回数を増やすのに影響が少ない方が良い。本稿では標準的なＧＡの処理手順を使用している。 ⑥ＧＡで解を得られない場合、絞り込んだ解候補から部分を切り出して、組み合わせることで解を求める（第３段階）。 5 8 2 6 4 1 9 7 3 7 1 3 2 5 9 6 8 4 4 6 9 7 8 3 5 1 2 3 2 5 5 7 4 1 6 9 8 7 4 9 1 6 3 2 8 1 9 6 3 2 8 7 4 5 ＧＡを用いて厳密解を求めるには、問題に対応した交叉や 2 3 8 1 9 7 4 5 6 個体の初期値を変えた再探索が重要である。探索時間の短 9 5 1 4 6 2 8 3 7 6 4 7 8 3 5 2 9 1 本稿では候補とする９×９パズルの１０個を３×３ブロック単位に切り出して組み合せている。 ⑦ＧＡ処理の前に制約条件を適用して、組み合せ回数を減らすことが必要である。本稿では、第１段階で、縦と横方向の制約条件により、組み合せ回数を減らしている。６．おわりに本稿では容易に解か否かを判断でき、解が相互に独立している問題として、数独パズルを採用した。突然変異、選択が必要である。局所解に落ち易いため、親縮は初期の親個体に大きく依存する。現在、初期値生成の良い方法は見つかっていない。また、選択では、２目的にして、優先順序を付けることも考えられる[3]。３×３ブロックの評価を順位１位、縦・横の評価を順位２位とする。図１０評価１８で保存された数独パズル Fig.10 Saved Sudoku puzzle by evaluation 18 現状で、探索速度は人間とバックトラック法の方が早い。しかし、親個体の初期設定によってはＧＡが早くなる。親７．まとめ個体の初期設定や遺伝的操作の仕組みを問題に対応させることで厳密解を発見できると考える。本稿では３段階方式の解探索を検証した。第１段階では、参考文献制約条件（縦・横・ブロックのユニーク性）による解空間の縮小。第２段階ではＧＡによる解空間の絞り込み。突然 [1] Gen, M. and Cheng, R.: Genetic Algorithms and Engineering Optimization, John Wiley and Sons, New York, (2000). [2] 荒川正幹他：激辛数独７，ＫＫニコリ，2009 [3] 椋田實,江藤香：遺伝的アルゴリズムの経路選択順方式による順序付き最適化，第３回知能技術応用研究会，SOPEJ，2013 変異に縦・横ユニーク性の補正を組込み、一定の評価が得られるまで初期値を変えて反復処理し１０個の途中解を得る。第３段階では３×３ブロック単位の全組合せにより、 5 The 15th J-C Workshop 2016＆日本設備管理学会 2015 年度知能技術応用研究会（2016.2.18 石川四高記念文化交流会館）解答付録（実験データ） 8 4 7 1 5 2 3 6 9 3 1 9 8 6 4 2 7 5 5 6 2 7 3 9 4 8 1 4 5 8 3 2 7 9 1 6 6 9 3 4 8 1 5 2 7 2 7 1 5 9 6 8 3 4 5 7 3 6 2 4 5 1 9 8 6 9 8 4 6 1 3 7 5 2 1 2 5 9 7 8 6 4 3 Data file: data0101.txt // Lebel 難しい問題、作：不明 5 7 9 8 1 9 4 1 7 8 1 1 4 7 3 5 1 Data file: data0105.txt // 105（激辛数独７）株式会社ニコリ発行：2010 年 // Level10 作：おく山みつゆき解答 5 8 2 6 4 1 9 7 3 7 1 3 2 5 9 6 8 4 4 6 9 7 8 3 5 1 2 8 2 5 3 7 4 1 6 9 9 7 4 5 1 6 3 2 8 1 3 6 9 2 8 7 4 5 2 9 8 1 3 7 4 5 6 6 5 1 4 9 2 8 3 7 3 4 7 8 6 5 2 9 1 5 6 3 3 8 4 7 4 2 2 6 8 9 3 6 1 7 8 2 9 5 3 5 7 解答 Data file: data0104.txt // 104（激辛数独７）株式会社ニコリ // Leval10 作：高由良りむ発行：2010 年 8 9 1 4 2 3 7 4 7 3 7 5 5 6 8 1 1 4 6 1 5 3 6 9 8 2 4 7 1 3 6 5 6 5 1 2 3 8 4 7 9 7 4 3 5 6 9 8 1 2 5 3 6 7 9 4 1 2 8 1 9 4 8 2 5 6 3 7 8 2 7 6 1 3 5 9 4 2 7 8 1 5 6 9 4 3 4 1 9 3 8 7 2 5 6 3 6 5 9 4 2 7 8 1