数理システムユーザーコンファレンス2009 脳の秘密を数理で明らかにするー数理脳科学への招待数学は人類の文化であるバビロニアの数学アラビア、中国、ギリシャ、日本の数学ユークリッド幾何甘利俊一脳の仕組み理化学研究所脳科学総合研究センター脳の仕組み 21世紀の科学技術ー考える喜び抽象的思考物理学環境エネルギー人間とは何か社会とは何か情報科学人間科学数学、文化情報数理科学生物科学ゲーム、パズル人間の科学数の概念ー動物、チンパンジー地理ーねずみ、幾何 −−人間：抽象思考心社会融合物理学 ─大帝国相対性理論団体物理ナノテクノロジー量子力学エレクトロニクス教育経済学生物科学・・・情報数学数学 ─象牙の塔現代数学情報科学・工学ブールバキ数理科学電話・無線情報理論サイバネティックスコンピュータトランジスタ真空管物理情報生物学ーGödel・ del・Turingの呪 Turingの呪工学インターネット情報化社会人工知能・ロボット・脳バイオインフォーマティックス生物還元主義人間とは何か博物学種の多様性分子生物学ー脳遺伝子バイオテクノロジー生命の基本原理構造と機能脳・システムバイオロジー脳科学ー分子からシステムへ ─── 生物科学思考・言語・意識人間・社会・文明脳の宇宙誌ビッグバン：エネルギー・物質ー天体ー分子（秩序）（137億年）生命科学遺伝、分子機構、自己保存脳・神経系：環境の情報を利用、記憶、学習、判断、行動（5億年） ─── 人間科学エネルギーとエントロピー生命：自己を複製し次世代に伝える物質の一形態（36億年） ─── 情報科学物理学、化学神経科学人間：心を持ち社会に生きる生命；文化と社会（20万年）脳科学、情報科学、人間科学 1 ４６億年前：地球の誕生ビッグバン：エネルギー・物質ー天体ー分子（秩序）（150億年）物理学、化学エネルギーとエントロピー生命：自己を複製し次世代に伝える物質の一形態（36億年）生命科学遺伝、分子機構、自己保存 DNA 類人猿、そして人間人間：心を持ち社会に生きる生命；文化と社会（20万年）脳科学、情報科学、人間科学多細胞生物脳・神経系：環境の情報を利用、記憶、学習、判断、行動（６億年）神経科学心の理論ロボットに意識はあるか人と共感するロボットロボットに心が持てるか？ −−心の理論脳神話脳：大脳、海馬、小脳、脳幹グルタミン脳を鍛える、テレビ脳モーツァルト右脳人間脳臨界期脳脳の働き：反射、認知、思考、行動記憶、情動、心分子機械情報機械人間・社会分子機械ー情報機械分子細胞回路モジュールシステム個体社会 10 9 m 10 5 m 10 3 m 10 2 m 100 m 10 107 m ミクロ世界の探検― ニューロン：結合の配線大きさ、数、シナプス結合、ニューロン内部細胞、核、遺伝子脳を創る領域の戦略ー神経科学と情報科学の融合脳研究脳の情報処理原理脳を知る領域・・・・人間とは何か人間から社会へ脳を守る領域・・・・脳疾患・老化精神障害脳型の情報モデル脳を創る領域・・・・脳の理解脳型情報技術モデル・理論・技術システムバイオロジー，ニューロインフォーマティックス脳を育む領域・・・・教育・学習脳の数理情報科学脳の情報原理解明への道人間の思考論理直観シンボル（言語）パターン（ニューロンの興奮）逐次直列並列相互作用アルゴリズム（プログラム）学習・自己組織ニューロコンピュータ脳生物学的現実工学的現実情報原理（並列，分散，学習）分子生物学ニューロコンピュータ脳のモデルコンピュータ人工知能融数理モデルハード・デバイス数学理論合脳の情報原理分散表現ーーーー記号表現協調・競合の時空間パターンダイナミックス −−−−論理による推論学習・自己組織化・記憶 −−−プログラム意思・感情・意識 −−−？心、意識とは何か脳とコンピュータプログラムを管理するプログラム社会的存在としての人間コミュニケーション：意図、状態言語と意識の発生並列計算システムと意識脳と機械の直結脳を読む brain-machine interface 脳の状態の読み取り：計算、決定、意識、心、行動機械の操作：義足、タイプ、制御脳の指令で機械を動かすニューロ経済学ニューロ商品学脳への入力脳への直接入力脳の操作ーー幸福？脳を創る領域脳型情報数理科学の確立理論による解明計算論的神経科学作る事によって知る情報システムの創造脳型情報論脳の計算原理 ─ コンピュータロボット工学・人工知能との融合システム・デバイス脳の情報数理科学脳理論・脳モデルとはダイナミックスと決定 xt 認知モデルパーセプトロン x: dx t dt f xt ; f x; アトラクター分散表現学習・情報幾何次元の呪 y 1 vi wi x 安定点安定軌道カオス記憶決定近似実数計算論へパルス計算記憶モデルダイナミックス多重・想起 x& f Wx コンピュータ思考・決定のモデル記憶と学習海馬の働き：HM 学習機械運動制御機構ニューロダイナミックス x& 強化学習大脳 f Wx, s 基底核多安定・カオス探索・巡回セールズマン問題小脳順モデル最適計画逆モデル意図誤差ニューロンの働き神経細胞のモデル総合多数決素子答デルファイダイナミックス運動司令実行多層パーセプトロンニューロンの数理モデル y wi xi h w x y vi x x wi x x n ( x1 , x2 ,..., xn ) wi x y f x, (u ) vi wi x 多数決素子 ( w1 ,..., wm ; v1 ,..., vm ) u 興奮・抑制 Multilayer Perceptron 神経多様体万能関数近似系 (x) N x 関数空間 v i ai x i 1 m y θ x f x, θ vi i 学習 x x wi x Multilayer Perceptron 次元の呪い vi ai x L N i i 1 v 1 L , vm ; w1, L , wm vi vi wi x 1 wi x L N d 2 神経多様体固定基底系 c d 可変基底系ｙ 1 1 2 M { p ( y | x; )} p ( y , x; ) q ( x ) p ( y | x; ) space of {q(y|x)} q( y | x) 神経多様体リーマン多様体 g ij ( ) log p ( y | x; ) log p ( y | x; ) E[ i ] j ds 2 d 2 d d 計量構造位相構造 j g ij d id T d G i j Backpropagation ---勾配学習法 ---勾配学習法例題 : y1 , x1 ,L yt , xt 1 y f x, 2 log p y, x; E ( y, x; ) Backprop の問題点 training set 2 収束が遅い---plateau---saddle 多数の局所解 E t t f x, vi wi x MLP の欠点 t l ( xt , yt ; t ) t MLP の情報幾何 slow convergence : Plateaus error Natural Gradient Learning : S. Amari ; H.Y. Park G local minima Gt 11 Boosting and Bagging 1 l 1 Gt 1 Gt 1 f f T Gt 1 Computational Experiments • Mackey-Glass time series prediction –generation of time series Computational Experiments Learning Curves of Mackey-Glass problem –input : 4 previous values ; x(t-18),x(t-12),x(t-6),x(t) –output : 1 future value ; x(t+6) –learning data : 500 (t=200,…,700) –test data : 500 (t=5000,…,5500) –Network Structure 4 inputs -- 10 hidden – 1 output OGL : Ordinary Gradient Descent (Backpropagation) ANGL : Adaptive Natural Gradient Descent パーセプトロンの幾何学 Which path is faster? MLP の特異点---example An Error surface of Simple MLP 情報幾何 singularitiesー特異点制御システム情報理論統計科学最適化・組み合わせ神経回路網情報科学数学物理学人工知能リーマン多様体ー双対接続構造微分幾何ー代数幾何確率分布族の多様体アファイン接続情報幾何とは ? S p x; , affine connection 1 2 p x; , 2 x exp 2 2 共変微分 p x c S p x; リーマン幾何双対アファイン接続 p ( x; , ) X Y 測地線 & & X=X(t) X=X g ij ( ) d i d s j minimal distance straight line 独立な確率分布のつくる空間 x1 , x2 S p ニューロンの発火 0,1 { p( x1 , x2 )} ( p00 , p01 , p10 , p11 ) M x1 {q( x1 )q( x2 )} x2 p (x ) i vij E[ xi ] x3 xn p( x1 , x2 ,..., xn ) ----firing rate：発火率 Cov[ xi , x j ] ----covariance：相関 higher-order correlations：高次相関 orthogonal decomposition：直交分解信号の混合と分解ガウス雑音 x1 xm s1 生体情報解析 s2 sn カクテルパーティ効果 Ast nt 移動体通信画像解析 x2 xt 推定関数法空間混合 x1 x2 a1s1 L an sn a1' s1 L an' sn x LL As Information Geometry of ICA ---Independent Component Analysis x As y Wx p y p y, W 時間混合 x t a1s t x t A t a2 s t 1 s q y L an s t n independent d 研究人生１０代：２０代：３０代：４０代：５０代：６０代：７０代：暗中模索無我夢中先鋭的創意実力十分円熟道楽？私の時代ーー幸運な時代? これからの時代