コンピュータと人間の距離 ― 認知科学における意識の問題 ― 橋場 利幸 Distance between Computer and Human :Problem of Cognitive Approach toward Human Consciousness HASHIBA Toshiyuki かつては人間独自の行為と思われた知的営みも、 情報技術の進展とともに少しずつコンピュータで代 行されるようになり、われわれの情報技術に対する 依存は、その度合いをますます深めつつある。しか 1. 情報化社会におけるコンピュータと人間 コンピュータと人間の関係は「人間側からコンピ ュータ側への対応」という方向と「コンピュータ側 し、近年のさまざまなインターネットや携帯電話が らみの事件を目の当たりにすると、とりわけ情報化 の波にさらされた若年者層などに、一種の「情報化 の歪み」 のようなものが見られるようにも思われる。 から人間側への対応」という方向の二側面から考え られるように思われる。前者はわれわれの新しい技 術に対する適応能力、具体的にはコンピュータに関 する理論的知識や操作能力といったいわゆるコンピ 科学技術が必ずしも良い結果ばかりをもたらすとは 限らない。われわれは情報産業の商業的戦略の中に 無批判的にのみ込まれるのではなく、コンピュータ ュータリテラシに他ならないが、技術への適応は同 時にそれへの依存にも移行しうるという側面も持っ ている。注意すべき点は、情報技術への適応・依存 とどのような関係を持ってゆくべきかということ、 すなわちどのような部分でコンピュータに依存し、 どのような部分ではコンピュータに依存すべきでは ないかをあらためて問い直してゆかなければならな が必ずしも良い面ばかりではなく、さまざまな問題 をも生じてきているという事である。古くは情報産 業に従事するもののテクノストレスや、コンピュー タ技術者が人間よりもコンピュータに熱中してしま い。 コンピュータと人間の関係のあるべき姿は、人間 が「コンピュータの能力の限界」を認識した上で、 過剰な依存を避けつつ、適切な距離を持ちながら付 い一種の家庭崩壊が生じてしまうというシリコンバ レーシンドロームなどといった問題があったが、こ れらはまだしもその影響範囲が情報産業従事者とそ の関係者のみにとどまっていた。しかし最近では、 き合ってゆくことであろう。それではコンピュータ の能力の限界はどのあたりにあるのであろうか。コ ンピュータはどこまで人間の能力を模倣し人間に近 づきうるのであろうか。ここでは古くから人間らし 情報機器とネットワーク回線料金の低コスト化によ り、コンピュータの利用者層、利用時間、利用形態 も大きく変化したことと相関して、さまざまな社会 的事件が何らかの形で携帯電話／インターネットが さの象徴といわれてきた「自己意識」という現象に 関して、認知科学における自己意識論、つまり情報 科学的人間理解のパラダイムがこの心的現象をどこ らみであることも多くなってきた。さらには携帯電 話などの情報機器なしでは日常生活や他者とのコミ ュニケーションが成り立たないと感じる人々が、若 まで説明できるのかを考察することによって、コン ピュータでは実現できない人間独自の能力がどこに あるのかを明らかにし、コンピュータ／人間間の適 切な距離認識のための一助としたい。 年層を中心として増加しているようである。このよ うな現象はわれわれが人間独自のものとして守るべ き領域を失ってまで情報化技術に過剰に適応・依存 1 した結果生じた一種の病理現象のようにも思われる て問われるべき最大のものは、とりわけ人間を他の 1 。 一方「コンピュータ側から人間側への対応」とい う方向に目を転じてみると、これはより人間に近い コンピュータを目指す研究開発と、そのための基礎 存在者から峻別するような独自の心的事象でなけれ ばならないだろう。そのような人間を人間たらしめ る最大の心的メルクマールといえば、自分自身で自 分自身を知る能力、すなわち自己反省能力に他なら 研究としてのコンピュータを用いた情報科学的人間 理解である人工知能・認知科学がこれにあたる。精 密な機械をモデルとした人間理解の方法は、ヨーロ ないと考えられてきた2 。確かに自己自身を反省する 能力はチンパンジーやオランウータンなど一部の霊 長類にも見られるという報告もある3 。しかし、他の ッパ近世初頭にもすでにデカルトやラ＝メトリなど の機械論的人間観が存在していたが、ようやく前世 紀半ば以降になって、実用的なコンピュータの開発 と、計算機科学、計算言語学、認知心理学などの成 ほとんどの生物では自己の行動を反省的にとらえて 現在の無駄な行動を最適に調整することはできない し4 、反省を欠いた単なる可塑的な調整能力（機械学 習）であれば、すでにコンピュータシステム上で商 果によって、人間の知的営みをコンピュータ上に実 現しようとする試みが現実的に実現可能なものとな る。これによって、従来反省や内観のみによってし か扱えないと思われた人間の心的領域に、工学的成 品化レベルにまで行き着いているのである5 。このよ うな点から考えるならば、少なくとも自己自身を反 省できる能力が他の多くの生物から人間を特徴づけ ている重要なメルクマールの一つであると言って良 果に裏付けられた手法が踏み込んでゆくことになっ たのである。ここで重要なことは、認知科学・人工 知能の研究過程で単に高度なソフトウェアが構築で きたことではなく、コンピュータ上で実現不可能な いだろう。 それでは人間の独自性を示すものと考えられてき たこの自己反省という事象について、コンピュータ 側からの人間理解である人工知能／認知科学研究か ことが明らかになることによって、人間独自のもの と目される能力が逆照射的に明らかになりつつある という点であろう。 らは何が言えて、何が言えないのであろうか。もし もこの自己反省という事象に関してコンピュータ上 では実現できない点が明らかになれば、それが人間 確かにコンピュータによる人間理解は一定の側面 で目覚しい成功をおさめてきた。それはたとえば人 間の記憶・知識構造に関する研究が、目的地までの 最適な交通経路の自動探索、フライトや時間割など を機械から峻別するような人間独自の能力であると 言ってよいであろう。そうしてそれによって先に見 たコンピュータへの適応・依存の中でも守るべきこ とがらが、換言すればわれわれが情報化社会の中で のスケジューリングをこなす「エキスパートシステ ム」 （専門家のかわりに最適な判断をするシステム） として実現されたり、人間の言語理解に関する研究 が「かな漢字変換システム」や「自動翻訳システム」 見失ってはならないものが明らかになるかもしれな いのである6 。 に結実したり、神経構造の数理的研究がニューラル ネットワークによる「文字／パターン認識システム」 に応用されたりといった成果をあげてきた。これら それぞれの研究はコンピュータの能力とその限界が 具体的に認知科学的・情報科学的視点から見られ た自己意識のモデルを検討する前に、ここではコン ピュータを用いた人間理解の方法である認知科学の 方法論とその意義について見ておきたい。 明らかになることによって、それぞれの面における 人間独自の能力を明らかにしてきたと言える。 しかし、先に見たように人間側からの過剰なコン 2.1. 認 知 科 学 と コ ン ピ ュ ー タ ピュータへの適応・依存が何らかの病理的現象を生 じさせてしまうとしたらならば、そうしてそのよう な過剰な適応・依存が人間独自のものの変容である としたならば、コンピュータによる人間理解におい 神経科学、人工知能研究などの知見を用いつつ、従 来の学問の枠を越えて総合的に人間のこころのしく みを研究しようとする学際的領域であり、その発端 を 1940 年代以降盛んとなった脳機能とそのモデル 2. コ ン ピ ュ ー タ に よ る こ こ ろ の 研 究 認知科学とは、哲学、心理学、言語学、数学、脳 2 化の研究や、心理学、言語学における情報科学的方 する原理の研究から人間の本性が理解されるとして 法を勃興期と見なせば、現在すでに半世紀以上にわ たる歴史を持つことになる。 認知科学は、一般的にいって「認知」の仕組みを 解明しようとする学問分野であると言えるが、研究 いる8 。 認知科学者ノーマンも、認知科学の特徴が、それ が人間のものであろうと機械のものであろうとにか かわらず認知についてより深い理解を求めようとす 対象・研究方法はともに多様を極め、参加している 研究者の領域も、心理学、言語学、計算機科学、哲 学、神経科学などさまざまなものが含まれる。研究 るという点にあると述べている。彼は認知科学が機 械も含めた知的行動を研究することによって、知能 や知的行動の一般的な原理を理解し、人間のこころ 対象に関していえば、単に人間の認知のみならず、 動物、さらには機械までも含み、研究方法に関して も、実験心理学的手法もあれば、数学的モデルの検 証をおこなうもの、コンピュータシミュレーション や教育、学習、人間の知的能力の理解に役立ち、人 間の知能を補強する知能を持つ機械を実現するのに 重要で建設的な役割を果たすという役割をもつとし ている9 。さらには認知科学者・計算機科学者である を行って検証するもの、さらには検証手続きを全く 用いずに理論的に考察するものもあり、多様を極め る。そのような多様な研究者を「認知科学」なるカ テゴリーで結びつけるものは、これら研究者の興味 サイモンにも「認知科学はあらゆる形態の知能にか かわるものである。今日の世界において、われわれ は二種類の基本的な知能を持っている。すなわち、 人間の知能とコンピュータの知能である ─ もちろ の対象が、まさに「認知」であることだ、という点 に尽きるとしか言えまい。 それではなぜ既存の学問分野ではなく、認知科学 なる新しい分野が必要なのであろうか。代表的認知 ん人間以外の動物の知能の他に、であるが」10 とい う発言がある。 科学者の一人であるピリシンは、認知科学が他の応 用心理学などと相異する点を、前者が基本的に「計 算的視点」を取ることに見ている7 。認知科学研究は、 このように認知科学においてはコンピュータによ る知能のモデリングが重要な役割を果たすことにな るのだが、コンピュータモデルの役割をどのような 認知過程が（論理式、数式やコンピュータプログラ ムなどの）記号操作手順の実行によって構成される と考えるところに特色があるのである。彼は認知科 学の研究方法の特徴として「形式主義的アプローチ ものとみなすかについては、 さまざまな議論がある。 それをごく大まかにいえば、コンピュータモデルを あくまで人間の知の解明のための道具・シミュレー ションに過ぎないとする立場と、コンピュータモデ （記号による理論の定式化） をとること」「説明水準 が機能的 functional であること」「コンピュータへ の実装を想定していること」「トップダウン解析の アプローチをとること」といった点を挙げている。 ル自身を知と見なすような立場がある、と言えるで あろう。換言すれば、これはコンピュータモデルと 人間の知の機構が、単に「入出力等価」であると見 なすのか、 「強い意味で等価」と見なすのか、という このうち第二の点については後述するが、認知科学 を哲学的認識論や心理学から際立てているのは、第 三の「コンピュータへの実装を想定している」とい う点であろう。認知科学は、認知の仕組みに関する ようにも表現されよう11 。簡単に言えば、前者はそ れが実際に人間の認知のプロセスと同一であるか否 かにはかかわらず、知的に動作するようなコンピュ ータシステムをつくればよいという工学的な立場で ものならば、人間のそれのみならずコンピュータに よるそれをも射程に入れているということである。 ピリシンは認知科学の研究領域を、高等脊椎動物と あり、後者は知的に動作するプログラムそのものが 人間の認知のプロセスをあらわす理論的定式化であ るという立場である。言語哲学者で認知科学にも深 ある種のコンピュータシステムから成る「情報食者 informavore」であるとし、人間もそのような情報食 者ないし認知者である以上、情報食者の領域を支配 くコミットしているサールの用語を用いれば、前者 は「弱い人工知能 (weak AI)」という立場であり、 後者は「強い人工知能 (strong AI)」という立場であ る12 。認知科学者が一般にこのどちらの立場をとっ 2.2. コ ン ピ ュ ー タ モ デ ル の 役 割 3 ているのかは必ずしも明確ではないが、例えばピリ ではない。決定的役割を果たすのは、むしろそれら シンなどは、現在の認知科学にとっては後者のよう な「強い等価性」という立場が中心的であるがこの 問題が明示的に議論されるのはまれである、と指摘 している13 。いずれにしても認知科学の特色の一つ の結合によって実現される一定の機能であり、その 機能を実現するための具体的手続き （アルゴリズム） であろう。このような側面を重視するゆえに、たと えまったく異なった物質的基盤を持つコンピュータ に、コンピュータモデルの利用という点が存するこ とは疑いのない事実である。 上であっても、機能的に人間と同じ方法で働くモデ ルを構築することによって、 「こころ」 にアプローチ することができると想定されているのである。 2.3. な ぜ コ ン ピ ュ ー タ モ デ ル か それでは、なぜ認知科学においてはコンピュータ モデルが利用されるのであろうか。一般にモデルと は、原型との間に一定の類比関係を有し、原型に対 2.4. 認 知 科 学 に お け る 機 能 主 義 する類推を可能にするものである。その際、類比構 造を可能にするためには、原型とモデルとの間に構 造の同型性が要求されるが、認知科学においては、 必ずしも原型となる対象との物理的構造の同型性は り、心的なものは物理構造との類比ではとらえきれ ないゆえに、「こころ」 を一定の機能をこなすブラッ クボックスと考える立場に立ってモデルを考えるの である。一般に機能主義とは、さまざまな心的状態 要求されていないことが注意されるべきである。認 知科学は認知すなわち「こころ」を対象とする以上 モデルの原型は「こころ」となるが、この場合対象 となる「こころ」と、認知科学で用いられるコンピ が、生物体・器官と環境との間の相互作用を媒介す るにあたって、どのような因果関係を引き起こす機 能的役割を果たしているかにもとづいてタイプわけ することができるとする考え方である14 。要するに この点において、認知科学の特徴の一つである「機 能主義 functionalism」という立場が成立する。つま ュータモデルとの間には、必ずしも構造的同型性が 機能主義では心的状態を因果関係を中心として考え あるとは限らないのである。 るわけであり、もしも相互に内的構造が異なること 確かに脳の物理的構造をモデルとして考える立場、 がらがあったとしても、それらが同一の因果的役割 すなわちマッカラックとピッツにその端を発し、ル ーメルハートらの PDP モデル（並列分散処理 Parallel Distributed Processing） によって 1980 年代以降研究が 再興した「ニューラルネットワーク」や「コネクシ を果たす限り、すべて心理学的に等価と見なされる のがこの立場である。 重要な点は、ピリシンが指摘するように「生物的 物質がいかにしてこの機能を遂行するか、また生化 ョニズム」の立場においては、原型たる脳の物理的 神経回路網とニューラルネットワークモデルとの間 にはある程度構造的同型性が存している。しかしコ ネクショニズム的立場以外のものは、対象領域が「こ 学的および生物物理学的法則よりいかにして必要な 情報処理機能が行われるかなどの疑問を、このアプ ローチが分離する」ということである15 。つまり生 物学的・物理的アプローチのみによってはうまく説 ころ」という非物理的なものゆえに、必ずしも原型 との構造的同型性という点にはこだわらないモデル を利用しているのである。むしろ、原型の構造自身 がよくわからないゆえに、こだわりようがないとい 明できないような現象へのアプローチを可能にする のが、機能主義的立場なのである。生物学的要素の 分離という方法は、コンピュータ科学においてハー ドウェアに依存する部分をプログラミングの考慮か った方が正確かもしれない。 換言すれば、これは「人間の認知活動はハードウ ェアとしての脳の物理的構造よりも、むしろソフト ら分離してアルゴリズムを考えるのと類似している が、これは生物的実現の問題の重要性を軽視するこ とを意味するのではなく、 むしろ生物学的要素と「こ ウェアとしての脳の働きかたに依存する」といった 見解であると言えるだろう。たとえこころの働きが 脳に多くを負うとしても、複数のニューロンが無作 為に結合されればただちに意識が生じるというわけ ころ」の問題は「別個にかなりの程度独立な研究領 域であることを意味している」と考えられるべきで あろう16 。 4 このような機能主義的立場において構築されるコ る、ポットから湯気が吹き出すまで待つ、コーヒー ンピュータモデルは、原型との間に構造の類比を持 たないという点で、ちょうど鳥に対する飛行機の関 係に似ているとも言える。認知哲学者デネットはこ のような機能的レベルでのモデリングの方法を、飛 の瓶を棚から取り出す、瓶の蓋を取る、瓶の蓋をす る、コーヒーの瓶を棚に戻す」などといったことを 指示しなければならない。いや、実際には物理的な 移動距離（右方向に何センチ移動しながら、上方向 行機が鳥と同じ「空を飛ぶ」という機能を実現する 際に、鳥が現実的に持たない車輪（ホイール）を持 つことによって同一の機能を実現したことから「コ に右腕を 30 度上に上げて、などなど）まで詳細に指 摘しなければならないだろう。お湯を沸かすといっ た簡単な行為一つをとってみても、実際にプログラ グニティヴ・ホイール」という秀抜な命名をしてい る17 。このように認知科学においては、モデルの原 型の物理的な構造からのモデリングではなく、むし ろ機能主義的立場におけるモデリングから 「こころ」 ムとしてロボットに命令するための記述を考えると、 われわれが日常何気なくこなしている行為がいかに 複雑な動作の組み合わせから成り立っているかにあ らためて気づかせられるのではないだろうか。 の構造すなわち認知機構が解明される、という考え 方が大勢の立場ではないかと思われる。 2.5. 認 知 科 学 的 ア プ ロ ー チ の 意 義 コンピュータにはわれわれの常識は一切通用しな いゆえに、コンピュータにでも実行可能な手続きレ ベルまで視野におさめて考えようとすれば、われわ れは自らの「暗黙の前提条件」を再度問い直さざる もちろん、「こころ」の活動のすべてが機能主義 的・計算論的モデルによって定式化できるかどうか は決して明らかなことではない18 。しかしながら、 「こころ」の研究においてはプログラムを開発する を得なくなるのである。われわれが世代や文化環境 が異なる人々とコミュニケーションをとろうとする 場合に、しばしばある種の暗黙の前提条件の違いに 起因するコミュニケーションギャップが生じること という作業過程そのものが重視されるべきではない だろうか。なぜなら、コンピュータ上で実際に稼働 する手続きレベルにまで下って考えることは、直観 を考えれば、認知科学的手法の習得（それは専門家 による研究だけではなく、修学者が人間の認知機構 を想定したプログラミングを学ぶ場合もそうであ を明確にし、あいまいな用語を具体的提案に翻訳す ることをわれわれに強いるからである。 例えば、ロボットに「インスタントコーヒーをい れてくれ」と頼む場合、実際にどのような動作をさ る）は、知識を具体的レベルに翻訳する訓練の機会 をわれわれに提供することによって、日常生活レベ ルにおけるコミュニケーションを生産的な相互理解 へともたらすことにも役立ってくるのではないだろ せなければならないかを考えてみていただきたい。 もしコーヒーの入れ方が分からないとしても、人間 であれば、せいぜい「湯を沸かす、コーヒーをカッ プに入れる、湯をカップに注ぐ」といった説明でよ うか。 いであろう。しかしこれがもしも子供に対する説明 であれば、 「ポットに水を入れる、ポットのスイッチ を入れる、湯が沸くまで待つ、ポットのスイッチを 切る、コーヒーの瓶を開ける、スプーンでコーヒー るが、それが何らかの意味で問題とされてきたとは いえ19 、認知科学ではこれまでのところは知覚、思 考、知識構造などの研究が主流であり、人間の自己 意識そのものが認知科学のテーマとして真正面に据 をすくう、スプーンのコーヒーをカップに移す、コ ーヒーの瓶をしまう、ポットの湯をカップがいっぱ いになるまで注ぐ」といった詳細な手続きを（大人 えられることは少なかったように思われる。しかし 近年は、直接脳の働きを観察できる高性能の先端的 装置（PET、機能的 MRI など）の開発や、コンピュ がつきっきりで監督しながら）指示しなければなら ないだろう。これがロボットの場合だとどうなるで あろうか。 「ポットの水を蛇口の下に置く、 蛇口を開 く、ポットがいっぱいになるまで待つ、蛇口を閉じ ータ科学におけるニューラルネットワークモデルの 研究などによって、意識の問題がテーマになること も多くなってきた20 。ここでは、認知科学における 意識一般のとらえ方の特徴を以下のように考えてみ 3. 意 識 の 認 知 科 学 的 モ デ ル さて、その認知科学における自己意識の研究であ 5 たい。すなわち、われわれの意識のうちには異なる なる並列的な情報の流れによって結合されており、 レベルの処理をおこなう機能単位が存在し （階層性）、 しかもそれらは逐次的ではなく同時進行的に処理を おこない（並列性） 、外部世界のモデルだけではなく 自己自身を示す内的モデル（自己のモデル）を持つ メタレベルから対象レベルへと向かう情報の流れは コントロール関係を成立させ、対象レベルからメタ レベルへのそれはモニタリング関係を成立させるこ とになると想定している。 メタレベルの認知過程は、 というものである。これらは脳の物理的構造からと いうよりも、情報科学的・計算論的な必要性から想 定されているという点が、認知科学的な自己意識論 前者のコントロールによって対象レベルの認知過程 を修正し、行動の開始、行動の継続、行動の終了、 目標の設定、計画、方法の修正などをおこなうこと の特色をよく示している。さっそく以下では認知科 学における自己意識のモデルをいくつか取り上げて みたい。 ができる。しかし単なるコントロールだけでは対象 レベルからの情報がまったく得られず、状況に適応 した行為が選択できないことになるので、自己の認 知過程のモニタリングをおこなう必要がでてくる。 3.1. 認 知 に つ い て の 認 知 ネルソンらは、このモニタリング機能によってわれ われは物事が理解できないという気づきを持ったり、 ある物事を思い出せないが何となく知っているよう な感じ（既知感 feeling-of-knowing）を持ったりする 3.1.1. メ タ 認 知 と は われわれが自己を意識するためには、自らを高次 レベルからとらえて対象化することが必要であろう が、このような認知のしくみは、認知科学では「メ タ認知 metacognition」とよばれることが多い。メタ 認知とは、簡単にいえば「認知に関する認知」とい った意味合いである。メタ認知といわれた場合、自 己を意識した結果として生じた知識的側面（例えば 「私はものを書くのは得意だが、しゃべるのは苦手 だ」といった自己の認知についての高次の知識であ り「メタ知識」と言われる）が強調される場合もあ るが、ここではむしろこの概念を「自己の認知プロ セスや状態の監視や制御」という機能的・活動的側 面としてとらえ、代表として認知心理学者ネルソン とナレンズのモデルをみてみよう21 。 3.1.2. コ ン ト ロ ー ル と モ ニ タ リ ン グ ネルソンらは人間の認知過程を以下の三つの原理 によって説明しようとする。まず人間の認知過程は 二つもしくはそれ以上の相互に関連したレベルに分 割され、それらは「メタレベル meta-level」と「対 象レベル object-level」の認知過程とよばれる。次に 両レベルは「コントロール」と「モニタリング」と いう関係によって結びついている。そうして、メタ レベルの認知過程は対象レベルの不完全なモデルを 含むというものである。これらをもう少し詳しくみ てゆこう。 まず二つのレベルの認知過程の関係であるが、ネ ルソンらは、両レベルの認知過程は二つの方向の異 ことができるとしている。 モデル コントロール メタレベル モニタリング 情報の流れ 対象レベル fig 1 [Nelson&Narens(1994)] より また認知過程のレベル分割については、ネルソン らはメタレベルと対象レベルというわけ方は、絶対 的なものではなく、これらは二つ以上に細分化され うるものであるとしている。つまりあるものがメタ レベルの認知過程であったとしても、さらに上位の 認知過程にとってみれば、それは対象レベルとして の役割を果たすのである。ただし彼らは、この階層 分割は裁判システムに最高裁があるように上限のあ るものだとしている。さらにネルソンらのモデルに おいては、メタレベルの認知過程のうちに対象レベ ルのモデルが埋め込まれていると考えられている。 この埋め込まれたモデルは、対象レベルの正確な写 しでなく不完全なもので、モニタリングによって受 6 け取られた情報によってその状態が刻々と修正され 見たり、外界に働きかけたりすることができるが、 てゆくとされる。 このようなメタ認知的観点によれば、自己意識と は、適切な方略を選択するために対象レベルの認知 プロセスをモニタリングし、それに応じたコントロ B 脳の方は、A 脳の中で起こっていることを見たり、 A 脳に対して働きかけたりすることができるのみで ある。つまり B 脳の役割は、直接外界の事象を取り 扱うことにあるのではなく、A 脳の活動をメタレベ ールをおこなう認知のプロセスであると考えること ができよう。 ルから判断しコントロールすることにあるのである。 例えば「A は秩序なく混乱している」なら「その活 動を押さえよ」と命令したり、 「A は同じことを繰り 3.2. 並 列 階 層 構 造 を 持 つ 脳 次に、人工知能研究の初期からキーパーソンとし て活躍しているミンスキーの意識のモデルをみてみ 返してばかりいる」なら「A を止めて何か他のこと をせよ」と命令したりする。B 脳はちょうど直接現 場には携わらないカウンセラーや経営コンサルタン トのような役割なのである。ミンスキーの言う B 脳 よう22 。彼は人間のこころを構成する最小単位を「エ ージェント」と呼んでおり、こころを持たないこれ らの小さなエージェントが集まって階層的に組織さ れたものがこころであるとしている。ミンスキーは は、メタ認知の結果生じたメタ知識（自己の認知に ついての高次の知識） を持っていると考えられよう。 実際にわれわれの大脳皮質には、直接外界の知覚 や働きかけのための運動にかかわらない部分（連合 この基本的な考え方にしたがって、自己意識の問題 を階層的並列システムとして論じているのである。 まずミンスキーは、われわれが意識によって知り うることには原理的制限があるという前提から意識 野）があり、ここが人間の場合特に大きいことを考 えあわせると、このモデルは脳の物理的な構造のう ちにも根拠を持っているとも言えよう。 3.2.1. こ こ ろ の 社 会 モ デ ル のモデルを考える。われわれが完全に自己だけで自 己を調べるためには、現在の自己の状態をすべて記 録しておく必要がある。しかし、自己の調査という 新たな行為を遂行しようとしても、その調査そのも のが当の調べようとしている自己の状態の変化を引 き起こしてしまうので、自己の状態は記録された状 態と異なってしまうことになり意図していた調査は 不可能になってしまう。もし自己の状態を全部記録 できる完全な記録があるなら、その記録容量はそれ 自体より大きくなければならないだろう。しかし人 間の記憶容量には制約があるので、結局意識が意識 自体について語れることには限界がある。そこで、 そのような制約条件の中でも自己を知ることができ るようなモデルとして、以下のような並列階層構造 を持った意識のモデルが提示されることになるので ある。 3.2.2. A脳 と B脳 ミンスキーは意識の構造を「A 脳」と「B 脳」と いう階層関係によって考えている。A 脳は現実世界 に直接結びついているが、B 脳は現実世界には結び ついていない。A 脳は外界で生じていることを直接 世界 A-脳 B-脳 fig 2 [Minsky(1986)] より 3.2.3. 自 己 意 識 の 制 約 ミンスキーはこのようなモデルを想定することに よって、たとえ完全に自己を知ることはできないと しても、B 脳が A 脳で起こっていることを知ってい る限りでは、全体のシステムは部分的に自己意識を 持っているといってよいと論じている。ミンスキー のモデルのおもしろい点は、自己が自己を完全に知 り得ないのは、先にみたような脳の物理的記憶容量 の制約だけでなく、そこには一種の自己保存的要因 が関係しているとみているところである。意識の機 能部分がお互いに自由にモニタリングやコントロー ルが可能になれば、どんなことでも生じうるように 7 なってしまいシステム全体が不安定になる。例えば なるレベルの同時的な処理能力が、われわれの心的 喜ぶためのシステムを自由にコントロールできると したら、実際に何も成し遂げなくとも成功の喜びを 味わえることになるだろう。そこで、人間が自らを 保護するために自己知に制約をかけた結果として、 機構の並列性を示していると彼は指摘する。またこ のような並列機構は処理を同時並行で高速に行える し、ある処理機構が故障しても他が補いうるという 点で障害に強いといったメリットもある。ただしそ このような自己意識の構造が生じたというのである。 れは単なる並列機構であっては不十分である。なぜ このような情報科学的・システム論的合理性からの なら、単純な並列システムであれば容易に相互衝突 観点は、後でみるジョンソン＝レア―ドとも共通す による病理的状況が発生してしまうからである。 るものである。 また、ミンスキーもネルソンらと同じく自己自身 の内的なモデルというものを想定している。彼によ れば、通常われわれはある特定の対象についてのモ これを実際に情報処理システムを構成するという 観点から考えてみよう。例えば二つの処理機構 A と B が並列に稼働し、A は B の処理結果を待ってから 働き、逆に B は A の処理結果を待ってから働くよう デルを持っているに過ぎないが、あらためて自己自 身とは何かといった問いかたをされたときに、通常 のモデルのうちに自己自身のモデルという新たな対 象が形成されるとしている。 そうしてそのモデルは、 な並列システムを考えてみよう。この並列処理シス テムは、通常のところは健全に稼働しているとして も、何かの偶然でちょうど同時にお互いの結果を待 つことになってしまった場合には、このシステムは 他のモデルとは異なった心的位置に形成される（ミ ンスキーはちょうど砂時計のように中間で区切られ た心的構造を想定している）とされている。 デッドロックに陥り動けなくなってしまうだろう。 これは実際のデータベースや通信ネットワークシス テムなどでも起こりうることである。 このような状況を克服するためには、単なる並列 3.3. 自 己 の モ デ ル を 持 つ 並 列 シ ス テ ム 認知科学者ジョンソン＝レアードは、先のネルソ システムではなく、それらを上位から管理し保護す る機構が必要になってくる。ジョンソン＝レアード は、このような病理的相互作用をコントロールする ンらやミンスキー以上に計算論的な自己意識のモデ ルを示している23 。ジョンソン＝レアードは推論の 研究で知られるが、彼はわれわれが日常的に推論を おこなう際には、抽象的な論理学の規則を用いてい ためにつくられた管理機構こそが、われわれの意識 の起源ではないかとみている。彼はこの管理機構を コンピュータの基本的管理ソフトウェアであるオペ レーティングシステムにならって「こころのオペレ るのではなく、当の事態と同一の構造を持つ具体的 なモデル（メンタルモデル）をこころの中に作り出 して検証しているという。そうして彼はわれわれの 自己意識もメンタルモデルの中に自己のモデルが再 ーティングシステム」と呼んでいる。彼は意識の基 本的システムとして並列性を持った処理機構の上で、 中央の機構が全体を管理するような並列的で階層的 なシステムを想定しているのである。 帰的に埋め込まれた並列的システム（彼はこれを並 列オートマトンと呼んでいる）として考えられると しているのである。 3.3.3. 意 識 で き る も の と で き な い も の 3.3.1. メ ン タ ル モ デ ル と 自 己 意 識 3.3.2. こ こ ろ の オ ペ レ ー テ ィ ン グ シ ス テ ム ジョンソン＝レアードがこころの並列構造を想定 している理由の一つは、われわれが容易に言語を理 解することができるという事実である。言語には音 声、単語、文法、意味などの異なるレベルの構成要 素が含まれるが、われわれはこれを難なく同時に処 理して言語を理解することができる。このような異 このこころのオペレーティングシステムと下位機 構の関係は一種の情報隠蔽関係によって行われると される。こころのオペレーティングシステムは下位 機構が何をなすべきかという指示のみをおこない、 実際にどのような方法で処理をおこなうかについて は一切指示しない。つまり、上位のオペレーティン グシステムは下位機構の詳細については知らず、一 切内部の処理方式については関与できないのである。 8 ジョンソン＝レアードがこのように想定する理由 めには、上位の管理システムであるこころのオペレ は、並列システムのある処理機構が直接他の内部機 構を変えれば、相互作用によって不安定で予測でき ない結果をもたらす可能性が大きいという点にある。 このような情報処理的・システム論的観点に立てば、 ーティングシステムが、自己のモデルを再帰的に埋 め込む能力によって作り出した内部モデルにアクセ スし、未来の行動に関する意図的決定をおこなうと いう能力が必要なのである。これらの条件が、ある 信頼できる相互作用方式は処理機構間のメッセージ の受け渡しにのみ依存するものとなるだろう。 彼は、 このようなメッセージの受け渡しによる階層的関係 ものが自己意識を持っていると言えるための、十分 ではないにせよ必要なことであろうと彼は論じてい る。なおこの再帰的な埋め込み能力という観点は、 は、われわれが意識できないことがあるという事実 によって根拠づけられると指摘する。彼があげてい る例の一つは、脳の視覚野に損傷を受けたために視 野の一部が認識できなくなるブラインドサイトであ 再帰的定義というコンパクトな記述方式を想定する ことによって、高次意識機構の物理的基盤を際限な く想定することを回避しているが、これはネルソン らやミンスキーのモデルではうまく説明されていな る。さまざまな実験によれば、損傷を持つ患者本人 によって見えないと報告される視野の部分があって も、実際にはその部分からの情報が用いられている のではないかと推定されている。ジョンソン＝レア い点である。 人間を情報処理的観点からとらえるのが認知科学 の本質であるならば、ジョンソン＝レアードのこの モデルは、徹底的に計算論的効率や必要性からの根 ードはこの「意識することなしに見ている」という 現象が、下位レベルの並列機構は機能を続けている ものの、その処理結果をメッセージとして上位レベ ルのこころのオペレーティングシステムに出力して 拠付けがされているという点で、きわめて認知科学 的な自己意識論であると言えるだろう。 いない例だと考えているのである。 それでは、このような認知科学的自己意識モデル では明らかになってはいない点はどこなのだろうか。 確かに、従来の哲学や心理学における自己意識論の 3.3.4. 自 己 モ デ ル の 再 帰 的 埋 め 込 み ジョンソン＝レアードは、このようなこころのオ ペレーティングシステムが自己のモデルを持つとき に、自己意識が生じるという。彼は自己意識を持つ ように過度に抽象的であったり、実際的なデータに もとづいてはいても個別的現象を扱いすぎて全体の 理論的フレームワークが見えなかったりするものに 比べれば、先に見た認知科学モデルはこれらの点を ものと持たないものの差は、メンタルモデルの中に このような自己のモデルが再帰的に埋め込まれてい るかどうかに帰着すると論じている。例えば、生物 のうちには、そもそもまったく内的モデルを持たな 回避しているという点で一定の評価が与えられてよ いだろう。しかしながらこれらのモデルによっては 説明されていない点もあるのである。先に見た認知 科学的モデルはいずれも内的な自己のモデルを想定 いバクテリアや原生生物のようなものや、自己のモ デルはないが外界のモデルならば持っている昆虫の ようなものが考えられる。確かに後者でも、自己の 内部状態を報告することは可能であろう（実際に二 しているが（ネルソンらのメタレベルにある対象レ ベルのモデル、ミンスキーの通常のモデルのうちに 新たに形成される自己自身のモデル、ジョンソン＝ レアードの再帰的に埋め込まれた自己のモデル）、 わ 台のコンピュータを使えばコンピュータ自身に自己 の内部機構の記述を複製させることが可能であるこ とを彼は示している） 。しかし、たとえ自己の内部状 れわれはなぜそのようなモデルを形成したのかとい う点は、先のモデルでは明らかにはされていない。 何事もその目的を知らねば十全な理解は不可能であ 態を複製・報告できたとしても、そこには自己に関 する知識というものがない。つまり、主体がみずか ら未来の行動を決定するという意図、志向性が欠け ているのである。自己意識を持っていると言えるた ることを考えると、自己のモデルを持つ目的を明ら かにしなければならないように思われる。この点で 参考になるのは、ハンフリーの考えである。 4. 認知科学的モデルで説明されていないもの 9 心理学者で動物行動学者であるハンフリーは、長 の認知科学的モデルには、このような他者理解の能 年にわたる野生のチンパンジーの社会生活の観察か ら、人間に自己自身のモデルが形成される理由は仲 間のこころの中を理解するためであり、これは人間 が進化の過程で身につけた生存のための道具である 力は備わっているのであろうか。たとえ知的な振舞 いを行える人工知能的システムを想定したとしても、 人間側からコンピュータ側に感情移入を行ない種の 「他者」として認めることはあっても27 、少なくと としている24 。人間は他者のこころの中を洞察する ことにかけては、特別な訓練を受けずとも専門の心 理学者以上 に「生まれついての 心理学者 natural も現在のところは逆のケースはないように思われる。 もしも先にとりあげた認知科学的な自己意識モデル によって人間の自己意識能力を充分に説明すること psychologist」としての能力を持っている。ハンフリ ーによれば、それは人間が仲間と社会的に適応して ゆくために自己自身のモデルを「内なる目 inner eye」で見ることによって他者のこころの中をシミュ ができるとするならば、そのモデルはこのような他 者理解の能力、すなわち視点の相互性の能力をも備 えている必要があるはずである。先に見た認知科学 的自己意識モデルには、この他者理解の能力という レーションしているからだというのである。 実際のところ、発達心理学者ワロンなどが言うよ うに人間の自己意識は他者意識の理解と相関しつつ 形成されるのである25 。幼児のうちに自己意識の形 観点が欠けているように思われる。それではそのよ うな他者理解の能力を備えた自己意識のモデルとは いったいどのようなものなのだろうか。そのような 自己意識の能力ははたして認知科学的／計算論的手 成を示す「私」という言葉が使用されはじめるのは ほぼ三歳頃だとされるが、幼児はこの時期ごろまで に鏡などを通して、自分が単に「ここ」に感じる直 接的存在であるだけではなく、同時に「そこ」の他 法によって把握することができるのであろうか。お そらくこの能力には「身体性」という問題が深く関 係してくるが28 、この点を明らかにしてゆくことが、 今後必要となろう。 者からも見られた対象的存在でもあること（自己が 他者と同様に対象的存在でもあること）を知る。そ うしてこのことによってはじめて「私」という概念 文献一覧 Berthouze, L. & S. Itakura, “Possibility of を形成するようである。このような自己意識の形成 は、一種の「視点の相互性」の理解と考えられる。 現象学的哲学者メルロ＝ポンティは、これを次のよ うに説明している。すなわち、幼児にとって「私」 Self-Recognizing Robots: From the Perspective of Research on Nonhuman Primates”, in COGNITIVE STUDIES: Bulletin of the Japanese Cognitive Science Society, Vol.4 No3, Sep. 1997. という代名詞が本当にその完全な意味を持ちうるの は、それを自分個人だけしか指し得ないような個性 的指標として用いるときではなく、自分の前にいる 誰もがそれぞれに「私」という語を使い得るし、そ Dennett, D.C., “Cognitive Wheels. The Frame Problem of AI”, 1984, in Boden, M.A.(ed.), The Philosophy of Artificial Intelligence, Oxford U.P., 1990.（信原幸弘訳, 「コグニティヴ・ホイー の人たちはみなそれぞれにとっては「私」でありこ ちらからみれば「あなた」なのだということを理解 したときである、と26 。 換言すれば、視点の相互性とは、まず他者の視点 ル ─ 人工知能におけるフレーム問題」, 『現 代思想』vol.15-5, p.128-150） Dreyfus, H., What Computers Still Can’t Do. A Critique of Artificial Reason, MIT Press, 1992.（黒崎他訳, から物事を見る能力であり、そうしてその視点が自 己の視点と基本的に等価であることを理念化しうる 能力であろう。 他者の視点に立ちうるという能力は、 『コンピュータに何ができないか』, 産業図 書） ─ , On the Internet, Routledge, 2001. （石原考二訳, 『イ 悲しみ、痛み、怒り、喜びといった他者の心的状況 の理解能力とも密接に関連しているはずである。人 間の場合はこのような他者理解の能力ゆえに深い相 互理解が成立するのであろう。それでははたして先 ンターネットについて』, 産業図書） Gulick, R.V., “Philosophical Problems”, in Shapiro, S.C. (ed.), Encyclopedia of Artificial Intelligence, 10 Wiley & Sons Inc, 1987.（ 『人工知能大事典』, 丸 坂元章（編）, 『インターネットの心理学』, 学文社, 善） Hennrich, D., Fichtes ursprüngliche Einsicht, Frankfurt a.M., 1967.（座小田豊他訳, 『フィヒテの根源 的洞察』, 法政大学出版局） 2000. Searle, J.R., “Minds, Brains, and Programs”, 1980, in Boden, M.A.(ed.), The Philosophy of Artificial Intelligence, Oxford U.P., 1990. ─ , “Fichtes >Ich<”, in : Selbstverhältnisse, Reclam, 1982. Humphrey, N., The Inner Eye, Faber and Faber, 1986. ─ , Minds, Brains and Science, Harvard University Press, 1984. Simon, H.A., “The Role of Cognitive Science”, in : （垂水雄二訳, 『内なる目 意識の進化論』, 紀 伊国屋書店） Johnson-Laird, P.N., Mental Models, Cambridge University Press, 1983.（海保博之監訳, 『メン COGNITIVE STUDIES: Bulletin of the Japanese Cognitive Science Society,, Vol.1, No.1, May, 1994. Smith, B.C., “Self-reference”, 1987, in Shapiro, S.C. (ed.), タルモデル』, 産業図書） 河崎貴一, 『インターネット犯罪』, 文藝春秋, 2001. 松沢哲郎, 『チンパンジーの心』, 岩波書店, 2000. Metcalfe, J. + A.P.Shimamura (ed.), Metacognition. Encyclopedia of Artificial Intelligence, Wiley & Sons Inc, 1987.（『人工知能大事典』, 丸善） Wallon, H., “Niveaux et fluctuations du moi”, L’Evolution psychiatrique.I, 1956.（浜田ほか訳編, Knowing about Knowing, MIT Press, 1994. Merleau-Ponty, M., “Les relations avec autrui chez l’enfant”, in Les cours de Sorbonne, Centre de documentation universitaire, 1962.（滝浦／木田 「自我の水準とその変動」, 浜田寿美男訳編 『身体・自我・社会』, ミネルヴァ書房） 1 情報化技術がもたらす病理的問題に関しては［小川 訳, 「幼児の対人関係」, 『眼と精神』, みす ず書房） Minsky, M., The Society of Mind, Simon & Schuster, (2002)］、［ 坂元(2000)］の「インターネットと社会的不適応」 1986.（安西祐一郎訳, 『心の社会』, 産業図 書） Nelson, T.O. & Narens, L., “Why Investigate Metacognition?”, 1994, in J.Metcalfe & 2 哲学においては、特にデカルト以来反省が人間独自の A.P.Shimamura, Metacognition: Knowing about Knowing, The MIT Press, 1994. Norman, D.A.(ed.), Perspectives on Cognitive Science, Ablex Corp., Norwood, N.J., 1981.（佐伯胖監訳, カントに代表される自我の構造に対する考え方を「自我の 『認知科学の展望』, 産業図書） 苧阪直行, 『意識とは何か ─ 科学の新たな挑戦』, 岩波書店, 1996. ─ （編著）, 『意識の科学は可能か』, 新曜社, 2002. る。「自我の『反省理論』は ... 何よりもまず思惟する主体 小川憲治, 『IT 時代の人間関係とメンタルへルス・ カウンセリング』, 川島書店, 2002. Pylyshyn, Z.W., Computation and Cognition. Toward a するようになる、と主張する。反省的作用によって自分自 Foundation for Cognitive Science, MIT Press, 1984.（信原幸弘訳, 『認知科学の計算理論』, 産業図書） ─ , “Cognitive Science”, in : Shapiro (1987), 1987. 認知科学の分野でも、反省という 現象に人間の独自性を の章などを参照。またネットワーク上の犯罪事例に関して は［河崎(2001)］を参照。 能力であることは自明の前提とされてきた。例えばドイツ 観念論の研究者であるヘンリッヒは、フィヒテの自我概念 に関するいくつかの論文[Hennrich (1967), (1982)]の中で、 『反省理論』“Reflexionstheorie” des Ich」[Hennrich (1982), p.62] と呼び、哲学史においては、一般に反省が人間を 動物から峻別するものだと認められてきた、と指摘してい を想定する。次いでこの理論は、この主体は自分自身と不 断の関係にある、という 。さらにこの理論は、この関係は主 体が自分自身を自分自身の客体にすることによって現存 身についての意識に到達するというこの能力が、人間を 動物から区別するのである」[Hennrich (1982). p.62] また 見るという 指摘が存する。例えばメットカフェらは以下のよ うに述べている。「自身の思考や行動を反省することので きる能力は、われわれを人間として区別するものの核をな 11 しているといわれる... 確かに自己反省や自身に関する 9 Norman (1981), p.1 知識は人間意識の基底をかたちづくっている」[Metcafe 10 Simon(1994) et.al.(1994), p.xi] タルヴィングも「人間が世界に関する自 11 Pylyshyn (1987) らの顕在的意識を反省する能力は、重要な生物学的機能 12 Searle (1980), (1984)を参照。 を供する進化的技能である」[op.cit., p.ix] と指摘してい 13 Pylyshyn (1987) る。 14 Gulick (1987) 3 ［Berhouze&Itakura(1997)］、［ 松沢(2000)］などを参照。 15 Pylyshyn (1987) 4 ここで論者が念頭に置いているのは、認知哲学者デネ 16 Pylyshyn (1987) ットが取り上げている「スズメバチのスフェクス」のことであ 17 「コグニティヴ・ホイールというのは、工学的にはどれほ る［Dennet(1984)］。スフェクスは巣の点検というお 決まりの ど巧妙で見事なものであろうとも、生物学的にはまったく 行動を死ぬまで「機械的に」繰り返し、紋切り型の状況以 実在性に欠ける認知理論上の設計案のことである。それ 外に立った場合新たにそれに対応する行動をとれないの はもっとも純粋な意味論のレベルから、もっとも具体的な である。デネットはこの例をD. Woodridge, The Machinery 神経の配線図のレベルに至るまでの、どのレベルでなさ of the Brain, New York, 1963. から引用しているが、それを れた提案でもよい」[Denett (1984), p.165] 以下に抄録する。「産卵の時期が来ると、スズメバチのス 18 詳しくはドレイファス［Dreyfus(1992)］やサール フェクスは巣を作りこおろぎを探し出して針で刺す ... スフ ［Searle(1980) (1984)］の議論を参照されたい。 ェクスはそのこおろぎを巣に引きずり込み、側に卵を生み、 19 例えば工学側からの議論としては、B.C.スミスのもの 巣を封鎖し、そこから飛び去って二度と帰ってこない ... がある。スミスは 1980 年代にはいって自己を理解するシス われわれ人間はこのような巧妙に組織され、一見目的志 テムの実現が技術的テーマになったと指摘している 向的に見える行動様式に直面すると、どうしてもそこに一 [B.C.Smith (1987)]。 種の論理と思考様式を感じ取ってしまう... スズメバチの 20 苧阪(1996), (2002)を参照。 行動様式では、麻酔したこおろぎを巣の方に運び、それ 21 Nelson & Narens (1994) を入り口に置き、中に入って様子を調べ、外に出、それか 22 Minsky (1986) らこおろぎを中に引きずり込む。スズメバチが中の様子を 23 Johnson-Laird (1983) 調べている間に、こおろぎを数インチ入り口から離してや 24 Humphrey (1986) ると、巣から出てきたスズメバチは直ちにこおろぎを入り口 25 Wallon(1956) のところに戻すが、それだけで中には入れず、再び巣の を引っ張り込むことは決してスズメバチの頭に思い浮かば 26 Merleau-Ponty (1962) 27 例えば、古くはコンピュータ科学者ワイゼンバウムの開 発した対話プログラムである「イライザ」や、最近ではコン ピュータディスプレイ上のキャラクタやペット型ロボットなど に対するユーザの感情移入などはよく知られたところであ ろう。 ない。ある時などはこの動作が 40 回も繰り返され、結果は 28 そもそも自己意識の形成においては、幼児は他者の いつも同じだった」 身体の模倣によって、さらには鏡に映った自己と他者の身 5 例えばエアコンの「AI 自動温度調節機能」、掃除機や 体像に助けられながら自己意識を形成するのだし、成人 洗濯機の「ニューロ・ファジーシステム」、日本語変換シス 後もわれわれは他者理解においては多くの点で身体を利 テムの「AI かな漢字変換システム」などがそうである。 用している。ドレイファスの例を引用すれば、例えばわれ 6 コンピュータは最終的には人間と同じものとなり人間／ われは、ある人が腕立て伏せをしているのを見て、それが コンピュータの境界線が最終的にはなくなるとする立場も 決してリラックスしているのではないということを何の苦もな あるが、論者はこのような立場はとらない。 く理解することができるが、われわれは実際に身体を使う 7 Pylyshyn (1987) ことによって、あるいはそのようなことを自己の身体でして 8 Pylyshyn (1984), p.8 みることを想像することによって他者を即座に理解するこ 中に入って中の様子を調べる。その間に再度こおろぎが 数インチ離されると、スズメバチはまたもやこおろぎを入り 口の方に戻し、巣の中に入って点検を行う。直接こおろぎ 12 とができるのである。同じ事を身体を持たぬコンピュータ に判断させようとすると（例えばコンピュータに Web 上のさ まざまなイメージデータから「リラックスしている」イメージ データを検索させる）、プログラム記述量の爆発的増大問 題という 困難が生じてしまう（「フレーム問題」と言われる）こ とがわれわれにとっての身体の重要性を示している。 ［Dreyfus(2001), pp.22-23.］ 13
© Copyright 2024 Paperzz
