神経科学者の探求：機械が意識を獲得する方法

アレックス・ガーランド監督の2015年大ヒット作『エクス・マキナ』では、監督が意図したように、機械の意識を評価する任務を負った若いプログラマーのケイレブが主人公ではない。代わりに、この映画の主人公は、彼の研究対象である「アヴァ」、つまり子供のような無邪気さと計り知れない心を兼ね備えた素晴らしいヒューマノイドロボットです。

脳を刺激する映画のほとんどと同様に、「エクス・マキナ」では、「エヴァ」に自己認識があるかどうかを観客自身が判断できるようになっている。その過程で、これまでの AI をテーマにした映画のほとんどが挑戦してきた「意識とは何なのか、そして機械は意識を持つことができるのか」という難しい問題も巧みに回避している。

[[208914]]

この疑問に困惑しているのはハリウッドの監督だけではない。機械知能が急速に進歩し、人間の専門知識を必要とせずにDotaや囲碁などのゲームで人間のプレイヤーに勝てるようになったため、この疑問は再び科学の主流となった。

機械は意識を獲得する寸前でしょうか?

最近、認知科学者のコレージュ・ド・フランスのスタニスラス・デュエム、カリフォルニア大学ロサンゼルス校のハクワン・ラウ、パリ文科大学のシド・クウェデルが、有名な雑誌「サイエンス」に共同で論評を発表しました。彼らは、機械は今のところ意識を持っていないものの、将来的には明確な発展の道筋があると考えています。

その理由は？ 意識は、脳のハードウェアによって可能になる特定の種類の情報処理から生じるため、「間違いなく計算的」である、と彼らは言う。

魔法のジュースも、余分な火花もありません。実際、意識を獲得するためには、経験することに専念するセクション（「意識とは何か？」）さえ必要ありません。

もし意識が3ポンドの脳の計算によってのみ生成されるのであれば、同じ質量の機械は単に生物学的情報をコードに変換するだけの問題となるだろう。

現在の強力な機械学習技術が神経生物学から多くの恩恵を受けているのと同じように、意識を生み出す脳の構造を研究し、それをコンピューターアルゴリズムのように実装することで、人工意識を実現できるかもしれないと研究者らは書いている。

脳からロボットへ

脳内の意識の形態と機能の両面における理解から、人工知能の分野が大きな恩恵を受けていることは疑いの余地がありません。

たとえば、「ディープ ニューラル ネットワーク」は、AlphaGo が人間のプレイヤーに対して圧倒的な勝利を収めることを可能にしたアルゴリズム アーキテクチャですが、これは部分的に、人間の脳細胞が自己組織化する多層の生物学的ニューラル ネットワークに基づいています。

「強化学習」は、AIが何百万もの例から学習できるようにする一種の「トレーニング」であり、誰もがよく知っている犬のトレーニングと同じように機能する何世紀も前の技術に由来している。犬が正しい反応（または結果）をすれば、報酬が与えられ、そうでなければ、もう一度試すように求められる。

この意味では、人間の意識の構造を機械に移すことで人工意識は容易に実現できるようです。ただ一つ大きな問題があります。

スチュアート・ラッセル博士は2015年のサイエンス誌のインタビューでこう語った。「人工知能の分野では、まだ誰も意識を持った機械を開発していない。どうやって開発するかが分からないからだ。」彼は『人工知能：現代的アプローチ』の著者です。

意識の複数のレベル

意識を機械にエンコードすることを考え始める前に、最も難しいのは、意識が実際に何であるかを理解することです。

ディオン氏とその同僚にとって、意識は 2 つの「次元」を持つ多層構造です。C1 意識 (すでに脳内にある情報) と C2 意識 (自分の情報にアクセスして監視する能力) です。意識には両方とも必要ですが、同時に存在する必要はありません。

車を運転中に燃料残量警告灯が点灯したとします。ここで、燃料タンクのランプに気づくことは C1 意識、つまり私たちが反応できる精神的表現です。つまり、私たちはそれに気づき、それに応じて行動し（タンクを補充し）、後で思い出して話します（「サバーバンのガソリンが切れた！」）。「意識と区別したい最初の意味は、このグローバルな可用性の概念です」と、ディオン氏は Science 誌のインタビューで説明しました。

彼は、単語を認識すると、情報をさまざまな方法で使用できるという意味で、脳全体がその単語を認識することになる、と付け加えた。

しかし、C1 Awareness は単なる「精神的なスケッチブック」ではありません。これは、脳が感覚や関連する出来事の記憶からさまざまな形式の情報を抽出できるようにする完全なアーキテクチャを表します。

特定の「モジュール」に依存して特定のタスクを実行することが多い潜在意識の処理とは異なり、C1 は、脳が情報を統合し、行動を決定し、最後まで作業できるようにするグローバル ワークスペースです。

『ハンガー・ゲーム』と同じように、私たちが「意識」と呼ぶものはさまざまな形を取ることができ、ある時点で「意識」がこの精神的な作業空間に入る競争に勝利します。これらの勝利意識は、さまざまな脳の計算回路間で共有され、意思決定プロセスの中心となり、人間の行動を導きます。

著者らは、これらの特徴により、C1 意識は非常に安定しており、全体的であり、関連するすべての脳回路を刺激すると説明しています。

スマートカーのような複雑な機械にとって、C1 認識は燃料残量警告灯などの差し迫った問題を解決するための第一歩です。この例では、ライト自体が潜在意識の信号として機能します。つまり、ライトが点滅している間、マシン上の他のすべてのプロセスはそれを認識せず、車は、最も高度な視覚処理ネットワークを備えていても、ためらうことなくガソリンスタンドを通過します。

C1 意識では、ガソリン タンクが車の内部コンピューターに警告を送信し (光が車の「意識的な脳」に入ることを可能にする)、内蔵の全地球測位システム (GPS) をチェックして次のガソリン スタンドを探します。

「機械では、情報をカプセル化した処理モジュールから情報を抽出し、それを他の処理モジュールが利用できるようにして、他の処理モジュールがそれを使用できるようなシステムになると考えています」とディオン氏は言う。「それが意識の一形態です。」

メタ認知

C1 意識は、ある程度、脳が外部情報を取得する能力を反映しています。 C2意識は脳内の内部情報に関係しています。

著者らは、意識の2番目の側面であるC2意識を「メタ認知」と定義しています。これは、何かを知っているか、認識しているか、それとも間違いを犯しただけかを反映しています。 （「*** ガソリンスタンドで給油したと思うのですが、念のため領収書を取っておくのを忘れました」）。この次元は、意識と自己認識のつながりを反映しています。

C2 は、選択を行う際に自信がなくなったり、自信がなくなったりする認識レベルです。コンピューティングの用語では、決定 (または計算) が正しいことを予測するアルゴリズムですが、多くの場合、「直感」として扱われます。

C2意識は記憶や好奇心にも影響します。これらの自己監視アルゴリズムは、舌先に何かがあるかどうかを感知する役割を担う、一部の人には馴染みがあるかもしれないが、聞いたこともないかもしれない「メタメモリ」と呼ばれるものを垣間見せてくれる。私たちが知っていること（または知らないこと）を監視することは、特に子供たちにとって重要だとディオン氏は語った。 「子どもたちは、質問をしたり、物事に興味を持ったり、さらに学んだりできるように、自分が知っていることを必ず監視する必要があります」と彼は説明します。

私たちは意識の両方の側面が連携して働くことで恩恵を受けています。C1 意識は、関連情報を精神作業領域に取り込むことを可能にします (他の「可能性のある」アイデアや解決策は破棄されます)。一方、C2 意識は、意識的な思考が有益な反応につながったかどうかについての長期的な考察を促進します。

燃料残量警告灯の例に戻ると、C1 認識により、車はまず問題を解決できます。これらのアルゴリズムにより、情報を総合的に共有できるようになり、車が問題を認識できるようになります。

しかし、この問題を解決するには、自動車が自らの機能の「認知カタログ」、つまりガソリンスタンドの GPS マップなど、すぐに利用できるリソースを自己認識する必要がある。

「このような自己認識機能を持つ車を、私たちは C2 認識車と呼んでいます」とディオン氏は語った。信号はグローバルであり、機械が自分自身を観察する方法と似た方法で監視されるため、車は燃料不足を心配し、人間のように燃料消費を減らしてガソリンスタンドを探すことになる。

著者らは、「今日のほとんどの機械学習システムには自己監視機能が欠けている」と指摘している。

しかし、彼らの理論は正しい方向に進んでいるようだ。これらのいくつかの例では、アルゴリズムの構造であれ、自己監視システムが実装されている別のネットワークであれ、AI は「本質的にメタ認知的な内部モデルを生成し、エージェントが限定的かつ暗黙的かつ有用な自己理解を発展させることを可能にする」としています。

意識を持った機械に向けて

C1 認識と C2 認識を備えた機械は、意識があるかのように動作するでしょうか? おそらくその通りです。スマートカーは、自分が見たものを「認識」し、それについて確信を持ち、他の部分に報告し、問題に対する最善の解決策を見つけます。自己監視機構が機能不全に陥ると、人間に見られるのと同様の「幻覚」や錯視を経験する可能性もあります。

ディオン氏は、C1認識のおかげで、人間は持っている情報を柔軟に活用できるようになり、一方でC2認識によって、人間の認知範囲の限界を知ることができると述べた。 「（機械は）意識を持つべきだと私は思います」そしてそれは人間だけではない。

意識とは単なる世界的な情報共有や自己監視以上のものだと感じているのなら、あなたは一人ではありません。

著者らはまた、「意識の純粋に機能的な定義は、一部の読者にとって満足のいくものではないかもしれない」とも認めている。

「しかし、私たちは根本的な立場を取り、おそらく問題を単純化しようとしているのです」とディオン氏は結論付けた。「意識は機能の特性であり、機械に機能を追加し続けると、ある時点でそれらの特性が、いわゆる意識の特徴を形作ることになるでしょう。」