「認知の輪」を解読する：AIと人間の究極の戦い

今日は週末なので、深遠な話をするふりをして話をしましょう。

現在、人工知能について議論する場合、ほとんどの人は畳み込みニューラル ネットワークを標準と見なしています。このアルゴリズムは「変換不変人工ニューラル ネットワーク」として知られているため、簡単に言えば、人間の脳を高度に模倣したものです。

人間の大脳皮質のニューロンの網状構造をシミュレートすることで、さまざまな物体の特徴を抽出して認識し、止まることなく学習できるため、最も行儀の良い人間の子供よりも手間がかかりません。

そして、一度訓練すれば、人間よりも速く、より上手にできるようになります。九段のチェスプレイヤーを殴ったり、世界チャンピオンを蹴ったりしても何の問題もありません。

そのため、畳み込みニューラルネットワークはさまざまな AI システムで広く使用されています。時間が経てば経つほど、彼は神格化されていくようです。

しかし、これは不可能です。

このAI熱の波により、人間は広く置き換えられる危機に瀕しているように思われるが、機械が人間を超える日はまだ遠い。

なぜ？

信じられないかもしれませんが、主な理由は畳み込みニューラル ネットワークにあります。

簡単な質問にも答えられないなんて、弟よ、一体どうしたの？

昔、得点が取りやすい質問がありました。「象を冷蔵庫に入れるには何段必要か？」

人間の子供にこの質問に答えるように頼めば、数分で標準的な答えを言うでしょう。冷蔵庫のドアを開けて、象を詰め込み、冷蔵庫のドアを閉めるのです。

しかし、畳み込みニューラル ネットワーク ロボット (「Xiaojuan」と呼ぶことにします) に挑戦させたらどうなるでしょうか?

まず、「詰める」という動作によって象が冷蔵庫に移動するだろうと想定します。そこですぐに行動を起こしたのですが、入れることができませんでした。不十分な「小さなボリューム」、物理的なボリュームの不一致という重要な条件が欠けています。

Little Scroll-2 がゾウと冷蔵庫の個々の特性がタスクにどのように影響するかを認識できるようにアップグレードしました。ミッション開始前には一生懸命推理しようとしましたが、象の皮膚の色はミッション達成に役立たないことがわかり、次の特徴を推理しようとした瞬間、象はもう我慢できずに逃げてしまい、ミッションは失敗に終わりました。

これをさらにバージョンアップし、タスクに関係する要素と関係のない要素を区別できるように学習させ、「小巻第3号」が誕生しました。しかし、それは冷蔵庫の横にじっと座り、小さなノートを取り出し、タスクとは無関係であると判断された何千もの事柄を、時間の終わりまで記録し始めました...

「リトルカール」は、とても愚かなようです。人間と比べるのはもちろん、AlphaGoや他の先人たちと比べても大きな差があります！

実は、この背後には、AI 科学者を長年悩ませてきた「フレームワーク問題」という奇妙な問題が存在します。

フレーミングの問題とは何ですか?

「フレーム問題」が何であるかを理解するために、まず畳み込みニューラル ネットワークがどのように機能するかを説明しましょう。

先ほど、このディープラーニング ニューラル ネットワークは人間の神経系の動作をシミュレートすると述べました。さまざまなアルゴリズムは、人間と同じように無視すべき情報を無視し、重大な異常事態に遭遇したときに十分な警戒を維持するという、ただ 1 つの目標のみを達成するように設計されています。

注意を払いながら無視する能力を身につけるにはどうすればいいでしょうか?

科学者は、常に変化し終わりのない人生の経験すべてを、現実世界のあらゆる問題と物事のつながりを網羅した豊かで詳細な筋書きのアウトラインを含む「フレームワーク」に圧縮することしかできません。

機械が問題を解決しようとするとき、機械は「フレーム」内の特定の特徴に焦点を当て、そのフレームから逸脱する重大なエラーに注意を払うことができます。

このニューラル ネットワーク フレームワークが十分に構築され、十分に大規模であれば、無限の機能を発揮できます。たとえば、DeepMind が 5,000 個の TPU を使用して開発した AlphaZero は、他の介入なしに 4 時間以内にチェスの世界チャンピオンになることができます。

しかし、人間が日常生活で使用する必要のあるいくつかの反応モデルでは、畳み込みニューラル ネットワークの IQ は昆虫の IQ に似ています。

D. デネットは論文「AI のフレーミング問題」の中で、深夜のおやつを作るという例を挙げました。

ある太った男が夜中にお腹が空いて目が覚め、何か食べたいと思ったので、冷蔵庫に残っていた鶏肉のスライス、パン、ビール1本があることを思い出しました。そこで彼はすぐに完璧な計画を思いつきました。冷蔵庫をチェックして、必要な材料を取り出し、サンドイッチを作って、ビールと一緒に楽しむのです。ああ、ナイフ、皿、ワイングラスも持参する必要があります。

人間はすでに豊富な知識を持っているため、このタスクをうまく達成することができます。これには、鶏肉を落ちずにパンに加える方法（摩擦）、ビールをグラスに注ぐ方法（重力）、パンを持った後は左手でナイフを持てなくなることなどが含まれます。

この「知識」や経験は、人間が「生まれながらに持っている」ものです。私たち自身も、これらの知識や経験をどのように学んだのかは知らないかもしれませんが、これらの知識や経験によって、私たちは人生の基本的な問題を、考えなくても次々と簡単に解決できるようになります。

しかし、すべてをゼロから学習しなければならない AI にとって、この膨大な日常的な経験が十分な注目を集めなければ、次々と出現する新しいタスクを完了することはできないでしょう。

もちろん、世界中のあらゆる知識を機械に与えて、全知全能の百科事典にすることもできます。人間と同じ柔軟な思考能力を持つことができるのでしょうか？

答えは明らかにノーです。

まず、AIに些細な詳細を大量に記憶させておき、問題に遭遇したときに有用な部分を検索して抽出することを求めるのは極端すぎて負担が大きすぎます。人間は「パンは太平洋よりも小さい」とか「ナイフはパンに触れても溶けない」といった知識を覚えておく必要はありません。

さらに、機械は確かに 100 万年であらゆる問題を解決できますが、これは人間にとって知的でもなければ何の価値もありません。限られた時間内に確実かつ効率的に解決策を提供できないのであれば、この先祖の AI は何の役に立つのでしょうか?

すべての答えを出し尽くすことは不可能であり、最適な方法をすぐに見つけることも不可能です。これが、現在 AI の IQ を制限している「フレームワーク問題」です。

畳み込みネットワーク: 私はIQを生み出すのではなく、人間の脳の運搬者にすぎません

何世代にもわたる研究者たちが、機械に人間の心理的メカニズムや認知構造を模倣させることに取り組んできました。しかし、科学者は本当に人間の思考を解明する鍵を持っているのでしょうか?

機械知能が直面している困難から判断すると、これは明らかに当てはまりません。

「フレームワーク方式」自体は思考ルーチンに大きく依存しており、機械が遭遇する可能性のあるすべてのフレームワーク問題を事前に観察して解決するには人間に頼るしかありません。

しかし、人間が「ピアノを上の階に移動する」といった新しくて難しい問題について考えるとき、おそらくペンを取り出して明確で論理的なマインドマップを描くことはないでしょう。より一般的なアプローチは、「どのような三段論法によって、ピアノを持ち上げることができると信じるに至ったのか」など、推論プロセスを詳細に観察する時間さえ与えず、答えに直接飛びつく無意識の素早い反応を使うことです。

いくつかの思考パターンは明確化され体系化される可能性がありますが、より心理的な推論プロセスは、魔術師が隠した謎のように抽象的で内省的であり、これまで誰もその手がかりを解明できていません。

このような、考える必要のない「内省的」な体験こそが、人間が「行動する前に考える」ことを可能にする鍵であり、機械には真似できないものでもあるのです。

現在まで、人の内省的な経験が、精神的な枠組みを生成したり、脚本を書いたりする際にどのように役立つかを完全かつ正確に説明する実行可能な証拠を提供できた人は誰もいません。

したがって、単純な意味論から末梢ニューロンに至るまで、畳み込みニューラル ネットワークは人間の「認知の輪」を鮮明に模倣していますが、それらはすべて、コンピューターによって記述およびマッピングできる認知プロセスに基づいています。

さまざまなレベルの認知をシミュレートする AI の全体的な効果は、私たちがまだ発見していない人間の脳の実際の働きとはまったく異なる可能性があります。

「人間がどのように考えるか」は説明できないため、AIに「高度にシミュレートされた脳」を与えることはさらに不可能です。では、現在広く使用されている機械知能構築システムは、まだ信頼できるのでしょうか?

人間の安全ロック：認知の輪の究極のパラドックス

「人間の脳ができること」を利用して、行動を起こす前に慎重に考え、計画を立てること、行動する前によく考えること、あるいは非常に難しい難問に答えることなど、インテリジェントエージェントを要求すると、AI が人間よりも賢くなることは決してありません。

機械知能にはパラドックスがあります。AI が人間の「認知の輪」を模倣せず、この巨大な並列プロセッサから特徴の抽出方法、モデルの生成方法、判断方法を学習しなければ、知能化することはできません。

しかし、AI を「認知の車輪」のギアボックスとして使い、究極の疑問に一歩ずつ近づき、人間の脳がどのようにしてそれらの驚くべき認知機能を実現するのかを解明しようとすると、事態は混乱するでしょう。

植物が光合成によってブドウ糖を生成できることは誰もが知っているが、光合成を観察してそれをコンピューターにプログラムすることで砂糖が生成されると考える人はいないだろう。

現在の神経科学者は、脳の認知機能がどのように達成されるかを理解するのに役立つ有効な手がかりを何も提供していません。

現時点では、これらの隠された「心理的実体」に対する適切なプログラミング対応をどのように見つけるかという答えはありません。これらの制約の下で、私たちはいくつかの未熟な提案をします:

1. 神経科学ではなく心理学を使って人間の脳を説明してみてください。

神経科学者は特にリアルタイムのニューロンと解剖学に興味を持っており、設計されているニューロン コンピュータ モデルの多くは、説明のつかない細胞活性化方法に焦点を当てた「フォン ノイマン スタイル」の構築システムです。しかし、人間の問題認識能力や問題解決能力は、心のマジックショーのようなもので、完全に認識されている脳組織機能との間には大きな空白領域があります。学際的な認知科学と生物学を通じて、多次元でより抽象的な「神経マトリックス」を生成することができ、脳の秘密をより早く解明するのに役立つ可能性があります。

2. 人間が魔法を使うのを AI がサポートするようにします。その逆ではありません。

認知能力と脳組織機能のギャップを詳細に埋めることによってのみ、私たちは真に、高速で、敏感で、リスクと価値を評価できるインテリジェントな存在を作り出すことができます。まだ道のりは長いです。その前に、AIをマジシャンとして神格化するのはやめてください。AIは問題を「下から」解決し、人間の「マジシャン」がよりエキサイティングなパフォーマンスを行うのを助けるエンジニアであるべきです。

ある研究者は自嘲的にこう言った。「（過去に）我々は知能ロボットを設計するという目標を諦め、代わりに他人が設計した知能ロボットを破壊する銃を設計したのだ！」

つまり、人間の「認識の輪」の底には、ダイヤル錠があるのです。たとえ自分で開けたり説明したりすることができなくても、私たちは遠くから物体を捉え、真の知的存在になることができます。

神に感謝。私たちは安全です。