エンジニアリングだけではありません!人間の認知バイアスが原因の AI 研究における 12 の盲点

[[255272]]

ビッグデータダイジェスト制作

編集者: ゴウ・シャオバイ、チャン・チウユエ、アイリーン

人間は多くの認知バイアスを持って生まれますが、それは科学の進歩にとって非常に有害です。科学的研究では既存の研究方法が優先される傾向があり、多くの研究システムの固有の特性が無視されることになります。

そのため、研究者は残念ながら、誤った無意味な方向性を追い求めることに一生を費やすことになるかもしれません。歴史を振り返ると、科学の長い流れには、後に間違いであり価値がないと証明された多くの研究が詰まっています。

サビーネ・ホッセンフェルダーは、素粒子物理学の分野でこの認知バイアスについて書いています。彼女の著書『Lost In Math』では、世界で最も才能のある科学者たちの認知バイアスについて探究しています。

彼女は、これらの科学者は優れた認知能力を持っているが、美を絶えず追求する中で理論物理学者も科学的な誤解に陥り、過去40年間物理学に大きな進歩はなかったと述べた。彼女は、科学的客観性は審美的に心地よい方法論の採用に屈したと主張している。

この記事では、人工汎用知能 (AGI) の探求における同様のバイアスについて検討します。

考えられるバイアスの 1 つは、ベイズの定理の誤用です。ベイズの定理はオッカムの剃刀にヒントを得たもので、「最も少ない仮定を必要とする理論が最も正しい可能性が高い」というものです。

その結果、多くの科学者は自分の職業に忠実であり続け、「すべてを可能な限り単純にすべきだが、単純化しすぎてはいけない」という考えを信じている。

上記は確かに人間が世界を理解するための優れたルールだが、ホッセンフェルダーが反対する美学でもある。科学研究における大きな進歩は、科学者の瞬間的な第六感に頼ることが多いが、こうした仮定が直感の恣意的な適用につながるべきではない。リチャード・ファインマンの名言です。「理論がどんなに素晴らしくても、どんなに賢くても、実験結果と矛盾するなら、その理論は間違っている。」

ここでは、ほとんどの（強力な）AI 研究者が常に無視している 12 の事実についてお話ししたいと思います。

1. 直感

[[255273]]

認知心理学者は、人間の認知は二重過程理論として知られる 2 つの独立した方法で機能することを長い間確立してきました。直感的な思考と合理的な意識は互いに競争し、協力し合いながら人間の認知を支えます。旧式の AI の失敗は、そうではないという圧倒的な証拠があるにもかかわらず、人間の認知は主に合理的な認知システムに基づいているという信念にまで遡ることができます。直観的認知システムは、人間のすべての認知を駆動する重要なエンジンであり、人間の認知は一般的に「周期推論」を採用しています。

2. 睡眠

[[255274]]

自然は、睡眠が人間の生活の重要な部分を占めることを要求します。睡眠不足は認知障害を引き起こし、最終的には死に至る可能性があります。睡眠が認知発達に重要であるという経験的証拠は少なくとも存在します。残念なことに、多くの研究者は「スタンバイモード」の人間の認知発達を無視してきました。実際、抽象的な概念を理解する能力は睡眠中に発達すると考えられます。

3. プレゼンテーションが不完全

[[255275]]

科学者たちは長い間、外部世界の存在を表現するための内部心理的生成を見つけようとしてきました。そのため、旧式の人工知能は、外部世界の意味を反映する記号モデルを構築しています。ディープラーニングは、連続した高次元空間における観測の意味を反映する世界の内部表現を学習するようにネットワークをトレーニングします。この空間では、合理性や類似性の比較などの操作が可能になります。

これには 2 つの問題があります。1 つ目は、内部表現によってより深刻な問題が生じ、外部の現実世界の内部表現を描画するには、依然として内部表現を理解するための何かが必要になることです。 2 番目の問題は、私たちが観察する世界のほんの一部にしか焦点を当てていないことです。認知上の盲点は確かに存在します。絵のようなプレゼンテーションを残すことができる機械とは異なり、私たちは絵の小さな部分だけに焦点を当て、残りは想像力に頼っています。ジェームズ・ギブソンは、生態学的認知の理論の中で、脳が環境の実際の状態ではなく、環境内で可能なことだけを捉える、別の種類のアフォーダンスに基づく表現について説明しています。

4. 感度

[[255276]]

触覚だけで物体をどうやって見分けるのでしょうか。茶色い袋に入ったリンゴを触覚でどうやって認識するのでしょうか。明らかに、知覚は現実世界の 1 つのスナップショットではなく、複数の角度からのスナップショットが一貫した統一体に組み合わされて構成されています。人間は並外れた手先の器用さを持っており、それが高度な認知能力を持つ理由かもしれません。私たちは世界をより良く理解できるようになった。おそらく、世界により深く関わり、無関係な情報をより良く区別できるようになったためだろう。しかし、現在の研究では、認知的側面や統合メカニズムの調査はほとんど行われていません。

5. 限定合理性

[[255277]]

人間は完全に理性的な動物ではありません。ほとんどの人は一度に 5 つ以上のことを処理できず、ほとんどの人は 3 レベルを超える再帰情報を探索できません。しかし、AIXI、ソロモンオフセンシング、記号計算、確率的推論などのほとんどの AGI トピックでは、完全な合理性が求められます。私が言おうとしているのは、単純なヒューリスティック思考こそが人間の思考を駆り立てるすべてであり、洗練された数学的手法に頼る必要はないということだ。研究者は、自分の武器庫から数学的なツールを使用する傾向がありますが、これは問題を複雑にしたり、人間の認知的限界によりツールの誤った選択を引き起こしたりします。コルモゴロフ複雑性は複雑性を測定するための興味深い式ですが、人間の限られた合理性と完全な知性とは関係がないと思われます。

6. 記述モデルと生成モデル

ダニエル・デネットは、レボリューションとチューリングのロボットを「考えることができないスキル保持者」と表現しています。なぜなら、これらのロボットは多くの複雑なプロセスを完了する能力がかなりあるにもかかわらず、なぜそうするのか理解していないからです。もちろんこれもよく知られています。しかし、これは、非知性から複雑なデザインがどのように生じるかを理解できない多くの人々を混乱させます。これは、混沌の中に秩序を見出し、本質的な設計を見つけようとする人間の認知バイアスによるものではないかと私は考えています。

現実の数学的または論理的モデルは記述的モデルです。これは、科学者が不変の法則を通じて世界の規則性を識別し、これらの法則が現実の縮図として見られることを意味します。しかし、記述モデルは現実世界の本質ではなく、単に複雑な生成行動における観察されたパターンにすぎません。

パターンが存在しない場合でも、人間はつながりを見つけようとします。私たちは空の雲を見て、イースターバニーを見たと思いました。しかし、絶えず変化する雲が意図的にイースターバニーの姿に変化したわけではありません。これは、世界を支配する法則を探求する過程で人間が行った主観的な推測です。これは、世界の記述モデルはせいぜい現実の行動の帰納的モデルであり、生成的モデルではないことを意味します。したがって、確率モデルなどの記述モデルがシナリオをどれだけうまくシミュレートしたとしても、それはあくまでもシミュレーションであり、生成モデルとは異なります。さらに、「停止問題」とは、観察された記述モデルを通じて真の生成モデルを発見することが現実的ではないことを意味します。

7. 平衡から遠いプロセスから生成される

[[255278]]

記述的法則ではなく生成的法則はどこから来るのでしょうか? 熱力学の第二法則は、すべてのものが混沌に向かう傾向があることを示しています。ここでのカオスとは、観察から記述的な規則性を見つけることができないことを表す測定単位、つまりエントロピーを指します。イリヤ・プリゴジンは、パターンは平衡から離れた状態でのみ見つかると言いました。現在の機械学習方法論の問題は、使用される数学が常に特定の平衡状態を前提としていることです。

しかし、自己管理の機能だけを考えることはできません。認知能力は、新しい能力を蓄積するプロセスを通じて、常に鍛えられ、向上していきます。新たな問題における数学的な欠陥の 1 つは、事前に計算できないことです。これは、新しい機能が出現するたびに、可能な組み合わせの数が大幅に増加し、以前は知られていなかったいくつかのイベントが知られるようになるためです。人類の技術革新は、これを直感的に表したものです。ワールドワイドウェブが発明される前、今日の Google を誰が想像できたでしょうか?

8. 主観性

[[255279]]

認知モデルにおいて最も見落とされがちな情報の 1 つは、自分自身に関する情報です。すべての生物学的反応は、生物自体の本来の概念に関連しています。つまり、生物の行動は生存と繁殖という基本的な目的によって動かされます。生物学のすべては、自己の中に境界を維持するというこの概念によって推進されています。したがって、私たちがより高次の存在（私たち自身など）を探求し始めるとき、私たちのモデルに自己の概念を含める必要があります。そうするには、自己モデルをエコシステムに組み込む必要があります。認知能力を持つ個体は、自身の行動とその行動がエコシステムとどのように相互作用するかを認識する一人称視点のモデルと組み合わせる必要があります。

9. ナノインテンショナリティ

[[255280]]

最も単純な生物細胞の中にも、自立した行動を維持する複雑な認知行動が存在します。マイケル・レビンの研究によると、中枢神経系が存在しない状態での形態形成には複雑な認知（つまり生体電気計算）が必要であることが示されています。この見解は、私たちが人間の脳について構築してきた記述モデルを大きく覆すものです。各ニューロンが真核細胞と同じ複雑な動作をする場合、ディープラーニングによって発見された協調動作モデルは、基本的な能力（協調や自己修復など）を捉えるのに十分ではない可能性があります。

10. 非静的認知モデル

現在私たちが持っている認知モデルは静的であり、単一のタスクに適用されます。しかし、生物学的レベルの適応性を達成するには、認知モデルは静的であってはならず、継続的、タイムリー、会話的なものにならなければなりません。エコシステムの変化に応じてモデルが適応できるようにするには、最適なヒューリスティックによってサポートされる継続的なコンテキスト切り替えが必要です。

複雑で動的な生態系では、構造はどのようにして維持されるのでしょうか。個々の生物は自己調節することができ、多くの意図的なメンバーを持つ生態系も同様に自己調節することができます。つまり、物事がバランスを崩さないようにする高レベルのメカニズムが存在します。これは複雑な会話を追跡できるメカニズムになるのでしょうか?

11. 個人ではなく集団

[[255281]]

自己モデルは、それが成長する生態系から切り離すことはできません。実際、さまざまな能力は、基本的に、それが成長する生態系とはまったく異なる環境でのみ発達します。たとえば、生命にはアミノ酸、DNA、脂質が必要です。これら 3 つの物質はどのようにして進化し、互いに欠かせない存在になったのでしょうか。おそらく、異なる生態系で独立して進化し、現在の生物圏で相乗関係を結ぶようになったと考えられます。一般的に、生命はそれが属する生態系から切り離すことはできません。これは、言語などの高次の認知能力は、人間が存在する文化的環境から独立して成長することはできないことも意味しているのかもしれません。人は生まれながらにして言語能力を持っているわけではありませんが、私たちの独特な文化が言語能力を教えてくれます。

12. 胎児期の発育と新生児期

[[255282]]

哺乳類は（より原始的な有袋類とは対照的に）なぜ子宮の中で子孫を育てるのか疑問に思ったことはありませんか？人間の赤ちゃんは子宮から出て実際に生まれる数週間前に完全な認知能力を備えていることをご存知でしたか？人間の認知発達は出生後に始まると想定されていますが、実際には出生前に始まるという圧倒的な証拠があります。そのため、母親の世界に対する反応や相互作用の多くは、子宮内の子供に反映されます。赤ちゃんは子宮の中で何を学ぶのでしょうか？

人間のもう一つの特徴は、他の生物に比べて比較的長く子供の外見を保つことです。 2.5歳から3歳の人間の認知レベルはゴリラと同程度です。動物が幼い子供の外見を保つこの特徴は、幼形成熟と呼ばれます。たとえば、犬はオオカミの仲間よりも目が大きく、耳が垂れており、鼻が短いです。サンショウウオは「生涯」を通じて幼少状態のままであり、体の一部を再生するという驚くべき能力を持っています。

最近の研究では、人間の老化関連遺伝子299個のうち40個は人生の後半まで発現しないことが示された。実際、比較的早く成熟した人間は認知能力の一部を失うことはよく知られています。若さを保つことは認知面でのメリットがあります。若者は大人よりも脳の可塑性が高く、若さを長く保つことで、社会的に獲得した認知スキル（模倣、言語、共感など）を発達させる時間が増えます。

人間は好奇心や探究心などの学習能力をより長く保持するため、他の種よりも知的である可能性があります。

この最初のポイントは、「力、宗教、憎悪」に頼るような厳格な学習戦略は革新が難しいということを伝えることです。そして、新しい道を模索しようとする戦略は、新しいものを発見する可能性が最も高くなります。

黒板にまとめましょう！

[[255283]]

これらの盲点は相互に関連していることに気づいたかもしれません。これらは無関係なものではなく、総合すると最先端の AGI 研究に関する斬新かつ完全な視点が明らかになります。上記の興味深い点は、技術的な問題に重点を置きすぎる通常の AGI 研究とは大きく異なる点です。これは、ほとんどの STEM コースで導入される認知バイアスが原因である可能性があります。

AGI モデルをゼロから構築することはできません。ゼロから構築する必要があります。つまり、段階的に育てていく必要があります。したがって、自然かつ論理的なアプローチが必要です。「賢く成長する」という概念は明白に思えますが、多くの研究者は実際には反対のアプローチを取ることを主張しています（非常に驚くべきことです！）。多くの人は「AI はエンジニアリングだ」という偏見を持っています。実際、それは心理学や生物学とより関連があります。

『Beyond Efficiency』の中で、Dave Ackley 氏は、私たちのコンピューティングシステムがなぜそれほど脆弱なのかを論じています。彼はこれを「正しいことだけ、効率的なことだけ」という考え方によるものだと考えています。頻繁なコンピューターセキュリティ侵害は、堅牢性に関して生物学が教えてくれることを応用する必要があることを示しています。アクリー氏は私たちが「システム思考」を重視していないことを非難している。

システム思考は、構造に重点を置いた全体論的なアプローチに重点を置いています。これは、サイバネティクス（制御、フィードバック、調整、相互作用の研究）に関連しています。高度な AGI には、人間の認知をより深く理解し、生物学の複雑さを認識することが必要になります。そこで、ここではアーサー・C・クラークのテクノロジーに関する有名な言葉を言い換えたいと思います。より正確な表現は、「十分に進歩した技術は生物学と切り離せない」となります。