人工知能に関する4つの大きな誤解

サンタフェ研究所の教授であり、『人工知能：考える人間のためのガイド』の著者でもあるメラニー・ミッチェル氏は、これらの目標が失われたのは、人工知能と自然知能に関する誤った仮定が一因であると述べた。

[[398806]]

「AI が私たちが考えるよりも難しい理由」と題した最近の記事で、ミッチェル氏は AI に関する 4 つのよくある誤解について説明しています。

1. 狭義のAIと汎用AIは規模が違うだけ

今日使用されている AI は、限定された問題を非常にうまく解決できます。 AI システムは、囲碁やチェスのプレイで人間を上回り、X 線画像内の癌のパターンを非常に正確に検出し、音声データをテキストに変換することができます。しかし、特定の問題を解決できる AI システムを設計しても、必ずしも人間がより複雑な問題を解決しやすくなるわけではありません。ミッチェル氏は、最初の神話を「汎用 AI は狭義の AI の拡張である」と説明しています。

「人々は、限定的なAIシステムが素晴らしいことをしているのを見て、その分野が汎用AIへの道を進んでいると想定することが多い」とミッチェル氏は記事に書いている。

たとえば、今日の自然言語処理システムは、翻訳、テキスト生成、特定の質問への回答など、さまざまな問題の解決に向けて長い間開発されてきました。同時に、音声データをリアルタイムでテキストに変換できるディープラーニングシステムも登場しています。それぞれの成果の背後には、何千時間もの研究開発作業と、コンピューティングとデータに費やされた莫大な資金があります。しかし、AIコミュニティは、長期間にわたって一貫性を失うことなく、無制限の会話を続けることができるマシンを作成するという問題をまだ解決していません。このような AI システムは、より複雑な問題を解決する必要もあります。これには常識が必要であり、これは AI がまだ解決していない重要な課題の 1 つです。

2. 単純なことは自動化が難しい

視覚は人工知能にとって依然として大きな課題です。

人々はしばしば、より複雑な問題を解決するためにより賢い人々を望むが、実際にはそれには何年もの学習と実践が必要である。たとえば、微積分や物理学の専門知識を持つことは難しいですが、チェスの名人とチェスをしたり、たくさんの詩を暗記したりすることはより困難な作業です。

しかし、数十年にわたる AI 研究により、困難なタスクの一部はより簡単に自動化できることがわかっています。人々が当たり前だと思っている単純なタスクを自動化するのは困難です。ミッチェルは、2 番目の神話を「簡単なことは簡単に解決でき、難しいことは解決するのが難しい」と説明しています。

「人間は、見たものを理解し、会話を続け、混雑した歩道を誰にもぶつからずに歩くなど、考えずに多くのことができるが、これらは機械にとってはより困難なことである」とミッチェル氏は記事に記している。「逆に、人間にとって非常に難しいことを機械が行う方が簡単な場合が多い。例えば、複雑な数学の問題を解くこと、チェスや囲碁などのゲームをマスターすること、何百もの言語のテキストを翻訳することは、機械にとって比較的容易になっている。」

たとえば、ロボットの視覚。数十億年をかけて、生物は光信号を処理するための高度な装置を開発してきました。動物は目を使って周囲の物体を見たり、環境内を移動したり、食べ物を見つけたり、脅威を感知したり、生存に不可欠な多くの作業を実行します。人間はこれらの能力を祖先から受け継いでおり、無意識のうちにそれを使用しています。しかし、その根底にあるメカニズムは、高校や大学で学んだ数式よりも確かに複雑です。

今日、研究者たちは人間の視覚と同じくらい多用途なコンピューター ビジョン システムの開発に取り組んでいます。そして、彼らは、物体の検出や画像の分割など、動物や人間の視覚システムの特定の部分を大まかにシミュレートできる人工ニューラルネットワークの作成に成功しました。しかし、それらは脆弱で、さまざまな外乱に敏感であり、生物の視覚が実行できるすべてのタスクをシミュレートすることはできません。このため、他のテクノロジーが必要になります。たとえば、自動運転車のコンピューター ビジョン システムには、LIDAR やマッピング データなどの高度な他のテクノロジが必要です。

非常に困難であることが証明されているもう一つの分野は、人間が特別な訓練なしに習得できる感覚運動能力です。たとえば、歩く、走る、ジャンプするなどです。これらは、人々が考えなくても実行できるタスクです。実際、音楽を聴いたり、電話で話したりといった他のことを歩きながら行うこともできます。しかし、これらのスキルは、現在の AI システムにとって依然として非常に複雑で大きな課題となっています。

「AIは私たちが考えるよりも難しい。なぜなら私たちは自分の思考プロセスの複雑さにほとんど気づいていないからだ」とミッチェル氏は書いている。

3. AIを説明するために擬人化された用語を使用する

現代の AI システムを人間の知能と比較すると、AI 開発の現状について誤った印象を与える可能性があります。

人工知能の分野では、人工知能を人間の知能と同じレベルに置く用語が頻繁に使われます。 AI アルゴリズムの仕組みを説明するために、「学習」、「理解」、「読み取り」、「思考」などの用語を使用します。この擬人化された用語は、複雑なソフトウェアの仕組みを伝えるための名前や略語としてよく使用されますが、現在の AI システムが人間の思考方法と同様に機能すると誤解させる可能性があります。

ミッチェル氏はこの誤解を「希望的記憶術」と呼び、「このような名前や略語は、これらの結果を理解しようとする一般の人々（およびそれを報道するメディア）を誤解させる可能性があり、また、AIの専門家でさえ、自分たちが開発するAIシステムが人間の知能とどれほど似ているかについての考え方に無意識のうちに影響を与える可能性がある」と指摘している。

希望的記憶術のせいで、AI コミュニティはアルゴリズム評価ベンチマークに誤解を招くような名前を付けるようになりました。たとえば、AI 分野の大手組織や学術機関によって開発された General Language Understanding Evaluation (GLUE) ベンチマークを考えてみましょう。一般言語理解評価 (GLUE) は、言語モデルが広範囲のコンテキストにどの程度一般化できるかを評価するのに役立つ一連のタスクを提供します。しかし、メディアが伝えているのとは反対に、AI エージェントが人間よりも高い一般言語理解評価 (GLUE) スコアを獲得したとしても、その言語理解能力が人間よりも高いことを意味するわけではありません。

「これらの特定のベンチマークでは機械が人間を上回っているが、AIシステムはベンチマーク名に関連付けられている人間の能力に匹敵するにはまだ程遠い」とミッチェル氏は書いている。

希望的記憶の典型的な例は、Facebook AI Research による 2017 年のプロジェクトです。このプロジェクトでは、科学者が 2 つの AI エージェントを訓練し、人間の会話に基づいてタスクを交渉できるようにしました。 「2つのAIエージェントのパラメータを更新すると、エージェントが対話するための独自の言語を開発するため、人間の言語からの分岐が生じる」と研究者らはブログ投稿で述べている。

このため、業界メディアでは、AIシステムが人間よりも賢くなり、独自の言語でコミュニケーションする可能性があると警告する一連の記事が掲載されている。しかし、4年経った今でも、これらの高度な言語モデルは、ほとんどの人が子供の頃に理解する基本的な概念を理解するのに苦労しています。

4. 身体から切り離された人工知能

知性は身体から切り離して存在できるのか？これは何世紀にもわたって科学者や哲学者を悩ませてきた疑問です。

ある学派は、知性はすべて脳の中にあり、身体から切り離すことができると考えており、これは「容器の中の脳」理論としても知られています。ミッチェル氏は、知性はすべて脳にあるというのは誤解だと述べた。適切なアルゴリズムとデータがあれば、サーバーで実行でき、人間の知能に匹敵する人工知能を作成することが可能です。この考え方の支持者、特に純粋なディープラーニングに基づくアプローチを支持する人々にとって、汎用人工知能のレベルに到達するには、適切な量のデータを収集し、ますます洗練されたニューラル ネットワークを作成する必要があります。

同時に、このアプローチが失敗する運命にあるという証拠も増えている。 「知能を理解し、人工知能を創造するための基礎として、『すべては脳にある』という情報処理モデルに疑問を抱く研究者が増えている」とミッチェル氏は書いている。

人間や動物の脳も、生存の可能性を高めるという最終目標を掲げ、それぞれの体の器官とともに進化してきました。人間の知能は身体の限界や能力と密接に結びついています。組み込み人工知能の分野は絶えず拡大しており、さまざまな環境との相互作用を通じて知能を開発できるエージェントを作成することが目標です。

ミッチェル氏は、「神経科学の研究により、認知を制御する神経構造は感覚系や運動系を制御する神経構造と密接に関連しており、抽象的思考は人体に基づく神経の『マップ』を利用していることが分かっている」と指摘した。脳のさまざまな感覚領域からのフィードバックが、人の意識的および無意識的な思考に影響を与える可能性があるという証拠や研究が増えている。

ミッチェルは、感情、気持ち、無意識の偏見、身体的経験は知性と切り離せないという見解を支持しています。 「心理学や神経科学の知識の中には、『純粋な合理性』が、私たちの認知や目標を形作る感情や文化的偏見から切り離されているという考えを支持するものは何もありません」と彼女は書いています。「むしろ、人間の知性は、感情、欲求、強い自己意識と自律性、そして世界に対する常識的な理解など、密接に結びついた特性を持つ、高度に統合されたシステムのようです。これらの特性を切り離すことができるかどうかは明らかではありません。」

人工知能の常識

汎用人工知能を開発するには、知能そのものに対する理解を調整する必要があります。人々はいまだに、知能とは何か、人工生物や自然生物における人工知能をどのように測定するかを定義するのに苦労しています。

「人工知能の進歩と発展をより効果的に実装し、評価するためには、機械が何ができるかを語る上でよりよい用語を開発する必要があることは明らかだ」とミッチェル氏は書いている。「より広い意味では、自然界の多様なシステムに現れる知能について、より科学的に理解する必要がある」

ミッチェル氏が論文で言及しているもう 1 つの課題は常識であり、彼女はこれを「今日の最も先進的な AI システムに欠けている機能を保護する傘」と表現しています。

この常識には、人々が世界について獲得し、それほど努力せずに毎日適用できる知識が含まれます。子どもの頃、私たちは明確な指導なしに世界を探検することで、空間、時間、重力、物体の物理的特性などの概念を含め、多くのことを学びます。たとえば、人は幼いころ、物体が別の物体に遮られても消えるのではなく存在し続けること、あるいはボールがテーブルの上を転がると下に落ちることを学びます。人々はこの常識を使って、世界のメンタルモデルを構築し、因果推論を行い、将来の状態をかなり正確に予測します。

今日の AI システムにはこの知識が欠けており、予測不可能で大量のデータを必要とします。実際には、AI アシスタントや自動運転車は、ほとんどの人が常識と実践を通じて学ぶものなのです。

この常識には、人間性や人生に関する基本的な事実も含まれます。これは、読者や聞き手が知っていることを知っているために、会話や文章の中では説明を省略している事柄です。たとえば、2 人の人が「電話中」の場合、その 2 人が同じ部屋にいないことが分かります。人々はまた、「誰かがキャンディーに手を伸ばした」ということは、その人の近くのどこかにキャンディーの入った容器があることを意味することも知っていました。この知識は、自然言語処理などの分野では非常に重要です。

「この知識や能力を機械に取り込む方法はまだ誰も知らない」とミッチェル氏は書いている。「これは現在、AI研究の最前線であり、これらの能力の開発についてすでにわかっていることを活用することが、今後の有望な方法の1つだ。」

人々はまだ多くの質問に対する答えを知りませんが、解決策を見つけるための第一歩は、自分自身の誤った考え方に気づくことです。 「こうした誤解とその微妙な影響を理解することで、より堅牢で信頼性が高く、インテリジェントな AI システムを構築する道筋が見えてくる」とミッチェル氏は書いている。