なぜほとんどの人工知能は「人工的な知的障害」のように見えるのでしょうか?

[[431114]]

当時流行した「インターネット+」を覚えている人はいるだろうか...「衣食住交通プラスインターネット」、今日のインターネットの巨人の多くは一夜にして誕生したが、時が経ち、騒ぎが収まった後、今は人工知能の時代になったようだ。

しかし、人工知能がそれほど賢くない瞬間を経験するたびに、私は心の奥底から魂を探るような疑問を抱かずにはいられません。人工知能？それでおしまい？

[[431115]]

映画の中では、人工知能は、全能で、進歩を追求し、感情が豊かで、自分は誰なのか、どこから来たのか、どこへ向かっているのかといった深遠な疑問について考えているような存在です。しかし、現実ではどうなのでしょうか?彼らは指示を機械的に受け入れる際に間違いを犯すことが多く、あなたとコミュニケーションをとって感情的な交流をするどころか、予期しない状況に即座に対処することができません。

Bilibiliでの人工的に愚かなパフォーマンスのいくつかは、しばしば何億人もの人々に視聴されています。たとえば、英雄も泣くほど長い『上洛之偈』は、Google 翻訳では、古代から現代までの 3000 年にわたる学際的なエッセイとして解釈され、時折、人々を笑わせ、泣かせる支離滅裂な発言が満載されている。

[[431116]]

[[431117]]

既存の人工知能技術では、ほとんどの場合、実用的なニーズを思いやりのある方法で解決できないため、インターネット上には、従来の常識に逆らう一群の偉大な発明家が現れました。彼らの製品は、「他人の製品はお金がかかるが、彼らの人工知能製品は命がかかる」ということが何を意味するのかを如実に示しています。

では、なぜ今日人工知能に対してこれほど多くの批判があるのだろう、という疑問について考えたことがありますか?本当に開発期間が短いから未熟なだけなのでしょうか？それとも根本的に違うのでしょうか?

01.主流の人工知能はなぜ「知的」ではないのでしょうか?

一部の人工知能が想像ほど賢くない理由は、人間のようにさまざまなタスクを実行できる汎用人工知能システム (汎用人工知能) ではなく、実際には特定の目的に特化した人工知能にすぎないためです。

現在、主流のAI研究機関が提供する製品は「AGI」の範疇には入りません。例えば、かつて李世ドルと柯潔を破って有名になったGoogleのAlpha Goは、実は専用の人工知能システムです。

囲碁をプレイするだけでなく、中国将棋や日本の将棋をプレイすることすらできず、ましてや医療診断や家庭用ロボットのソフトウェアサポートを行うこともできない。

Alpha Go を動かす「ディープラーニング」技術は、多少の修正を加えることで人工知能の他の分野にも応用できるが、そうした修正を行うのはプログラムそのものではなく、人間のプログラマーだ。

人工知能の起源を遡ってみるのも役に立つかもしれません。人工知能の誕生はもともと哲学的思考の産物でした。『イミテーション・ゲーム』を読んだことがある人も多いでしょう。主人公のチューリングは実際に AI 科学の台頭に重要な役割を果たしました。

1950年に彼は論文の中で有名な「チューリングテスト」を提唱し、人工機械が人工知能を持つための条件は、その発話行動が人間の発話行動をうまくシミュレートできるかどうかであると信じました。 （つまり、私たちは機械に話しかけるときに、それが本物の人間であると誤解してしまうのです）。

実際、AI 研究は誕生以来、 「知能」とは何かを探求してきました。特定の問題を解決できるのでしょうか、それとも行動レベルでは人間に似ているのでしょうか? AI システムの良し悪しを判断する際には、設計者の当初の目的を達成できるかどうかが重要になることが多く、これは物理的な実験で仮定の合理性を判断する方法とは異なります。

多様な AI 研究アプローチが存在する現段階では、絶対的な優位性を獲得した者はいませんが、大まかにシンボリズムとコネクショニズムという 2 つのアプローチに分けることができます。

これらの難解な用語に怖気付かないでください。いわゆるシンボリックアプローチは、実際には、コンピューターをプログラミングするときに実際のデータを入力し、論理を使用して推論して結果に到達するのと同じように、演繹に現代の形式論理を使用するものです。このアプローチは広く使用されていますが、いくつかの根本的な問題があり、多くの災害を引き起こしています。

例えば、2019年の航空事故は、飛行機に搭載されたAIシステムが原因でした。このシステムは、飛行機の機首と地面の角度を自動的に制御しますが、人間が手動制御ボタンを見つけるのは難しく、AIに頼るしかありませんでした。

その動作原理は非常にシンプルです。機首にセンサーが付いており、機体と地面の角度を検知してそのデータをシステムに送り、システムが基準を満たすまで自動的に調整します。

しかし、根本的な疑問は、センサー自体が故障したらどうなるかということです。このような AI システムは、与えられた経験的データに基づいて機械的な論理的推論を行うことを原理としており、実際の環境の変化に基づいて柔軟な一時的な判断を行うことができないため、この問題を解決できません。

実際、このアプローチを採用した AI システムはすべて、現代の形式的論理的思考を使用していますが、コネクショニズムに基づくディープラーニング技術の発展に対応することは困難です (テクノロジーのニュースで「ディープラーニング」というホットワードをよく目にしますが、その意味は知らないかもしれません)。

しかし、現実の生活では、私たちのほとんどは形式的な論理的思考をあまり使用していません。この種の思考自体は「直感」や「想像力」よりも合理的で科学的であるように見えますが、多くの問題を引き起こす可能性もあります。

例えば、形式論理は、扱う経験的命題の真偽を検証することができません。前述の飛行機墜落事故はその一例です。これを克服するために、設計者は通常、多くの経験的事実が推論において真実の役割を果たすことを前提とし、それによって経験的世界を固めます。

人間は変化する経験の世界と変化しない論理の世界を簡単に切り替えることができますが、形式論理に依存する AI はそうすることができません。

たとえば、形式論理の意味論は「明確な境界」を持つ極端なケースを描写することに重点を置いていますが、日常生活における多くの表現は意味の曖昧さの「グレーゾーン」にあります。

具体的な例としては、「張三は金持ちだ」という文章があります。現代の論理によれば、張三の財産が1セントだけであったとしても、「張三は金持ちだ」という文章は真実ですが、人々の日常的な表現は明らかに張三の富が一般人の富をはるかに超えていることを意味しています。

[[431118]]

現実的な問題は、形式論理では経済性や実現可能性が考慮されず、有効性のみに焦点が当てられることです。つまり、実際に AI プログラミングに適用された場合、必要な多数の公理や推論ステップが考慮されません。しかし、実際の AI プログラミングでは、コストの問題とエンジニアリングの効率を考慮する必要があることは明らかです。

いわゆるコネクショニスト AI 研究に関しては、人間の情報処理プロセスを記号レベルで論理的に再構築することに焦点を当てているのではなく、人間のニューラル ネットワークの動作を数学的にシミュレートし、そのようなニューラル ネットワークを「トレーニング」して、ユーザーが期待する適切な出力を提供できるようにする方法に焦点を当てています。

[[431119]]

02.ディープラーニングは人類文明に隠れた脅威をもたらす

現在普及している「ディープラーニング」技術は、実はコネクショニズム、つまり「人工ニューラルネットワーク」技術の前身です。

このテクニックにはわかりやすい例え話があります。外国人が武術を学ぶために少林寺に行くとします。彼と師匠が同じ言語を話さない場合、彼はまず師匠の動作を観察し、それから師匠から学びます。

師匠は弟子に、学んだことが正しいかどうかを簡単なボディランゲージのコミュニケーションで伝えます。弟子は自分が間違っていることを知っていても、言葉ではどこが間違っているのか正確にはわかりません。師匠が確認するまで、弟子は推測して、際限なく真似することしかできません。

[[431120]]

この方法は明らかに非効率的ですが、「推測」こそがコネクショニズムの本質です。なぜなら、この AI システムは入力情報が何を意味するのかを知らないからです。何度も何度も可能性のある結果を推測します。それが人間が事前に与えた「理想的な解決策」と一致していれば、「メモリ」に保存され、これに基づいて「学習」を続けます。

いわゆる「ディープ」ラーニングは、実際にAIが学習内容を深く理解できることを意味するものではありません。元の単語「deep learning」は「深層学習」と訳した方が曖昧さが少なくなるかもしれません。

これは、システム技術をアップグレードして、隠れ層と中間層の数を増やすことを意味します。このアプローチは、明らかにハードウェアの改善と、インターネットの普及によってもたらされた大量のデータに依存しています。

では、なぜディープラーニングは人類文明にとって潜在的な脅威となるのでしょうか?

ここで言及されている脅威は、SF的な想像ではなく、現実に基づいた考察です。簡単に言えば、「ディープラーニングシステムの広範な使用は、短期的には特定の分野における人間の仕事に脅威をもたらし、それはまた人間の専門家の安定したトレーニングメカニズムに脅威をもたらし、ディープラーニングの将来の知恵の源を枯渇させる」ことになる。したがって、ディープラーニングの短期的な利益が枯渇した後、人類の文明は衰退する可能性がある。

この文章は正確には何を意味するのでしょうか?

まず、医療における腫瘍の AI 診断から始めましょう。この新興技術は、ディープラーニング フレームワークを設計する際に、専門の医師に頼ってデータをラベル付けする必要があります。しかし、専門の医師が画像を読み取る能力は、何十年にもわたる研究と実践を通じて蓄積されたものです。

つまり、この AI 技術が普及すると、医学生はそれを何年もかけて勉強する精神的なモチベーションを持たなくなる可能性があり、長期的には人間の医師の関連能力が弱まることになるでしょう。

さらに、ディープラーニングの統計メカニズムにより偶発的なデータが排除されるため、多くの稀少症例の腫瘍形態はラベル付けされません。この場合、人間の医師に頼るしかありません。長期的には、AIによる腫瘍診断は、稀少症例を診断する人間の医師の能力にも悪影響を及ぼすでしょう。

徐英金教授は、ディープラーニング技術による専門分野の労働力の搾取と代替は、実際には人類文明の人文資源を搾取し、脅かすものであると考えています。

いわゆる人的資源には、安定的でありながら硬直的ではない知識訓練システムが含まれており、これにより労働力が専門スキルと文化的素質を発展させることができます。各人の考え方やスキルレベルの違いにより、人的資源は豊かさと多様性に満ちており、これは社会の人的資源の持続的な発展にとって重要な前提条件です。

しかし、既存のAIシステムは、実際の人間のように同じ価値内容に対して多様な理解を生成することはできません。ディープラーニングの仕組みは、実際には大量の一般的な理解を収集し、それを平均化します。目に見えない形で多くの個別化された認識を排除しますが、新しい歴史的発展の可能性を生成することはできません。

この硬直化と平均化の結果、人間は新しい取り組みを提案する際に AI によって制限されることになります。例えば、革新的な映画やテレビのプロデューサーが新しい企画を提案したとき、資本側がディープラーニングが提供する情報処理方法に頼ると、「データのサポートがない」という理由でその革新に反対するでしょう。すると、アイデアのある監督や脚本家は、資本コミュニティのサポートを得て革新的な文学や芸術の創造に取り組むことができなくなります。

03.現在の主流のAI研究に対する批判

従来の AI システムでは、システムが直面する環境や処理する必要のあるタスクの種類を非常に明確に定義する必要があるため、オープンな環境への適応性がありません。

しかし、現実の世界では、鳥の自然な知能でさえも「グローバル」な特性を処理する能力を持っています。例えば、カラスが直面している本来の環境に都市は含まれていないことは確かですが、だからといって東京のカラスが都市環境に高度に適応した生物になることが妨げられるわけではありません。

[[431121]]

日本のカラスは精霊になる

[[431122]]

それどころか、情報の過剰な搾取により、現在の人工知能はいわゆる「探索と搾取のジレンマ」に陥っています。機械が人間の既存の知識を大規模に搾取しなければ、特定の分野でも知性を発揮することはできません。

しかし、機械が既存の人間の知識を利用することに「依存」するようになると、どの分野でも新たな探究を行うことができなくなります。

それに比べて、比較的高度な自然知能は、既存の知識を過度に活用することなく革新する能力を持っています（「司馬光が壺を割る」の場合に司馬光が示した革新能力など）。

したがって、将来スーパー AGI が実現した場合、その技術的な道筋は必然的に現在の主流の人工知能技術とは大きく異なるものとなるでしょう。

一般的に、現在社会のあらゆる分野で大々的に宣伝されている AI の概念は、冷静な「謎解き」作業を必要としており、それをサポートするには一定の科学的知識と、それを支援する一定の哲学的分析能力が必要です。

中国が現在、AI発展の基本戦略としているのは、膨大なインターネットユーザーから得られるデータ配当を活用して、米国発祥のディープラーニング技術の応用範囲を拡大することだ。このため、関連技術の発展は、一部の国による技術供給側からの抑制を受けやすくなっている。

[[431123]]

この状況から抜け出す方法を見つけるには、革新的な哲学的思考が非常に重要になります。例えば、ビッグデータではなくスモールデータをベースに、原理的には大量のユーザー個人情報の取得を必要としない新しいAI開発のアイデアを開発できれば、我が国に対する米国の現在の政策上の制限のほとんどを回避することが完全に可能となるだろう。