人工知能時代の機械の未来

この記事では、人間が持っているが機械がまだ獲得していないいくつかの必要な能力を列挙し、現在の開発動向である人間と機械のハイブリッド知能と人間と機械の分業とコラボレーションについて説明し、展望します。

[[423359]]

人工知能の急速な発展は私たちに多くの利便性をもたらし、機械は徐々に「自動化」から「知能」へと移行しています。しかし、現在の人工知能はまだ弱い人工知能であり、大部分は真の知能ではなく高度な自動化にすぎません。真の知能への道には多くのボトルネックもあります[1]。機械知能が人間の知能に近づくためには、多くの面でより「人間化」されなければなりません。人間の認知学習経路を探求することが特に重要であり、認知は緊急に取り組む必要がある問題となっているからです。人間の認知プロセスを完全に理解し、認知と技術の関係を探求し、それを機械に適用すると、機械を使って知識を認識、分析、適用することが人工知能の将来の発展方向となるでしょう。

この記事ではまず、人間が抱えているが機械が早急に解決する必要があるいくつかの困難な問題を列挙し、次善の解決策として機械支援による意思決定を提案します。最後に、現在の技術で実現できる最も可能性の高い人間と機械のハイブリッド インテリジェンスについてまとめ、展望します。

1. 機械が人間より劣る理由

現在の機械知能が十分ではない理由を、以下の5つの側面から紹介します。これらは、人工知能が飛躍するためには早急に解決しなければならない問題でもあります。

1. 抽象化と関連付け

人間の記憶容量には限りがあり、つまり、人間は暗記では学習しません。常識的に考えれば、膨大な記憶容量を持たない人間は、機械の膨大なデータに支えられた強力なデータベースよりも学習が遅いはずです。しかし、実際はそうではありません。その理由は、人間の学習は抽象化と連想に満ちているが、機械はそうではないからです。人間の記憶は関連付けが得意です。関連する物事は覚えやすくなります。1 つのことを考えれば、自然に他のものと関連付けられるでしょう。例えば、おいしそうな餃子を見ると、お母さんが餃子を作っている光景が思い浮かびます。また、あるお店の前を通りかかると、そこにいた記憶がよみがえります。さらに、人間は、機械のように大量のデータを通じて常に人間に似た状態に適応するのではなく、常に失敗して再び学習し、失敗のパターンを要約し、関連付けを行い、知識を伝達し、連合学習することで学習します。

ここで、人間の記憶エラーのパターンも非常に興味深いです。 2021年認知技術カンファレンスで、中国科学院上海生命科学研究所の研究員である王立平氏は、人間が長い数字の列を記憶する例を挙げ、長い数字を記憶するよりも短い数字の列の方がよく記憶され、人間の記憶の保存スペースが比較的小さいことも裏付けられると述べた。第二に、長い数字列を記憶する場合、記憶効果は最初から最後まで直線的に減少するのではなく、最初と最後の記憶効果はより良く、中間の記憶効果はより悪くなります。さらに、3と4を4と3と覚えるなど、隣接する場所で間違いが起きるケースも少なくありません。数字自体は問題ありませんが、隣接する順番を間違えて覚えてしまう可能性が高くなります。機械をより人間らしくしたい場合、人間の記憶の法則を機械によるデータの保存と検索に適用できるでしょうか?さらに、機械システムの抽象化をどのように達成するか、システムの抽象的な構造をどのように特徴付けるか、物事の類似性をどのように判断するか、そしてパターンを見つけることで機械が学習できるようにするか。現在、機械はデータから共通の特徴を抽出し、「関連付け」のための共通の特徴を見つけることしかできません。この方法は非常に機械的であり、多数の特徴ラベルが必要です。膨大なデータのラベル付けには時間と労力がかかりますが、それに加えて、物事間の類似した関連性を実現するためのより簡単な方法はあるのでしょうか? これはさらに検討する価値があります。

2. 機械からのフィードバック

人間は何もせず、何も考えていないときでも、脳内のニューロンがすべて休眠状態にあるわけではありません。このとき、脳は記憶を統合します。さらに、人間の学習には反省のプロセスが伴います。前述のように、人間の学習は、継続的な失敗とその後の再学習を通じて行われ、失敗のパターンをまとめ、人間の反省を伴います。反省は知識の蓄積と価値観の判断を促進し、それによって人類の進歩と継続的な発展を促進します。マシン内のマッピングはフィードバック プロセスです。

脳はフィードフォワード入力によって支配されており、フィードバックループは多くありませんが、人々は非常によく反省することができます。現在の課題は、機械のフィードバックが人間の反映と同じ効果を達成できるように、機械のフィードバックがどのようなものであるべきか、誰にフィードバックを与えるべきかを明確に理解することです。フィードバックを定量的にどのように特徴付けるべきか、また非線形フィードバックはどのように処理すべきか?

3. データ・情報・知識・応用

データとは、客観的な事柄を記録した識別可能な記号であり、有用な部分と冗長な部分が含まれます。データを処理し、データの有用な部分を解釈することで、データに意味が生まれ、意味のある部分が情報と呼ばれます。情報と処理のつながりを構築し、人間の脳を通じてそれを洗練させることで、規則的で普遍的な特性を持つ知識が得られます。知恵は、論理的思考とシステム設計を通じて知識に価値が溢れたときに形成されます。

機械に関しては、データを処理することしかできず、人間のように知識を抽出する能力はなく、ましてや既存の知識をうまく適用する能力はありません。人間が理解できる知識を機械が理解・実行できるように変換する方法、客観的なデータと主観的な情報を統合する方法、そして知識を移転して複数の分野に適用する方法こそが、将来機械に真の知能を与える唯一の方法となるでしょう。

4. 小規模サンプル学習

機械知能が膨大な量のデータによってサポートされている今日、機械はビッグデータを通じてトレーニングされることでのみ、人間の知能に適合する効果を達成できます。たとえば、ディープラーニングが効果を発揮するには、多数のラベル付きサンプルが必要です。しかし、多くの場合、機械学習のために機械に提供できるほどのサンプルやデータがありません。例えば、医療分野、セキュリティ分野、その他多くの分野では、ラベル付きデータがあまりなく、ラベル付きデータを取得するためのコストも非常に高くなります。サンプルが少ない場合、機械学習のトレーニングをサポートするには不十分です。しかし、実際の応用においては、さまざまな緊急事態や変化する環境をビッグデータのトレーニングで事前に準備することはできません。人間には緊急事態に対処する能力がありますが、小さなサンプルから学習する場合の機械の精度は途方もなく低いのです。機械が大量のデータという前提条件を取り除いて、小さなサンプルの学習にも熟練できるようにするにはどうすればいいかというのは、緊急に解決する必要がある難しい問題です。この場合、ディープラーニングなどの機械学習手法では問題をうまく解決できません。ファジー決定木から始めて、小規模サンプル学習の研究を進めることができるかもしれません。

5. 価値判断

周知のとおり、人間は価値を判断できますが、機械はそれができません。王立平教授は会議で、人間の脳には価値判断を行う領域があり、これを機械にどのように応用するかが新たな課題になるだろうと述べた。問題は、判断的なものを機械で計算可能なものに変換する方法、つまり、人間の計算を機械の計算に変換する方法です。それだけでなく、価値判断には倫理的な問題や、価値判断が間違っていた場合の説明責任の問題も伴います。技術的な問題に加えて、これらは機械による価値判断の発展を妨げる重要な要因です。

2. 機械は擬人化される必要はない

現在の技術的な制限により、上記の指示の多くを短期的には解決することはできません。人間の認知メカニズムや感情メカニズムなどを機械に変換して適用する前に、それらを探求する必要があります。これには長い時間がかかり、絶え間ない試行錯誤と磨き上げが必要です。したがって、この探索期間中に、機械の開発を停滞させてはいけません。第二の選択肢として、機械が継続的に更新され、反復され、人間にとってより適した機能を備えるようにすることができます。したがって、場合によっては、機械は必ずしも擬人化される必要はありません。機械が完全に擬人化されると、倫理的および道徳的責任など、考慮する必要がある複雑な状況が伴います。機械の絶対的な擬人化は必ずしも良いことではありません。

1. 機械は価値を判断することを学ぶ必要はない

機械には価値を判断する能力はありませんが、人間にはそれがあります。しかし、人間の価値判断は必ずしも正しいのでしょうか? 個人にとって価値のあるものが、集団にとっては価値がない、あるいは集団の価値を損なうこともあります。そのため、人間と機械のシステムでは、人間が決定する価値の方向性は利己的で、環境全体に悪影響を及ぼす可能性があります。この場合、機械は価値を判断する能力を持っていないかもしれませんが、価値判断の基準から始めて、人間に悪い価値観を避けるように思い出させることができます。機械は必ずしも人間のように擬人化されて価値判断を学習する必要はなく、人間が正しい価値判断を行えるよう、タイムリーに価値判断基準を提供できれば十分です。

2. 機械は人間の直感を必要としない

人間の思考パターンは、速い思考と遅い思考の2つのシステムに分けられます。速い思考は直感に頼る無意識の思考システムであり、遅い思考は能動的な制御を必要とする意識的な思考システムです[2]。速い思考は、素早く、独立して実行され、すぐに答えを出すことができますが、必ずしも正しいとは限りません。たとえば、感情の影響で下した判断は、簡単に偏りが生じます。ゆっくり考えるということは、証拠やデータを収集して検証した後に下される合理的な判断であり、その結果は正確であることが多いです。速い思考は人間の直感や計算に似ており、遅い思考は人間の計算に似ています。

機械は擬人化され、人間の直感を持つ必要があるのでしょうか? 答えはノーです。人間の直感は速いですが、必ずしも正確ではありません。強力な計算力を持つ機械がスピードだけを追求する必要は全くありません。したがって、機械がその強みを最大限に発揮することがより重要になります。人間は最初のステップとして素早い思考を使用する傾向があり、この不正確な素早い思考は可能な限り避け、計算は機械に任せるべきです。したがって、人間が初めて素早い思考をするときに、意思決定を支援する機械のリマインダーを選択すると、人間が思考のジレンマに陥るのを防ぐことができます。

3. 人間と機械のハイブリッド、それぞれが独自の仕事をする

技術的な制限と社会発展の厳しい要求により、人間と機械のハイブリッドインテリジェンスは徐々に最もホットな開発トレンドになってきました。人間には利点もありますが、作業速度が遅い、疲れやすいなどの欠点もあり、機械によって補うことができます。機械には価値判断や状況の推論といった機能はないので、この部分は人間に任せることができます。人間と機械のコラボレーションにより、人間・機械・環境システム全体の最大限の効果を引き出すことができます。人間と機械のハイブリッド知能の出現は、人間の作業負荷を軽減するだけでなく、人間が関与していない場合に発生する可能性のある異常な状況を回避することもできます。これは人工知能の必然的な発展です。

人間と機械のハイブリッド知能とは、簡単に言えば、人間と機械の両方の長所を最大限に活用して新しい形の知能を形成することです[4]。人間と機械のハイブリッド知能の理論は、人間、機械、環境システムの相互作用によって生み出される新しい形態の知能を説明することに重点を置いています。これは人間の知能とも人工知能とも異なります。物理学と生物学を組み合わせた新世代の知能科学システムです。ヒューマン・マシン・ハイブリッドは、図 1 に示すように階層型アーキテクチャを採用しています。人間は獲得した完璧な認知能力を通じて外部環境を分析・認識します。その認知プロセスは、記憶層、意図層、意思決定層、知覚・行動層に分けられ、意図的な思考を形成します。機械は検出データを通じて外部環境を認識・分析します。その認知プロセスは、ターゲット層、知識ベース、タスク計画層、知覚・実行層に分けられ、形式化された思考を形成します。同じアーキテクチャは、人間と機械を同じレベルで統合できること、また異なるレベル間で因果関係が発生する可能性もあることを示しています。

図1 人間と機械のハイブリッド知能における人間と機械の分業の模式図

しかし、現在、人間と機械のハイブリッド知能には注意と解決が必要な問題がいくつかあり、その 1 つが人間と機械の分業です。人間にはどのようなタスクを割り当て、機械にはどのようなタスクを割り当てるべきでしょうか。どのようなタスク割り当てが最適かを判断するために、人間と機械のタスク割り当ての境界に基準を設定する必要があるのでしょうか。人間は疲れやすく、仕事のパフォーマンスは感情に左右されますが、機械は人間なしでは自立して働くことができません。そのため、人間と機械のどのような分業が最適な解決策であるかは、まだ探求が必要な難しい問題です。

2 つ目は、システムの認知負荷を軽減するという問題です。人間と機械のハイブリッドインテリジェントシステム全体にとって、システムの認知負荷を軽減することが特に重要です。人間・機械・環境から構成される人間・機械ハイブリッド知能システムでは、システムの認知負荷を軽減することでパフォーマンスを向上させることができます。人間の認知負荷を軽減すること、機械が処理する無駄なデータの量を減らすこと、環境内の冗長な情報を減らすことなど、人間と機械の環境システムエンジニアリング全体にとって非常に重要です。効果的な情報検索を使用して無駄なデータの干渉を減らすことができ、機械支援による意思決定を使用してシステムの認知負荷を軽減することができます。

3つ目は信頼の問題です。機械が意思決定を支援する場合、機械が推論、関連付け、計画する能力を備えている場合にのみ、機械支援による意思決定に対する人間の信頼を高めることができます。そうでなければ、機械が補助的な意思決定を行う際に、人間の懐疑心によってシステムの認知負荷が軽減されないだけでなく、むしろ増大してしまうことになる。現在の技術では、機械がそのような完全な補助的な意思決定能力をまだ備えていないことは明らかです。人々が機械の能力を信頼しないのは良くありませんが、過度の信頼も問題を引き起こす可能性があります[3]。したがって、機械支援による意思決定システムが完璧ではない時代には、システムがどの程度の透明性を示すのか、またシステムの解釈可能性はどの程度なのかを知ることが特に重要です。