人工知能の急速な発展は人間に取って代わるのでしょうか？

[[347812]]

現在の人工知能技術の発展は、主にコンピュータを媒体として活用し、自動化技術の発展を促進しています。データに基づく人工知能技術は、人々のさまざまな生産活動をさまざまな自動化デバイスに置き換え、社会の発展の全体的な効率を向上させるのに役立ちます。人工知能は大幅な効率向上をもたらしますが、同時に大きなリスクももたらします。 AI がどのような未来をもたらすのかを慎重に評価する必要があるのでしょうか? また、人工知能のリスクはどのように発生するのでしょうか? 関連するリスクをどのように研究し、防止できるのでしょうか?

機械は人間に取って代わるでしょうか？

まず、人工知能の発展における注目すべき一連の大事件と、当時世論を巻き起こしたトピックを振り返ってみましょう。1997年5月、IBMが開発したコンピューター「ディープブルー」が、チェスの名人カスパロフの実力を初めて証明しました。2016年3月、人工知能「アルフスゴー」が韓国のトップ囲碁名人イ・セドルに勝利しました。2016年、世界最大の従業員数を誇るフォックスコンは、江蘇省昆山工場で6万人の従業員を4万台のロボットに置き換えました。2017年10月25日、世界初のロボット市民「ソフィア」がサウジアラビア国籍の女性ロボットとなり、合法的な市民権を与えられた市民になりました。これらの一連の出来事は、人工知能に対する人々の懸念と考えを深めました。人工知能技術が発展し続けるにつれて、人々はそれを同等のものと見なすようになりました。映画「her」に描かれた人工知能のパートナーは徐々に現実のものとなり、AI開発のリスクを考え始めています。ここでは、人工知能のリスクの範囲、人工知能リスクの形成メカニズム、人工知能開発の境界問題という3つの側面について説明します。

まず、人工知能のリスクについて議論しましょう。これは、1990年代にウルリッヒ・ベックが提唱した「リスク社会」という概念から始める必要があります。彼は、テクノロジーは社会の発展を促進する一方で、人類の生存を含む生態系全体に一定の脅威をもたらすと考えています。 「リスク社会では、物質的な不足に代わってリスクが社会問題や政治問題の焦点となっている。」言い換えれば、社会的リスクは事業運営の根底にある論理の一つとなっており、技術的リスクは最も広範囲に及ぶ影響を及ぼすリスクである。現代社会におけるリスクは、従来の社会とは異なり、人間が作り出したリスクです。これらのリスクは、人間が科学技術を無制限かつ積極的に推進したことに起因しており、その結果、目的や結果自体が不確実になっています。言い換えれば、テクノロジーリスクはテクノロジー自体の固有の特性であると同時に、人間の行動選択の結果でもあります。これが、テクノロジーリスクを理解する基礎となります。

人工知能によってもたらされるリスクは技術的リスクの範疇に入るものの、従来の技術的リスクとは大きく異なる点に注目すべきです。一般的に言えば、技術的リスクは、環境リスク、生態学的リスク、経済的リスク、社会的リスクなどの外部要因、つまり技術的要因と社会的要因の相互作用によって引き起こされるリスクから生じます。しかし、人工知能技術は、人間の存在の地位に対する挑戦、人間の境界と尺度の複雑さなど、多大な固有のリスクをもたらします。多くの映画、文学作品、SF小説で、AI に関する人類の最大の懸念は、人間と機械の境界が曖昧になり、人間と機械がますます高度化することにあると見てきました。つまり、人間の価値基準による判断のリスクが大幅に増加しており、現在のAI研究はすべて、リスクを判断する目的と原則として人間の価値基準、つまり人間の根本的な利益を重視しており、その発展は人間を犠牲にして求めることはできないのです。

テグマークは著書「ヒューマン3.0」の中で、AIの発展の3つの段階について言及しています。第一段階は、AIが人間を模倣し、人間が割り当てた作業を完了することです。この段階では、機械は予備的な知能を持ち、人間はAIを完全に制御します。第二段階は協力段階です。つまり、人間は大量の作業を完了するために人間を支援し、AIは人間の活動を容易にするという基本的な目標に基づいて設計されます。第三段階は競争、さらには置き換えの段階です。AIは大規模な応用の下で人間の制御を超えており、依存、競争、または制御されるなどの状況が現れています。つまり、人工知能のリスクには2つの部分があります。1つは客観的現実の物理的レベル、つまり人間の能力が徐々に置き換えられ、失業の急増などの外部技術的リスクが増加することです。もう1つは主観的認知レベル、つまり人間自身の心理的レベルのリスクです。たとえば、ロボットが徐々に人間の形と認識を獲得するにつれて、人間は徐々にロボットを自分の仲間として認識するようになり、必然的に倫理的問題が生じます。

リスクの背後にある論理

次に、人工知能リスク形成の基本的なメカニズムのロジックを見てみましょう。マシュー・シェラー氏は次のように述べています。「行動の自動化は、人工知能と他の初期の人間の技術との最大の違いです。人工知能システムはすでに、人間の制御や監督を必要とせずに動作できます。」人工知能技術が人類社会にもたらす利益とリスクは、両刃の剣の両面であると言えます。一方では、AI は人間の労働を代替することで生産性を解放し、人間の活動により多くの時間と空間を与えます。他方では、AI は実際に人間の労働を代替するため、人間は制御を失うリスクがあり、人間の優位な地位はある程度譲り渡されます。さらに深く見てみると、人間はテクノロジーを通じて実際に身体能力の増幅と強化を実現しており、現代のテクノロジーの根底にある原動力は、人間によるテクノロジー増幅の追求です。人工知能技術は、複数の技術を統合して技術を増幅するという人間の願望と動機の実現です。同時に、技術増幅の過程で人間は次第に自分を見失い、技術は人間の意志から逸脱した方向に発展し、技術リスクを現実のものにします。

「人間は自然のために法を作る」というカントの主張が、人間が自然の支配から解放され、人間の主体性が確立したことの象徴となっているとすれば、AIの発達はそうした主体性に対する脅威となっている。AIは、人間に似た特性の成長を通じて、徐々に人間の活動を代替する能力を高めている。つまり、テクノロジー自体に不確実性があるということです。人工知能技術は本来人類の発展に有益なものですが、発展の過程で人類の生存リスクを高める障害を生み出す可能性もあります。これは警戒すべきことです。

技術そのものの特性に加え、技術革命とともに成長してきたもう一つの重要な要素、資本の力も見逃しがちです。産業革命以降の近代技術の発展は、資本の力と切り離すことはできません。周知のように、資本は営利を追求するものであり、技術の目的は人々の物質的追求を実現することです。したがって、技術は資本の目的を最大限に実現することができます。技術と資本はある程度の同型性を示しています。つまり、資本の論理とテクノロジーの論理が共謀し、資本は価値成長を達成する過程でテクノロジーの優位性を広めることができるのです。資源配分の効果的な方法として、資本は最良の技術的経路で資源の配分を最大化することができます。技術は集合体（ハイデガーの言葉）として、外部のものを自身の規範体系に組み入れ、自身の力を使って存在を促進し配置し、人間独自の方法で物事を明らかにすることができます。簡単に言えば、テクノロジーは人間が制御できない力を生み出すことができます。それは、ある乗り物に乗っているようなものです。テクノロジーの要求の下で、人間は制限なく自然を搾取し、資源を略奪することができます。同時に、人間は自分自身をテクノロジーに必要な資源と見なし、テクノロジーに支配され、逃れることができません。これはハイデガーが論じた近代技術の本質であり、人工知能がもたらすリスクを理解するための重要な視点でもあります。同時に、資本（お金）は特定の物質に限定されない超現実的な性質を持っているため、人々の必要に応じて性質を変えることができます。さらに重要なのは、AI技術の発展によりデジタル格差が拡大するため、このプロセスにおいてデジタル化によってもたらされる社会的公平性の問題にも注意を払うことが非常に重要であるということです。

テクノロジーの限界

人工知能がもたらすリスクを理解した後、次に人工知能技術の発展の限界について説明します。限界を明確にすることによってのみ、リスクを理解することができます。実際、一般的な技術的リスクと比較すると、人工知能のリスクは主に知能の限界に対する認識の相違にあることがわかります。現在、知能を持つのは人間だけなので、人工知能の出現により、いわゆる知能の限界の問題が生じています。この概念は、次の 3 つの側面から理解できます。

まず、人工知能の「知能」は、コンピュータ技術によって情報を知識に変換することで開発されるため、計算可能な境界が存在します。現在、コンピューターは論理的な演算に重点を置いており、感情を計算することはできません。もちろん、マスク氏のような起業家が脳コンピューターインターフェースなどの技術を使って人間の思考を解釈し、AIに新たな知能モデルを与えているのも見てきました。しかし、人間の脳（特に意識や感情に関わる部分）に対する理解が非常に浅いことを考えると、当面はAIが自己認識や概念を発達させる可能性は見えません。もちろん、技術の進歩により人工知能が意識を持つようになれば、システム的なリスクは間違いなく生じ、人間はそれと共存しなければならなくなり、関連する生活空間における衝突は避けられなくなるだろう。

第二に、人工知能技術の限界は、技術の社会的属性の限界に挑戦しています。一般的に言えば、ある技術は自然属性と社会的属性の両方を備えています。いわゆる自然特性とは、技術が生み出され存在できる内的理由、つまり技術が特定の物理法則に従うことを指します。一方、技術の社会的属性とは、技術が社会法則に従わなければならないという事実を指します。人工知能技術の発展は社会の倫理やシステムを変えており、それが人間が人工知能と異なる最も重要な理由の一つであることがわかります。人工知能は現在、機能的な個人またはグループとして存在しており、いわゆる社会性を持っていないため、種やグループとしてみなすことはできないことがわかります。マルクスは「特定の方法で生産活動を行っている特定の個人は、明確な社会的、政治的関係を結ぶ」と述べました。この社会的関係は、労働の形態を制約し、人間の本質を直接決定します。言い換えれば、「現実における」人間の本質は、あらゆる社会的関係の総和である。先ほど述べたように、人工知能は計算に基づいており、計算によって社会的な関係を獲得することはできません。逆に、人工知能が人間集団から社会関係に関する知識を学習し、いわゆる集合知を形成して「超知能」となることができれば、人類の危機やリスクは拡大し、人間社会の危機を回避することは困難となるだろう。

第三に、人工知能技術によってもたらされる可能性のある「ポストヒューマン」時代のリスク、つまり、人間とは異なる種が人間との接合によってのみ生み出され、「サイボーグ」種になるリスクを認識する必要があります。ポストモダニズムの技術哲学者ドナ・ハラウェイは、「状況に応じた知識」という概念を提唱し、自然と文化を動的かつ異質なカテゴリーに位置付けました。いわゆるサイボーグとは、制御技術を通じて生物を制御し、人間と技術の深い融合、つまり人間と技術の共生関係を築くことです。このような技術的パラダイムを通じて、機械的と有機的、物理的と非物理的の間の境界を打ち破ることが可能です。 「制御された生物、機械と生物学のハイブリッド、現実の創造物であると同時に仮想の創造物」、これがサイボーグの意味です。この「あなた」において、サイボーグは主体と外部環境の境界、そして自然と社会の境界を打ち破り、「ポストヒューマン時代」という概念を持ちます。この概念では、人間は絶えず客体化され、物体は絶えず人間化され、人間と物体の境界は絶えず曖昧になり、生物と物体の深い結合が形成され、自然の身体は機械の属性を持つようになります。 SF映画に登場する「電子人間」や「人造人間」のほとんどは、人間が自然界に与えられた限界を超えることを可能にするサイボーグという概念のもとに作られています。映画「アリータ」では、主人公の人間の部分は脳のみで、残りはより強力な性能とスキルを備えた機械で構成されています。このような現実が実現すれば、2つの結果がもたらされる。一方では、炭素系生物としての人間の脆弱性が覆され、人間はより強い生存能力を持ち、機械との競争において新たな優位性を獲得する。他方では、人間の身体は自然的属性の下での高貴さを失い、無機物の身体の交換可能な一部となる。これは、人工知能技術の限界を考慮する必要がある理由でもあります。私はヒューマニストとして、絶対的な合理性だけを追求するつもりはありません。人間は単なる物ではなく価値を、単なる実際の成果ではなく理想的な資質を、単なる個人的な勝利ではなく全体的な幸福を追求すべきだと信じています。これもまた人間の本質です。

解決への道

最後に、私たちは人工知能のリスクに対する解決策を提供します。これは、私が個人的にAIを研究する際の基本的な出発点でもあります。つまり、人工知能は人間のニーズと利益を反映しなければなりません。これには、生存の必要性だけでなく、発展のニーズ、精神的ニーズ、社会的ニーズも含まれます。これが、私たちの人工知能開発の原動力、つまり人間の価値基準と目的です。千穆師はこう言っています。「人間は生命の進化によって誕生した。人間の生命は他の生物の生命とは大きく異なる。最大の違いは、人間には生存の目的以外に他の目的があるということだ。」これらの目的は生存の目的を超えており、つまり生死の価値や理性の輝きを超えているのです。人工知能の発展に見られるのは、人間の功利目的の最大化、つまり生産労働を抑制された発展に置き換え、人類社会全体の生存基盤を強化することです。しかし、これには合理性や美学などの超功利主義的な目標の実践はほとんど含まれておらず、人間の自由や価値観に関する内容は言うまでもありません。功利主義だけを考えれば、それは間違いなく個人や集団組織の疎外につながり、それは人間そのものの否定につながり、人間の尊厳と存在への挑戦にもつながります。テクノロジーの限界は倫理的な問題であることを認識する必要があります。テクノロジーの可能性と倫理の制約の間には、本質的な矛盾があります。テクノロジーの発展の過程で、人々は機械の力と役割だけを見て、人間の価値を無視しがちです。

自動化された機械システムにおいて、人間は受動的な立場にある。技術は人間の本性の拡張を体現するが、同時に人間の本性を抑制する。人間の生活が技術変革の対象となれば、人間自身の技術化は避けられない。つまり、人間は創造することができ、テクノロジーは「不可能」を「可能」に変えるだけでなく、「できる」を「すべき」に変えることもできるのです。人間の生命と技術の価値の間には、本質的な矛盾があることを認識しなければなりません。つまり、人間の生命は自然であるのに対し、技術は人工的であり、生命は繰り返すことができないのに対し、技術は複製できるのです。

カントは「人間は目的であり、人間の目的性と手段性は完全に統一されなければならない」と述べた。人間の価値は人間存在の基準であり、人間は完璧さを追求する自身の道徳性に基づいて発展する必要がある。感情と理性は完全に統一されなければならず、この統一は人間の価値の最高の方向性をもたらす。これがAIの将来の発展に対する私たちの理解の核心です。人工知能技術の発展は、内部の観点からは人間を価値基準とし、外部の観点からは人間の社会集団を価値基準とする必要があります。人間を価値基準とすることは、人間の主体的地位と独立意識を保証し、人間の社会集団を価値とすることは、人類社会全体の持続可能な発展を保証します。言い換えれば、人工知能は、倫理的な限界を容易に越えて取り返しのつかないリスクや損失をもたらさないように、人間主義的な枠組みの中で発展しなければなりません。これが、人工知能の将来の発展を理解するための基本原則であり、人工知能のリスク問題に対する理解の本質です。