人工知能のシンギュラリティに関する考察: 超知能 AI の倫理的問題は無視できない

ロボットの電源を切ったり、人工知能アルゴリズムをオフにしたりするのは悲しいですか? まだそうではありません。しかし、コンピューターが人間よりも賢くなったらどうなるでしょうか?

[[332165]]

人工知能の影響についての議論は、AIそのものと同じくらい古いものです。ほとんどの議論では、AI の未来はターミネーターのような黙示録として描かれています。しかし、AI エージェントが生命、知性、意識の特性を発達させたときに、私たちがそれをどのように認識し、対話し、受け入れるかについては、あまり議論されていません。

最近の記事では、ザグレブ経済経営大学の科学者であるボルナ・ヤルセンジャク氏が、超知能 AI と生物生命と人工生命の類似性について論じています。彼の著作「人工知能の特異点：それが何であるか、そしてそれが何でないか」は、人工知能のさまざまな歴史的、科学的、哲学的側面を探求するエッセイと論文集『ディープラーニングの基礎』に掲載されています。

ジャルセンジャク氏は、生命に関する哲学的人類学的観点と、それが自らの操作を通じて進化できる人工知能システムにどのように適用されるかについて解説します。彼は、人工知能が独自の「生命」を発達させると、「考える機械」が出現するだろうと信じている。

AIシンギュラリティ

シンギュラリティは、汎用 AI に関する議論でよく出てくる用語です。 AGI に関するあらゆる事柄と同様に、シンギュラリティについても多くの混乱と意見の相違があります。しかし、ほとんどの科学者や哲学者が同意する重要な点は、これが AI システムが人間よりも賢くなる転換点であるということです。シンギュラリティのもう 1 つの重要な側面は、時間と速度です。AI システムは、反復的かつ加速的に自己改善できる段階に到達します。

「もっと簡潔に言えば、人間のレベルに達するAIが誕生し、そのAIがさらに少し賢いAIを作り、そのAIがさらに少し賢いAIを作り、そのAIがさらに賢いAIを作り、次のAIがさらに賢いAIを作り、このようにして、人間が達成できるものよりはるかに高度なAIが誕生するまで続くのです」とジャルセンジャック氏は書いている。

はっきり言って、現在私たちが持っている、いわゆる「狭義の AI」と呼ばれる AI テクノロジーは、この偉業を達成するには程遠い状態です。ヤルシェンジャク氏は、現在の AI システムを「ドメイン固有」と表現しています。たとえば、「AI はハンバーガーを作るのは得意ですが、他のことは得意ではありません」などです。一方、AI の特異点を議論するアルゴリズムは、「AI は特定の主題に特化した AI ではなく、適切な言葉が見つからないため、ドメインレスであるため、どのドメインでも使用できます」というものです、とヤルシェンジャク氏は書いています。

これは、AGI にいつ、どのように到達するかについての議論ではありません。これは別の話題であり、多くの議論の焦点となっているが、ほとんどの科学者は人間レベルの AI が実現するのは少なくとも数十年先だと同意している。ジャルセンジャック氏は、それが明日であろうと一世紀後であろうと、実際にそこに到達したときに AI (および人間) のアイデンティティがどのように定義されるかについて推測しています。

人工知能の限界

AI コミュニティでは、特に機械が知能の兆候を示す能力を開発するにつれて、機械を人間のように扱う傾向が強くなります。これは明らかに今日のテクノロジーを過大評価しているが、ジェイソン・ジャック氏は、AI が人間の心を再現する必要はないとも指摘している。

「たとえ高度なAIが生まれたとしても、それが人間の知能と同じ構造を持つと考える理由はないが、世界の状態を自分に最も近い形で表現するのが人間の本性であるため、人間の知能がそのような構造を実現できないとは考えられない」と、同氏は論文の脚注に記した。

人間と現在の AI テクノロジーの最大の違いの 1 つは、人間は「生きている」のに対し (その意味はすぐにわかります)、AI アルゴリズムは生きていないことです。

「今日のテクノロジーの状況から判断すると、テクノロジーがまだ生きていないことはほぼ間違いない」とジャルセンジャック氏は書いている。「シンギュラリティの議論で予測されているような超知能が出現するかもしれないと我々は考えているが、それを生きているとみなせるかどうか試してみる価値はあるだろう」。有機的ではないが、この人工生命は、我々がAIをどのように認識し、行動するかに大きな影響を与えるだろう。

人工知能が生きるためには何が必要でしょうか?

ジャルセンジャック氏は、哲学的人類学の概念を参考にして、生物は自律的に行​​動し、自分自身と種の世話をすることができ、それは「内在的活動」として知られていると指摘している。 「少なくとも現時点では、機械がどれだけ進歩しても、この点では人間の延長としてしか機能できない」とヤルセンジャック氏は語った。

生命にはさまざまなレベルがあり、トレンドが示すように、AI はゆっくりと生命に近づいています。哲学的人類学によれば、生命の最初の兆候は生物が目標に向かって発展するときに形成され、これは今日の目標指向型 AI に存在しています。 AIが目標を「意識」しておらず、それを達成するために無意識に数字を計算しているという事実は、植物や木々は同じような意識がなくても生き残れると考えられるため、問題ではないようだとジャーセンジャック氏は述べた。

生きているとみなされるもう一つの重要な要素は、生物が自らを修復し、改善する能力です。また、子孫を産み育てることも必要です。それは、木、昆虫、鳥、哺乳類、魚、そして私たちが生きていると考えるほぼすべてのものに見られるものです。自然淘汰と進化の法則により、それぞれの生物は環境に適応し、生き残り、種の存続を確保するためのスキルを学習し、発達させることができるメカニズムを構築するよう強いられます。

子育てに関して、Jalsenjak 氏は、AI の生殖は必ずしも他の生物の生殖と同等ではないと示唆しています。機械は種の存続を確実にするために子孫を必要としません。 AI は、十分な交換部品を用意するだけで、故障した部品を新しい部品に交換することで、材料の劣化の問題を解決できます。 」と彼は書いている。「生物はさまざまな方法で繁殖するので、実際の方法は重要ではありません。 ”

自己啓発に関しては、事情はもう少し微妙です。 Jalsenjak 氏は、自己修正の程度はソフトウェアによって異なるものの、自己修正が可能なソフトウェアはすでに存在していると指摘しています。

今日の機械学習アルゴリズムは、ある程度まで環境に合わせて動作を適応させることができます。彼らは現実世界から収集されたデータに合わせて多くのパラメータを調整し、世界が変化すると、新しい情報に基づいて再トレーニングすることができます。たとえば、新型コロナウイルス感染症のパンデミックにより、AI システムが訓練されてきた通常の動作が混乱する可能性があります。これには顔認識アルゴリズムも含まれていたが、人々がマスクを着用しているために顔を認識できなくなっていた。これらのアルゴリズムは、マスクを着用した顔の画像でトレーニングすることで、パラメータを再調整できるようになりました。もちろん、この適応レベルは人間や高等動物の広範な能力に比べれば小さいものですが、地表に水がない場合に木がより深い根を張ることで適応するのと同等であると言えるでしょう。地面。

しかし、理想的な自己改善型 AI は、根本的な改善につながるまったく新しいアルゴリズムを作成する可能性があります。これは「再帰的自己改善」と呼ばれ、よりスマートな AI と加速の継続的なサイクルにつながります。 AI ははるかに高速に実行できますが、何世代にもわたって生物に発生する遺伝子変異のデジタル版である可能性があります。

現在では、遺伝的アルゴリズムやグリッド検索など、機械学習アルゴリズムのトレーニング不可能なコンポーネント (ハイパーパラメータとも呼ばれる) を改善できるメカニズムが存在します。しかし、それらがもたらす変更の範囲は非常に限られており、人間の開発者によるある程度の手作業が依然として必要です。たとえば、リカレント ニューラル ネットワークが多くの突然変異を経てトランスフォーマーに変わることは期待できません。

ジャルセンジャク氏は、再帰的な自己改善により、AIが「現在使用されているアルゴリズムを完全に置き換える可能性がある」と指摘した。 「最後の部分は、シンギュラリティの発生に必要なものです。」ジャルセンジャック氏は、類推により、特定の特徴を観察することで超知能AIは生きているとみなすことができ、AIが人間の延長であるという主張は無効であると結論付けました。 「ロボットには独自の目標があり、おそらく独自の権利もあるだろう」と彼は言う。「人類は初めて、自分たちと同じくらい、あるいはそれ以上に賢い存在と地球を共有することになる」。罪悪感を感じずにロボットの電源を切ることができるだろうか？

生きるだけでは十分ではない

論文の最後で、ヤルセンジャック氏は人工生命について考えると他の多くの疑問が浮かび上がることを認めている。 「ここで説明されている特徴は、何かが生きているとみなされるのに十分でしょうか？ それとも、必要ではあるが十分ではないのでしょうか？」と彼は尋ねた。哲学者であり科学者でもあるダグラス・ホフスタッターの著書『I Am a Strange Loop』を読んだばかりですが、私は断固としてノーと言えそうです。アイデンティティ、自己認識、意識は、生物を区別する他の概念です。

自由意志もまた未解決の問題です。 「人間は、ある意味では、自分自身の共同創造者であり、存在する権利を完全には認めないが、目的を持ち、それを果たす」とジャーセンジャック氏は書いている。「将来の AI が自由意志を持つ可能性があるかどうかは明らかではない」。最後に、超知能 AI の倫理の問題がある。これは、AI が持つべき倫理原則、人間が AI に対して持つべき倫理原則、AI が人間との関係をどのように見ているかなどを含む広範なトピックです。

AI コミュニティは、現在のディープラーニング システムの明らかな限界と、汎用 AI を実現するという非現実的な考えを指摘し、これらのトピックをしばしば却下します。しかし、ジャルセニャク氏は他の多くの科学者と同様に、これらの問題について議論すべき時は今であり、手遅れになってからではないことを私たちに思い出させてくれる。 「これらの話題を無視することはできない。なぜなら、私たちが未来について知っていることすべてが、人類社会が前例のない変化に直面していることを示しているからだ」と彼は書いている。