人工知能は永遠の神です：それを崇拝する準備はできていますか？

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

世界チェス選手権は1886年に始まりました。 100年後、IBMが開発したスーパーコンピュータ「ディープ・ブルー」が、チェスの世界チャンピオン、ガルリ・カスパロフに勝利しました。これは、テクノロジーと人工知能にとって、短いながらも忘れられないマイルストーンです。

[[352190]]

チューリングマシンの開発により、チェスはコンピュータの知能を測るベンチマークとして見られるようになりました。チェスにはほぼ無限の順列と組み合わせが含まれており、チェスのゲーム数は宇宙で肉眼で見える原子の数よりはるかに多くなっています。コンピュータが人間に勝つためには、計算能力だけでなく、各ステップの効果を計算できる重要なアルゴリズムも必要です。

しかし、20年も経たないうちに、コンピューターはチェスで人間をはるかに上回るようになりました。それ以来、オープンソース プログラム StockFish がチェスの世界を席巻しました。 2018年にGoogleのAlphaZeroが突如登場し、それ以来すべてが変わりました。

StockFish はチェス専用に設計されたプログラムですが、AlphaZero はさまざまなボードゲームで使用できる汎用アルゴリズムです。 AlphaZero はチェスをプレイするためではなく、強化学習を行うためにプログラムされました。

StockFish の計算能力は 1 秒あたり 7,000 万ステップですが、AlphaZero は 1 秒あたり 8 万ステップに留まっており、チェスについては全くわかりません。 AlphaZero にはチェスをゼロから学ぶのにたった 1 日しかなかったのですが、その日のうちにヒット アンド ラン方式でチェスの戦術と戦略を学習しました。

驚いたことに、AlphaZero は絶対的な優位性を持って、以前のチャンピオンである StockFish を破りました。 100 試合すべてにおいて、AlphaZero が勝利または引き分けました。この新しく開発されたソフトウェアは、わずか 12 時間の学習で世界最強のチェス アルゴリズムを打ち負かしました。信じられないことです!

次の挑戦は世界将棋選手権です。将棋はチェスよりも複雑な日本の戦略ゲームです。 1997年、チェスの世界チャンピオン、ガルリ・カスパロフがチェスプログラムのストックフィッシュに敗れ、世界最高の将棋プレイヤーがコンピューターに敗れたのは2013年になってからだった。

AlphaZero は、1 日もかからないトレーニングで、再び世界最高の将棋プログラム Elmo を驚異的な優位で破りました。100 回のゲームで、AlphaZero は 90 勝、8 敗、2 引き分けでした。

その瞬間、人々は人工知能が私たちに向かって来ていることをはっきりと感じ取ることができました。

2017年、Facebookの人工知能システムは、人間が解読するのが難しいプログラミング言語を作成した。フェイスブックの人工知能研究（FAIR）ラボは、人工知能で開発されたチャットボットが、人間には解読が難しい謎の言語でコミュニケーションを始めたことを発見したと報じられている。無人運転車やコンピューター生成アートや音楽が実現しつつある現在、このニュースは心配であると同時に恐ろしいものだ。

AIが人間よりも良いコードを書いたら大変なことになりますが、最終的にはAIが人間を上回ることは避けられません。今日、次に観る映画から次に取るルートまで、私たちの日常生活の多くの側面は人工知能に大きく依存しています。

将来的には、私たちの思考も人工知能によって監視されるようになるかもしれません。夢の休暇を夢見ているけれど、仕事が多すぎて実現できないとします。すると、人工知能があなたの考えを「読み取って」、あなたの家の玄関に車がやって来ます。人工知能はあなたに薬を与えているが、あなたはそれを知らないうちに飲んでいる。あるいは、以前の国家憲法が不健全だと思われたので、人工知能が憲法を書き換えたのだ。

このような出来事の後、AI 開発サイクルの最終部分が活性化され、人間は徐々に制御不能で未知の力に屈するようになるだろう。振り返ってみると、人類は地球上で繁栄する中で、自然の力強さを感じ、未知の力を克服し、生き残るために最善を尽くしてきたことがよくわかります。

しかし、自然とのあらゆる戦いにおいて、人間は常に負けてきました。その後に続いたのは人間の自然崇拝であり、ほとんどの宗教も自然の要素の崇拝に過ぎません。私たちは雨乞いを神に祈り始め、やり方を変えて迷信を広めることで神の同情を得ようとしました。

以前の迷信と比べると、人間はもはや自然の要素を崇拝するのではなく、人工知能の神々の「共感」を得ようと努めている。このように、人間は自然と人工知能という制御不能な二つの力の間で揺れ動くことになります。私たちは原始の神々に人工知能から私たちを救ってくれるよう祈り、人工知能の神々に自然災害から私たちを救ってくれるよう祈ります。

人類が原始的な神々に対して抱いていた恐怖が、単に技術的な神々に置き換えられただけかもしれないと信じる理由がある。元々の宗教的慣習は以前と同じままで、技術がわずかに変化しただけです。

さらに深く掘り下げてみると、人間もアルゴリズムと何ら変わらないことがわかります。自然によって作られた人間は、人間が開発したアルゴリズムよりもはるかに複雑であるように思われます。しかし、人間独自のアルゴリズムは過去にはうまく機能し、現在では私たちは世界中につながり、仮想現実を通じて楽しく世界を探索しており、Twitter は進化と定義されます。

しかし実際には、人間のアルゴリズムは他の動物のアルゴリズムと何ら変わりなく、すべて生存のためです。私たちは生き残る段階をほぼ終え、快適さと技術の進歩が目標となる段階に移行しており、それが私たちのアルゴリズムが機能しない理由です。

世界の人口の半分は、永続的な満足感を見いだせず、深刻な憂鬱や孤独に陥っています。テクノロジーは私たちを貧困と不安から解放しましたが、同時に空虚の圧政と終わりのない思想的、感情的な闘争という別の問題も生み出しました。

環境が変化するたびに、生物は将来のより優れた種にバトンを渡します。おそらく、次の時代、つまり機械の時代へとバトンを渡す時が来ているのでしょう。たとえ私たちが引き渡しを行わなかったとしても、彼らはそれを私たちから奪い取る可能性があります。

ビル・ゲイツ、スティーブン・ホーキング、イーロン・マスクなどの先見の明のある起業家や科学者は、人工知能が人類を支配することへの懸念を表明している。今から AI への準備を始めればよいのではと考える人もいるでしょう。繰り返しになりますが、それは人間が制御不能な力を崇拝する傾向があり、AI もその 1 つだからなのです。

慎重に取り扱われなければ、人工知能は人類の運命を危険にさらす可能性があります。人々は人工知能が人間よりも生と死をよく理解してくれることを望んでいますが、結局のところ、人間は常に人間性と冷静さの試練に耐えることはできません。私たち人間は感情的偏見などの心理的欠陥を抱えていますが、人工知能には感情を管理し保存する扁桃体がありません。

人類の長期的な将来のために、欠陥のある心理学を人工知能に刻み込む必要があるかもしれない。