失業よりも悪い：人工知能の新たな進歩

劉慈欣には『鏡』という短編小説があり、次のような物語が語られています。

気象庁のソフトウェアエンジニアが偶然、超弦コンピューターを使った宇宙の誕生から進化までの過程をシミュレートできるシミュレーションソフトウェアを開発した。

[[282419]]

彼は千以上の宇宙について実験し、ついにある夜、偶然に一連のデータを発見しました。それによって生成された宇宙は、私たちの宇宙とまったく同じ物理定数を持っていました。言い換えれば、彼は私たちが今住んでいる宇宙をシミュレートしたのです。

そして、彼は埋もれた「本当の歴史」を目にした。トロイは存在しなかったし、マルコ・ポーロは中国に来たことはなかったし、多くの無名の小さな人々こそが実は本当の英雄だったのだ...

興味のある友人は自分でこの小説を見つけることができます。とても短いです。

しかし、「Mirror」では、この万能の宇宙シミュレーターにも致命的な欠陥があります。それは、過去を見ることしかできず、未来を予測することはできないということです。そうしないと、「無限再帰」に陥ってしまいます。

未来を予測することは、おそらく人間の想像力の限界でしょう。

マーベルのドクター・ストレンジであれ、『ウォッチメン』のドクター・マンハッタンであれ、未来を予測することに関わると、常に複雑な思考の罠やパラドックスが生まれます。

未来が予測できるなら、それを変えることはできるでしょうか？ 自分が変えた未来を予測することはできるでしょうか？

未来を予測できるとしたら、それは世界全体が本質的に決定論的であることを意味するのでしょうか? すべては遠い過去にあらかじめ決定されているのでしょうか?

これは、人類が最も足を踏み入れたくない禁断の領域かもしれません。なぜなら、それは私たちの「自由意志」に多大な衝撃と影響を及ぼすからです。

しかし、これらすべてが現実になりつつあります。

ABM（エージェントベースモデル）と呼ばれる技術は、本当に「未来を予測する」ことを可能にするかもしれません。

その原理は何でしょうか? 簡単な例を見てみましょう:

10 個の点がある空白スペースがあると想像してください。次の指示を設定します。

1) 外に出ずにこの広場をランダムに歩く。

2) 2 つの点が出会うと、それらが「同盟を形成する」可能性が 50%、それらが互いに攻撃する可能性が 50% あります。

3) 攻撃時、2 つのドットの間には 50% の勝率があります。

それで、最終的にいくつのドットが「生き残る」のでしょうか?

ルールを追加することもできます。たとえば、あるドットは「勇敢さ」の属性を持っており、攻撃に勝つ可能性が高いことを意味します。また、あるドットは「偵察」の属性を持っており、危険を回避できることを意味します。また、あるドットは「友好性」の属性を持っており、同盟を結ぶ可能性が高いことを意味します...などです。

これは非常に単純な例です。任意のコンピューターを手に取って、数行のコードを書くだけで問題を解決できます。

さらに数回実行してシミュレーションを数回実行すると、異なる結果が得られます。これらの膨大な結果を統計的に分析することで、全体的な傾向を把握することができます。

しかし、この空白を都市に置き換え、これらの点を人々に置き換え、これらの指示を人間を統制する単純な行動規則に置き換えたらどうなるでしょうか?

ある程度まで、シミュレーションを使用して小規模なグループの全体的な方向性を予測することができます。

「The Sims」のようなゲームをプレイしたことがあるなら、このことはよく分かるでしょう。

もちろん、「シミュレーション」の原理は新しいものではなく、前世紀から使用されてきました。天気予報はこのようにして作られます。

同様に、人間社会のシミュレーションの例もすでに数多くあります。

たとえば、2014 年に西アフリカでエボラ出血熱が流行しました。当時、関係専門家らは、感染者数、感染率、移動手段、人口分布など、現実社会のさまざまなデータを導入しながら7カ月かけてモデルを構築し、最終的に制御できない場合は140万人が感染する可能性があるという結論に至った。

最終的に、この予測モデルの指示の下、医療チームは最重要地域に急行して介入し、感染者数を28,000人未満に抑えることに成功しました。

しかし、天気予報であれ、エボラ出血熱のシミュレーションであれ、シムズであれ、深刻な問題があります。

データ量が少なすぎるため、「現実」をシミュレートできません。

たとえば、エボラ出血熱のシミュレーションでは、各「人」には、感染するか、逃げるか、ランダムに行動するかという、いくつかの行動方法しかありません。生きている「人」というよりは、極めて単純化され抽象的な「粒子」であると言った方が正確でしょう。

これにより、ABM 技術の開発は停滞しました。結局のところ、現実社会を復元するために必要なデータ量は膨大であり、短期間で実現できるものではありません。

しかし、近年では技術の発達により「現実社会をシミュレーションする」ことが可能になってきました。

この技術とは何でしょうか? それは人工知能であることは明らかです。人工知能の発展により、データの「入力」の問題が解決されました。

それはどういう意味ですか？

昔のシミュレーション技術で一番難しいのは、何でしょうか？ グループをできるだけ忠実に再現したい場合、一人一人に十分なデータを入力する必要があります。含まれるもの: 出身、家族背景、好み、習慣、仕事、スキル、経済状況など。

これはほぼ不可能です。

しかし、これは人工知能にとっては単なる小さな問題です。

人工知能には自己学習と呼ばれる非常に強力な能力があり、特定のデータを与えれば、学習、自己テスト、自己修正、自己改善が可能になります。

パターンを「学習」すると、実際に「現実をシミュレート」できるようになります。

たとえば、AlphaGo は誰にとっても非常によく知られています。 2017年のAlphaGo Zeroには知識の入力は一切必要ありませんでした。必要なのはチェス盤とルール、そして自分自身と対戦することだけでした。たった3日間のトレーニングで、AlphaGoに勝つことができました。

同様に、DeepMind がリリースした VQ-VAE モデルでは、トレーニング セットとして 70,000 枚の顔画像を「入力」するだけで、肉眼ではまったく区別がつかない 100 万ピクセルの鮮明な「顔」を生成できます。

私たちは日々の生活の中でデータを生成します。これらの無限のデータ ストリームは、人工知能にとって最適なトレーニング セットです。

それを人工知能に入力し、「人間」のパターンを学習させると、簡単に「本物の人間」を生成できます。

これらの人々は、性格、信念、家族、仕事などを持ち、実際の人間と同様です。病気になり、年を取り、交流し、学び、外部からの刺激に反応します。

唯一の違いは、それらはコンピュータ内にのみ存在し、現実には存在しないということです。

これはMAAI、マルチエージェント人工知能です。

旧 ABM モデルの主な変更点は次のとおりです。

1) 「エージェント」を真に「複雑な」個人にする。

2) インテリジェントエージェントの数が大幅に増加し、社会のシミュレーションが可能になります。

ノルウェー社会モデリングセンターの F. レロン・シュルツ氏は次のように述べています。

人々が行う必要がある変化は、実際に人間をシミュレートできるという事実を受け入れることです。

これは非常に新しい技術です。

これはどれくらい新しいのだろうか？英国サリー大学社会シミュレーション研究センター所長のナイジェル・ギルバート氏は、「一部の政策アナリストはこれに気づいているが、ほとんどの政治家はまだ気づいていない」と語る。

しかし、それは紙の中にだけ存在するのではありません。

バージニアモデリングセンターのサイク・ディアロ氏によれば、この技術は現在、数千万の「インテリジェントエージェント」に対応できるという。つまり、「ロンドンのような都市をモデル化できる」ということです。

何千万もの「住民」がいる都市をコンピューター内に構築することを想像してください。彼らはまさに実在の人間です。それぞれに詳細な経歴、経歴、性格、特徴があります...彼らには自己認識はありませんが、観察者の観点から見ると、彼らはまさに実在の人間です。

理論的には、ロンドンの住民データの一部を人工知能に入力し、それを使って十分な数の「インテリジェントエージェント」を生成し、それらを同様の環境に配置すると、仮想の「ロンドン2」が構成されることになります。

実際のロンドンと非常に似ており、簡易版と言っても過言ではありません。

次に、外部条件を制御して、「ロンドン 2」全体の変化を観察します。

例えば：

新しいポリシーを実施し、市全体での結果と傾向を観察します。

災害を引き起こし、それが効果的に封じ込められ、制御できるかどうかを確認すること。

「Brexit」や「難民流入」などの突発的な出来事を入力し、長期的な変化の傾向を観察します。

これをさらに数回実行すれば、将来をより自信を持って予測できるだけの十分なデータが得られます。

ある意味、これは「未来を予測する」ことに他なりません。

そして、この技術の発展は私たちが考えているよりも速いものになると思われます。

今はロンドンですが、次は何ですか？

F. レロン・シュルツ氏はこう言う。

次のターゲットは3億2000万人、つまり米国の全人口です。

次のターゲットは14億の中国です。

最終的には全世界です。

そして現実には、そのようなモデルが稼働しています。

NewScientist によると、ノルウェーの都市をシミュレートするモデルが難民問題の解決を試みている。

過去8年間で100万人のシリア難民がヨーロッパに逃れ、そのうち2万人がノルウェーに定住した。こうした難民の流入は地元の社会環境にどのような影響を与えるのでしょうか。それに対処するためにどのような政策を採用すべきでしょうか。リスクと被害を最小限に抑えるにはどうすればよいのでしょうか。誰にもわかりません。

そこでシュルツ氏は、難民の大量流入を受けたノルウェーの都市の将来をシミュレートするモデルを主導している。

このモデルはエージェントが 50,000 個しかない比較的小規模ですが、さまざまな対策の長期的な結果を観察するために最大 3 世代をシミュレートします。

このサイズのモデルを実行するには、数時間から数日かかります。

次のような疑問があるはずです。実際のデータに基づいて「生成された」モデルは、実際の状況を本当に表すことができるのでしょうか。適合性はどの程度でしょうか。

もちろん、モデリング科学者はこれを考慮に入れています。シュルツ氏のノルウェー難民モデルでは、初期条件の設定、モデル化、現実性の確認に1年を費やした。

研究チームは、ノルウェー政府の社会調査データを使用して、モデリング結果が社会調査データと一致しているかどうかを観察しました。一致しない場合は、初期パラメータを微調整して再モデル化します。

何がポイントですか? これらは 1 回限りの仕事です。リアリティチェックに合格すると、モデリングは成功です。これで、自由に思い通りにアイデアをテストし、得られたフィードバックに基づいて修正を加えるのに十分な大きさの「サンドボックス」ができました。

ノルウェーの難民モデルに加えて、他の応用も登場しています。

英国の経済学者たちは、現実世界の経済変化をより深く理解し、2008年の金融危機のようなショックを予測するために、MAAI技術を経済学に導入することを検討している。

ボストン心理文化センターのチームは、児童人身売買業者をターゲットにしたMAAIモデルを開発した。しかし、チームの責任者によると、犯罪者は政府の行動に対抗するために同様の手法を採用している可能性が高いとのことだ。

最近、多くの学者が2020年の米国選挙に注目しています。両党のチームは、有権者を大いに刺激するために、テクノロジーを使ってさまざまな選挙戦略を実験するのでしょうか。もしそうなら、そのような行動はどのように定義されるのでしょうか。

必ずそうなるとは言えませんが、現時点では非常に可能性が高いと思われます。

この技術が近い将来普及すれば、その影響は計り知れないものとなるでしょう。

すでに私の記事「クリエイター思考」で述べたように、現代社会では、すべてが高度に洗練され、秩序があり、完全に工業化され、プロセス指向になっています。これは私にとって大きな利益をもたらしました。あなたが見て知覚するものはすべて、他の人によって処理され、あなたに提示された産物です。

そして、このテクノロジーのサポートにより、この現象はさらに悪化するでしょう。

あなたが認識するものはすべて、他人から提示された単なる製品ではなく、無数の実験と訓練を経て他人が得た「最適な解決策」でもあります。すべての動き、すべてのリズムがちょうどよく、最も適切なタイミングで現れ、最も心地よい場所に落ちます。

これは少し「心を読む」ようなものです。

もちろん、別の観点から見ると、この技術は非常に大きなプラスの結果をもたらすでしょう。

私たちが直面する不確実性は最小限に抑えられるでしょう。

緊急事態、決断、危機のいずれであっても、MAAI の助けがあれば、それは「再起動」の機会が無数にあるのと同じです。リスクは最小限に抑えられ、私たちがとる可能性のあるすべての反応は、他の人によって予測され、計画されていることになります。

私たちは「より快適」かつ「より安全」な社会で暮らすことになります。

この問題をどのように見るかについては、各人が考え、議論することになります。

実際、この技術はさらに拡張することができます。

量子力学のランダム性が決定論を破壊することは多くの人が知っています。しかし現実には、量子力学のランダム性は微視的レベルでのみ現れます。ミクロの世界からマクロの世界に移されると、このランダム性は存在しなくなり、すべてが確実で、制御可能で、安定したものになります。

したがって、私たちの存在は安定しており、突然粒子の山に「崩壊」したり、突然月に現れたりすることはありません。

人間社会でも同じことが言えます。

各個人は非常に複雑であり、十分な情報がなければ、人の行動を「予測」することはほぼ不可能です。しかし、人々が集まってグループを形成すると、そのグループの行動パターンを予測することがはるかに容易になります。

なぜでしょうか? グループには、すべての「外れ値」を排除するという特性があるからです。したがって、安定した特性とパターンが提示されます。

簡単に言えば、ある薬が特定の病気に効くと言った場合、その病気にかかっている人なら誰でもその薬が使えるということでしょうか? 実際にはそうではありません。

人それぞれ状況は異なり、一部の人の症状はこの薬が適さないかもしれませんが、全員をまとめると、これらは「個別のケース」となり、より大きなデータによって隠蔽され、消去されます。したがって、全体的には「効果的」であると思われます。

同様に、非常に賢い 10,000 人の人を集めた場合、彼らが一緒に行う決定や行動は、必ず 1 人の結果よりも良くなるでしょうか? 必ずしもそうとは限りません。彼らが絶対的に合理的でない限り、彼らはお互いを攻撃したり、利益を求めたり、妥協したりする可能性があります。最終的に提示されるのは、平均的なレベルに過ぎないと思われます。

これは MAAI の基礎の 1 つでもあります。不確実性が非常に大きく、考慮すべきデータが多すぎるため、人の将来を「予測」することは不可能です。ただし、そのような人が多数集まってグループを形成すると、必要なデータが減り、直面する不確実性も減ります。

さらに言えば、前にも言ったように、思考はエントロピー増大の一種です。体内のすべての細胞が独立して考える能力を持つことを望みますか? 絶対にそうは思いません。右？

「集団」と「個人」の問題も考慮する必要がある問題かもしれません。

これについても皆さんと議論し、考えていきたいと思います。

最後に一言述べさせてください。

技術革新は次々と起こっていますが、歴史の流れ、賞賛や反対に直面して、ほとんどの場合、それはあまり意味がありません。

多くのものは一度作られると、人間の意志では変えられないかもしれません。

私たちに必要なのは、表面的には穏やかに見えても、社会全体と人類の文明を変える可能性のある変化を歓迎する精神的な準備をすることです。

それは数十年後に起こるかもしれません。たぶんそれは決して来ないだろう。

あるいは、近いうちに。