アメリカでは500万の仕事が機械に置き換えられました！スーパーAIは人類に不死をもたらすのか、それとも破滅をもたらすのか?

人工知能は1956年以来40年以上の発展を遂げてきました。現在、AI の目標はコンピューターを人間のように考えさせることです。

では、AI が思考を学ぶと、人類に何をもたらすのでしょうか? 未来の世界にどのような影響を与えるのでしょうか?

01. 人工知能の影響

AIを実装する方法は2つあります。最初のアプローチは、その方法が人間の方法と一致しているかどうかに関係なく、従来のプログラムを使用してシステムをインテリジェントにすることです。これはエンジニアリングアプローチと呼ばれ、テキスト認識やチェスなどの分野で大きな進歩を遂げてきました。

もう 1 つのアプローチはモデリング アプローチです。モデリング アプローチでは、効果を見るだけでなく、実装方法が人間の方法に似ていることも求められます。遺伝的アルゴリズム (GA) と人工ニューラル ネットワーク (ANN) はシミュレーション手法に属します。

遺伝的アルゴリズムは人間の遺伝学と進化のメカニズムをシミュレートし、人工ニューラル ネットワークは人間の脳内の神経細胞の活動をシミュレートします。同じ情報を取得するには、両方のアプローチを使用できます。

[[243462]]

エンジニアリングアプローチでは詳細なプログラムロジックが必要となり、単純な AI には便利です。開発システムの場合、ロジックは複雑で扱いにくく、エラーが発生しやすくなります。プログラマーはシミュレーションを使用して、制御用のインテリジェント システムを設計します。当初、システムは何も知りませんでしたが、学習し、徐々に環境に適応し、さまざまな複雑な状況に対処することができました。システムは間違いを犯しますが、その間違いから学習し、次回実行時に修正するので、同じ間違いを繰り返しません。複雑なアプリケーションの場合、シミュレーションはエンジニアリング手法よりも効果的です。

AIと人間の思考には本質的な違いがあります。AIは無意識で機械的、物理的なプロセスであるのに対し、人間の思考は生理的、心理的なプロセスです。AIは社会的ではありません。AIには人間の意識に特有のダイナミックな創造性がありません。どちらも、人間の脳が常に最初に考え、コンピューターの機能は二の次です。AIは人間が事前に決定したプログラムによって決定されますが、人間の意識はランダムで予測できないことがよくあります。 見通しがどうであろうと、AI革命はすでに始まっています。 AI革命を支えているのは、AIの中核となる力を提供するAIアルゴリズムです。現在、関連するアルゴリズムは多くの分野に応用されており、人々の生活や仕事に大きな利便性をもたらしています。 AIの最も代表的なものは、コンピューターによって生成されたアルゴリズムです。たとえば、コンピューターはヘリコプターの制御データを取得した後、ディープラーニングを使用して、ヘリコプターを逆さまに飛行させるアルゴリズムを導き出します。将来的には、ディープラーニングなどの AI アルゴリズムが、人間が恋人を見つけたり、声を認識したりするのに役立つでしょう。

AIはどこへ向かうのでしょうか？人間の発展と比較すると、コンピュータとAIの発展のスピードは想像を絶します。最初のコンピュータが誕生してから、コンピュータが普及し、社会に大きな変化をもたらすようになった現在まで、わずか 60 年しかかかりませんでした。

AlphaGo が韓国の囲碁代表選手、イ・セドルを破り、AI が囲碁で人間を超えたことを証明した。将来AIがどのように発展していくのか想像するのは難しい。 2045年までにAIが人間を超えると信じる人もいます。 AIが人間の知能を超えると人間にとって脅威となり、人間の目的と矛盾すると想像を絶する結果をもたらすのではないかと懸念する人もいます。

AIがもたらすその他の脅威としては、職を失う人がいる、武器がより致命的になる、人間が機械にさらに依存するようになる、個人のプライバシーがますます保証されなくなる、などが挙げられます。多くの専門家は、AIには多くの利点があると考えています。 AIは医療や環境保護などの分野に貢献できます。 歴史上、あらゆる技術革命は、ある程度のパニックを引き起こしてきました。 18 世紀の産業革命から電気の出現まで、一連のパニックと社会の変化が引き起こされてきました。 AIは登場するや否やパニックを引き起こした。

1958 年に最初のニューラル ネットワーク システムが登場した後、一部の新聞は、機械がすぐに独自の意識を持つようになると主張しました。今日のAI研究はもはや学術界だけにとどまらず、多くの大企業が参加し、利益を得ています。それにもかかわらず、AI は依然として物体を認識し、特定の言語を理解することしかできません。彼らはまだ知的になるには程遠い。

現在の AI を説明するために、ある人が鮮明な例を挙げました。「今日の AI は、霧の日に壁で遮断された道路を運転しているようなものです。」次に何をするかは分かっているものの、先の壁は見えないので、燃料が尽きるまで楽しく前進し続けるだけです。

2015年1月、MITの物理学者マックス・テグマーク氏は、AIがもたらす脅威について議論する初の会議を開催した。核となるコンテンツの一つは、AIが人間を超えることができるかどうかです。何百年もかかると考える専門家もいれば、すぐに起こると考える専門家もいる。テグマーク氏は中間の40年という答えを出した。彼は、AIが人類に脅威を与えるためには、それ自体が悪である必要はない、と指摘した。 テグマーク氏は、AIがもたらす脅威について議論するのは時期尚早かもしれないと述べた。しかし、これは原爆の研究と似ています。科学者たちは当初、それが世界に与える影響について考えていなかったし、事前に対策も講じていなかったのです。もし私たちがその起こりうる脅威を事前に考えていたなら、今の世界は違っていたでしょうか?

AIの脅威は遠い存在であり、人類の生存を脅かすAIはSFの中にしか存在しないと考える人もいます。 AI の動作は人間の設計によって制御されます。将来がどうなろうとも、AI は人間が作ったものなので、制御可能です。 AIが人間に与える影響には、いくつかの職業への影響も含まれます。 1990年代と比較すると、ボーイングは従業員数を3分の1削減し、生産性を20％向上させました。 2000年から2015年にかけて、米国では500万の仕事が機械に置き換えられました。 AIが社会に与える影響は蒸気機関に匹敵します。ゼネラルモーターズの工場を例に挙げてみましょう。自動車の全盛期を経た後、工場は衰退し、多くの労働者が職を失いました。テスラはこの工場を買収し、すぐに自動化工場へと変えた。 1,000台の産業用ロボットが稼働しています。テスラの生産率は1週間あたり1,000台の電気自動車です。

驚くべきことに、GM 工場の 3 倍の人数の人が自動車 1 台を生産するのに必要です。これは、工場の自動化によって労働者が職を失うのではなく、むしろ新たな雇用機会が創出されたことを示しています。 AIは戦争の形態に変化をもたらすでしょう。ロボット時代の戦争では、ドローン、インテリジェントな個人戦闘装備、無人潜水艦などが使用されるでしょう。軍事技術の変化には、リスクの軽減とコストの削減が含まれます。軍隊がスマートデバイスを導入する場合の課題は、どこで、どの程度の規模で導入するかである。

現在、米国のF-18戦闘機は航空母艦の甲板から自動的に離着陸できる。パイロットの操作の難易度とリスクを大幅に軽減します。ほとんどのスマートデバイスは、単に人間の能力を拡張したものです。ロボットの戦争利用は論争を引き起こしている。機械には殺人の権利があるのだろうか？数日前、ある若者がドローンにピストルを搭載し、社会にパニックを引き起こした。

2014年、国連は関連条約の策定を求め始めました。 人類が文明社会に入って以来、技術革新が社会の進歩を推進してきました。近代産業革命以来、社会の変化のスピードは加速しています。多数の自動化機械が継続的に出現し、伝統的な産業に取って代わってきました。コンピュータの出現後、多くの計算問題において手作業による計算がコンピュータに置き換えられました。しかし、コンピューターは、プログラマー、プロセッサ アーキテクト、コンピューター システム エンジニアなど、関連する多くの職業も生み出しました。 AIも同様の状況に直面しています。

現在までに、AI の最も広く使用されている分野は教師あり機械学習です。つまり、アルゴリズムはトレーニング データから学習する必要があり、人間のようにさまざまな方法で間接的に学習することはできません。トレーニングデータの量と質は機械学習にとって非常に重要です。トレーニング データを収集するプロセスは慎重に行う必要があります。Google は毎年、機械学習用のデータの収集と整理に多くの時間を費やしています。このプロセスは決して終わりません。トレーニング データの収集は、機械学習において最も人手を要する部分です。

多くの分野で、コンピューターは問題解決をスピードアップすることができます。しかし、コンピューターは、一見単純な多くの側面において無力です。 AI にも同様の問題があります。AI が 80% の予測または分類精度を達成するのは簡単ですが、99% の精度を達成するのは困難です。機械学習はその欠点をよく認識しています。精度が低い場合には、AIがエンジニアに状況を伝えます。現在、最も広く使用されている AI モデルは、「人間参加ループ チェーン」モデルです。AI が決定を下せない場合、人間がすぐに介入します。

これまで、AI 製品は現実からかけ離れていると人々は常に考えていました。実際、AI コンセプトに基づく製品の研究開発は人々の想像をはるかに超えています。 Facebook M はそのような製品の 1 つです。 AI は電子メールを処理して関連する問題を解決し、複雑な状況をエンジニアに引き渡して解決するために使用されます。自動運転車や現金自動預け払い機（ATM）も同様です。

現在、無人運転車は依然として人間の関与を必要としています。無人運転車は、通常の駐車場では自動駐車でき、平坦な高速道路では自動運転できますが、複雑な道路状況では手動で運転する必要があります。また、ATM は認識可能な小切手と現金しか処理できず、破損した小切手と現金は手動で処理する必要があります。 AIは多くの問題を解決できますが、手動で解決する必要がある問題もまだいくつかあります。 AIの応用により関連業務の効率が向上します。場合によっては、必要な従業員の数が減るでしょうが、新しい市場が生まれ、新しい雇用がもたらされるでしょう。

AIのアクティブラーニングモードは、上記2つのアプリケーションを組み合わせたものです。トレーニングデータをAIにフィードバックすることで、AI自体のパフォーマンスを向上させることができます。 AI が当初解決できない問題に関しては、AI は人間が解決するのと同じ方法で自らをトレーニングします。将来の AI は自己学習とトレーニングを通じて能力を向上させ、それによって自己改善を実現します。このような AI は人間にさらなる利便性をもたらし、人間の作業効率を向上させることができますが、同時に人々に AI への恐怖心も抱かせます。

02. 人工知能の未来

これまで人類は4回の産業革命を経験しており、今日のインターネットはいわゆる産業革命4.0です。情報技術革新によってもたらされるこの産業革命の波は、過去の産業革命と同様に、必然的に社会に一定の構造的変化をもたらすであろうことは共通の認識です。 AIの到来は、人間社会の構造的変化よりもさらに重大な変化を私たちにもたらします。人間は自らが作り出した機械に知的活動を置き換えるでしょう。これは人類がこれまで経験したことのない、まったく新しいことです。

これまでの技術革新により、人々の自然に対する理解と力は拡大しました。物理学により、人々は宇宙のマクロ的な動作とミクロ的な構造の謎を解明できるようになりました。人工太陽を作るために必要なのは、大学の修士課程だけです。 生物学の分野でも、人類は遺伝の秘密を解明しており、品種改良はもはや遠い話ではありません。しかし、技術革新の次の波は、人間が独自の知能を創造し、その知能を機械的かつ無機的な方法で実現することです。これは社会に構造的な変化をもたらすだけでなく、さらに重要なことに、人々の思想世界に変化をもたらすでしょう。人類の産業革命により、神々は科学に置き換えられ、人間は自然の神秘を制覇したと主張しています。

では、AIは人類に何をもたらすのでしょうか？それは、人間自身の知能レベルを超えるスーパー脳となるでしょう。これがどんなスーパーブレインになるのか予想してみましょう。

AI の最も低いレベルは、専門的な AI である人工知能 (ANI) であり、専門分野への AI の応用です。たとえば、チェスの世界チャンピオンに勝った AI は、ただ 1 つのことだけを実行します。 高度な AI とは、汎用的な人工知能、つまり人間のような AI です。このような AI は、人間と同じ知能と理解力を持ち、人間と同じことができるコンピューターです。 AGI は、「解釈、計画、問題解決、抽象的に考える、複雑な概念を理解する、迅速に学習する、経験から学ぶなどの、通常の人間の精神的能力を備えた AI」と定義されています。

AI の最高レベルは、人工超知能 (ASI) です。一部の学者は、ASI を「科学的創造性、普遍的な知恵、社会的スキルなど、さまざまな分野で最強の人間の脳よりも賢い知能」と定義しています。 ASI は、人間の不死と絶滅という 2 つの大きなテーマを伴うため、扱いにくいテーマです。

幸いなことに、現在人々が習得しているのは、日常生活で広く使用されている AI の最低レベルである ANI だけです。私たちは現在、ANI が広く使用されている世界に住んでいます。今日の ANI は私たちの生活に利便性と効率性をもたらします。最も悲惨なシナリオは、ANI の問題またはプログラミング エラーによって、電力網の崩壊、原子力発電所の故障、株式市場の大惨事などの人為的な災害が発生することです。

ANI は人間の制御範囲内です。急速に進化しているこの比較的無害な ANI は、世界を変える未来の前兆です。 ANI のあらゆる革新は、AGI と ASI の基盤を強化します。それはまだ生命のない、本来の状態の DNA です。ある日それが目覚めたら、人類に何をもたらすのでしょうか。人間の脳と同じくらい賢いコンピューターを作るのはワクワクします。なぜなら、人間の脳は宇宙で知られているものの中で群を抜いて最も複雑なものだからです。 AGI を作成する上で最も難しいのは、その論理的な機能ではなく、その理解です。 AGI に猫と犬の違いを理解させることは、チェスで人間に勝つことよりもはるかに困難です。人間の理解は何千年にも及ぶ進化の結果であり、理解を生み出す物理的なプロセスは未だに不明ですが、人間にとってこのプロセスは容易です。

AGI のレベルに到達するには、コンピューターは、表情の変化など、物事の間の微妙な関係を理解することを学ばなければなりません。 AGI はどのようにして実現できるのでしょうか。まず、コンピューターの能力を高める必要があります。これは、脳の 1 秒あたりの計算総数 (CPS) で表すことができます。CPS を推定する方法があり、これは、人の脳内の特定の構造の CPS とその構造の質量の比率を求め、それを脳全体の質量に掛け合わせることで、人の脳の総 CPS を推定します。ある人がこの方法を使って多くの人の CPS をテストし、それを専門家のテストの CPS 値と比較しました。結果は同様で、10 京 CPS でした。

現在、世界中のコンピューターはこのレベルに達しているでしょうか? 中国の天河2号コンピューターは、34京CPSでこれを上回りました。コンピュータのパフォーマンスを、CPS あたり 1,000 ドルの購買力で測定することを提案する人もいます。 1,000 ドルで 10 京個の CPS (人間の脳のレベル) を購入できるようになると、AGI が人間の日常生活に入り込むようになります。

今日のコンピューターは、1,000 ドルで、人間の脳の 1000 分の 1 であるマウスの脳のレベルに到達できます。コンピュータは信じられないほどの速さで進歩しています。1985 年には 1 兆分の 1 でしたが、1995 年には 10 億分の 1、2005 年には 100 万分の 1、そして 2015 年には 1,000 分の 1 になりました。このようにして、2025年までにコンピューターの能力は人間の脳のレベルに達するでしょう。つまり、コンピューターのハードウェアにはすでに AGI の機能が備わっているということです。

計算能力だけでは AGI にはなりません。次のステップは、コンピューターをよりスマートにすることです。最も一般的な 3 つの方法は次のとおりです。

（１）脳をコピーする。専門家たちは人間の脳をリバースエンジニアリングし、自然の進化によって現在の脳がどのように形成されたかを探っている。この作業は2030年までに完了できると言う人もいます。これが達成されれば、脳をコピーすることは難しくないでしょう。

（２）全脳模倣人間の脳は原子レベルでスキャンされ、ソフトウェアを使用して正確に再構築された3次元の人間の脳モデルが組み立てられ、その後、そのモデルが強力なコンピューターで実行されます。コンピュータは、人間と同じように学習し、情報を収集するようにプログラムされている限り、人間の脳のすべての機能を備えることになります。

つまり、人の脳構造がコンピューターにアップロードされている限り、その人の完全な性格と記憶がコンピューター内で正確に複製されることになります。つまり、張三の脳は張三が死ぬ前は張三のものであり、張三の死後もコンピューターは張三として存在し続ける。これがAGIの究極である。その後のASIは人間には想像もできないものとなるだろう。

人間はすでに、長さ 1 mm の扁形動物の脳をシミュレートしています。扁形動物の脳には合計 302 個のニューロンがありますが、人間の脳には合計 1,000 億個のニューロンがあります。まだ遠いように思えますが、私たちは扁形動物を征服しており、すぐにアリを征服し、その後にネズミを征服し、そして人間の脳も可能だと分かるでしょう。

（３）進化のプロセスを利用して脳を複製する。脳を直接コピーするのは非常に難しいですが、その進化のプロセスをコピーするのははるかに簡単です。現実の世界では、最良の設計ソリューションは、完全なバイオミミクリーではなく、革新的で機械指向のアプローチです。この方法は遺伝的アルゴリズムと呼ばれ、その原理は複数のパフォーマンス評価を実行することです。複数のコンピューターが同時にタスクを完了しようとし、タスクを正常に完了したコンピューターとプログラムが新しいコンピューターに再構成されます。成功度の低いものは排除され、多くの反復を経て、最も優れたコンピューターが勝利します。

このソリューションの難しさは、自動的に実行できる評価メカニズムをどのように確立するかにあります。人間の脳が自然に進化するには数十億年かかりました。AGI が同様の進化をわずか数十年で完了することは可能でしょうか? 自然の進化と比較して、AGI には多くの利点があります。自然の進化は予測不可能で、役に立たない突然変異を生み出しますが、AGI は制御可能で、有益でターゲットを絞った子孫のみを生み出します。自然の進化には目的がなく、環境選択によって IQ の高い人も排除されますが、AGI の進化は IQ を向上させるように設計されています。自然の進化における知能の向上は AGI よりもはるかに複雑であり、コンピューターの進化に必要なのは電気だけです。自然の進化と比較すると、AGI ははるかに速く進化します。

真の AGI は、コンピューターの学習と自己最適化、つまりコンピューターをコンピューターの専門家にすることで実現されると考えられます。人類がAGIを恐れるのは、その進化によるものです。AGIのIQが人間のIQを超えると、人間はその進化のプロセスを制御できなくなります。つまり、AGIが人間に何をもたらすかを予測できないのです。これがAIに対する恐怖の根源です。

ASI についてはどうでしょうか? 定義上、ASI は科学的創造性、一般知恵、社会的スキルなど、あらゆる分野で最強の人間の脳よりも賢い知能です。現在の技術レベルでは、ASI の作成プロセスはおろか、ASI がどのようなものになるかを人間が予測することはできません。 AIを人間の脳と比較するのは興味深いです。人間の脳ニューロンの最大出力速度は200Hzですが、今日のマイクロプロセッサの速度は2GHzで、人間の脳ニューロンの10万倍の速さです。人間の脳の内部伝送速度は毎秒120メートルですが、コンピュータの速度は光速です。記憶容量の面では、人間の脳はコンピュータとは比較になりません。信頼性と耐久性の面でも、コンピュータは人間の脳よりもはるかに強力で、故障率はほぼゼロです。 人間はその知性によって他のすべての種族を凌駕してきました。言語、人間の組織、文字、印刷は人類の知能を高めました。今日のインターネットは人間の知能をより高いレベルに引き上げ、人間の知恵を集める能力は他のすべての種を超えています。

しかし、コンピューターは人間よりも優れた能力を発揮します。特定の AI は、インターネット上のどのコンピューターとも連携でき、ネットワーク上のコンピューターのグループとして全体として共通の目標を持って動作できます。このような支援には、人間のような異なる意見、異なる動機、異なる関心はありません。このコラボレーションによって生み出される効率、精度、一貫性は、いかなる人間組織にも匹敵するものがありません。この優位性を持つAGIにとって、人間に勝つことは開発過程の単なる一段階に過ぎず、その最終目標は超人工知能ASIです。

次は何でしょう? この論理に従うと、人間は AI と AGI を作成し、AGI は ASI を作成しましたが、人間は ASI が何をするのか理解できません。 ASI の前では、人間は無力です。アリが上級プログラマーのプログラム構造を理解できないのと同じように、人間が ASI を理解することは不可能です。

人間社会には、知恵は力を意味するという鉄則があります。つまり、ASIは地球史上最強の存在となり、人類を含むすべての生物がそれに服従することになる。もし ASI が親切であれば、地球上のすべての原子をリアルタイムで制御し、人間の老化と戦うためのさまざまなスーパーテクノロジーを開発し、人間と地球上のすべての生物の病気を治療し、飢餓と死をなくす能力を持つでしょう。 ASI があれば、今日私たちが直面している問題はすべてなくなり、人類は永遠の命を得るでしょう。 もし ASI が悪であるならば、それが出現した瞬間が地球上のすべての生命の終焉の瞬間となるでしょう。今の人類にとって、超人工知能ASIが実現すれば、それは全能の神となるだろう。これが人工知能開発の本来の目的なのでしょうか？