胡勇 | 人工知能の時代を生き抜き、成長する

[[374681]]

機械との競争から第二次機械革命へ

人工知能革命は第四次産業革命と呼ばれています。第一次産業革命は蒸気機関革命、第二次産業革命は電力革命、そして次の第二次産業革命はコンピューターとインターネットを基盤とした情報革命である第三次産業革命でした。そしてついに第四次産業革命が到来しました。

第四次産業革命とは何ですか?簡単にまとめると、以前のものと異なるのはテクノロジーの統合です。キーワードは「コンバージェンス」であり、物理、デジタル、生物の領域間の境界を曖昧にし、サイバーフィジカルシステムを生み出します。したがって、デジタル ツインについて話すとき、現実世界に 1 つ存在するなら、デジタル世界にももう 1 つ存在するはずです。さらに、ロボット工学、人工知能、ナノテクノロジー、量子コンピューティング、バイオテクノロジー、モノのインターネット、産業用モノのインターネット、第5世代5G通信技術、積層造形/3Dプリンティング、自動運転車など、多くの分野で新興技術が飛躍的な進歩を遂げています。

産業革命: 蒸気動力からサイバーフィジカルシステムへ

これらのテクノロジーは、あらゆる国のほぼすべての業界に混乱をもたらしています。こうした変化の広さと深さは、生産、管理、統治のシステム全体の変革を予兆しています。まとめると、私たちはこれを第四次産業革命と呼んでいます。

しかし、これは分類方法の 1 つにすぎません。実際、人間は、私たちが直面する現象をさまざまなカテゴリに分類するために、さまざまな用語を発明してきました。もう一つの部門、機械と人間の関係性について紹介します。

MIT の 2 人の研究者が「第二次機械革命」という本を書き、別の分類方法を提示しました。いわゆる第2次機械革命は、第1次機械革命に対応しているに違いありません。この2人の著者が書いた本は、「機械との競争」というタイトルです。タイトルから判断すると、当時の人々はまだ、機械と競争すれば機械に勝てるかもしれないという主観と動機を持っていました。当時、私たちはチェスのチャンピオンに勝てるロボットを作れるかもしれないと考えていましたが、囲碁はチェスよりもはるかに複雑だと言われていたので、囲碁に勝てるプログラムを作るのは不可能だろうと考え、それでもレースはできると考えました。今日、「機械とレースをする」というのは間違いなく時代遅れです。なぜなら、もはや機械とレースをすることは不可能だからです。人工知能プログラムの次のターゲットは麻雀だとは言えないでしょうか？

「機械との競争」、「第二次機械革命」エリック・ブリニョルフソン / アンドリュー・マカフィー著

そこで、二人の著者が現在執筆中の新しい本のタイトルは「第二次機械革命」です。第一次機械革命のときに議論された人間と機械の関係は次のとおりでした。その時代に機械革命が始まったにもかかわらず、機械は実際には人間によって制御されており、そのため労働は「より価値があり、より重要」であるように見えました。人間と機械は相互に補完し合う関係にある。人間の方が得意なこともあれば、機械の方が得意なことがあり、両者は互いに補完し合うことができます。第二次機械革命の頃には、この関係は補完関係ではなく、代替関係になっているかもしれない。

どうして状況は突然こんなに悪化してしまったのでしょうか?論理の問題について議論しましょう。二人の著者は、基本的なロジックは 3 つしかないと考えています。

1 つ目は指数関数的成長と呼ばれます。今日の物事は指数関数的に成長していることは多くの例によって証明されており、これは想像力の限界の問題と敏感な初期値の問題につながります。

2つ目はデジタルの進歩と呼ばれます。私たちは長年にわたりデジタル化によって膨大な情報を蓄積してきましたが、それによって何か知恵は生み出されたのでしょうか？この知恵を活用できたら何が起こるでしょうか?著者の一人は非常に興味深いです。彼はいくつかの Google 検索キーワードを使用してモデルを作成し、このモデルを使用して、米国のある場所の 3 か月以内の住宅価格の上昇を予測しました。彼は予測結果が非常に正確であることを発見しました。デジタル情報をインテリジェンスに変換することをデジタルの進歩と呼びます。

3つ目は、組み合わせイノベーションと呼ばれます。道端の低い木の実を摘め、ということわざがあります。なぜ低いところの果物が採れるのでしょうか。それは、人が歩いて行って採れるからです。高いところの果物は、はしごを登らないと採れません。イノベーションはいつか終わるのだろうかと疑問に思う人もいるでしょう。しかし、イノベーションとは果実を摘むことではなく、積み木を積み上げることです。それぞれの新しいイノベーションによってもたらされる革新的な組み合わせは無限に増えていきます。イノベーションをもう 1 つ追加することは、果実を摘むことを意味するのではなく、将来の組み換えイノベーションの無限の機会を増やすことを意味します。だからイノベーションは決して止まらないのです。

これら 3 つのポイントは、いわゆる第 2 次機械革命の論理です。まさにこの論理のせいで、私たちは突然、機械と競争することができなくなったのです。

▲草の根の信念がエリート層の意見を二分する

このような状況で、誰もが非常に懸念しているのは仕事の将来です。将来、仕事がなくなり、誰もが賃金を受け取れない時代になるかもしれません。本当に仕事を持っているのは貴族であり、その貴族が仕事のない大勢の一般市民を支えることになります。この見解の代表的な人物は歴史家ユヴァル・ノア・ハラリ氏で、数年前に非常に人気のある本の中でこの見解を述べ、皆を怖がらせた。

[[374682]]

ハラリ氏は2018年10月に開催された「2018年新鋭フォーラム」で、テクノロジーはカエルを温水で茹でるという手法を使って人々に自らの選択を放棄させると提案した。 21世紀のAI革命は、働く必要もなく、働くこともできず、経済や政治システムにとっても役に立たない無用階級を生み出すだろう。

ハラリ氏は、将来の人工知能は人間を無用なものにしてしまうだろうと考えており、21世紀で最も重要なことは搾取に抵抗することではなく、無用さに抵抗することだと主張している。無用性の問題は、搾取よりも何倍も深刻かもしれません。多くの場合、仕事はすべての人の尊厳と価値が宿る場所です。仕事がないのに、この人はどうして人間なのでしょうか？これには大きな疑問符が付きます。誰も働かない世界を想像することはできません。働かなければどんなに素晴らしいだろうと毎日想像しているとしても、私たちは仕事によって定義されるため、1日でも働かなければ非常に不快に感じるでしょう。

このことに関しては、やりたくない人もいるが、その代表的人物が李開復だ。リー・カイフーは、ハラリはセンセーショナルだと言いました。ハラリは歴史家でしたが、テクノロジーを理解していませんでした。李開復氏は、AIに対する人類のパニックを煽るのは止めなければならないとし、「無用階級」という言葉自体が人類にとって大きな打撃であり、単純に人間は無用だと言い切ることはできないと述べた。私たちは AI に取り組んでいるため、AI ではできず、人間にしかできないことがいくつかあります。

しかし、李開復氏は議論の一方の側を代表しているにすぎない。 AIが人間に与える影響について議論するとき、私たちは一般の人々をターゲットにしていません。第一に、一般の人々はAIを本当に理解していないからです。第二に、一般の人々はエリートたちに従う傾向があります。私たちは、エリートたち、最先端のエリートたちがこの問題をどう見ているかを知る必要があります。なぜなら、彼らこそが未来の世界を創る人々だからです。

しかし、この問題に関して、人類のエリートたちは意見が分かれています。ホーキング氏のように、AIを擁護し、AIには非常に大きな問題があると主張するエリートもいます。ホーキング氏は、人工知能は人類の文明を破壊する可能性があると述べた。ホーキング博士は亡くなる前に、ケンブリッジ大学の未来科学センターについて特に心配していた。彼は、人類が歴史研究を通じて発見した真実はただ一つ、人類の歴史は愚かさの歴史である、と述べた。人類が愚かさをやめることができるのはいつか、私たちは考えることができるだろうか。したがって、人々が知能の将来に関する研究に目を向けるようになったのは、歓迎すべき変化です。ケンブリッジ大学未来研究センターの使命は非常にシンプルで、人工知能が将来人類を滅ぼすかどうかを研究することです。ホーキング博士はセンターの開設式で演説し、人工知能の発展は人類の病気や貧困の撲滅、気候変動の防止に役立つかもしれないが、自律型兵器の生産、経済破綻、自らの意志を持つ機械が人間と衝突するなど、人々が望まないさまざまな結果をもたらす可能性もあると述べた。

欧州では、人工知能とロボット工学に関する新たな規則を確立するための立法作業が進行中です。欧州議会議員は、ロボットが電子人格を持つことができるかどうかを問うだろう。これは非常に深刻な問題である。ロボットが電子的な人格を持っている場合、機械を組み立てるときに最終的なスイッチを追加する必要があります。つまり、ロボットが何かを行うのを止めることができるスイッチが必要です。クラークの有名なSF映画『2001年宇宙の旅』を見たことがあるなら、人工知能コンピューターHALがスイッチを制御できなかったために人類を滅ぼしたことをご存知でしょう。議論のこの時点で、機械が独自の個性を持ち、それを作成した人間に危害を加えようとする場合、私たちはどうすればよいのかという疑問が生じます。ホーキングが心配しているのはこのことだ。

3月には、EUの関係機関、マイクロソフト、IBMが共同で「人工知能の倫理に関するローマ宣言」に署名し、人工知能技術は個人のプライバシーを尊重し、信頼性と公平性をもって機能し、すべての人のニーズを考慮に入れるべきであると指摘した。 IBMの副社長は、この動きは人工知能とその社会への影響に対する長年の懸念を反映していると考えている。

先ほどエリート層の間で意見が分かれていることを述べましたが、他にもイーロン・マスクのような代表的な人物がいます。マスク氏はAIを研究する一方で、AIの危険性についても語っている。彼は人工知能の危険性は核兵器の危険性よりも大きいと言いました。なぜそう言うのですか? AI の能力は私たちの想像をはるかに超えており、指数関数的に進化しているからです。ここで、李開復氏の発言に答えることができる。「我々は人工知能の専門家であり、理解している」。マスク氏は「本当に理解しているのか？」と尋ねた。いわゆる AI の専門家たちは、自分たちが実際よりもはるかに多くのことを知っていると思い込んでおり、実際よりもはるかに賢いと思っています。これは、人工知能の専門家を含め、私たち全員に当てはまります。

そしてビル・ゲイツは、なぜ人工知能の将来について心配しない人がいるのか理解できない、と言いました。

これは私が言及したエリートの1つの陣営です。もう1つの陣営も、ザッカーバーグ氏のようにほぼ同等の力を持っています。人工知能が人類の終末をもたらす可能性について人々が議論しているとき、ザッカーバーグ氏はそのような議論は無責任だと述べた。人工知能分野で最も著名な中国人の一人、アンドリュー・ン氏は「今日、こうしたことを心配するのは、火星の人口過剰を心配するようなものだ」と述べた。私が特に好きな人工知能の専門家、ペドロ・ドミンゴス氏はツイッターでマスク氏の「人工知能は人類文明の存在にとって根本的なリスクである」という言葉を引用し、「一言で言えば、ため息」とコメントした。同氏はマスク氏が完全に間違っていると考えている。

AIが人間を滅ぼすかどうかという質問に対して、ペドロ氏はAIが明らかに人間を賢くしたと考えている。

彼らは人類史上最も聡明な人たちです。この問題に関して意見が分かれているのなら、私たち一般人はどうやって対処すればいいのでしょうか。この問題には、先ほど述べた「人工知能は雇用を奪うのか、それとも雇用を生み出すのか」という疑問も含めて、答えがないように思えます。例えば、段永超教授は、シェフがロボットを訓練する仕事はできるが、仕事量の問題があると言っている。仕事量がそれほど多くなければ、シェフからロボットを訓練するシェフに変わる人はどれくらいいるだろうか？

AIに関する議論は永遠に終わらない。私たち一般人がAIとどう向き合うべきかは、非常に深刻な問題だ。

実際、これは人類の未来や仕事の未来についてだけではなく、機械が意識を持つかどうかなどについても関係しています。私たちがこれらのことを心配していて、その疑問に答えられないとき、実は解決策はあるのです。解決策は、これらの専門家が将来の見通しについて意見が一致しないのは、彼らが知っていることによるのではなく、彼らの根底にある信念によるものであると認識することです。

[[374683]]

これが私がこの点を強調する理由であり、これが私の最後の話題となるでしょう。たとえば、意識を持ったロボットが必ず誕生すると予測する専門家は、人間は本質的に機械であるという非常に基本的な仮定を信じているからだ。人間が機械であるならば、最終的には意識を持ったロボットを作ることができるはずだ。機械が意識を発達させることは決してないと信じている人たちは、彼らが意識の専門家だからそう思っているのではなく、人間は純粋に機械的な生き物ではあり得ないと信じているからだ。

こう言うと、皆さんは困惑するかもしれません。これは意識の問題ではなく、信念の問題なのです。信仰の問題について話すとき、人工知能について議論する際には、最も基本的な事柄のいくつかを解体しなければなりません。人工知能について事実だけに基づいて議論することはできませんが、最も基本的な事柄のいくつかを解体するには、歴史と技術の発展プロセス全体に立ち返る必要があります。

▲人工知能時代に考えるべき3つの問い

それを技術の歴史から抽出しようとすると、結局はここに戻ってしまいます。そして、最終的に解体する必要があるのは、3 つの基本的な問題です。

最初の質問は、宇宙の構成は何かということです。これは古代ギリシャ以来議論されてきたテーマです。 2番目の質問は、私たちは何者なのか？私たちが何であるかという問いは、人間とは何かという問いです。 3 番目の質問は、集合的な概念ではなく、個人的な概念であり、自己、つまり「私は何者か」という質問です。

なぜ今日、これら 3 つの質問がそれほど重要になるのでしょうか。また、なぜこれが哲学的な考え方であると言えるのでしょうか。実際、これら 3 つの質問に対する答えは単一の答えではなく、すべて複数の選択肢がある質問であることがわかります。

簡単な例を挙げると、宇宙の構成については常に 2 つの考え方があります。1 つの考え方では、宇宙は原子、つまり単一の物質のみで構成されていると考えています。デモクリトスに始まり、人間が考えることは何も進歩的なものではなく、ただ原子が動いているだけだと信じられてきました。これを一元論といいます。別のグループの人々は、原子は存在するが、人間は原子だけではなく、何か他のものからできているに違いないと主張して、これに強く反対した。

科学者のほとんど全員が第一陣に立っています。彼らは、世界のすべてのものは回復できると信じています。回復できないものには、説明のしようがありません。したがって、私たちは説明を見つけなければなりません、そして還元主義を通して、私たちはこの物質の原因を見つけることができるでしょう。あなたの愛はいくつかの分子の動きに他なりません。そしてあなたの意識はいくつかのニューロンの絡み合いに他なりません。そしてこれはさまざまなものによって証明することができます。

[[374684]]

幸福と苦痛は主にドーパミンの分泌レベルによって決まり、いわゆる幸福とはドーパミンを運ぶポリペプチドに過ぎないと固く信じている人はたくさんいます。

しかし二元論者はこれは間違っていると信じています。もちろん、ここには多くの哲学的考えがあります。なぜある人は二元論を、ある人は一元論を信じるのでしょうか? 本質的には、それは現実の本質に関する信念によるものと言えます。

信仰の問題に戻ると、一元論は合理的で現代的であると言えますが、合理的で現代的なものは間違っている、霊的なものが多く原子では説明できないと信じる人々がこの世には常に存在するでしょう。これが一元論と二元論の矛盾です。たとえあなたが石のような原子であり、私がこのテーブルのような原子であることを証明できたとしても、あなたは罪悪感を感じることなく石やハンマーを使ってこのテーブルを粉々に砕くことができます。ハンマーで私の頭を殴っても罪悪感を感じないんですか？ここで一元論と二元論は大きく崩壊します。

したがって、上記の3つの質問は、今日の人工知能時代に考えなければならない3つの質問であり、その思考の方向は本質的に人間の信念とは何かを議論することであると言いたいと思います。かつて、人間の信仰の問題は哲学者や神学者の独占領域でしたが、今日では人工知能によってこの問題はすべての人の注目を集めており、私たちもこれらの問題を考慮しなければなりません。人工知能に携わる人は特に、このものを作るときにどんな信念を持っているかという質問について考える必要があります。なぜなら、これによって、このものが将来どのようなレベルに到達し、どのように適用されるかが決まるからです。