世界を支配するマスターアルゴリズムは存在するのでしょうか?

[[159157]]

アルゴリズムは私たちの生活にますます影響を与えています。しかし、ほとんどの場合、正常に動作しているときはそれに気づかず、アルゴリズムが間違ったときにのみその存在に気づきます。そのとき初めて、私たちは世界がアルゴリズム、つまり私たちの周りのすべてのコンピューターを制御する、ますます理解しがたいルールにどれほど依存しているかを思い出すのです。アルゴリズムが誤作動を起こすと、私たちはいかに脆弱であるかを思い知らされます（スカイネットを考えてみてください）。

ペドロ・ドミンゴスはアルゴリズムについて考えることに多くの時間を費やしています。彼の新しい著書『マスターアルゴリズム：究極の学習マシンの探求がいかにして我々の世界を作り変えるか』は、その世界への入門書であり、その最新の開発状況に関する報告である。彼は、私たちはアルゴリズムの時代に生きており、前例のない方法でアルゴリズムが世界を作り変えていくのを目撃していると信じています。

アルゴリズムは人間にどのような影響を与えるのでしょうか?人間の思考とコンピュータの思考の違いは何でしょうか?機械が最終的にすべてを学習できるようになると何が起こるでしょうか?ジェシー・ヒックスはこれらの問題についてドミンゴス氏にインタビューした。

あなたがアルゴリズム時代と呼ぶ時代に、なぜこれほど多くの人がアルゴリズムの存在に気づいていないのでしょうか?その背後にある機械学習のメカニズムとは何ですか?

コンピュータが行うすべてのことはアルゴリズムによって行われます。あなたの携帯電話、ノートパソコン、車、家、家電製品にはアルゴリズムが満載されています。しかし、アルゴリズムは目に見えません。明るい外観しか見えず、内部で何が起こっているかはわかりません。 Siri はアルゴリズムを使用してユーザーの発言を理解し、Yelp はアルゴリズムを使用してユーザーに代わってレストランを選択し、カー GPS はアルゴリズムを使用して最適なルートを検索し、カード リーダーはアルゴリズムを使用してユーザーに代わって支払いを完了します。企業は求職者の選考にアルゴリズムを使用し、投資信託は株式取引にアルゴリズムを使用し、携帯電話は疑わしい電話にフラグを立てるためにアルゴリズムを使用します。

「通常の」アルゴリズムと学習アルゴリズムの違いは、前者はソフトウェア エンジニアによって手動でプログラムされ、コンピューターに段階的に何をすべきかを指示するのに対し、後者はデータを読み取ることによって実行されることです。「これが入力で、これが必要な出力です。どうすれば一方を他方に変換できるでしょうか?」驚くべきことに、適切なデータを与えれば、チェスのプレイから医療分析まで、同じ機械アルゴリズムが学習できる範囲には事実上制限がありません。

タイトルにある「マスターアルゴリズム」とは何ですか?レイ・カーツワイルのシンギュラリティとどう違うのでしょうか?マスターアルゴリズムはどのような進歩をもたらすでしょうか?

マスター アルゴリズムは、データから何でも学習できるアルゴリズムです。惑星の運動、傾斜、振り子に関するデータを与えると、ニュートンの法則を発見します。 DNA 結晶構造データを与えると、二重らせん構造を発見します。スマートフォンのデータを活用して、次に何をするか、どのようにサポートするかを予測します。がん患者の医療記録の大規模データベースを研究することで、がんの治療法を発見することも可能です。

アルゴリズムによって、家庭用ロボットも登場するかもしれません。WWW (ワールド ワイド ウェブ) を WWB (ワールド ワイド ブレイン) に置き換えて、Web ページを表示する代わりに質問に直接答えるシステムや、あなただけでなくあなたの親友も理解し、本や映画だけでなく、デート、仕事、家、旅行先など、生活のあらゆることを推奨できる 360° 推奨システムも登場するかもしれません。

カーツワイルのシンギュラリティとは、人工知能が人間の知能を超え（超知能についての考察も参照）、人間の理解を超える瞬間のことである。あるいは、より正確には、特異点の「事象の地平線」であり、ブラックホールの事象の地平線が光さえも逃れられない地点を指すのと同じです。マスターアルゴリズムがなければ、私たちはこんなに早く特異点に到達することはできなかったでしょう。マスター アルゴリズムがあれば、AI は当然加速しますが、AI は依然として人間のリーダーシップの下で私たちにサービスを提供できるため、私たちは世界について多くのことを理解することができます。結果がどのように生成されるかは分からないかもしれませんが (考える Google のディープラーニング システムを参照)、これらの出力が私たちに何をもたらすか、あるいはそれを望まないかは分かります。それに、この世には私たちには理解できないものもあります。違いは、私たちが完全に理解することができないこの世界は、部分的には私たち自身の創造物であるということであり、それは確かに改善である。

あなたは、この分野は現在「部族主義」に分かれていて、ある機械学習アルゴリズムは特定の問題を解決するのに他のアルゴリズムよりも優れているが、他のアルゴリズムに勝るアルゴリズムはないと言っています。つまり、私たちがこれまでに知っていることすべてに当てはまる壮大な統一理論、何十年、何世紀にもわたる進歩の基盤となり得る理論が欠如しているのです。この主張自体も壮大です。では、メインアルゴリズムの合理性は何でしょうか?なぜ現在の「部族」は団結できないのでしょうか?

十分なデータが与えられれば、最も単純な学習アルゴリズムでも何でも学習できることは数学的に証明できます。したがって、マスター アルゴリズムが存在することに疑いの余地はなく、各アルゴリズム トライブの研究者はそれを発見したと確信しています。しかし重要なのは、アルゴリズムが適切なデータとコンピューティングを使用して、学習させたい内容を学習できなければならないということです。経験的な例を 2 つ挙げることができます。自然界には、何でも学習できるアルゴリズムの例が少なくとも 2 つあります。進化と脳です。つまり、マスター アルゴリズムは存在するのですが、問題は、物理学者が物理法則を数式 (それ自体がアルゴリズム) で表現するのと同じように、それを正確に見つけて完全に書き留めることができるかどうかです。

残念ながら、機械学習の 5 つの部族は盲人と象のようなものです。つまり、鼻に触れた人は蛇だと思い、足に触れた人は木だと思い、牙に触れた人は牛だと考えます。私たちは一歩下がって全体像を眺め、これらすべての要素がどのように組み合わさっているかを確認する必要があります。皮肉なことに、これについてあまり知らない人にとっては、これがより簡単に実行できるかもしれません。

あなたの本は、アルフレッド・ノース・ホワイトヘッドの「人類の文明は、考えずに実行できる重要な作業の数を増やすことによって進歩してきた」という引用で始まります。この結論が真実かどうかはともかく、「考える」ことは間違いなく文明と人間の本質に密接に関係しています。思考は人間特有の、さらには人間を定義する活動です。そのため、ニコラス・カー氏らは、思考のアウトソーシングは人間性を低下させるとして反対している。思考の欠如によって人間がよりロボット的になる（広い意味で）のではないかという懸念がある。同時に、私たちは「考える」機械についても心配しています。あなたはスカイネットのような終末的な AI について言及しました。では、コンピューターはすでに「考える」能力を持っているのでしょうか?それとも、それは人間に特有の活動なのでしょうか。もしそうなら、将来の人間の思考者と機械学習者の違いは何でしょうか。

有名なコンピュータ科学者エドガー・ダイクストラはかつて、コンピュータが考えることができるかどうかは潜水艦が泳げるかどうかと同じくらい重要だと言いました。重要なのは、人間が思考を通じて解決するのと同じ問題をコンピューターが解決できることであり、これらの問題の範囲は拡大し続けています。コンピューターは機械学習を通じて、私たちがプログラムで解決する方法すら知らない問題さえも、自ら解決します。したがって、この線は非常に曖昧であり、常に変化しています。

思考のアウトソーシングは人間性を破壊するというニコラス・カーの主張には同意できません。逆に、思考のアウトソーシングは人間性を高め、より良いことを考えることを可能にします。そして、それがまさにホワイトヘッドの主張なのです。ソクラテスは、書くことを好まなかった。なぜなら、書くことで誰もが物事を忘れてしまうからだ。幸いなことに、プラトンは彼の考えを書き留めていたので、人類は今でもそれを思い出すことができます。書くことで記憶力が強化されますが、Google はそれを次のレベルに引き上げます。それは私たちを愚かにするどころか、賢くするのです。

この本は、「コンピューターが賢くなりすぎて世界を支配してしまうのではないかと誰もが心配しているが、本当の問題はコンピューターがあまりにも愚かで、すでに世界を支配しているということだ」という一文で終わります。これはどういう意味か説明していただけますか。

スティーブン・ホーキング博士やイーロン・マスク博士などの著名人は、人工知能は人類の存在に対する脅威であると述べ、懸念を表明している。しかし、スカイネットのような邪悪な AI が世界を支配するという考えは、少し無理が​​ある。問題は、人々が知性と人間を混同していることです。ハリウッド映画では、AI やロボットは常に人間型ですが、実際には大きく異なります。コンピュータには独自の意志、感情、意識はありません。彼らは単に私たちの延長線上にあるのです。コンピュータが我々が設定した問題を解決し、我々が問題の境界を設定してその解決策を検証する限り、コンピュータは無限に知能化され、我々にとって脅威とはなりません。

しかし、心配する必要がないというわけではありません。他のテクノロジーと同様に、AI も悪意のある目的で使用される可能性があります。しかし最も重要なのは、AI は私たちが実際に望んでいるものではなく、私たちが求めているものを提供するため、害を及ぼす可能性があるということです。コンピューターは、すでに、誰に仕事を与えるべきか、誰に信用を与えるべきか、誰を潜在的なテロリストとしてフラグ付けすべきかなど、あらゆる重要な決定を下しています。そして常識が欠けているために間違いを犯すことが多いのです。しかし、解決策は彼らをより愚かにすることではなく、より賢くすることであるべきだ。したがって、私たちが心配すべきなのは、AI が多すぎることではなく、AI が少なすぎることです。

機械学習処理で最も注意すべきことは何でしょうか?

私たち一人ひとりが、私たちの周囲にある機械学習アルゴリズムを制御できる必要があります。そうでなければ、それらはそれを開発した組織にのみ役立つことになり、私たちには役立たないでしょう。それは車の運転に似ています。ハンドルとブレーキがどこにあり、どのように使用するのかを知っておく必要があります。 運転手が「あなたの行きたい場所はわかっていると思います。そこまで連れて行きますよ」と言ったら、すぐに車から降りたほうがよいでしょう。しかし、それが今日の機械学習の仕組みです。コントロールボタンはありますが、見えません。たとえば、Amazon の推奨システムに対して、何をしてほしいかを伝えたり、選択内容を調整するよう依頼したり、どこが間違っているかを説明したりする必要があります。機械学習が普及するほど、エラーを修正することがより重要になります。

マスターアルゴリズムを実現するにはどのような進歩が必要ですか?

多くの人は、マスターアルゴリズムを作成するための主要なアイデアはすでにあり、残っているのはそれらをどのように組み合わせるかだけだと考えています。私たちは確かにこの方向で大きな進歩を遂げており、実際に成功までそう遠くはありません。しかし、私たちはいくつかの大きなアイデアを見逃しており、誰かがそれを考え出さなければならないというのが私の考えです。私自身もいくつかアイデアを持っていますが、結局のところ私は一人の人間にすぎません。この本を書く目的は、私の考えを他の人に知ってもらうことです。私の密かな願いは、AI のニュートンである小さな子供がこの本を読んで、機械学習について考え始め、突然ひらめきが起こり、世界が二度と同じではなくなることです。