私が人工知能に興味がない理由

私がビジネスを始めたいと思っていると聞いて、いくつかの「馬鹿げた」アイデアをくれた人もいました。彼らは、あなたがプログラミング言語の専門家であり、人工知能（AI）が今とても人気があるため、実際に「自動プログラミングシステム」を開発して、プログラムを自動生成し、プログラマーの作業を置き換え、人件費を大幅に節約できると述べました。このようにして、「AIフィーバー」を利用して投資を誘致することができます。

[[189365]]

誰かが私に「Deep Coder」(Deep Learning + Coder) という名前をつけてくれたり、Microsoft の RubustFill など、この方向での素晴らしい研究を指摘してくれたりしました...

私はこれらの人々の懸念には感謝しますが、実際のところ、人工知能については気にしておらず、楽観的ではありません。さて、ここで私の意見について簡単にお話ししたいと思います。

機械のような心臓

人工知能、自動運転車、ロボットなどの技術を宣伝したがる人は多い。しかし、よく観察してみると、これらの人々は人間の知能とは何か、人工知能の限界を理解していないだけでなく、これらの「AIマニア」の心は深刻な機械化に陥っていることがわかる。彼らは多かれ少なかれ人間性を失っており、まるで自分たちが人間であることを忘れ、人間が最も必要とするものを忘れ、人間の価値を忘れてしまったかのようです。これらの人々は、チャップリンが『独裁者』の演説で指摘した「機械の心を持つ機械」そのものです。

AI について言及されるたびに、これらの人々は必然的に「人間の仕事を置き換える」ことや「人件費を節約する」ことを考えるでしょう。これらの目標が達成できるかどうかの議論はさておき、これらは最初から私の価値観と完全に矛盾しています。偉大な企業とは、人件費を「節約」して人々を失業させるのではなく、社会に真の新しい価値を創造する企業であるべきだ！ 私が企業を作ったとして、その最大の貢献は何千人もの人々を失業させ、欲深い人々の「人件費」を節約し、貧富の差を広げ、権力をごく少数の人々の手に集中させ、最終的には人々の生活を窮地に陥れ、社会の不毛化、さらには崩壊に導くことだと思うと恐ろしい...

そのような世界で生きることは想像できません。たとえ私が世界で一番の金持ちになったとしても、それは無意味でしょう。世の中にはお金で買えないものが多すぎる。街を歩いていると、人々の幸せな笑顔、ゆったりとした足取り、親しみのある挨拶、愛情、ユーモアのセンスは見当たりません。その代わりに、生きることに必死なホームレスの人たちがあちこちにいます。彼らが残していった尿の臭いが鼻をくすぐります。どこへ行っても強盗に遭うのが怖いです。本当に生きられない人がいるからです…

人工知能が成功すれば、これが究極の結果となるかもしれない。幸いなことに、人工知能が決して成功しないという証拠は豊富にあります。

人工知能の夢と現実

私もかつては人工知能に熱中し、それを「偉大な理想」とみなしていました。私もかつては、「論理」と「学習」という2つの魔法の武器によって、機械はいつか人間の知能を超えるだろうと考えていました。

10年以上前、人工知能は冬の時代でした。清華大学の図書館で、長い間忘れられていたピーター・ノーヴィグの名著『人工知能プログラミングのパラダイム』（PAIP）を見つけ、考古学者のように、そこに書かれたさまざまな古典的なAIアルゴリズムを一つずつ実装し始めました。 PAIP のアルゴリズムは論理と推論に重点を置いています。当時、多くの AI 研究者は、人間の知能は最終的には論理的推論に行き着くと信じていたからです。彼らは、一階述語論理と述語論理を使えば、「なぜなら、したがって、だけでなく、また」を表現でき、機械が知能を持つことができると素朴に信じていました。そこで彼らは、さまざまな論理ベースのアルゴリズム、エキスパート システム、さらには論理ベースのプログラミング言語 Prolog を設計し、これを「第 5 世代プログラミング言語」と呼びました。 ***、彼らは乗り越えられない障害に遭遇しました。多くの AI 企業は自慢していた目標を達成できませんでした。さまざまな「ニューロン」ベースのマシンは実用的な問題を解決できませんでした。政府と民間の巨額の投資は無駄になりました。人工知能は冬に入りました。

私が PAIP に出会ったのはその冬でした。PAIP のおかげで人工知能の分野に専念することはできませんでしたが、Lisp とプログラミング言語に夢中になりました。この本のおかげで、私は初めて A* などの複雑なアルゴリズムを簡単かつ体系的に実装し、その真の意味を理解することができました。 PAIP のおかげで、プログラムの「モジュール性」が何であるかを初めて理解できました。自分のプログラムで小さな「ツール関数」を使用するようになり、多くの人が心配していた「関数呼び出しのオーバーヘッド」を気にしなくなりました。 PAIP と SICP という 2 冊の本のおかげで、私はプログラミング言語の分野に身を投じるようになり、この分野の先駆者たちから真の教えを受ける幸運に恵まれました。

PAIP の後、機械学習は人工知能の新しい章であると誰かが私に言ったので、しばらくの間、機械学習に魅了されました。しかし、いわゆる人工知能や機械学習は、実際の人間の知能とはほとんど関係がないことに徐々に気づきました。実際の問題と比較すると、PAIP の古典的なアルゴリズムは実は非常に素朴で非常に複雑であり、大規模な実用的な問題を解決することはまったく不可能です。 「機械学習」という名前は、実際には完全なカバーです。機械学習は単に統計学における「フィッティング関数」であり、誤解を招くような名前が付いているだけだと多くの人が気づいています。

人工知能の研究者は、いつも「ニューロン」などの用語を持ち出して人々を怖がらせたり、彼らのアルゴリズムは人間の脳のニューロンの動作原理にヒントを得たものだと言いたがります。しかし、実際に人間の脳を研究したり、解剖したり、実験を行ったり、脳科学の研究結果を読んだりしたことがある AI 研究者はどれくらいいるでしょうか。実際に人間の脳や認知科学の研究を行った AI 研究者はほとんどいないことがわかります。有名な認知科学者ダグラス・ホフスタッターは、かなり昔のインタビューで、いわゆる「AI専門家」たちは、実は人間の脳や意識（心）の働きに興味がなく、深い研究もしたことがなく、「汎用人工知能」を実現したと主張していると指摘しました。これが、AIが今日まで単なる空想と金儲けのスローガンに過ぎなかった理由です。

機械学習の歴史を振り返ると、これまで機械学習で実現できたのは、文字認識（OCR）と音声認識くらいです。大手企業が推進する最も人気のある AI テクノロジーは、Siri、Cortana、Google Assistant、Amazon Echo などです。これらのものを使用したことがある人なら、そのうちのどれだけが「スマート」と言えるかがわかると思います。 Siri を試すたびに、その愚かさに驚かされ、イライラして iPhone を叩き壊したくなることがあります。他のものもあまり良くありませんでした。多くの人は「テキスト認識」と「言語理解」の違いがわかりません。これらの OCR および音声認識システムは、統計的な手法を利用してユーザーが言った単語を認識することはできますが、ユーザーが何を言っているのかを実際に理解することはできません。これは、プログラミング言語における「構文」と「意味」の違いに似ています。構文を認識するのは簡単ですが、意味を理解するのは非常に困難です。

これらの製品に全く価値がないと言っているわけではありません。私は Siri と Google アシスタントを使ったことがありますが、私にとってこれらが役に立つと感じたのは運転中だけです。運転中に携帯電話を操作すると事故につながりやすいので、音声コントロールを利用できます。たとえば、携帯電話に向かって「最寄りのガソリンスタンドまで案内して」と言うことができます。しかし、これらの「パーソナルアシスタント」の有用性はここで終わります。私は、自宅や公共の場では携帯電話をまったく使いたくありません。理由は単純です。話すのが面倒だったり、話すのが不便だったりするからです。画面を数回クリックするだけで、自分がやりたいことを正確に実行できます。話すよりも手間がかからず、正確です。

多くの人々はAlphaGoの勝利を見て、いわゆるディープラーニングが最終的には人間レベルの知能を達成できると信じました。前回の記事で、これは誤解であると指摘しました。多くの人が、人間が難しいと思うもの（囲碁など）こそが、真の人間の知性が反映されるものだと考えていますが、そうではありません。質問させてください。暗算 (23423451345 / 729) は難しいですか? 人間にとっては難しいですが、どんなに愚かなコンピューターでも 0.1 秒で計算できます。囲碁やチェスなどのゲームにも同じ原則が当てはまります。これらの機械化された質問は、真の人間の知性をまったく反映することができません。

自動プログラミングは不可能

さて、最初に何人かの人が提案した、自動プログラミング システムを実装するという話に戻りましょう。今、はっきり申し上げると、それは不可能です。 Microsoft の RobustFill などはすべてでたらめです。私は、マイクロソフトが最近、AIブームを煽ろうとしている努力を少し軽蔑している。しかし、マイクロソフトの研究者はこうしたものの限界を知っているかもしれないが、国内の編集者はそれらの有効性を誇張している可能性がある。

彼らが挙げた例を注意深く見れば、それがおもちゃの問題であることがわかります。少数の例から、コンピューターが人が何をしたいのかを正確に推測するのは明らかに不可能です。単純な理由としては、例には、自分が望むものを正確に表現するのに十分な情報を含めることは不可能だからです。最も単純な変換は可能かもしれませんが、いくつかの例外がある場合、彼が何をしたいのかを推測する方法はありません。これらの例を見ても、人間でさえ他の人が何をしたいのかは分かりません。では、機械はどうやって知ることができるのでしょうか? これは基本的に「心を読む」ことを達成しようとする試みです。

したがって、人が何をしたいのかを機械に推測させるのは、機械に「心を読む」能力を要求するのと同じであり、それはまったく不可能です。このような難しい問題には、100%正しい解決策はありません。少しの論理で何かに遭遇すると、希望はさらに少なくなります。したがって、RobustFill が実行できるのは、この非常に難しいおもちゃの問題に対して「92% に近い成功率」を達成することだけです。また、この 92% という数字をどのような基準で算出しているのかも疑問です。

責任あるプログラミング言語の専門家なら誰でも、自動プログラム生成は不可能だと言うでしょう。 「心を読む」ことは不可能なので、機械に何かをさせたい場合、少なくとも自分が何を望んでいるのかを機械に伝える必要があります。しかし、自分が何を望んでいるのかを表現することの難しさは、プログラミングとほぼ同じです。実際、プログラマーの仕事は、コンピューターに何をしてほしいかを伝えることではないでしょうか。最も難しいタスク (データ構造、アルゴリズム、データベース システム) はライブラリ コードに固められていますが、「何をしてほしいか」を表現するタスクは、決して自動的に完了することはできません。

したがって、プログラマーは実際には機械に置き換えることができないタイプの仕事です。優れたプログラミング ツールはプログラマーの作業をより快適にしますが、プログラマーの作業を置き換え、プログラミングの労働コストを節約し、プログラマーの賃金を差し引き、プログラマーを「交換可能なコンポーネント」(Agile など) に変えようとする試みは、最終的には裏目に出て、雇用主に逆効果をもたらすことになります。同じ原則は、シェフ、美容師、画家など、他のクリエイティブな仕事にも当てはまります。

愚かな機械の価値

人工知能の曖昧な世界には関わらないことに決めたので、どうやってビジネスを始めればいいのでしょうか? 答えは簡単です。人間は実際には非常に「インテリジェント」な機械を必要としていないと思います。例えば、掃除や家事を自動的にこなすロボットを開発したいという企業もあります。この問題は解決がほぼ不可能だと思います。本当に賢いおばさんに手伝ってもらったほうが良いでしょう。より良いツールと通信設備を装備して、疲れることなく便利に作業でき、所有者も安心できるようにすれば、双方にとって最善ではないでしょうか。なぜ知能ロボットが必要なのでしょうか。それらは使いにくく、使いやすくなく、社会を危険にさらします。

だから、人間にとって最も価値があるのは「愚かな機械」だと私は思います。人間にとって役に立つ愚かな機械は、私たちが発明するのを待っているものがたくさんある。これらの機械は設計に多大なインスピレーションを必要としますが、実装は難しくなく、人々に利便性をもたらし、すぐに経済効果をもたらします。これらは人々の雇用をめぐる競争を生み出すのではなく、むしろより多くの雇用機会を生み出す可能性があり、国と国民にとって有益であると言えます。最も合理的な発展の方向は、人間の知恵と機械の力を活用して、働く人々が労力を節約し、同時にお金を稼ぐことができるようにすることです。

したがって、人々の利益になる新しい機械を設計することが私の起業家としての目標であるべきです。