人工知能の仮想火災は死体の山を残した

ハリウッドのSF大作では、人工知能は常に、将来の人類の生存を脅かす自己認識機械として定義されています。 『ウエストワールド』、『アイ,ロボット』、『エクス・マキナ』、『スター・ウォーズ』、『チャッピー』などの有名なSF映画では、人工知能を備えたロボットやコンピューターは常に感情を持ち、意志力と決断力を持ち、自己認識を持って行動することができます。例えば、『チャッピー』に登場する人工知能ロボット「チャッピー」は、自己認識型ロボットとして設定されている。

ロボット技術の大ヒット作が相次ぎ、人々の人工知能に対する想像力と期待も高まっている。技術の発展の現実として、人間の労働の一部が機械に置き換えられているのを私たちは実際に目にしてきました。

2000年、ゴールドマン・サックス・グループのニューヨーク本社にある米国株式現物デスクには、高給取りのトレーダーが600人いた。現在、自動取引プログラムが徐々に他のトレーダーの仕事を置き換えたため、残っているトレーダーは 2 人だけです。これが、機械が人間の労働を置き換える現実です。無人市場や自動取引を導入する企業が増えています。多くの人工知能の専門家も、いつの日か機械自体が進化し、いわゆる「人工知能が人工知能を開発する」時代に入るだろうと空想し始めています。

Google の AlphaGo は、囲碁の名人の成功に挑戦し続けています。「人工知能」という用語は、もはやテクノロジーの専門家が使用する専門用語ではなく、街角で誰もが話題にするホットな話題です。多くの専門家は、翻訳者、ジャーナリスト、警備員、運転手、トレーダーなどの職業を含め、世界の職業の90％が10年以内に人工知能に置き換えられると述べています。これにより、人々は空中に湯気が立ち上る美味しそうなパンケーキを思い浮かべることができました。

中国の人工知能は、国民の熱い期待の中、過去2、3年で一連のクライマックスを迎えた。投資コミュニティの統計によると、2017年に中国の人工知能分野では150件以上の公的資金調達案件があり、その中にはCambrian（ラウンドAで1億ドル）、Megvii Technology（ラウンドCで4億6000万ドル）、SenseTime（ラウンドBで4億1000万ドル＋アリババからの15億元の投資）など、数億ドル規模の大規模取引も含まれている。 IT桔子のデータによると、2017年6月現在、中国のベンチャーキャピタル機関は人工知能分野で767件の投資案件を行い、半年間で資金調達額は150億人民元を超え、累計資金調達額は635億人民元に達し、世界全体の資金調達額の33.18%を占めています。

特に産業革命以降、経済成長の根本的な原動力は技術革新でした。蒸気機関、電気、内燃機関などの一般的な技術の出現は、確かに多くの革新と機会の波を引き起こしました。人工知能技術は全体的には必然的にこの方向に発展するでしょうが、人々は AI に対して多くの非現実的な期待も抱いています。

スイスの神経科学者パスカル・カウフマン氏は、グーグルのアルファ碁が人類が尊敬する最も要求の厳しい戦略ゲームである囲碁に挑むことに成功したものの、アルファ碁の奇跡を生み出したのは「本物の人工知能」ではなく、ゲームのルールの範囲内で戦略を立てる機械の能力に過ぎないと主張している。 AlphaGo は現実世界では応用できず、他のゲームでも無駄になってしまいます。

2

1950年、後に「人工知能の父」として知られる、当時わずか23歳のマービン・ミンスキーと同級生のエドモンドは、世界初のニューラルネットワークコンピュータを構築しました。この時期を人工知能の出発点と見る人もいる。

同年、「コンピュータの父」として知られるアラン・チューリングは、著書『マンチェスター電子計算機プログラマーズ・マニュアル』の中で、世界的に有名な「チューリングテスト」を提案しました。同時に、チューリングは真に知的な機械の実現可能性についても大胆に予測しました。

チューリングの予測に駆り立てられ、当時の多くの学者は興奮し、人工知能の時代が到来しようとしていると信じていました。学者の中には、20年以内に人工知能は人間ができるすべてのことをできるようになるだろうと明確に予測している者もいる。

6年後の夏、ダートマス大学で人工知能に関するブレーンストーミングセッションが開催されました。当時、世界で最も著名な専門家たちが集まり、インテリジェントシミュレーションの問題をいかに解決するかを議論し、一連の刺激的な成果を達成したと主張しました。

ダートマス大学の会議の内容が発表された後、政府は人工知能の分野に多額の投資を開始し、人工知能の最初の春を迎えました。学問の世界では楽観的な雰囲気が浸透して成長し、現在のAlphaGoアルゴリズムの中核となるアイデアである強化学習のプロトタイプ（ベルマン式）を含む、アルゴリズムの分野で多くの世界クラスの発明が生まれました。

しかし、結局のところ、楽観主義は厳しい現実に勝てません。 10年以上の探究を経て、研究者たちは人工知能を実現するのは非常に困難であり、短期間で実現することは不可能であることを発見しました。そのため、1960年代後半には関連ファンドが投資を撤回し始め、人工知能にとって最初の寒い冬が到来しました。

1973 年、ライトヒル報告書は当時の客観的な状況を比較的客観的に評価し、知的思考機械の可能性について否定的な予測を立てました。この報告書により、この分野の研究の幻想は崩壊し、人工知能は当時ずっと非常に恥ずべきものになってしまいました。

1980年代、日本政府は人工知能の開発支援に熱心だったが、同時に、最先端の動向に追いつけないという危機感をアメリカやイギリスの政府に抱かせ、それが人工知能への投資を客観的に後押しした。しかし、これらは多数の政府や民間機関の間で新たな投資意欲を喚起するには至っていない。

1980 年代半ばまでに、Apple、IBM、Microsoft などの台頭により、いわゆる基本的な人工知能はこれらのパーソナル コンピュータほど強力ではないことが分かりました。 1987 年までに、人工知能の製品はほとんど言及されなくなり、「第二次 AI の冬」の始まりとなりました。さらに、当時の米国防総省の国防高等研究計画局は、人工知能の研究と投資に反対する立場を明確にしていました。

これら 2 つの AI の冬は、1 つの事実に基づいています。AI の実際の発展は人々の期待とはかけ離れており、専門家による楽観的な見積もりは現実から大きく遅れています。冬は熱意が枯渇したときにやってきます。

この状況は 1997 年まで改善されませんでした。その年、IBMが開発したディープ・ブルーがチェスの世界チャンピオンを破り、人工知能が再び人々の注目を集めることになった。その後、20年以上の発展の中で人工知能の分野では多くの学術的進歩がありましたが、人工知能が真に社会に認知され、新たな春を迎え始めたのは2012年末になってからでした。

2016年3月までに、Google AlphaGoと世界チャンピオンのプロ九段イ・セドル氏との人間対機械の囲碁対決が世界に知られるようになりました。それ以来、人工知能はカーニバルの先駆けとなり始めました。

3

お祭り騒ぎがあるところには、その状況を利用しようとする人々がいる。

その結果、多くのスタートアップ企業が、自社が人工知能企業であると主張し、ビジネスプランに機械学習、ニューラルネットワーク、その他のテクノロジーに関する多くの情報を含めるようになりました。実際のところ、彼らがやっていることは基本的にこれらのテクノロジーとは何の関係もありません。

数日前、子供用のリュックサックを作っている会社に会いました。彼らは人工知能の会社だと主張していました。ランドセルの中に位置センサーが取り付けられていたことが判明した。これらの企業の活動は人工知能とは何の関係もありませんが、資金調達には大いに役立つかもしれません。

アリババの元CEO、魏哲氏は「現在の人工知能バブルは巨大で、メディアは大騒ぎし、市場は過熱している」と語った。市場には「人工知能」企業を自称する企業が数多く存在しますが、人工知能企業の 90% は「疑似人工知能」です。

ReadMeのCEO、グレゴリー・コバーガー氏はTwitterで、人工知能のスタートアップを2つのステップで構築する方法を語った。最初のステップは、大量の安価な労働力を雇って、人間のふりをしたAIのふりをすること、そして2番目のステップは、AIが発明されるのを待ってそれを模倣することだ。この慣行は業界ではすでによく知られた秘密であると彼は信じているが、ほとんどの観客はまだそのことを知らない。

言い換えれば、一部のスタートアップ企業のいわゆる人工知能、例えば機械音声による会話などは、「人工知能」ではなく、その背後にある本当の「人工」であり、一部のいわゆる人工知能による翻訳は、その背後で人が辞書をめくっているものなのかもしれない。

2008年には、音声メッセージをテキストに変換できると主張するSpinvoxという会社がありましたが、実際の作業は海外のコールセンターで手作業で行われていました。 2016年のブルームバーグのレポートによると、X.aiとClaraの従業員はAIチャットボットのふりをするのに1日12時間を費やしていた。 2017年、ビジネス経費管理アプリExpensifyは、自社が主張していた「インテリジェントスキャン技術」を使用せず、領収書を手作業で転記していたことを認めた。

この詐欺ゲームでは、メディアと機関はそれぞれ独自の欲望を持っています。メディアは注目と注目を集めることを求め、企業や機関は株価を上げ、製品の売上を増やし、何度も資金調達を行うことができます。

人工知能の表層が明らかになっても、彼らに実質的な影響はほとんどないだろう。彼らはすでに逃げる準備をしているが、実際に支払うのは中小規模の投資家だ。確かなのは、人工知能ブームで自らをパッケージ化し、資金を獲得した企業の大多数が、最終的には無に帰するだろうということだ。

世界トップクラスのハッカーの一人であるケビン・デイビッド・ミトニック氏は、2017年8月に開催された中国インターネットセキュリティリーダーサミットで、次のように冷酷に語った。「私は、人工知能の要件を真に満たす中核的なツールや技術に実際に触れたことはありません。本物の人工知能製品はまだ存在していません。すべてのAIは偽物です。」

4

人工知能の概念はどこにでもあります。密かに「人工知能」を「人工」に置き換えるだけでなく、データ分析を人工知能と見なす企業も多数あります。これらの企業の一般的な進化の道筋は、小規模データ分析企業 - ビッグデータ企業 - 人工知能企業です。実際、名前の進化を除けば、実際の業務はほとんど変わっていません。

企業の業務がデータに関係していれば、人工知能と呼べると誤解している人は多い。実際、人工知能企業と一般的なデータ分析企業の主な違いは、人工知能システムは反復的であり、分析するデータが増えるほど、システムが賢くなることです。たとえば、Google が取り組んでいる自動運転システムは、車両が道路を走行した距離に基づいて継続的に改善できるため、人工知能です。しかし、データに基づいていつ食べ物を配達するのに最適な時間を分析するだけであれば、それは人工知能ではありません。前者は反復して自己学習しますが、後者はそうしないからです。

一般的に言えば、3 か月ごとに人工知能プロジェクトを調べて、そのアルゴリズムの進歩が幾何学的ではなく代数的であることがわかった場合、それは通常のアルゴリズム、または疑似人工知能に近いと言えます。強力な人工知能は自ら進化するため、急速に進歩する必要があります。

しかし、実際のところ、このような自己進化を実現するのは、現時点ではかなり難しいようです。最も注目されているディープラーニング技術をもってしても、明確な方向性は見えていません。 2018年8月、「世界の知恵を共有し、未来の技術をリードする」をテーマにした世界科学技術イノベーションフォーラムで、ノーベル経済学賞受賞者のトーマス・J・サージェント氏は次のように述べた。「現在の人工知能は実際には統計学ですが、非常に派手な言葉を使用しており、多くの公式は非常に古いものです。」

「シリコンバレーのスピリチュアル伝道師」として知られる人工知能と認知科学の世界的専門家、ピエロ・スカルフィ氏も、「人工知能の最大の問題は常識がないことです。人々は何十年もこの課題の解決に取り組んできましたが、おそらく私たちは間違ったアプローチをとっているのでしょう。現在、すべての焦点はディープラーニングに当てられていますが、ディープラーニングは常識を獲得できません。ディープラーニングは大量のデータを収集し、基本的に統計的な作業を行うだけです」と考えています。

5

もちろん、すべての企業が人工知能の看板を使って資本をだまし取っているわけではなく、実際に人工知能の開発を促進する取り組みを行っています。しかし、人工知能の探究のいくつかの方向性には、依然として注意が必要です。

たとえば、一部の人工知能は、人間に非常に似たものになることを盲目的に追求するという、あまり正しくない方向に向かっているようです。たとえ本当に似ていたとしても、それがどうしたというのでしょう? 実際、歩行、バランス、感情など、人間にとって簡単なことほど、機械にとっては難しいのです。人間にとって難しいことほど、大量のデータ処理能力やメモリなど、機械にとっては簡単になります。したがって、人工知能の方向性としては、人間が簡単だと思う部分を置き換えるのではなく、人間が困難だと思う部分を置き換えることにあるのかもしれません。

人工知能には2つの応用形態があります。1つは囲碁しかできないAlphaGoのように、1つの分野にのみ強い弱い人工知能であり、もう1つはあらゆる面で強い強い人工知能です。この段階では、弱い人工知能は人間よりも強力ですが、強い人工知能は人間よりも弱く、非常に未熟です。

人工知能の優位性は人間よりも賢いということではなく、考え方が人間と異なることです。人工知能の開発方向は、人間との類似性を重視することではなく、人間の知能を補完し強化することです。人の考え方というのはあくまでも特定の考え方であり、世の中にはさまざまな考え方が存在します。ケビン・ケリーは前著『テクノロジーが求めるもの』の中で、テクノロジーを生命の第 7 の存在形態と表現しました。人類が定義した 6 つの生命形態、植物、動物、原生動物、菌類、原細菌、真正細菌と同様に、テクノロジーも自律的に進化する能力を持つ一種の生命です。

さらに、人工知能が真に人類の発展を促進するためには、人間と感情的に交流する能力も持たなければなりません。そうでなければ、それはいつまでも機械のままでしょう。人と人との交流が意味を持つ理由は、人間関係の 70 ～ 80 パーセントが感情によるものだからです。

人々が互いに感情的なコミュニケーションや交流を感じることができるのは、私たちの脳にミラーニューロン群があるからです。その機能は、相手が喜び、悲しみ、不安などさまざまな表情を顔に表すと、あなたの顔も無意識のうちに同じ表情で応えるというものです。人工知能はある程度の進歩を遂げていますが、感情への対応に関してはまだ大きなギャップが残っています。感情的な問題が人工知能の基盤となる層に入り込まなければ、人工知能は結局、人間とのやりとりができない単なる機械構成になってしまいます。

そのため、人工知能には、カメラを使用して人間の表情を捉え、アルゴリズムを使用して人間の感情を理解し、感情に基づいて人間と対話する感情ミラーリング技術が必要です。

6

人工知能が未来の方向であることに疑いの余地はありません。しかし、短期的には、あまり高い期待を抱かないようにしなければなりません。さもないと、再び地面に「死体」の山が積み上がることになるかもしれません。

人間の運転手を必要としない車がすぐに道路を走るようになるとは思わないほうがいいでしょう。実際のところ、私たちはまだその時代から程遠いのです。率直に言えば、現在の人工知能の分野は、長時間振られたビールのグラスのようなもので、本物のビールも入っていますが、もっと重要なのは、泡がたくさん出ていることです。人工知能は、初期のインターネットと同様に、金儲けの黄金の看板となっている。

IBM リサーチとワトソン チームで 15 年間勤務したミシェル ゾウ氏は、人工知能を 3 つの段階に分類しています。第 1 段階は認識知能で、より強力なコンピューターと、大量のテキストからパターンやテーマを識別できる強力なアルゴリズムを備えています。第 2 段階は、パターン認識を超えてデータから推論を行うことができる認知知能マシンです。第 3 段階は、マシンが人間のように考え、行動できる段階です。

まだ最初の段階であり、コンピュータービジョンであれ音声認識であれ、すべての人工知能はデータの提供を人間に依存しています。

少なくとも今のところは、人工知能であると主張されているものの多くは、「機械自動化」と呼んだほうがよいかもしれません。インテリジェントな時代が到来するのはまだ遠い。

たとえその日が来たとしても、私たちは常に次の2つの点について警戒しなければなりません。1つ目は、個々の機関やグループによる人工知能の制御によって生じる全体的な社会権の不均衡です。 2つ目は、人工知能の暴力的な傾向です。

イギリスの哲学者ラッセルはかつてこう言いました。「物理学の基本概念はエネルギーであり、社会科学の基本概念は力である。社会力学の法則の解釈は力と切り離せないものである。」中世の社会運動家マキャヴェッリは、当時の残酷な社会現実を踏まえて、権力は本質的に暴力、欺瞞、残酷さ、戦略的攻撃と切り離せないものであり、集団がこれらの手段を習得すればするほど、より大きな力を持つようになると指摘した。暴力、欺瞞、残虐行為、戦略的攻撃の手段が失われると、権力の存在の根拠は失われます。

人工知能は、将来の基本的なツールとして、その中核を極小のグループの人々だけが習得でき、人々の生活のあらゆる側面に影響を与えるため、すでに不均衡な人間間の力をさらに不均衡にするでしょう。

さらに、人工知能技術の進歩により、将来的には一般人が広範囲にわたる暴力を生み出す能力を持つようになるかもしれません。例えば、顔認識やドローンナビゲーションなどのオープンソース技術の普及により、一部の犯罪者がこれらの技術を利用して犯罪を犯すことが可能になりました。自律型ドローンに顔認識機能があり、ターゲットに対して正確な攻撃を仕掛けることができたらどうなるでしょうか。世界はどうなるでしょうか?

7

人類が人工知能社会に到達するまでにはまだまだ時間がかかりそうですが、人工知能の発展は依然として恐怖を伴います。 2018年3月、グーグルが軍と協力していることが明らかになり、多数の従業員から抗議が起こり、各方面から批判が集まった。これに対して、Google CEO のサンダー・ピチャイ氏は 2018 年 6 月に AI の利用に関する 7 つの原則と 4 つの基本方針を発表しました。

これら7つの原則の具体的な内容は、 ①社会に有益であること、②社会的偏見を生み出したり悪化させたりしないこと、③安全性を確保するために事前にテストすること、④人間の責任、つまりAI技術は適切な人間の指導と管理の対象となること、⑤プライバシーを保証すること、⑥高い科学的基準を順守すること、⑦主な用途、技術の独自性、規模などの観点から検討することなどです。

4つの基本方針は、 ①損害をもたらす、または危害を引き起こす総合的な技術については、そのメリットがデメリットを上回ることを保証し、安全性を確保するために適切な制限を設ける、②AIは人間に危害を与える武器やその他の製品の製造に使用されない、③AIは国際的に認められた規範に違反する監視のためにユーザー情報を収集または使用するために使用されない、④AIは国際法や人権を侵害する技術の開発に使用されない、というものです。

これは Google だけの原則や目標ではなく、人工知能の開発に携わるすべての企業の原則や目標であるべきです。このようにして初めて、人工知能は人類自身を破壊するツールではなく、人類に利益をもたらすツールとなることができるのです。