「人工バカ」、いつまで我慢できるの？

[[251715]]

毎年、メディアでは AI の失敗に関する報道が見られます。なぜこのようなばかげたことが起こったのか、私たちは考えたことがありますか? この記事では、AI の失敗と、AI に対する一般の人々や専門家の態度を検証し、いわゆる「人工知能」の非技術的な原因を探ります。

2018年11月、Xiaomi AIoT（人工知能+モノのインターネット）開発者会議で、「Lei Jun」は新しいスマートスピーカー「Xiao Ai」を誇らしげに披露しました。

[[251716]]

雷軍： 「シャオアイ、何ができるの？」

シャオアイ「私はまだ若いので、この質問は難しすぎます...」

……

雷軍： 「3本の木はどういう意味ですか？」

シャオアイ： 「木の3つのポイント...」

雷軍： 「3本の木はどういう意味ですか？」

シャオアイ： 「あなたは電気であり、あなたは光であり、あなたは唯一の神話です。」

雷軍： 「3つの木の中の木の名前は何ですか？」

シャオアイ： 「木にくっついている木材を見ると、あなたは楽観主義者だと感じます...」

雷軍： 「小愛、実演する時いつも間違えるの？」

恥ずかしくなった雷軍は、シャオアイに「125と357と567を足すと何になるの？」と尋ね続けたが、シャオアイは「仕事を休んで」答えるのをやめ、観客全員が大笑いした。

Xiaomi は中国のスマート ハードウェアの最高レベルを代表していますが、ステージ上の AI 製品は、ステージ外の観客の目には単なる「人工的な遅延」にしか見えないかもしれません。

雷軍はその場面で少し恥ずかしがり、ネット上では雷軍のために新しい曲を書いてほしいという声が上がった。何しろ、あの洗脳曲「Are You OK」は3年以上も人気があるのだ！

実際のところ、人工知能の失敗で恥ずかしい思いをした企業は Xiaomi だけではない。

AIの最高の時代が到来したのか？

2016年、プライマリー市場では投資できる良いプロジェクトがないと不満が表明され、セカンダリー市場では購入できる良い株がないと不満が表明されました。その年、「アルファ碁」と呼ばれるロボットが韓国の囲碁プレイヤー、イ・セドルを破った。1年後、世界囲碁チャンピオンの柯潔は、自意識がなく、囲碁を打っていることすら知らないこの機械に3回連続で負けたことに再び涙を流した。

この事件のおかげで、私たちは突然、メディアから「人工知能（AI）」という新しい用語を知ることになったのです。

囲碁のゲームが AI の波を引き起こしましたが、これは実は歴史上 3 番目の AI の波です (最初の 2 つは失敗に終わりました)。

AIは「動物」と同じように大きな言葉で、無脊椎動物と脊椎動物に分かれています。第一レベルの分類によると、哺乳類、両生類、爬虫類などがあります。現在私たちが理解している AI の概念は広すぎます。現在の AI は、大量のデータ (ラベル付きデータ)、強力なコンピューターの計算能力、アルゴリズム モデルを組み合わせた機械学習と同等です。

例え話で言えば、今日の機械学習は F1 カーのようなものです。チャンピオンシップで優勝するには、最高のガソリン燃料 (ビッグデータ)、最速のエンジン駆動車 (コンピューティング能力)、そして最も効率的なドライバー (アルゴリズム) が必要です。

百度はオープンな自動運転プラットフォーム「アポロプロジェクト」を立ち上げ、春節祝賀会で百度の無人運転車を公開した。アリババはコンピュータービジョン技術に基づいて杭州の複数の信号機を制御し、スマートマシンの頭脳を使用して都市交通の運営を支援し、交通の流れをインテリジェントに誘導した。テンセントは中国初のAI診断・治療オープンプラットフォームを発表し、AI医師が簡単に写真を撮り、血圧や脈拍を測定できるようになった。

人間の労働者と比較して、AI には少なくとも 3 つの利点があります。

• 大規模かつ常に更新されるデータベース - 強力な記憶力とさらに強力な学習能力
• 人間よりもはるかに速い - 強力な計算能力
• 疲れたり、空腹になったり、病気になったりすることはなく、感情に左右されずに働きます。

しかし、これは狭義の人工知能の利点に過ぎず、まだ強いAIには程遠いものです。

テグマークは著書『Life 3.0』の中で、人生の発展の3つのバージョンについて説明しています。単純な複製細胞から、道具を使い性的に生殖できる人間、ソフトウェアとハ​​ードウェアを自己複製できる強力な人工知能まで、生命はより高度な発展の方向性を見つけたようです。 「エジソンの後継者」として知られるグーグルの未来の預言者レイ・カーツワイルは、次のように語った。「2045年に、我々はシンギュラリティ（コンピューターの知能と人間の脳の知能が両立する魔法の瞬間）を達成するだろう。」

神が人間を創り、人間が人工知能を創ったのかもしれません。これらの素晴らしいアプリケーションやアイデアは人類を豊かにしたのでしょうか？人工知能の最高の時代が到来したのでしょうか？

いいえ、実際のところ、AI は私たちから「とても近く」、そして「とても遠い」のです。

『シリコンバレーの1世紀』の著者ピエロ・スカルフィ教授は、今日の技術革新のスピードと量は、前世紀初頭のレベルとはまったく比較にならないという意見をDTに表明した。彼はこう信じている。「人類は、真に知的な機械からまだ程遠い。私は人工知能の到来を恐れているのではなく、逆に、それが十分な速さで到来しないのではないかと恐れているのだ。」

2018年4月、「人工知能の巨匠」マイケル・ジョーダン教授（バスケットボール選手ではない）が「人工知能：革命はまだ起きていない」と題する長い記事を発表し、現在人気の人工知能に冷水を浴びせた。 「AIの進歩が限られていることに対する興奮（と恐怖）が業界の過剰反応とメディアの過剰な注目につながり、AIの成功は限られてしまった」と彼は書いている。

実のところ、現時点では「強い人工知能」（汎用人工知能）は存在しません。人間の仕事を補助したり、一部の機能を代替したりする機械は「弱い人工知能」（そのため、少し愚かに見えることもある）としか呼べません。 Facebookの主任AI科学者であるヤン・ルカン氏は、現在人間が接しているAIシステムには真の人工知能は存在せず、そのどれもが生物システムの能力に匹敵することはできないと考えている。

未来学者マーティン・フォード氏は、新著『Architects of Intelligence』の中で、ディープマインド（AlphGoを発明した企業）の創業者デミス・ハサビス氏、グーグルの人工知能チーム責任者ジェフ・ディーン氏、スタンフォード大学教授フェイフェイ・リー氏など、今日の人工知能分野で最も優れた科学者23人にインタビューし、AGI（強力な人工知能/汎用人工知能）が実現する確率が50％になる年を推測するよう依頼した。

回答は極めて二極化した。カーツワイル氏は2029年と答えたが、ロボット工学の専門家でiRobotの共同創設者であるロドニー・ブルックス氏は2200年と答えた。残りの推測はこれら 2 つの極端な値の間に分散しており、平均推定値は 2099 年、つまり今から 81 年後です。

このような結果は驚くべきことではないようです。なぜなら、AI技術の広範な応用は、技術自体のブレークスルーであるだけでなく、境界問題、責任問題、倫理的問題ももたらすからです。実験室では発生しないであろうこれらの矛盾や懸念は急速に醸成されており、緊急に一つずつ議論して解決する必要があります。

人工的な「精神障害」の真実

人工知能の発達を見ると、「知的障害者」事件が至る所で発生しています！

少し前に「董さんが信号を無視」というニュースがメディアで大きく取り上げられました。スマートカメラは信号を通過するバスの車体に貼られた広告に写っている董明珠の画像をスキャンし、誤ってバスが赤信号を無視していると判定した。交通警察はすぐに情報を削除し、その後システムをアップグレードしたが、このようなミスは人々にいわゆる「スマート交通」に対する疑念を抱かせた。

歩行者を誤認することは大したことではないが、誰かが亡くなったら深刻な問題となる。 2018年3月、アリゾナ州郊外でウーバーの自動運転車が女性をはねて死亡させ、完全自動運転車による世界初の死亡事故を引き起こした。その後、グーグルやテスラなどの自動運転テストで次々と事故が発生し、米国の多くの場所で自動運転テストが中止された。

2015年にドイツのフォルクスワーゲン工場でロボットが人間の労働者を殺害した。 21歳の作業員がロボットの設置と調整を行っていたところ、ロボットが突然「襲い掛かり」、作業員の胸部を直撃し、金属板に押し潰した。作業員はその場で死亡した。

前述のように、機械には感情はありませんが、感覚もなく、特別な状況で正しいことと悪いこと、良いことと悪いことを区別する能力もありません。

近年、人工知能は「人種差別」の問題にもさらされている。 Googleの画像認識アルゴリズムは黒人に自動的に「ゴリラ」というラベルを付けてしまうが、Googleがこの技術的問題を解決する方法は「ゴリラ」という単語のラベルを禁止することだ。AmazonのAlexaアシスタントのスピーカーは理由もなく不気味な笑い声を出す。Twitterプラットフォーム上のMicrosoftのチャットロボットTayは人間との会話で不適切な発言をし、人種差別的なロボットとなり、直接「解雇」された...

つまり、複雑な現実世界では、AI が実行できないことや、失敗することが多くあるのです。したがって、人々は「人工知能」の責任者は誰なのかを考えなければなりません。

しかし、さらに疑問に思うのは、なぜ AI は間違いを犯すのか、ということかもしれません。

AIは70年も開発が続けられていますが、ディープラーニング（機械学習の最先端技術、人工ニューラルネットワーク）の発明以降10年以上新しい技術は生まれておらず、現状ではAIの中核はデータとアルゴリズムに集中しています。買い物が好きな消費者にとって、Taobao や JD.com などのプラットフォームでの商品の自動推奨は、最も直感的な体験です。

ショッピングサイトでスニーカーを閲覧すると、次回ログインしたときに、スポーツ用品に関するプッシュ通知が大量に届きます。これは、ビッグデータを収集した後に人工知能が行うことであり、アルゴリズムが分類された方法であなたにラベルを付けます。コンピューティング リソースは絶えず増加し、データ プールは拡大していますが、データ収集の不完全性は依然としてディープラーニングの主な障害であり、人工知能が「知的障害者」になった直接的な理由の 1 つです。

典型的なケースとしては、医療チームが患者の血液サンプルの診断を支援するために AI を使用したところ、AI によって診断された陽性結果の数が予想をはるかに上回っていたことが分かりました。乖離が生じる理由は、データベースに使用されている血液サンプルは主に健康な若い大学生のものであるが、病院の患者は高齢であるため、人工知能が「高齢者の血液」を「病人の血液」と誤って判断してしまうためである。

AIの実践には、正確かつ包括的なデータ収集が非常に重要であることがわかります。

メディアのプロパガンダは、AI が万能であるという議論につながる導火線です。ピエロは著書「知能の本質」の中で、メディアによる AI の神格化に不安を表明しています。人間と機械の囲碁対決では、AlphGo は 1 時間あたり約 440 キロワットのエネルギーを消費しましたが、実行できることは 1 つだけでした。一方、反対側の人間の対局者は 20 ワットのエネルギーしか消費しませんでした。したがって、簡単な数学の問題を解けば、AI を神格化する人々は「賢くない」ことがわかります。

遅れるだけで決して逃さないAI

通常、AI に対する人間の態度は 3 つのカテゴリに分類されます。

最初のカテゴリーは、AIに強く反対するラッダイト派（産業革命時に機械を破壊した買収企業）、2番目のカテゴリーはカーツワイルのような超楽観主義者、3番目のカテゴリーはアンドリュー・ンに代表される第一線のAI科学者で、AIの役割と重要性は肯定するものの、AIがすぐにすべてを変えるとは考えていない。

[[251720]]
（写真キャプション：産業革命期に機械を破壊したラッダイト運動。出典：インターネット）

現在、AIは特定の分野で人間の仕事を置き換え始めています。イノベーションワークスの創設者であるKai-Fu Lee氏は、5〜10秒で決定できる仕事はAIに置き換えられると考えています。そのため、AIに反対する声は主に単純作業や反復作業を行う労働者から出ており、一方で実業界の第一線の研究者はAIに対して楽観的であると同時に慎重でもある。

AI は依然として間違いを犯しますが、AI をより賢くし、人間をよりよく支援できるようにするために昼夜を問わず取り組んでいる科学者のグループがあります。これらは、AI による麻薬取締りや AI による犯罪解決など、私たちが目にしてきた事例です。

2010年、米国サウスカロライナ州ドーチェスター郡の警察は、スマートメーターで収集された家庭の電力使用量データを分析して、自宅でマリファナを栽培していた男を逮捕した（家を密閉し、窓を釘で打ち付ける必要があったため、大量の電力が必要だった）。 2018年の「ジャッキー・チュンコンサート犯罪者逮捕事件」は、十分なデータラベルと動的な顔認識技術の組み合わせが完璧に表現された事例でした。

2017年、国務院は「新世代人工知能発展計画」を公布し、AIを国家戦略に昇格させた。この文書は次のような一文で始まる。「人工知能の急速な発展は、人類の社会生活を大きく変え、世界を変えるだろう。」

自己認識力があり、間違いのない強力な人工知能はまだ遠いかもしれないが、いつかは未来がやって来て、人類は真に強力な AI 時代を迎えなければならないことは明らかだ。