ディープラーニングにも欠陥があり、同質のAIスタートアップ間の競争は熾烈になるだろう

[[186262]]

この人工知能の波は急速に到来し、画像認識、音声認識、自動運転など、多くの難題を次々と克服し、まさに宇宙の中心に立っています。資本家、メディア、起業家に至るまで、誰もがこの分野に大きな熱意を持っています。

観客にとっては、おそらく次のような印象を受けるだろう。いつの間にか、AI の新興企業が至る所に現れ、大手企業が市場に参入し、一夜にして AlphaGo がトップクラスのチェス プレイヤーを席巻し、世界のチェス界を制覇した。次は、将来、一般の人々が仕事を失い、ロボットに奴隷化されることを誰もが心配すべきだろうか?

[[186263]]

アリストテレスもまた、自身の知性とそのシミュレーションについて疑問を投げかけました。

しかし、紀元前 300 年にまで遡り、1956 年まで正式に「人工知能」と名付けられていなかったこの分野を真剣に検討すると、この熱狂の波を引き起こしたのは「人工知能」そのものではなく、この分野の機械学習の技術、つまりディープラーニングであることがわかります。

人工ニューラルネットワークを構築することで、これまで人類が到達できなかった多くの難題を初めて解決し、人工知能がこれまでにないほど人間の生活と交差することを可能にし、最大の注目を集めました。

しかし、ディープラーニングは本当に素晴らしいのでしょうか? 致命的な欠陥はあるのでしょうか? 将来はどうなるのでしょうか? Titanium Media のシリコンバレー記者は、AI 分野の起業家、学者、投資家にインタビューし、EDX の人工知能コースにも登録して、次のような予備的な回答を得ました。

ディープラーニングにも致命的な欠陥がある

ベンチャーキャピタル界が人工知能とディープラーニングの追求に新たな注目を向けているのは、実は「人工ニューラルネットワーク」の復活である。数十年前、多くの学者が熱心に研究しましたが、当時の技術の限界、不十分な計算能力、非常に小さく浅いニューラルネットワークのため、注目を集めた後は沈黙し、投資家も興味を失いました。

インフラ分野の進歩に伴い、コンピュータの計算能力やデータ資源の蓄積能力は絶えず向上しており、数学、システム制御、経済などの分野の技術も絶えず統合されており、人工ニューラルネットワーク技術は再び歴史の舞台に登場しました。しかし、この時は前回の「AIの冬」の影響がまだ残っていたため、洞察力のある人々が新たな名前を付けて次の開発ラウンドを進めました...

このアプローチが効果的だったことは疑いの余地がない。

21世紀に入り、ディープラーニングによって人工知能が初めて人々の生活における問題を解決できるようになり、その存在感は非常に強くなりました。その特徴は、従来のようにさまざまな問題を解決するためにハードコーディングに頼るのではなく、人工ニューラルネットワークを模倣したアーキテクチャを構築し、大量のデータによるトレーニングを通じて機械が自らルールを見つけられるようにすることです。

これには、複雑な人工ニューラル ネットワークの複数の層が関係しており、多くのトレーニングを経ることで、機械は最終的に非常に高い精度で結果を生成できるようになります。多くの分野で、ディープラーニング技術は驚くべき成果をもたらしました。AlexNet、AlphaGo、自動運転、画像認識、機械翻訳など...

しかし、「ディープラーニング」（つまり「ディープニューラルネットワークに依存する機械学習」）には、ほぼ本質的な欠陥もあります。これらの複雑な人工ニューラルネットワークは、他の人に説明することが非常に難しいだけでなく、学者自身でさえ、作成したシステムがどのようにその結果に達したかを検証できないのです。

これはひどい機能です - 「解釈不可能」です。学術の世界では、これは人間が機械がなぜ特定の結果を出したのかを知ることができないことを意味します。気づかないうちに「エラーを見つける」機会を失ってしまう可能性があります。

機械学習学者のリッチ・カルアナ氏は、このような生死に関わる「エラー」が発生した事件について次のように述べている。

ピッツバーグ大学医療センターのチームは、さまざまな機械学習技術を使用して、肺炎患者が重篤な合併症を発症するかどうかを予測しています。これにより、重篤な合併症を発症するリスクが低い患者は早期に退院できるようになり、ベッドの圧迫や医療スタッフの負担が軽減されます。

しかし、ルールを学習できる機械学習システムの 1 つは、グループが奇妙だと感じたルール、つまり、喘息を患っている肺炎患者全員を退院させるというルールを出力しました。

この奇妙な規則を解釈するために、彼らは病院の規則を調べたところ、次のような規定を発見した。「喘息患者は肺炎に罹ると重篤な合併症を起こしやすいので、特別な注意を払う必要がある。」この病院ではこの規則が厳格に施行されているため、虚弱な患者が実際に合併症を起こすことはほとんどありません。

これは、データだけを見る機械の限界だ。「誤って患者を殺してしまう可能性もある」と学者は結論付けた。

今回は複数の方法を使ったので、ルールを出力するこの方法をもとに発見したそうです。もし人工ニューラルネットワークだけを使っていたら、人々はおそらく、この一部の人々がそれによって「退院可能」とマークされたことだけを知り、その後、肺炎の合併症の数が急増したことで、しばらく経ってからそのことに気づくだろう...

「人工知能はデータを分析することしかできず、データモデリングを現実世界と直接的に一致させることは難しい」とシリコンバレーの投資家グオ・ウェイ氏は記者団に語った。もちろん、これは永続的な欠陥ではないかもしれません。一部の学者はすでに人工ニューラル ネットワークの「行動習慣」を研究しており (そうです、野生動物を研究するのと同じように)、このプロセスを通じて人工ニューラル ネットワークを「解釈」する方法を見つけたいと考えています。

一方で、現在のディープラーニング技術には、学習の基盤として大量のデータを必要とするものの、学習から得られた結果を他の問題に適用することが難しいという別の問題もあります。

非常に単純な例としては、かつて中国、日本、韓国の囲碁の天才たちを打ち負かした AlphaGo が、チェッカーのゲームでは無力になる可能性があるということです... これはまた、多大な労力とデータを使ってトレーニングされたモデルを、業界全体、あるいはプロジェクト全体に適用することが難しいことも意味します。

[[186264]]

1997年、世界チェスチャンピオンのガルリ・カスパロフはディープ・ブルーと対戦した。

同質のAIスタートアップ

ディープラーニングはまだ完璧な技術ではないが、「世界の注目を集める」ことに成功し、業界の進歩は加速している。

「現在、人工知能業界は『至る所で花開く』段階にあり、さまざまな方向でイノベーションが見られる」ワシントン大学で人工知能の博士号を取得した徐有氏は、かつてフィットビットで機械学習チームを率いていたが、同社を退職後、AI起業の波に乗って、AIを使ってプログラマーがより優れたコードを書けるように支援する会社を設立したと、Titanium Mediaに語った。

例えば、前述のGoogle翻訳は、ある程度人間のような転移学習機能を実現しています。これは将来的にも非常に有望な AI 起業の方向性であることは間違いありません。

さらに、モデルアーキテクチャ、トレーニング方法などにもさまざまな革新が見られます。たとえば、DeepMind は完全に人工的なニューラル ネットワーク アーキテクチャを提案しました。「これは生物学からヒントを得たものではないかもしれませんが、これを実現するには問題に対する深い理解が必要です」と Xu You 氏は述べています。

トレーニング方法とは、機械に「学習方法」（学習することを学ぶこと）を見つけさせることを意味します。人が自分の犬を訓練する場合、訓練方法が異なれば結果も異なります。これは機械を訓練する場合でも同様です。

現時点ではディープラーニング、さらには人工知能の将来を予測するのは難しいが、業界には「ディープラーニングは市場に驚きをもたらし続け、ディープラーニング技術に基づく現在の人工知能起業エコシステムも再編に直面するだろう」というコンセンサスがある。郭偉氏は記者団にそう語った。シリコンバレーの著名な初期投資家として、彼は目覚ましい成果を上げています。CB Insightsが発表したばかりの人工知能業界を変革するスタートアップ100社のリストでは、彼はSkymind、Mode、Atomwise、TalkIQに投資しました。

ベンチャースキャナーが今年発表したデータによると、世界中の人工知能企業の数は1,464社に達し、そのうち3分の1以上が機械学習関連企業だという。

画像はVenture Scannerより

人類にとって極めて重要で、競争が激しく、均質化に直面しているあらゆる産業にとって、この未来を想像するのは難しくありません。ある時点で、巨大企業が市場に参入し、物語は終わります。

「人類にとって本当に価値のある問題は限られており、大企業はこれらの問題を多数の中小企業に任せることは絶対にありません」と徐有氏は述べ、このような競争に直面した場合、モデルの優位性はスタートアップにとっての堀となることはほとんどないと考えていると語った。大手企業が市場に参入した後、テクノロジーに重点を置く小規模な AI スタートアップ企業の将来が暗いことを予測することは難しくありません。 Xu You 氏はビジネスを始めてしばらく経った後、次のようなブログ記事を書きました。

現在、独自のモデルやアルゴリズムを持っていると主張する人たちは、特定の方法に賭けて、世界中のすべての研究者と競争しています。現時点では、これは効果がない運命にあります。明日、DeepMind がどんなブラック テクノロジーをリリースして、あなたの独自のモデルを一瞬で凌駕するかは誰にもわかりません。おそらく、この道をあと数年歩み続ければ、いくつかの企業は確かに他社より優位に立てるようになるだろう。

現時点では、誰もが同じスタートラインに立っており、モデルやアルゴリズムの優劣は無視できる状態です。

Oriza Ventureのパートナーであるジョン・ユー氏がインタビューで述べたように、ディープテクノロジーに直面すると、一般の人々や一部の投資家でさえも、そのテクノロジーの「先進性」に注目しすぎる傾向があり、ある点を無視している。それは、ごく少数の破壊的テクノロジーを除き、ほとんどのテクノロジーは、その価値を真に実現し「商業的見込みのあるプロジェクト」となる前に、業界に足場を築き、テクノロジー以外の側面で競争上の優位性を確立しなければならないということだ。

人工知能企業も同様だ。画像処理や音声認識など、さまざまなAI業界の課題が徐々に「解決済み」となりつつある今、激化するAI分野で足がかりを得るチャンスなのかもしれない。