自動運転車の実現はAIと人間のゲームである

「人間がテクノロジーを生み出すペースは加速しており、テクノロジーの力は指数関数的に成長しています。指数関数的な成長は欺瞞的です。それは非常に小さな増加から始まり、信じられないほどのスピードで爆発します。その開発動向に細心の注意を払わなければ、この成長はまったく予想外のものになるでしょう。」

Inc. 誌で「トーマス・エジソンの後継者」と称されたレイ・カーツワイルは、『The Singularity Is Near』の中でこう書いている。 13の名誉博士号を持つこの世界有数の発明家は、人工知能によって強化された未来社会の絵を描きました。

[[269850]]

レイ・カーツワイルは、ムーアの法則の存在により、技術は飛躍的に成長し、人類社会は2045年に人工知能のシンギュラリティに到達すると考えています。第二に、生物学的形態に基づく人間は本質的に高度に複雑なニューラルネットワークの下にあるアルゴリズムシステムにすぎず、将来的にはより高度なアルゴリズムシステムに置き換えられることは避けられません。​

「盲目的な楽​​観主義は、最も恐ろしい大量破壊兵器かもしれない」。ピエロ・スカルッフィ氏はこう考えている。「人工知能は新しい概念ではない。1956年かそれ以前に誕生した。しかし、過去にはコンピュータ処理システムが十分に強力ではなかったため、人工知能は急速に発展しなかった。」

現実における人工知能の応用範囲から判断すると、AI自動運転車の分野における現在の進歩は、ピエロ・スカルッフィ氏の見解を裏付けているように思われます。人類の歴史における主要な変革の節目を振り返ってみると、蒸気機関の改良であれ、内燃機関の発明であれ、輸送分野は常に先進技術の応用の最前線にあったことが分かります。

源泉を遡れば、近年の無人運転技術の爆発的な発展の技術的基礎も、2006年にヒントンがディープラーニングの分野で成し遂げた革命的な成果に由来している。その結果、ニューラルネットワークに基づくディープラーニングアルゴリズムは、コンピュータービジョン、音声認識、コンピューター行動意思決定に深く応用され、無人運転ソフトウェアレベルの技術的基礎を形成した。無人運転の工学的応用を実現する上で、大きな技術的障壁はない。したがって、無人運転の限界は、依然としてディープラーニングに基づくAI技術の限界にある。

一方、AI技術をベースにしたL4レベルの自動運転は実用化段階に入り始めている。現在、Google Waymo、Tesla AutoPilot、Baidu Apollo、General Motors Cruise はいずれも L4 レベルの自動運転を実現しています。

自動運転の弱点

2016年に米国で、自動運転のテスラ モデルSが白いトレーラーに衝突し、運転手が死亡した。これは自動運転車が関与した初の死亡事故だった。

その後、専門家らが事故現場の環境を分析し、直射日光が強く、カメラに頼る画像認識システムが前方を横切る白いトラックを適時に検知できなかったと指摘した。同時に、ミリ波レーダーの位置が低く、一般的なミリ波レーダーの垂直視野角が±5°以内だったため、テスラ車がトレーラートラックの側面に近づいた際、レーダービームがトラックを下から通過し、検知を逃し、事故につながった。テスラは事故後、自動運転システムを改良し、公式ウェブサイトでオートパイロットの定義を改訂した。

実際、安全性の問題は、無人運転技術の完全導入にとって最大の弱点です。ディープラーニングアルゴリズムに基づくAI技術で構築された無人運転システムは、「コンピューターの理解の偏り」によって引き起こされる運転安全性の問題をまだ真に解決していない。

AI技術の進化の観点から見ると、ディープラーニングアルゴリズムを中心とした「インテリジェンス」は、実は本当の意味でのインテリジェンスではなく、むしろ「動的計画法」の原理のもと、ビッグデータとディープラーニングアルゴリズムに基づいて統計的な意味での「最適解」を実現することです。したがって、現時点で無人運転車の安全性の問題を解決したいのであれば、この枠組みの中で「安全でない」可能性を人間の交通事故の確率よりも低いレッドラインまで下げ、無人運転車が何千もの家庭に導入される「受け入れの最低ライン」を確保する必要があります。

今年5月、寧波で開催された第6回中国ロボットサミットで、中国工程院院士の鄭南寧氏が「直感的なAIと自動運転」と題する講演を行った。鄭南寧院士は、アルゴリズムモデルではすべてのシナリオを網羅するモデルを確立することは不可能だが、「認知に基づくヒューマノイド自動運転を構築することで、AI自動運転はヒューマノイドの意思決定メカニズムを備え、交通シナリオにおける高度に動的かつ高度にランダムな変化に対処できるようになる」と提唱した。

私の意見では、現在の技術的条件では、人間の思考による意思決定メカニズムに基づくアルゴリズムモデルを確立して、AIに人間のような「意識」を与えることはできません。一方で、人間の意思決定は、運転シーンにおける固定された意思決定メカニズムではなく、自分の多面的な経験を通じて行われることがよくあります。他方、ほとんどの人の意思決定プロセスでは、感情的な要素が支配的であることが多いのに対し、アルゴリズムによる決定は100％合理的な決定であり、合理的な決定は特定の状況では「最適な選択」ではないことがよくあります。

映画「アイ、ロボット」（別名「アイ、ロボット」）では、ウィル・スミス演じるデイル・スプーナーが交通事故で少女とともに水に落ちました。人工知能ロボットは計算の結果、より生産性の高いデイル・スプーナーを救うことを選択し、少女の命を放棄しました。現実に同様の事件が発生した場合、人間の救助者は明らかに少女の救助を優先するでしょう。なぜなら、これが人間の本性の制約下での「最適解」だからです。

「AI安全の罠」に陥ったAI運転技術の「特異点」

将来を見据えると、無人運転車が旅行の分野に本格的に導入されるのは確実で、その頃には既存の交通ルールや道路形態も新たな変化を遂げているかもしれない。無人運転車が初めて実用化されてから無人運転時代の到来まで、人々は長い間「人間＋AI運転」のハイブリッド移動時代に生き続けるでしょう。このプロセスでは、対応する法律や規制もそれに合わせて適応させる必要があります。

安全性の問題がAI自動運転車の導入への「入場券」であるならば、自動運転車を既存の交通システムやルールに適応させることは、AIと人間の直接的な「ゲーム」です。

本質的に、AI自動運転車の進化は、利便性と安全性の向上を前提に、人間が徐々に移動の責任をAIに引き渡すプロセスです。このプロセスでは、人間が移動の分野で主導的な地位を維持しながら、移動の安全性と制御をAIに引き渡し、人力の解放を実現します。

このプロセスにおいて、ゲームの当事者の一人である人間は、非常に矛盾した考え方を持っています。一方で、人々はAIによって人的資源を解放し、旅行体験に「快適さ」をもたらすことを期待しています。他方、既存の技術条件では、AIの決定が安全性と倫理上のリスクをもたらすのではないかと人々は懸念しています。したがって、無人運転車の導入は、技術の導入だけでなく、社会の認知度や無人運転交通規制の面での体系的な適応も重要です。

意思決定レベルでは、ディープラーニングに基づくAIは、長い間「人間のような」意思決定モデルを持たないでしょう。そのため、AI無人運転車は本質的に安全リスクの低い交通支援ツールになると期待できます。この意味で、AI無人運転車の進歩は、人間のドライバーが「AI安全の罠」に陥るリスクを高めます。一方では、「非人間的な」AIはドライバーの安全を本当に保証することはできません。他方では、ますます進歩するAI無人運転技術はドライバーの「怠惰」を増大させ、潜在的な安全リスクを生み出します。

私の考えでは、自動運転が「AI安全の罠」を克服するための鍵は、AI自動運転技術の進化の特異点を正確に判断できるかどうかにあります。自動運転が技術的特異点に到達したかどうかを判断する原則は、次の2つの側面から考えることができます。

AIは「人間」の分析力と意思決定力（つまり、自立して考えることができる人工知能）を備えています。

ディープラーニングをベースにしたAI無人運転車の実際の道路走行における事故率は、人間の運転よりもはるかに低いです。

第二に、実用面から見ると、ソフトウェアプログラムはAI技術に欠かせない要素です。インターネットに接続すると、車両を制御するAIもサイバーハッカーからの攻撃を受けやすくなります。そのため、無人運転の実際の実装には、運転の安全性に加えて、ネットワークセキュリティの問題も解決する必要がある問題です。

では、真の無人運転車が実用化されるまでにはどれくらいの時間がかかるのでしょうか?

AI技術の発展の観点から見ると、2006年にディープラーニングの分野で画期的な進歩が遂げられて以来、ニューラルネットワークに基づくディープラーニングは急速に発展してきました。ビッグデータ、ディープラーニングアルゴリズム、コンピューティングパワーは、AI分野の3つの中核技術となっています。現在、AI技術の3つの要素であるコンピューティングパワーは、依然として強力なコンピュータによる物流サポートに依存していますが、ムーアの法則の失敗により、伝統的な半導体業界は徐々に技術的なボトルネックを迎えており、AI技術の進歩は新たな停滞に直面する可能性があります。

ムーアの法則の破綻は、現在の規模では、コンピュータの計算能力も物理的なボトルネックに直面しており、AI技術の成長には大量の計算能力のサポートが必要であることを意味します。AI技術の成長が新たな困難期に陥ることが予測されます。同時に、AI技術の発展の停滞は、無人運転の分野におけるAI技術の応用をさらに制限するでしょう。

既存のAI技術とその成長スペースを考えると、将来の無人運転車の実装は、クローズドシナリオでの商用実装と運転支援機能としての商用実装の2段階に分かれることは避けられません。しかし、インテリジェントな無人運転車を真に実現するには、まだ長い道のりがあります。

レイ・カーツワイルの「シンギュラリティは近い」を読むと、人工知能の時代がすぐそこまで来ているように思えてため息が出ますが、カーツワイルは著書の中で「人々は短期間で達成できる目標を常に過大評価し、達成に長い時間を要する目標を過小評価する傾向がある」と書いています。真の人工知能が人類社会に及ぼす重大な影響について、私たちはまだほとんど知らないかもしれませんが、人々は現在のAIの実用化についてより合理的な理解を持つべきであり、それがAI技術の長期的な繁栄の鍵でもあります。