ベセット氏との対話：自動運転車が人間の信頼を勝ち取るのはいつでしょうか？

[[257915]]

編集者注:自動運転車が私たちの信頼を得られるのはいつでしょうか? 「十分に安全」とはどのように定義されるのでしょうか?

安全性に関しては、機械と人間にはまったく異なる基準が求められます。 2016年、米国では34,439件の死亡交通事故が発生したが、人々は他の人間と一緒に運転することは「十分安全」だと考えている。事故は悲劇ですが、起こるものであり、避けられないものです。しかし、道路が自動運転車で溢れ、3万件の死亡事故があったとしても、私たちはそれを理解できるでしょうか？ それでも「十分安全」と言えるでしょうか？ それは何を意味するのでしょうか？ これをよりよく理解するために、私たちはDraperの自動運転プログラムマネージャー、Chris Bessette氏に話を聞きました。ベセット氏は、自動運転とライダーに関する世界有数の専門家の一人です。

ドレイパーはもともと MIT の一部であり、1970 年代から存在している工学研究室です。同社は航空宇宙や水中車両の研究で最もよく知られているが、ここ数年は自動運転車の安全性向上にも取り組み始めている。

ドレイパー氏が自動運転車に関与するのは奇妙な動きのように思えるかもしれないが、ベセット氏が説明するように、同研究所の伝統を考えると納得できる。

「私たちは、プラットフォームにインテリジェンスを組み込む必要があるさまざまな分野で取り組んできました」と彼は語った。「私たちが取り組んできたさまざまなプロジェクトの多くは、遠隔操作ができないものです。そのため、私たちは数十年にわたって自律機能を構築してきました。その深い専門知識を、自動運転車の開発に役立てることができています。」

「一方、ドレイパーは安全性が極めて重要なシステムの開発方法を理解しています」とベセット氏は付け加えた。「私たちが取り組んでいるアプリケーション領域は完全である必要があります。そのため、それらのアイデアは実際に自動運転車の開発に直接応用できます。」

[[257916]]

秘密の質問

ベセット氏は、自動運転車の主な安全上の問題は認識にあると述べた。彼は、認識の問題をセンサー自体とソフトウェアの 2 つの部分に分けます。世界で最も先進的なアルゴリズムを持っていたとしても、車に内蔵されたセンサーからの画像品質が悪ければ何の意味もありません。

「私たちの多くが当然だと思っていることの一つは、人間の目が本当に素晴らしいということです」と彼は言いました。「人間の目は、現在私たちが持っているどの自動車グレードのセンサーよりもはるかに優れています。ですから、最初の課題は、カメラ、ライダー、レーダーなどのセンサーを、人間の目とまったく同じではないにしても、できるだけ人間の目と同等の品質に近づけることです。」

次に、高品質の画像ができたら、それを使用して、車、人、その他の制約を識別するなどの決定を下す必要があります。 「これはもう一つの大きな課題です」とベセット氏は言う。「その点ではやるべきことがたくさんあると思います。」

[[257917]]

ドレイパーは、光学系を除くすべてのコンポーネントを 1 つのチップに収めたマイクロモーターをベースとしたソリッドステート ライダーを開発しています。

たとえば、ニューラル ネットワークは特定のパターンを認識するようにトレーニングできますが、そのパターンはニューラル ネットワークを騙すような方法で操作される可能性があります。

「ある実験で、今日、道路のいたるところで見かける標準的な消火栓を、任天堂のキャラクターであるマリオのように塗装した人がいました。そのように塗装することで、ニューラルネットワークはすべて騙されました。もはや消火栓だとは分からなくなってしまったのです。」

これはかなり極端な例ですが、現在のテクノロジーがいかに脆弱であるかを浮き彫りにしています。最も理想的な条件下ではうまく機能しますが、実際の運転状況では難しい場合があります。

「十分に安全」の定義

ベセット氏は、「十分に安全」という問題は十分に議論されていないが、ドレイパー氏はその点についてよく考えてきたと述べた。ベセット氏は、業界は現在細分化されすぎていると述べた。標準を確立するには、あらゆるレベルの政府と自動車設計者の間でより緊密な連携が必要です。

「例えば、多くのOEM（相手先ブランドによる製品製造会社）が、それぞれが正しいと思うことをしているが、どのOEMも『十分良い』という基準が異なっている」と同氏は述べた。「そのため、その点ではもっと連携が必要だと考えている」

彼は、米国の航空業界を規制する機関である連邦航空局と比較し、「FAAが航空会社に新しい安全対策の導入を求める場合、航空会社は基本的にそれに従わなければなりません。自動運転車にはそのような規制機関はありません。」と述べた。

「こうした当局が組織され、自動車メーカーと協力して『十分に安全』の定義方法を見つけ出すまで、共通の定義が何なのかを見極める必要があると思う。各社が少しずつ基準を異にしているので、難しいだろうと思う」

信頼の構築

フォードやジャガー・ランドローバーなどの自動車メーカーは、道路利用者が自動運転車と道路を共有することに安心感を持てるようにする方法を模索している。ジャガー・ランドローバーは、車両がアイコンタクトを取り、計画したルートを道路上に投影できる模擬道路で実験を行った。フォードは、多数のライトインジケーターシステムを搭載した偽の自動運転車に対して歩行者がどのように反応するかをテストしている。

[[257918]]

フォードは、運転手に偽装した座席を備えた「自動運転車」に対する歩行者の反応をテストしている。

どちらの場合も、自動車メーカーは車が予測通りに動くように取り組んでおり、ベセット氏も、人々が機械とともに生活し、働くことに安心感を持つことが重要であることに同意している。彼は、ドレイパー社と別の顧客とのコラボレーションの例を挙げた。そのコラボレーションでは、人間とロボットが「チーム」として働き、それぞれのロボットがそれぞれの強みを生かしていた。

ロボットの行動が予測可能であれば、人間とロボットのチームは、個々の部分の合計よりも強力になります。しかし、ロボットが予期せぬ行動をとった場合、人間のチームメイトはすぐにロボットへの信頼を失ってしまいます。

「予測可能性は絶対に重要だと思います」とベセット氏は言う。「自動運転車がどんどん人間のように運転しているのを見て、人々が『ああ、あの車は私と同じように右折するだろう』と考えれば、車を運転しているのは人間ではなくコンピューターだということを忘れてしまいそうです。」

将来への準備

自動運転車はすでにドレイパー氏の拠点であるボストンを含む米国の一部でテストされており、英国政府は今年中に英国で無人運転車のテストを開始する計画を発表している。しかし、厳密に管理された運転環境以外でそのような車を信頼できるようになるには、まだ遠い道のりです。

「例えば、自動車メーカーがボストンでテストをしたい場合、彼らは来て、自分たちの計画と、なぜそこでテストをしたいのかを説明しなければなりません」とベセット氏は言う。「彼らは許可を申請しなければなりません。そして、政府が許可を与えれば、特定の時間帯にいつ稼働できるか、できないかという制限が課せられます。結果的に、安全に稼働でき、一定の基準を満たしていることが示されれば、雨や雪など、環境条件が理想的かどうかに関わらず、より広い範囲の環境でテストを行うことができます。つまり、規制が少し緩和されているのです」

公道を走る自動運転車にも、自分で運転しているときと同じように周囲の危険を監視する安全ドライバーがいますが、車が次に何をする予定かを確認できるディスプレイ（通常はラップトップ）も搭載されています。行動が危険と思われる場合は、介入して手動で制御することができます。

[[257919]]

新しい Draper APEX ジャイロスコープを使用すると、GPS なしで安全に動作するように自律走行車を設計できます。

いくつかの企業は、完全自動運転タクシーの導入を計画している。ベセット氏は、自動運転車にとって最大の課題の一つは、人間が運転する車と自動運転車が同じ道路を走行することになるこの移行期間になるだろうと述べた。彼は、この期間の初めに人間の運転手を道路から禁止することを支持しているわけではないが、そうすれば物事が楽になるだろうと感じている。

「この移行期間中、道路上には人間が運転する車が多く、自動運転車もいくつかある時期があるだろう。時間が経つにつれて、自動運転車の数が増え、人間が運転する車の数は減っていくだろう」と彼は指摘した。

「自動運転車と人間が運転する車の相互作用は興味深いものになるだろう。なぜなら、自動運転車は実際には予測可能になるようにプログラムされているからだ。しかし、自動運転車は非常に保守的になるようにプログラムされており、おそらく典型的な人間の運転手よりもはるかに保守的である。この2種類の車の間にどのような刺激が生まれるのか？ 待って見てみよう。」