Uberの自動運転車の死亡事故から忘れてはならない10の教訓

自動運転技術は常に注目を集めてきたが、「幻滅」に直面している。これによって起きた初の交通事故死は、1年経った今も注目を集めている。

1年前の今日、日曜日の夜10時頃、自動運転車は業界にとって最も重要な瞬間の一つを目撃しました。その致命的な夜、エレイン・ハーツバーグさんはアリゾナ州テンピのミル・アベニューを歩いていたところ、ウーバーの自動運転技術をテストしていたボルボXC90に誤ってはねられ死亡した。ハーツバーグ氏の死は、人命を救い、勝者に数十億ドルの利益をもたらし、自動運転車に対する一般の認識を変えるとともに、その技術を開発する企業が社内業務を調整するのに役立つ可能性のある、世界を変える技術を開発するための熾烈な競争に暗い影を落としている。この恥ずべき出来事によって自動運転車に向けた技術の進歩が止まることはないだろうが、私たちが立ち止まってこの悲劇がどのようにして起こったのか、そして二度とこのようなことが起こらないようにするためにはどのような教訓を学ばなければならないのかを振り返る重要な機会となることは間違いない。

[[260225]]

レッスン1: これは競争ではない

他の壊滅的な技術的災害と同様に、エレイン・ハーツバーグの死は一連の失敗の結果でした。これらの失敗には、ソフトウェア自体の品質の低さ、Uber の安全ドライバーのトレーニング不足、事故現場の道路設計の悪さなどが含まれます (その他多数)。しかし、ハーツバーグ氏の死につながったほぼすべての失敗には、自動運転技術の開発は「競争」であり、「勝者」が賞金の大部分を獲得するだろうという思い込みが影響していた。この「自動化への競争」には多くの欠陥があり、それを完全に解決する方法はありません。しかし、最も基本的なレベルでは、安全運転者の訓練が不十分であったり、疲労が長引いたりするなど、技術面で手抜きされていることが原因だ。さらに、アリゾナ州のテストプログラムは、フェニックスにあるウーバーのアドバンスト・テクノロジーズ・グループ本社からの監視がほとんどないまま、猛スピードで進められている。

ほぼすべての人がこの「自動化競争」を推進する上で役割を担っています。企業はこの技術を利用してより多くのベンチャーキャピタルを調達し、ベンチャーキャピタリストは投資の価値を証明するためにこの技術を利用し、メディアは新しい技術分野に関連するあらゆる種類の刺激的なストーリーを伝えるためのシンプルな枠組みとしてこの技術を利用し、そしてついに自動運転技術自体が独自のストーリーを語り始めました。これは、歴史が作られる過程を見ているような感覚を与える魅力的な物語であり、たとえ一般の人々が極めて複雑なテクノロジーそのものを理解していなくても、誰が次のテクノロジーの巨人になる可能性が高いかを誰もが理解できることを示唆している。多くの危険な欠陥のあるヒューリスティックと同様に、非常に複雑なものは単純な概念にまで縮小され、「これがレースである場合、レースの最終的な目標は何ですか？」などのいくつかの重要かつ基本的な質問に要約されます。

しかし、もっと重要なのは、「自動化への競争」が、ハーツバーグ氏の悲劇的な死を招いた恐ろしい動機を生み出したことだ。いかなる犠牲を払ってでも開発スピードを重視します。テクノロジーはほとんど監視されずに運用され、安全が極めて重要な状況で長時間稼働し、走行距離を積み上げ、開発プログラムに対する一般の認識を高め、車両を路上でテストするために一見些細な欠陥を隠蔽しています。ハーツバーグ氏の死は、自動運転車を急速に開発することの危険性を劇的に示しているが、この分野の少数の人々は、より多くの資金を獲得するため、あるいは才能あふれる人材がひしめく業界で目立つために、依然として「迅速かつ破壊的な開発」モデルを追求している。開発業者、規制当局、メディアがこの考え方の恐ろしいコストを認識するまで、エレイン・ハーツバーグのような死のリスクは続くことはないだろう。

レッスン2: 文化は重要

エレイン・ハーツバーグさんの死は、ウェイモとウーバーの醜い訴訟の直後に起きた。訴訟でアルファベットは、元エンジニアのアンソニー・レヴァンドウスキー氏を訴え、同氏が同社のライダー技術を盗み、ウーバーの自動運転車プロジェクトに使用したと主張した。この訴訟は最終的にウェイモに有利な判決が下されたが、ウーバーの最も醜い企業文化の一部が世間に明らかにされたことは否定できない。最終判決が出る前から、Uber の「テック ブロ」文化は打撃を与えていた。この訴訟は、CEOのトラビス・カラニック氏をはじめとする同社の「何が何でも勝つ」という姿勢と傲慢さを明らかにしている。

カラニック氏は、ルールに従うことよりも勝つことの方が重要だと信じている。ウェイモの弁護士チャールズ・ヴェールホーベン氏は、この哲学はウーバーの文化に深く根付いているようだと述べた。ウーバーの車がサンフランシスコで少なくとも6回赤信号を無視したことを受けて、同社はアリゾナ州でテストを開始することを決定した。この措置により、カリフォルニア州運輸局はウーバーの試験許可を取り消し、自動運転車の試験に関して同州で最も厳しい規制の一部を可決せざるを得なくなった。ウェイモの訴訟によりカラニック氏は会社から追放され、事故の責任を負わされたにもかかわらず、ウーバーのエンジニアたちは緊急ブレーキシステムを開発しました。このシステムがあれば、ハーツバーグ氏のような事故死は防げたかもしれない。エンジニアたちは、これによって、急ブレーキをかけなくても車がスムーズで信頼できるという印象を次期CEOのダラ・コスロシャヒ氏に与えることを期待している。せっかちさ、監視の回避、そして操作的な精神はすべて、Uber の企業文化の中核となる要素です。こうした理想を再検討する機会は何度もあったにもかかわらず、Uber は最終的に犠牲者を出しました。

自動運転車の開発者の中には、ハーツバーグ氏の死は「警鐘」だと語る者もいる。しかし、目を覚ますように思い出させる必要がある場合、問題はすでに非常に深刻であると考える人もいます。アメリカでは、自動車事故により毎年35,000人以上が亡くなっています。したがって、自動運転システムの開発方法は、モバイル アプリやソーシャル メディア ネットワークの開発方法とは大きく異なる必要があることは言うまでもありません。責任ある開発者は、安全性が実は仕事の最も基本的な部分であることを認識しています。車両を「自律型」にするのにそれほど労力はかかりませんが、最も難しいのは自動運転車が安全に走行できることを保証することです。安全性は、開発の出発点であり、中間点であり、終点です。 R&D プロセスには他の目標はありません。根本的にそのような文化を欠いている技術開発者は、犠牲者を出す可能性が高い。

教訓3: 人間は不完全な自動化を監視するのが苦手

自動運転技術は、私たちの警戒を緩め、道路の危険性を軽視する機会とみなされているが、あらゆる状況で安全であることが証明されるまでは、おそらくすべての自動運転には人間の監視が必要になるだろう。ほとんどの運転は極めて退屈なので、これは難しいことです。また、安全運転を心がけるドライバーは心理的に安心感を得やすいのですが、実際の運転システムはそこまで安全ではありません。ハーツバーグさんのケースではまさにそれが起こった。ウーバーのセーフティドライバーであるラファエラ・バスケスさんは事故発生時に携帯電話でHuluのザ・ヴォイスを視聴しており、その晩の運転中に携帯電話を166回チェックした。

携帯電話を見ていたバスケスさんは恐怖で顔を上げ、自分が道路を見ていなかった間にヘルツバーグさんが衝突されたことに気づいた。このビデオで彼女は、将来存在するかもしれない恐怖を知りました。完全な自律性が実証されるまでは、自動運転は運転から注意を解放することを促すだろうが、次のエレイン・ハーツバーグの安全を保証するものではない。これは、自動運転車の「安全運転者」にとっても、広く見られる問題ではない。現在、ドライバーは厳しい訓練を受けており、車両テストにも同行します。しかし、この問題は、オートパイロット使用中のテスラのドライバーの死亡原因を浮き彫りにしているようだ。現在、テスラの「フルオート」システムは、安全性が証明される前に一部の顧客によって試験運用されているようだ。別の会社も、顧客を意図せず、訓練も監督も受けていない安全運転者に変える準備ができているようだ。

バスケス氏自身も事故についていくらかの責任を負う必要があるが、ウーバー社は責任を逃れることはできない。高度に自動化された自動車内に監視なしで人を10時間以上放置することは禁止されています。完全自動化が約束よりも長くかかる中、ドライバーに安全を守るよう注意しながら、ほぼ完全な自動化へと急ぐ誘惑に抗うのは難しい。しかし、バスケスの恐怖の表情は、このようなシステムのリスクをすべての人に思い出させるものとなるはずだ。これにより、テスラの顧客テストの見通しが不明確になることは間違いない。

教訓4: 事故を起こしやすい道路利用者は特に注意する必要がある

ウーバーの自動運転車に使用されているライダーを製造するベロダイン社は、事故に遭ったエレイン・ハーツバーグさんがミル・ストリートを横断中だった自転車を自社のセンサーが認識しなかった理由が分からないと述べた。それでも、ほとんどの自動運転車のセンサーは、衝突した場合に車自体に損傷を与える可能性のある大きな物体を識別するのに最も優れています。特に、カメラがまだ完全に機能していない夜間は、レーダーとライダーが歩行者と自転車を独立して識別することが困難です。実際、自動運転車の開発者がアリゾナ州フェニックスのような場所に集まっている理由の一つは、そこは天気が良いだけでなく、他の都市ほど道路を歩く歩行者や自転車が少ないからだ。

一般的に、自動運転車の開発者は、センサースイートに冗長性や多様性を持たせすぎることはできず、できるだけ多くのエッジケースをカバーすればよいと考えています。しかし、エレイン・ハーツバーグの死後も、夜間に危険な道路利用者を識別するのに最適なセンサー、つまり熱画像センサーを搭載した自動運転車開発者はまだ多くありません。トヨタ・リサーチ・インスティテュートは、新しいセンサースイートにサーマルカメラが含まれると発表した。もちろん、他の開発者もそれに倣わなければならないだろう。特に、自転車、歩行者、スクーター、その他の車両が多数存在する地域で自動運転車が使用されることが予想される場合はなおさらだ。熱センサーは自動運転車の生産標準になる必要がある。熱センサーは体温を検知することで、柱や他の車の後ろにいても、昼間でも夜中でも人間を識別できます。

率直に言って、ハーツバーグ事件以来、ほとんどの企業が熱センサーを採用していないのは驚きです。

教訓5: 規制は選択に勝る

カリフォルニア州でのウーバーの試験運転許可が取り消された後、同社はアリゾナ州に向かった。アリゾナ州のグレッグ・デュシー知事は自動運転車企業を特に歓迎しており、技術革新を阻害しているとカリフォルニア州を嘲笑さえしている。自由市場の共和党州にとって、規制障壁を下げることは、アリゾナ州に外国投資を誘致し、同州のハイテクイメージを高める良い方法である。これを短期間で実行することは効果的であり、ハーツバーグの事故が起こるまでは、アリゾナ州を主要な自動運転試験センターの1つに変えることができた。

この事故を受けて、デューシー知事は極端な対応を迫られ、アリゾナ州の道路でウーバーの車両を全面的に禁止した。マリコパ郡検察局でさえ、公共安全キャンペーンでウーバーと提携することによる利益相反のため、この事件から手を引くしかなかった。状況全体から、アリゾナ州当局は自動運転企業に気に入られようと熱心だったことがうかがえる。これがハーツバーグ氏の死につながった一連の事故の一因となっている。デューシー知事とアリゾナ州は現在、ハーツバーグ氏の死の責任を問う1000万ドルの訴訟の被告となっている。

政府当局者にとって、アリゾナ州の経験は、規制の「底辺への競争」を避けるよう強く警告している。自動運転車に対する規制緩和による短期的なメリットは魅力的だが、長期的には死亡事故のリスクは莫大である。より深いメッセージは、規制を放棄すれば、人身傷害訴訟が起こることを覚悟しなければならない、ということです。積極的規制は、公共の安全と公道での責任あるテストを伴う積極的なものになる場合もあれば、救急車を追いかける弁護士や怒った暴徒によって推進される受動的なものになる場合もあります。明らかに、前者の選択肢の方が望ましいです。

レッスン 6: 法的責任はテクノロジーに追いつく必要があります。

エレイン・ハーツバーグさんの死は、社会がまだ答えを出していない難しい問題を提起している。表面上は自動運転車が人をはねた場合、誰が責任を負うのか？ソフトウェア自体は「人間」なのか？人間の運転手と同じ権利と制限があるのか​​？責任を負うのは安全運転者なのか？企業なのか？それとも規制当局なのか？これらの疑問はすべてハーツバーグさんの死後に噴出したものであり、感情を排して客観的に答えるのは難しい。

自動運転技術は長い間、純粋に技術的な問題とみなされてきましたが、実際のところ、運転は法律、慣習、判例によって規制された、人間の運転手を中心とした集中的な社会的活動です。この分野では、社会がテクノロジーに追いつく時間ができたため、自動運転車がミスをしたときに責任と説明責任を割り当てるためのルールと原則が策定され始めているという見方が出始めている。しかし、サーマルイメージングの場合と同様に、私たちはまだこれらの問題の緊急性を認識していません。これは、自動運転による初の死亡事故の後に人々が期待するであろう注目である。有能な自動運転エンジニアに対する需要が非常に高い一方で、熟練した賢明な弁護士や政治家に対する需要も同様に高い。将来、ハーツバーグのような状況にうまく対処できるようになることを望むなら、これらは少なくとも最低限の共通項となるでしょう。

教訓7: 経営陣は耳を傾ける必要がある

ハーツバーグ氏の死の1週間も経たないうちに、ウーバーの従業員ロビー・ミラー氏はウーバーの先端技術グループの上級幹部と会社の弁護士にメールを送り、ハーツバーグ氏の死につながった要因は大きな問題であると警告した。メールの一部には次のように書かれています。

「ATG は、安全を基本とした文化の構築に取り組んでいます。自動車は頻繁に事故や損傷に巻き込まれますが、その多くは運転者の不適切な行動や自動運転技術自体が原因です。2 月には、ほぼ 1 日おきに自動車が損傷しました。15,000 マイルごとに何かにぶつかるなんてことはあってはならないことです。違反を繰り返したり、不適切な運転をしたりしても、自動車が撤去されることはほとんどありません。少数のドライバーが、適切な審査やトレーニングを受けずに道路を走っているようです。」

ミラー氏は、各テスト車両に人員を増やすこと、走行距離を稼ぐためにテストマイルを積み上げる慣行をやめること、従業員にシステムのアップグレードや車両の運行停止を任せる権限を与えること、衝突評価を実施すること、ATGチーム内でデータをより広範に共有することなど、ほとんどの大手自動運転開発企業に対して既存の基準に実際的な変更を加えることを提案した。振り返ってみると、ミラーの電子メールは、ハーツバーグの死は完全に予防可能だったことを示唆していた。

教訓8: インフラは重要

自動運転車の開発者は、それが特定の道路設計であろうと、V2X通信技術であろうと、システムを開発するためにインフラストラクチャに依存することに消極的です。技術は急速に発展している一方で、インフラは最小限であるため、これは理解できます。同時に、インフラが安全性の向上に役割を果たしていることがますます明らかになってきています。地方当局は、道路上で自動運転車が他の交通と衝突しないようにする必要がある。

エレイン・ハーツバーグさんが車にひかれた場所は、塗装されていない横断歩道のように見えますが、横断歩道ではなく、ミル・アベニューを渡るのに特に安全な場所ではありません。ハーツバーグ氏が道路に足を踏み入れた時に何を考えていたのかは分からないが、道路の設計によってもたらされた不明確な情報は事故問題の一部として特定され、さらなる交通混乱を防ぐために文書化されている。自動運転車を道路に導入することを計画している都市は、この要素を念頭に置き、車両が走行する道路の詳細な目録を作成し、計画上の致命的な混乱を防ぐ必要があります。

レッスン9: 自動運転には反対意見もある

当初から自動運転車に対して国民は懐疑的だったが、ハーツバーグの事故以降、この新技術に対する国民の信頼はさらに低下している。自動運転システムに対する不信感はあらゆる方面から寄せられているが、その不信感のレベルは大統領に対する不信感と同じくらい高い。大統領自身は、自明の物語の中で「決して働かない」人物として描かれている。人々は、自分では制御できない車に座っている未来を恐れています。自動運転車に対するこの恐怖はしばしば「ラッダイト」として揶揄されるが、現実である。自動運転車の開発者やファンは、パニックが収まるまでただ笑っているわけにはいかない。実際、一部のハイテク産業の傲慢さが、自動運転反対派の疑念と恐怖を引き起こしたハーツバーグ事件のような状況の原因でもある。

これは業界の主な文化的障壁でもある。ハイテク企業は、反対意見や混乱、抵抗を一掃できる強力な経済的インセンティブを提供することに慣れている。自動運転車が大いに期待された約束を実現するにはまだ遠い道のりがあるため、一般への啓蒙、教育、コミュニケーションがこれまで以上に重要になります。問題の複雑さとそれをめぐる混乱の度合いを考えると、国民の不安や恐怖を解消することも困難な課題だ。しかし、たとえ謙虚さの教育を通じて企業の誠実さを示すことができたとしても、それはテクノロジー業界によくある傲慢さから大きく改善されるだろう。少なくとも、テクノロジーがもたらす懸念を完全に無視して、「歴史的進歩は我々の側にある」というスローガンを叫ぶだけでは効果がないだろう。

レッスン10: 信頼は自動運転技術の通貨

最も基本的なレベルでは、信頼とは長期的な関係性を意味します。誰かまたは何かを信頼するということは、それが長期的に存在し続けることを知り、それが何を望んでいるのか、どのように機能するのかを理解し、それが国民の懸念に応えるという確信を持つことを意味します。アリゾナ州の状況を非常に混乱させているのは、あらゆる障壁を下げ、Uber の自動運転車を大量に導入し、そしてハーツバーグの事故の直後に撤退したことだ。極端な状態から別の極端な状態へと繰り返すことは、信頼を築くこととは正反対です。ほとんど目に見えない利点（資金調達ラウンド以外）を得るために手抜きをすると、両者の間に不一致が生じ、信頼が損なわれます。

悪い結果は結局悪い結果です。エレイン・ハーツバーグさんの死は多くの無責任な行動の結果でしたが、自動運転車によって人が死亡しても、車両の構成自体に明らかな問題はないという状況に直面することになるかもしれません。誰もがこれを防ぐためにどれだけ努力しても、悪い結果の可能性を予測するには、テスターが可能な限り正直で透明性があることが求められます。これはテクノロジーを宣伝することではなく、実際にテクノロジーを伝えることです。公道テストではリスクは避けられないことを認識することが重要ですが、開発者やその公共部門のパートナーについて知っていると思っていることをすべて覆すのではなく、リスクを明確に評価し、可能な限り軽減することができます。自動運転の開発者は、あたかも別の現実に存在するかのように行動し、回避できたはずの安全上のリスクを生み出して何百万ドルもの価値を生み出すのではなく、開発の動機を一般の人々と共有する意識を持つ必要があります。

この信頼を育むことは、堅牢な予測モデルや信頼性の高い経路計画アルゴリズムを作成することと同じくらい、自動運転開発者の将来にとって重要です。なぜなら、自動運転車は究極的には飛行機のようなものだからです。ボーイングに乗るにしてもエアバスに乗るにしても、飛行が可能な限り安全であることを保証するためにできることはすべてやりたいと思うでしょう。自動運転車はハンドリングや性能に基づいて差別化することはないため、自動車開発者が必要とする唯一の市場性のある属性は、顧客が車に乗ったときに感じる信頼のレベルです。開発業者が事業を展開する地域社会に関与せず、道路のリスクを共有せず、可能な限り緩い監視を求め、より高い評価額を求めて手抜きをすれば、結局は自らと他者を傷つけるだけとなるだろう。