AIが狂って縁石にぶつかる！ Pony.aiの完全自動運転の路上テストは「失敗」に終わった

近年、中国の「新車製造勢力」のインテリジェント運転分野における宣伝・マーケティング活動とビジネス成果は飛躍的に進歩しており、米国の大手自動車メーカーに劣るものではない。

しかし、2022年3月、中国の自動運転車企業はネガティブなニュースの世界記録を樹立しました。

Pony.ai の自動運転システム (ADS) ソフトウェアの一部バージョンは、米国の規制当局によりリコールが要求されています。これは、規制当局が主導する L4 自動運転システムのリコールとしては世界初となります。

NHTSAがPony.aiにADSのリコールを要請

米道路交通安全局（NHTSA）によると、自動運転車の新興企業であるPony.aiは、2021年10月にカリフォルニア州で行われた路上試験中に起きた自動車事故のため、自動運転システムソフトウェア（ADS）の一部バージョンと実験車両3台をリコールする予定だ。

同庁は、全ての運転をAIに委ねるレベル4の完全自動運転システムについて、規制当局がリコール要請を行ったのは世界初だと述べた。

「車両が人間の運転手によって運転されるか、AI運転システムによって運転されるかにかかわらず、道路利用者を保護する必要性は同じです」とNHTSA副長官は公式声明で述べた。「この最初のリコールが強調するように、NHTSAは自動車メーカーと開発者が最新技術を導入する際に道路の安全性を最優先にするよう徹底します。」

Pony.ai による事故の原因に関する公式説明は次のとおりです。

2021年10月28日、Pony.aiの完全自動運転テスト車両が米国カリフォルニア州フリーモント市でテスト中だった。車線変更時に、車両は道路の中央分離帯に乗り上げ、道路の真ん中にある道路標識と軽微な衝突を起こした。負傷者はおらず、他の車両も巻き込まれなかった。

事故後、Pony.aiはカリフォルニアでの無人自動運転テストを直ちに中止し、事故の包括的な調査を実施した。衝突事故以来、当社はNHTSAの調査に全面的に協力してきました。

理想的な道路状況では、安全担当者のいない完全自動運転のスマートカーが突然衝突する

車線変更の際に、無人運転車両が道路の中央分離帯に乗り上げ、そこにある道路標識に衝突した。実際、この規模の路上テストでの事故は、スマートカー業界のニュースではよくあることです。

なお、Pony.aiの試験車両の損傷は前部のみで、死傷者は出なかった。こうした自動運転車が自ら縁石に乗り上げることは、2018年に起きたUberの自動運転車の路上試験中の事故（車の破壊と人の死亡を招いた）に比べれば、単なる副産物に過ぎない。

今回、なぜPony.aiが世界で初めてリコール対象となったアプリなのでしょうか？その理由は「自立」という言葉にあるのかもしれません。

事故は、Pony.ai の実験車両が完全自動運転モード (ADS) で走行中に発生した。L4 実験車両には、運転を引き継ぐ人間の安全担当者は搭載されていなかった。

カリフォルニア州DMVの公式発表によると、事故当時の道路状況は良好で道路は比較的乾燥しており、妨げとなるような他の車両や急な道路状況もなかったという。

このような理想的な道路状況下で、AI が突然縁石に乗り上げたことは、非常に考えさせられることです。他メーカーのスマートカーが同様の事故を起こした際には、少なくとも天候がセンサーやAIの解釈に影響を与えたり、道路上の他の車両が割り込んだり、車線変更したり、AIに干渉したりといった前提があったが、Pony.aiは今回の事故ではこれらの原因を見つけられなかった。

事故現場の航空写真

そこでNHTSAはPony.aiに対し、同社の自動運転ソフトウェアに安全上の欠陥があると考え、リコールを要請した。

Pony.aiによると、事故車両のソフトウェアの問題は他の2台の路上試験車両でも発見され、3台とも修理されたという。 Pony.aiはソフトウェアコードも更新したと発表した。

Pony.ai の無人テスト車両は社内の研究開発にのみ使用されるため、事故の翌日には必要な NHTSA の関連要件を完了しました。現在、同社はNHTSAからの問い合わせに全て回答しており、NHTSAは2021年12月中旬以降、追加の問い合わせを受けていない。

2022年3月3日、Pony.aiはNHTSAにリコール報告書を提出した。 3月7日、NHTSAはPony.aiのリコールを認めた。

同社の広報担当者によると、Pony.aiの自動運転車でこのような事故が起きたのは今回が初めてで、また唯一のケースだという。

広報担当者によると、Pony.aiの実験車両群は実世界で600万マイル以上の走行距離を達成しており、そのうち305,617マイルは2021年に米国カリフォルニア州で走行されたという。

事故原因: プログラムコードのバグ

NHTSAの公式サイトには、Pony.aiが提出したリコール安全報告書が掲載されている。報告書では、2021年10月28日に米国カリフォルニア州で発生したテストカーの衝突事故を分析し、事故の原因、ソフトウェアの欠陥、リコール計画について簡単に説明している。

Pony.ai の「自動運転システム」(ADS) ソフトウェアの不具合のあるバージョンでは、車両の位置情報の診断機能のコードの一部が、まれに小さな浮動小数点の丸め誤差/差異を誤って判断することがあります。

その結果、AI ソフトウェアの特定の診断マッチング機能が、プログラム内のわずかな浮動小数点の丸めの差を車両の地理的位置のエラーとして誤って解釈する可能性があります。

事故当時、Pony.aiの自動運転車は地理位置情報の診断チェックを実行していた。「当時の非常にまれな要因と条件の組み合わせ」により、プログラムは浮動小数点の丸め誤差を生成し、診断チェックはそれを車両の地理位置情報の不一致と誤って解釈した。このエラーにより、診断チェック機能によって ADS が強制的に閉じられます。この閉鎖が衝突を引き起こした。

天気は晴れ、道路は乾いていて空いていたことを考えると、プロのテストトラックのような理想的な状況でした。AIにバグが発生し、発狂して縁石に突っ込むことも「非常にまれ」であると考えられます。 NHTSA が Pony.ai に厳しい措置を取ったのも不思議ではない。

社会的背景：米国の規制当局は世論に応えて規制を強化

この事故により、カリフォルニア州運輸局（DMV）は2021年冬にPony.aiの「無人運転テスト許可」を取り消した。

このライセンス リストには当初 8 つのメーカーが含まれていましたが、いずれも業界のトップ メーカーです。この分野では、中国と米国の企業は互角です。中国のPony.ai、WeRide、AutoX、Baidu Apolloと、米国のWaymo、Cruise、Zoox、Nuroです。

これらの企業は当初、運転席に安全担当者を乗せずにカリフォルニアの道路で無人運転車のテストを行うことができた。Pony.aiの事故後、すぐにリストから削除された。

さらに、この事故は、米国が自動運転車の路上試験に対する規制を徐々に強化していた時期に起きた。

米国のテクノロジー業界と一般大衆は、スマート自動運転車企業がこれまで実質的にほとんど規制を受けていなかったという事実に激怒している。マスク氏は注目を集め、ドラマチックな人物として行動する能力があるため、この業界で何か問題が起きるたびに世間の批判の標的となるだろう。

権威ある技術ジャーナル「電子工程時報」は2021年に特集記事を発表し、スマート無人運転車企業の12の大罪を非難し、悪徳エンジニアやメーカーが公道を私的な試験場として扱い、大衆を実験モルモットとして扱っているが、実際の管理はほとんど行われていないと繰り返し主張した。

アリゾナ州フェニックスでウェイモが小規模なロボタクシー実験を行っていた際、近隣住民が自動運転試験車両が道路状況を非常に危険なものにしたと考え、試験車両に石を投げつけたと報じられている。

2021年6月末、NHTSAは、レベル2以上の運転支援および自動運転のすべてのメーカーに対し、事故後1日以内に報告書を提出し、10日以内に事故報告書を更新することを要求する新しい規制を発行しました。自動運転車のテストのための以前のリラックスした環境は永久に失われたことは明らかです。

Pony.aiがシリーズDの資金調達を完了した

2022年3月、Pony.aiはシリーズDの資金調達を完了し、評価額は85億ドルに急上昇しました。

Pony.aiは、この資金を事業拡大、採用のさらなる増加、より戦略的なパートナーシップの確立に活用する予定です。同社はまた、自社の自動運転タクシーやロボットトラックの車両群の大規模な商業展開に近づくにつれ、その車両群の世界規模のテストを含む研究開発への投資を増やす計画だ。

同社はこれまで資金調達額の詳細を明らかにしていないが、資金調達ラウンドが終了した時点で総額を発表する予定だ。

資金調達直後にこのようなニュースを聞くのは本当に縁起が悪いです。