自動運転の運転手が死亡事故で無罪となった。将来のAIの世界はより良くなるだろうか？

2018年3月18日、アメリカ・アリゾナ州で、セーフティドライバーを乗せたUberの自動運転車が道路を違法に横断していた歩行者をはねた。歩行者は病院に搬送されたが、最終的に死亡した。

1年後、世論がこの悲劇を忘れようとしていたちょうどその時、最終判決が下された。地元検察官は書簡の中で、ウーバーが事故の刑事責任を負っているという告発は「根拠がない」とし、事故のビデオは自動車事故の過程を正確に描写していない可能性があり、当時車に乗っていた安全運転手についてはさらなる調査が必要だと述べた。

これは、無人車両による世界初の死亡事故であり、無人車両に罪はない、と理解できます。

ポスト真実の時代においては、あらゆる公的な出来事が、味方と敵を区別する手段となり得る。今回も例外ではなかった。判決が出るとすぐに、人々はさまざまな利益団体やイデオロギー陣営の旗印の下にすぐに味方し始めた。

「テクノロジーの勝利」を喜ぶ人もいる。結局、ルールに違反して先に道路を渡ったのは「愚かな」人間なのに、テクノロジーの何がいけないのか？ さらに、セーフティドライバーも「愚か」だった。警察によると、Uberの自動運転システムは事故前に被害者を発見していたが、コンピューターシステムの設定に問題があったため、車両はコンピューター制御モードで緊急ブレーキを自動的に作動させることができなかった。ブレーキの責任はセーフティドライバーに与えられたが、セーフティドライバーは事故当夜、約42分間「ボイス・オブ・アメリカ」を視聴していた。彼女は何度も頭を下げ、道路に注意を払っていなかった。彼女が顔を上げてからわずか0.5秒後に、事故は起こった。

しかし、自動運転車は「無罪」のようだが、判決に「不快感」を覚える人もいる。結局のところ、この悲劇を引き起こしたのは、人間が機械を信頼したことだった。検察側が現時点でウーバーを無罪としたにもかかわらず、国家運輸安全委員会が依然として事故の調査を続けており、ウーバーが依然として課題に直面する可能性があるのもこのためだ。

困難に直面しているのは Uber だけではない。実際、この事故は打撃となり、誰もが考え直す必要がある。機械に対する人間の信頼の限界はどこにあるのだろうか。

L5は夢かもしれない

現時点では、無人運転車の責任を規制する完全な保険規制や法的権限は世界にほとんどありません。米国の40州以上が無人運転車規制の策定をめぐって意見が分かれているという事実は、自動運転の本当の問題点を反映するのに十分です。

まず、テクノロジーについてです。最近、フォルクスワーゲン商用車部門の責任者はメディアのインタビューで、レベル5の自動運転を実現することは火星探査に匹敵すると述べました。

彼はまだ L5 の難しさを過小評価していたと思います。自動運転の将来に関して、業界で最も極端な意見の一つは、「L5 は夢かもしれない」というものです。なぜでしょうか? AI は予期せぬ状況に対処できないからです。

数十年前、AIの概念が初めて生まれたとき、当時の研究者たちは傲慢で、機械を計算のためだけに使うことに満足しませんでした。彼らは、AIが人間の脳の思考プロセスを完全にコピーし、機械が「それが何であるか、そしてなぜそれがあるのか​​」を認識できるようにしようとしました。

しかし、周知のとおり、人間の意識の謎の解明には長年大きな進歩がなく、研究者たちは野心を縮小し、「計算」の追求に戻り始めています。今日の機械学習は、現実世界をデータの粒度の形で提示し、ニューラル ネットワークを通じてデータを消化し、世界をより深く理解することで、他を追い抜くための近道です。

自動運転を例にとると、その最も基本的な原理は、歩行者、建物、他の車など、人間の運転者の視界内にあるすべての物体を3次元モデルで構築し、それらの動きの傾向に注意を払い、速度を推定し、ルートを予測し、衝突があればブレーキをかけたり迂回したりすることです。

しかし、論理的に考えると、これは自動運転車がいわゆる「絶対的な」精度を達成できないことも意味します。なぜなら、実際の交通はさまざまな事故がランダムに分布する複雑な生態系だからです。

Google の自動運転車は、いくつかの事故に遭遇したと言われています。たとえば、高速道路で数人の子供がカエル遊びをしていた、障害者が電動車椅子に座って道路でアヒルを追いかけていた、アヒルはぐるぐる走り、彼もぐるぐると追いかけていた... このような不条理な場面に直面して、機械がこれらの人々の軌道を 100% 予測することを期待するのは難しいです。近年の人工知能の分野における進歩はすべて、同様のフレームワーク、「データを入力し、応答を生成する」、言い換えれば、過去から未来を推測することに起因することを知っておく必要があります。機械は、経験を完全に超えた予期しないイベントを予測することはできません。

もちろん、ほとんどの人は、子供がカエルと遊んだり、障害者がアヒルを追いかけたりといった事故を見たことがないでしょう。しかし、これは機械の「見たことがない」こととは異なります。なぜなら、人間は機械が何をしているのかを「理解」しており、それが正しい判断を導くのに十分だからです。

これはこの段階では安全運転者の役割でもありますが、残念ながらこのケースでは人間自身が失敗しました。

一時的に死にたくない場合はどうすればいいでしょうか?

技術的な限界に加えて、人間はハンドルを完全に機械に渡す際に倫理的な問題にも直面します。

学者の万維剛氏は「エリートデイリーレッスン」のコラムで次のような例を挙げている。高速で運転していると、前方の道路で遊んでいる小学生の集団に突然出会った。彼らを避けると、道路脇の建物の壁に衝突するしかなく、命が危険にさらされる。この場合、壁に衝突するか、小学生に衝突するか、どちらを選ぶだろうか？

壁に衝突することを選ぶ人は多いと思います。あなたの人間性が好きです。でも質問ですが、この場合、自動運転システムの初期設定が「歩行者の安全を第一に確保する」ということであれば、どう思われますか？

万衛剛教授が言ったように、あなたは「不快」に感じるかもしれません。「私は自分自身を犠牲にします。それは私自身の決断です。車に私の代わりに決断させるわけにはいきません！一時的に死にたくない場合はどうしますか？車が間違った判断をしたらどうしますか？状況によっては私を犠牲にする車を運転したくありません。現在、多くの企業が自動運転の倫理を研究しています。Google は哲学者も雇っていますが、満足のいく解決策は開発されていません。」

人間のような矛盾した種族を前にすると、おそらく満足のいく解決策は存在しないのでしょう。実際、いわゆる自由意志に基づく限り（脳科学は基本的にその存在を放棄していますが）、人間がどのような決定を下しても、他の人は「状況はコントロールされている」と感じるでしょうが、同じ決定をAIが下した場合、多くの人が非常に不快感を覚えるでしょう。

したがって、十分な時間があれば、危機の際に人間自身に意思決定権を与えることが最も望ましい選択肢となるかもしれない。

人類に後戻りはない

自動運転に関しては、以前、洗面器 2 杯分の冷水をかけましたが、今度はチキンスープを一杯飲まなければなりません。

私の意見では、たとえL5は夢かもしれないが、自動運転自体は確かにトレンドである。

なぜそうおっしゃるのですか? 少なくとも 2 つの理由があります。

最初のものは、もちろん決まり文句です。確率レベルでは、機械はミスを少なくします。米国運輸長官のエレイン・チャオは、自動運転に関するほぼすべてのスピーチでこのことに言及しています。米国で継続的に増加している交通事故の 94% は、運転者のミスが原因です。世界的に、人間のドライバーは走行距離20万マイルごとに致命的ではない衝突事故に巻き込まれ、走行距離100万マイルごとに1人のドライバーが死亡しています。

私は 2 番目の理由に焦点を当てます。それは、人類の技術進化の歴史を振り返ると、新しいものが一度出現すると、後戻りできないことがよくあるということです。新しいものを排除することはできず、繰り返すことしかできないのです。

最近とても話題になっている例を挙げてみましょう。西暦 400 年頃、人類はタバコを使い始めました。タバコが発明されたら、タバコは世界から完全に消え去ると思いますか? 決してありません。現代においても、タバコが社会全体にもたらす負の外部効果を人類が減らしたいのであれば、禁止ではなく、電子タバコの発明などの技術を通じてしかそれを実現することはできない。

実際、人類の文明の歴史を通じて、テクノロジーがもたらす問題を解決する方法は常に、より優れたテクノロジーを通じてでした。ケビン・ケリーだったか、他の誰かだったか忘れましたが、「新しい技術の発明の49％が問題であったとしても、それらは51％の利益ももたらします。違いはこの2％にあります。2％は非常に小さいですが、人類はこの2％を必要としており、それが年々蓄積されて強力な影響力を生み出します。したがって、新しい発明がもたらす利益が問題よりほんの少し多いだけでも、これが人類の進歩の原動力となります。」と言いました。

自動運転に関しては、なおさらだ。Uberの事故は自社の研究開発のスピードを鈍らせただけで、世界の自動運転産業がアクセルを踏むのを妨げていない。世界中の有能な国や企業は、自動運転の長い道に集結し、技術の反復、ユーザーの習慣、世論環境、インフラなど、多くの面でダイナミックなバランスを最初に実現しようと努めている。

ということは、もし今日、自動運転車が人を殺して無罪になった場合、将来の AI の世界は良いものになるのでしょうか?

私の答えは、「はい」と信じる以外に私たちに何ができるでしょうか?

運命には独自のタイムテーブルがある。百年以上前、人類が自動車を発明してからというもの、馬車が象徴する田園風景は哀歌としかなり得なかった。百年以上経った今でもそれは同じだ。自動車が情報文明と出会った瞬間から、あらゆる喜びも悲しみも避けられなくなった。