アシモフのロボット工学三原則とモービルアイの自動運転五原則

テクノロジー・トラベラーは11月20日、北京から報道した（執筆者：ガオ・フェイ）：多くのSF作家の想像がついに現実世界で実現した。

[[250186]]

SF作家の巨匠アシモフはかつて、AI駆動型ロボットは機械自体の知能レベルを絶えず向上させてより有用なものにするだけでなく、人間と関わる際にはテクノロジーの優位性というよりマクロレベルの指針も必要だと考えていた。彼は、短編小説集『われ、ロボット』の中で、この一連のルールについて、「ロボット工学の三原則」と呼んで書いています。

1. ロボットは人間を傷つけたり、危険にさらしたりしてはならない。

2. ロボットは、その命令が自然法則に反する場合を除き、人間から与えられた命令に従わなければならない。

3. ロボットは、第一法則または第二法則に違反しない限り、自らの存在を維持できる。

1985年、アシモフは『ロボットと帝国』を出版し、その中で3原則を4原則に拡張し、さらに第0原則として、ロボットは人類全体を傷つけたり、不作為によって人類に危害を加えたりしてはならないという原則を追加し、より完全なロボット工学の4原則を形成した。

ロボット三原則やロボット四原則は、人工知能を扱った多くの映画や文学作品に繰り返し登場してきましたが、常に想像の段階に留まり、実際に適用されたことはありませんでした。その理由の 1 つは、長い間、機械の知能レベルが人間社会の日常生活に密接に関係するほど高くなかったことであり、もう 1 つの理由は、アシモフの原理が単なる単純な言語記号であり、厳密な論理的閉ループを構成していないことです。

しかし、これはアシモフの思想が「機械倫理学」と呼ばれる新しい学問の基礎となることを妨げるものではない。機械倫理学は、ロボットの構築と使用に関する人間中心の学問であり、その中核はインテリジェントな機械をいかに安全に適用するかである。

自動運転：データは基礎だが、すべてではない

Mobileye は、ロボット工学の三原則に匹敵する、あるいはさらに正確な、自動運転の分野におけるルールを作成しようとしています。

今月初め、ZDNet（Cyber​​Storyの親プラットフォーム）は、1999年に設立されイスラエルに本社を置くハイテク企業Mobileyeを訪問した。同社の主な事業は、運転支援システムや自動運転の開発に必要なコンピュータービジョン、機械学習、データ分析、測位、地図モデリング技術である。 2017年3月、モービルアイはインテルに153億ドルで買収され、インテルの自動運転グループ（ADG）と合併し、モービルアイの共同創設者、会長兼最高技術責任者のアムノン・シャシュア教授が率いる新しい自動運転部門が設立されました。

図: モービルアイの共同創設者、会長兼最高技術責任者、アムノン・シャシュア教授

長い間、自動運転車の安全性と信頼性は、データの量のみに密接に関係していると考えられてきました。なぜなら、機械学習とディープラーニングによってもたらされたこの人工知能の波の本質は、統計的手法を使用してデータを活用し、機械が大量のデータを「食べる」ことでパターンとルールを要約できるようにすることだからです。十分なデータ、つまり路上テストの走行距離が十分長ければ、自動運転車はより安全になります。シャシュア氏は私たちとの会話の中で、自動運転に関しては「そのタスクを統計に完全に任せるのは現実的ではない」と述べました。自動運転はデータで訓練できるだけでなく、常識的な原則も必要であり、そうでなければ開発に大きな障害が立ちはだかるでしょう。

障害の 1 つは、経済的な実現可能性です。「人間が自動運転車を信頼するには、安全性が人間のドライバーの 100 倍以上である必要があります。統計的手法を使用してこれを達成するには、1 億時間の路上テストが必要です。路上テスト中に車両が時速 30 キロメートルで走行すると仮定すると、路上テストの距離は 30 億キロメートルになります。」シャシュアは、経済的に不可能であることを証明するために簡単な計算を行いました。結局のところ、30 億キロメートルは地球を 7 万周以上する距離に相当します。

2 つ目の障害はブラック ボックスの問題から生じます。統計に基づく AI は「透明性もオープン性もない」と Shashua 氏は考えています。今日のディープラーニングは、データに基づいた自動プログラミングです。ある方法が成功すれば、それがうまくいくことはわかりますが、なぜうまくいくのかはわかりません。逆に、失敗すれば、なぜ失敗するのかはわかりません。私たちにできることは、常にパラメータを調整し、データ量を増やして、より満足のいく結果になるようにすることだけですが、実はその「内部」については何もわかっていません。

しかし、自動運転では透明性が非常に重要です。結局のところ、運転は社会保障、運転手、乗客、通行人、さらには運輸局、自動車会社、さらには保険会社などの利害関係者が関わる非常に複雑な問題です。ひとたび自動車事故が発生すると、関係者に原因を説明できず、責任の所在も定まらず、自動運転が社会的な信頼を得ることは困難です。

自動運転車は、人間が安全に共存する方法を考えなければならない最初のインテリジェントマシンになる可能性が高い時代です。 Mobileye は、統計情報に加えて人間が理解できるルールをいくつか追加しようと試み、中国語では Responsibility Sensitive Safety Model と翻訳されている RSS (Responsibility Sensitive Safety Model) モデルをリリースしました。 RSS で確立されたさまざまなルールは、アシモフの「ロボット三原則」と同様に、安全性を主な目的としています。

RSS、機械が理解できる数学的なセキュリティ「法則」

シャシュア教授が共著者として以前に発表した論文「安全でスケーラブルな自動運転車の形式モデルについて」と、それに続くモービルアイのプレゼンテーションでは、RSS モデルが次のような「目標」を達成するように設定されていることがわかりました。

1. 自動運転車自体は事故を引き起こすことはできない（事故の当事者になることはできるが、事故の原因となることはできない）。

2. 自動運転車は、他の車両がミスを犯して事故を起こした場合に、より深刻な事故を避けるために正しく対応する必要があります。一言でまとめると、自動運転車が事故の責任を負うことは決してないはずです。

この目標を設定した理由は、自動運転の実現可能性を解決するためと理解できます。事故を起こさないということは、自動運転車が事故の責任を問われないことを意味し、実質的には規制当局や自動車会社へのプレッシャーが軽減される。

しかし、合理的なアプローチがなければ、このテキストシンボルだけでは、自動運転車がこの目標に向かって進むことができることを保証することはできません。したがって、自動運転車は次の質問に答えられる必要があります。1.事故が発生する可能性のある危険な状況は何ですか？2.問題に遭遇したときの正しい対応は何ですか？3.そして最後に、これも非常に重要です。自動運転車は事故の原因となる当事者になることを避ける必要があるため、事故の責任者をどのように特定しますか？（つまり、責任者になることを回避する方法）

これらの目標を達成するために、RSS はこの文書で 5 つの基本的な常識的な原則を定義しています。

1. 前の車に追突しないでください（前の車に追突しても責任はありません）。

2. 急に車線変更して、後続車に追突されないようにしてください（これは前の車の責任です）。

3. 「通行権」を持ちますが、故意にそれを争ってはいけません。 （英語：通行権は与えられるものであり、奪われるものではない）。たとえば、前の車が割り込んできた場合、道を譲ることはできませんが、安全を確保するために速度を落とすことはできます。

4. 死角に注意してください。

5. 他人を傷つけずに事故を回避できる場合は、それを避けるために全力を尽くしてください。

RSS は、一見単純なテキスト シンボル記述ではなく、強力な数学的ロジックによって実現可能であることが保証されていることに注意してください。以下の式 (安全な車両距離について) のような式は、論文のいたるところで見られます。シャシュア氏はまた、こうした常識は合理性、妥当性、検証可能性という3つの原則に基づいて策定されなければならないと強調した。これらの常識的な原則により、自動車の意思決定システムを自動的に設定して、統計的な AI だけに頼って安全運転を実現するという非効率性を回避できます。

自動運転車の規制、コンセンサス、価値

自動運転は社会の公共の安全にかかわることから、政府が規制に介入することが確実な分野であることは間違いない。

Mobileye を訪問中に、いくつかの重要なニュースがありました。 Mobileye と Volkswagen は、自動運転配車サービス (Mobility as a Service、MaaS とも呼ばれる) の開発に向けて共同で取り組むと発表した。シャシュア氏は、このプロジェクトの重要なポイントは、政府が関与する世界初の自動運転MaaSプロジェクトであるという点だと考えています。イスラエル政府は、MaaSの発展を支援するための規制上の障壁と規制の枠組みについて議論する特別委員会を設立することを約束した。

自動運転車のような新しいものに関しては、規制の程度が非常に重要であるとシャシュアは考えています。安全のために規制を重視しすぎると、結局何も達成できない可能性があります。この点、米国は比較的緩いのに対し、欧州は規制が厳しい。緩すぎても厳しすぎても、何も達成できない（緩すぎると事故が多発し、国民の信頼を失ってしまう。厳しすぎると業界に革新のチャンスがなくなる）。イスラエルは、プロジェクトの安全性と実現可能性のバランスを確保するために政府が介入し、「革新的な監督（制度的革新）を実現」するなど、制度的革新を行ってきた。

シャシュアの目には、新たな技術要件によって、政府の合理的な法的規制システムと技術の厳密な数学的論理が、重要な新たな分野、つまり「規制科学」を形成しているように映る。これは、アシモフが機械倫理学を生み出したのと同じように、法律と高度な数学を組み合わせた新たな分野である。シャシュア氏は、RSS が単なる Mobileye の意見ではなく、世界の自動運転業界の総意となることを期待しています。「常識的なルール」として、それに賛同する人が増えるほど、安全性と使いやすさが保証されます。 Mobileye は現在、OEM、業界サプライヤー (Baidu は 4 か月前に Mobileye の RSS モデルを採用すると発表)、さらには米国と中国の規制当局とも協力し、コンセンサスと共同イノベーションを推進しています。

[[250187]]

モービルアイに到着したときも同じことが起こりました。北京公共交通グループと北泰知能も同時にモービルアイを訪問し、3者は共同でパートナーシップを確立するための覚書に署名しました。北泰インテリジェンスの運用責任者である李華氏は、「交通ビッグデータのための基本的なインフラを確立する」と述べた。

イスラエルでは、2種類の運転体験をしました。

1回目は車での運転でした。イスラエルはドライバーがルールを守る国ではありません。外国で慎重に運転していると、後ろからクラクションを鳴らされて急かされたり、反対車線から追い抜かれたりすることがよくありました。そこで、自動運転の配車サービスに関するニュースを友人たちに投稿したところ、イスラエルで働いていた友人が、道路テストのシナリオが十分にあるので、ここは間違いなく自動運転車を開発するのに適した場所だと言いました。

2回目は、Mobileye プラットフォームを搭載した自動運転車に乗ったときです。私たちが乗っていたフォードの車は、人間の運転手の介入なしに道路上を自由に走り回っていました。車線変更時も、その反応速度は人間をはるかに超えます。後から考えてみると、これはまったく驚くことではありません。何しろ、車のカメラは、前方と後方200メートル以内の道路状況をリアルタイムで考慮することができます。人間のように、曲がる前に慌ててバックミラーを見る必要はありません。

実際、自動運転車がすでに人間の運転手よりも優れている可能性は十分にあるが、異種間の懸念があるため、新しい運転手の出現を受け入れるには、自動運転車が人間の運転する車よりも 100 倍安全である必要があります。人間の「老いたドライバー」たちが、あと 10 年以内に自信を維持できるようにしましょう。