人工知能が人間に危害を加えた場合、誰が責任を負わされるのでしょうか?

コインの表裏のように、技術の進歩は人々の生産と生活を促進する一方で、深刻な実際的な問題ももたらします。機械が十分に賢くなったとき、人間に与える回復不能な損害に対して誰が責任を負うべきなのでしょうか?

SF映画のようにロボットが人間を「裏切って」攻撃するというシーンがすぐに実現することはないだろうが、機械にはさまざまな種類がある。現段階では、インテリジェントマシンによって人間の生命と安全が最も脅かされるシナリオは、おそらく交通機関です。

2018年、自動運転車が歩行者をはねる世界初の死亡事故が発生した。米国時間3月18日午後10時、米国アリゾナ州テンピで、ウーバーの自動運転車が道路を横断中の歩行者、ホームレスのエレイン・ヘルツバーグさん（49歳）と衝突した。エレイン・ヘルツバーグさんは病院に搬送された後、死亡した。

テンピ警察の広報担当者は、予備調査の結果、事故発生当時、ウーバーの自動運転車はレベル4の自動運転モードで、最高時速35マイルの道路を時速38マイルで走行しており、ブレーキをかけるタイミングが間に合わなかったことが判明したと述べた。一方、運転席の安全運転手は信号を受け取らず、衝突後まで事故に気づかなかった。

9月、マリコパ郡の大陪審はウーバーの自動運転車の安全運転手を過失致死罪で起訴するとの判決を下した。したがって、この事件は、後の世代における同様の判決にとって画期的な出来事となる。

実際、AI が人に傷害や死亡を引き起こした場合、過失責任を判断するのは簡単なことではありません。 AI が制御不能になったり、制御できたりするとしたら、いつ人間を責め、いつ AI を責めればいいのでしょうか?

今年10月2日、ボストン大学ローレビュー誌に「過失とAIの人間ユーザー」と題する論文が掲載され、この問題に焦点を当てた。論文の中で、カリフォルニア大学ロサンゼルス校（UCLA）の助教授アンドリュー・セルフスト氏は、人工知能は人間の過失に関する既存の法律に抵触しており、規制介入が必要であると指摘した。

セルフスト氏は、ウーバーの訴訟には2つのシナリオが考えられると述べた。まず、裁判官や陪審員は、半自動運転車両とやり取りする人物に責任を負わせるのは不合理であると判断する可能性があります。次に、自動化システムや自律システムに対する制御が限られている人間の行為者に責任を負わせる可能性もあります。これは文化人類学者マデレーン・エリッシュが「道徳的衝突ゾーン」と呼ぶもので、機械と人間が一緒に考えられているが、法律では機械の知能が考慮されておらず、人間が責任を負うことになる状態である。

「過失法が人間が対応できる以上の高い注意基準を要求する場合、普通の人間では危険を防げなかった状況でも、人間のオペレーターに責任を負わせることになる」とセルフスト氏は書いている。 「ウーバーのケースは『道徳的衝突ゾーン』の方向を示しているように思われるが、反対のシナリオを想像するのは簡単だ。つまり、普通の人は時間内に反応したり、常に警戒を怠ったりできないので、そうしないのが合理的だということになる。」結局のところ、人工知能がもたらすのは不確実性です。 ”

セルフスト氏は、法学者は完全自律走行車と、ウーバーの事故のような人間と連携して動作する半自律走行車を区別する傾向があると述べた。完全自律走行車や汎用人工知能 (AGI) では、責任がハードウェア製造元や AI システムに転嫁される可能性がありますが、人間が AI を使用して予測、分類、評価に基づいて意思決定を行う場合、答えは明確ではありません。セルフスト氏は、これが企業、政府、社会に新たな課題をもたらすだろうと予測している。

今日、人工知能の大部分は人間の意思決定能力を強化するように設計されています。たとえば、裁判官が複数の犯罪を評価するために使用するアルゴリズムから、医療専門家がケアプランや診断を作成するために使用する AI 駆動型ツールまで多岐にわたります。これらのシステムには、医療画像内のパターンを検出して、乳がん、肺がん、脳腫瘍などの病気を専門家が診断するのを支援する機能が含まれています。

セルフスト氏は、テクノロジーは過失法の変革を推進する重要な要素であるが、人間と AI が意思決定において互いに依存している点が AI をユニークなものにしていると述べた。問題をさらに複雑にしているのは、人間が精査せずに自動化された決定を受け入れたり、通知が多すぎてアラート疲れを感じて AI を無視したり、複雑すぎるデータのパターンを識別するために AI に頼ったりする可能性があることです。

セルフスト氏は、人間とAIシステムが共同で意思決定を行う世界では、政府は過失法が急速に発展する技術に追いつく機会を与える改革を検討する必要があると述べた。

「AIは無視するには有益すぎると社会が判断した場合、AIの使用による被害者を補償するための新しい規制モデルが必要になるかもしれない。このモデルは過失を問う必要がないものでなければならない。これは厳格責任、一般保険、事前規制などになる可能性がある」と論文には書かれている。

これに対処するために、アンドリュー・タットの「アルゴリズムのFDA」など、さまざまなモデルが開発されてきた。これは、医薬品の調査におけるFDAとほぼ同じように機能する機関である。もう一つのアイデアは、環境影響評価に似たアルゴリズム評価を実施して、監視と情報公開を強化することです。

「最終的には、AIが判断と結果の間に、とらえどころがなく、直感に反し、統計的に導き出された、そして多くの場合は独自のコード層を挿入することで、人間の選択、行動、結果の関係性が試されることになる」と論文には書かれている。 「説明と透明性の要件を利用して、一部の決定とその結果とを結び付ける方法はあるかもしれないが、過失の場合、AIの使用によって引き起こされた損害に対する救済を実際に提供できる可能性を高めるには、さまざまな外部介入が必要である。」

そうすることで、将来パラダイムシフトが起こり、基準がさらに遅れをとる前に、過失に関する法的基準が AI の進歩に追いつくための時間を確保できるかもしれない。

この論文では、アルゴリズムの偏りが危害をもたらす場合に何が起こるかという問題も検討しています。自動運転車の問題に戻ると、研究によると、コンピュータービジョンシステムは黒人の歩行者よりも白人の歩行者をよりよく検出できることがわかっています。このようなシステムの使用を認めれば、交通事故の総数は減るかもしれないが、同時に黒人の歩行者にとって不親切になるだろう。

セルフスト氏は、規制当局の介入がなければ、AIは特定のグループにいかなる救済手段も与えず、彼らにとって悪い結果を常態化させる可能性があると述べた。これにより、オンラインでアルゴリズムによる偏見や危害に遭遇したときに人々がすでに感じている無力感を増幅させる可能性があります。

「AIは被害の総数を減らすことには成功するかもしれないが、被害をなくすことはできず、被害者が助けを求める能力さえ奪ってしまうのではないかという懸念がある」と論文には書かれている。

説明責任に関して言えば、AI業界の秘密主義が大きな障害となっている。過失法は通常、合理的な行為を構成するものの一般的な定義を反映するために時間の経過とともに進化します。しかし、企業の秘密保持により、危害につながる AI の欠陥が一般の目に触れなくなる可能性が高くなります。この状況は、過失法や不法行為法の変化のペースを追い越す可能性のある人工知能の急速な発展によってさらに悪化しています。

「機密保持のため、さまざまなAI企業の製品のバグや脆弱性についてはほとんど知られていない。この状況では、どのような失敗が合理的で不合理なのかについて一般の人々が結論を導き出すことは不可能だ」と論文は述べている。