スタンフォード大学がAI法の講座を開設。人工知能は法律の対象になり得るか？

昨年3月、アリゾナ州でウーバーの自動運転車が歩行者をはねて死亡させた。米国の検察当局が「ウーバーに責任はないが、自動運転車のバックアップドライバーであるラファエル・バスケスの行動は警察に報告し、さらに調査すべきだ」と述べたのは今年3月5日になってからだった。

しかし、2016年2月、カリフォルニア州マウンテンビューでグーグルの自動運転車が試験中にバスと衝突した際、米国道路交通安全局（NHTSA）は、自動運転に使われる人工知能システムは運転手とみなせると確認した。

人工知能の台頭により、このような事例が世間の注目を集めるようになり、現在の法律、規制、倫理規範、政策システムに大きな課題を提起するようになりました。

「人工知能の運搬者は法人ですか？」

このような疑問が、法律とコンピューターサイエンスの交差点にあるスタンフォード大学の新しいコースで活発な議論を巻き起こしている。法人でない場合、AI キャリアが他者の利益を侵害し、社会的損失を引き起こした場合、開発者、運営者、ユーザーの誰が責任を負うべきでしょうか。法人である場合、これらの「AI」はどのように有罪判決を受け、刑罰を受けるべきでしょうか。

今日は、人工知能が従来の法律や公共政策に影響を与えている時代に、スタンフォード大学の教育専門家と法律専門家がどのような取り組みを行っているかを紹介します。

AI政策立案？連邦政府はすでに開始している

人工知能はテクノロジー企業だけの領域だと思わないでください。実際、近年、米国連邦政府は、公共政策の策定に機械学習や人工知能関連の技術を活用することを検討し始めています。

米国環境保護庁（EPA）による農薬規制の例は、アルゴリズム分析と法律が微妙に相互作用する良い例です。

これまで、EPA による農薬の毒性試験は、動物が化学物質にどう反応するかに大きく依存してきた。しかし、8万種類以上の化学物質を検査しなければならないというプレッシャーに直面し、この方法は時間がかかり、費用がかかり、非人道的であると広くみなされている。

その後、EPA は大量のデータを収集し、化学物質の毒性検査を標準化するためにさまざまな計算方法を導入しました。同社は、データマイニングとモデリングをサポートするためにさまざまな公開リソースを統合したリレーショナルデータベースである集約計算毒性学リソースを確立しました。 ——アルゴリズムとニューラルネットワークを使用したデータの分析を通じて、意思決定のための新しいアイデアを見つけます。

人工知能が法的意思決定に関与するようになるにつれ、米国における障害補償請求手続きも変化し始めている。

2013 年以来、紙の文書を確認する職員の負担を軽減し、ケース決定の一貫性を向上させるために、米国退役軍人省は、退役軍人の障害申請を処理するためのコンピューター ケース管理システムを導入しています。

このシステムは、申請者からのアンケート（自己申告）に基づいて、さまざまな退役軍人の障害の程度を0～100％で自動的に評価できると報告されている。このソフトウェアは現在、IBM Watson の人工知能プログラムを使用して、退役軍人の電子医療記録のデータを精査しています。

テクノロジー大手、政府のデジタル改革のパートナーとなるか?

今年2月、トランプ大統領は人工知能を推進するための新たな大統領令に署名し、人工知能を再び国家の優先課題に引き上げた。しかし、軍隊を除いて、ほとんどの連邦政府機関は依然として技術の更新が非常に遅く、ハイテク人材は比較的不足しています。最も優秀な人材はどこにいるでしょうか? もちろん、シリコンバレーのテクノロジー大手です。

では、テクノロジーの最前線に立つテクノロジー企業は、連邦政府の技術向上においてどのような役割を果たすのでしょうか?

IBM のようなテクノロジー大手と政府は、すでに人工知能の分野でいくつかのプロジェクトで協力しています。

米海兵隊は、ワトソンの AI デバイスを使用して軍用車両の性能を診断し、IBM の SPSS 統計ソフトウェアや Watson Explorer などの自然言語処理とデータ サイエンスを人員の編成と配置に適用しています。つい最近まで、こうした計画やスケジュールの多くはスプレッドシートで行われていました。

テクノロジー企業は、技術支援に加え、コア技術の政策、監督、応用の見通しなどについても政府と意見交換を行う予定。

グーグルは今年2月、34ページに及ぶ「AIガバナンスの課題に関する見解」を米国政府に提出し、政府、社会、業界に対し、人工知能の説明可能性基準、公平性評価、安全性の考慮、責任枠組みについて協力するよう求めた。

Google は、欧州の電子製品が販売前に CE 認証を受ける必要があるのと同様に、米国政府も人工知能に対して同様の安全指標を作成すべきだと提案している。 「例えば、スマートロックの生体認証技術は、使用前にその正確さをテストする必要がある」と、グーグルの新興技術政策担当グローバル責任者、チャリナ・チョウ氏は述べた。

多くのテクノロジー大手が技術プロジェクトで政府に協力しているが、これらのプロジェクトにプライバシー侵害や非倫理的な行為のリスクが伴うとしたらどうなるだろうか？

Google が米国防総省と共同で進めた Maven プロジェクトを覚えていますか? 昨年 3 月に発表されて話題となったこのプロジェクトは、Google が人工知能技術を使用してドローンの映像を分析し、動画像や静止画像からドローンが対象物を自動的に追跡できるようにすることで、攻撃の精度を向上させるというものです。これらのドローンは、アフガニスタン、パレスチナ、イエメンなどの国々に対する米国の空爆に利用される可能性がある。

すぐに、4,000人を超えるGoogle従業員がProject Mavenに反対する請願書に署名し、ニューヨークタイムズに全面広告を掲載し、数十人の従業員が辞職する結果となった。ついに昨年6月、Googleは態度を軟化させた。国防省との協力契約は今年3月に期限が切れた後は更新しないと表明した。

また、アマゾンの従業員450人以上が最近、ベゾス氏に公開書簡を送り、同社が顔認識ソフトウェア「レコグニション」に関して米国防総省や法執行機関のシステムと協力するのをやめるよう求めた。彼らが懸念しているのは、法執行機関が公的監視や社会的説明責任、そしてアマゾンの制限なしにこれらの技術を使用すると、人権侵害につながる可能性があるということだ。

しかし、ベゾス氏は、同社は国防総省と引き続き協力していくと述べた。「大手テクノロジー企業が国防総省を拒否すれば、国は困った状況に陥るだろう。たとえ不評でも、これは我々がやらなければならないことだ」

人工知能と行政を組み合わせることの利点と懸念

政府のパフォーマンスを向上させる上での人工知能の利点は何でしょうか? 主な魅力的な利点は 3 つあります。

*** は効率です。大量の繰り返しイベントを低コストで完了します。一方、機械は個人的な要因に干渉されることなくデータ分析を実行し、結果を予測することができます。意思決定者は人種的偏見を示したり、情報の重要性を過大評価または過小評価したり、状況についての想定が甘かったりする場合があります。人間の意志を排除することで、機械による決定は自然に説得力のあるものになります。

最も重要なのは、ビッグデータに接続することで、コンピュータ プログラムが政府職員による情報分析や潜在的な戦略的行動への対応を支援できることです。

しかし、行政の効率化が進む一方で、事務作業における機械の利用の標準化も課題となっている。

最近、カリフォルニア州最高裁判所のマリアノ・フロレンティーノ・クエヤル判事は、著書「人工知能と行政国家」の中で、意思決定プロセスにおける人工知能エージェントの使用に関する4つの懸念を提起しました。

まず、政府は意思決定にコンピューター プログラムに頼るべきか。判事らは、それは意思決定の目的がどの程度社会的に物議を醸すかによると述べた。現在、立法者は、行政上の決定（経済制裁の実施など）を行うべきかどうか、またその決定がさまざまなレベルでどのような結果をもたらすかについて頻繁に議論しています。人工知能は、政治ゲームにおいてすべての当事者の利益をどのように調整するのでしょうか。これは大きな課題となるでしょう。

2 番目の懸念と論争は、人工知能のいわゆる「機械的合理性」から生じます。行政上の意思決定においてアルゴリズムがますます重要な役割を果たすようになり、機械が人間の介入を減らすなか、いわゆる「偏見」や「感情的要因」が無価値なのかどうかを私たちは考えるべきなのだろうか。弱者への同情など、機械によって排除される可能性のある「偏見」も注目に値するかもしれない。

3つ目は、サイバーセキュリティのリスクやその他の悪影響です。行政がデータ収集とコンピュータ プログラムにますます依存するようになると、効率性は向上するかもしれませんが、サイバー セキュリティの脅威に対する脆弱性も高まることになります。

***、意思決定のプロセスを国民に説明するのは困難だろう。民主的な統治の本質は、対話とコミュニケーションを通じて、あらゆる声が意思決定者や国民に理解され、受け入れられ、あるいは拒否される機会を持つことだということを想像してみてください。 AI の意思決定メカニズムが比較的単純で透明性の高い構造に依存できない限り、意思決定機関は意思決定の理由を国民に提供することが非常に困難になるでしょう。

スタンフォード大学法学部の授業でのブレインストーミング

こうした懸念に直面し、シリコンバレーの中心に位置するスタンフォード大学は、学術研究から産業界レベルまでの連携を推進し始めている。2019年から、スタンフォード大学政策研究センターは、法律とコンピューターサイエンスを融合した新しいコース「アルゴリズムガバナンス：規制国家における人工知能」を開始した。 （アルゴリズムによる管理：規制国家における人工知能）

このコースは、スタンフォード大学ロースクールの教授であるデイビッド・フリーマン・エングストロム氏とダニエル・E・ホー氏、およびカリフォルニア州最高裁判所判事のマリアノ・フロレンティーノ・クエヤル氏が共同で指導し、25 名の弁護士、コンピューター科学者、アルゴリズム エンジニアを招いて、政府機関の技術開発と応用について議論します。

「我々は専門知識と認識の不一致に直面している。一方では、法的な判断においてなぜそのような決定を下したのかを法制度が説明する必要があるが、他方では、人工知能と機械学習の仕組みはまだ完全には透明化されていない」とスタンフォード大学ロースクールの教授、デビッド・フリーマン・エングストロム氏は述べた。

クラスの生徒は、コンピューターサイエンス、法律、政治、哲学など、さまざまな専門分野から来ており、チームで協力して課題の 3 つの部分を完了する必要があります。

まず、チームは最も重要な連邦政府機関100機関を調査しました。意思決定に関係するアルゴリズムの例を見つけると、学生たちはその技術が特定のカテゴリのどこに当てはまるかを評価し始めました。それは人工知能なのか、機械学習なのか、それとも他の基本的な技術なのか。

2 番目のステップでは、学生たちは、短期的または中期的に政府機関で AI が最も導入される可能性が高い場所を共同で評価します。

***、規範的な問題に目を向けると、規制タスクを実行するために人工知能を使用することに関する法的、政策分析、哲学的な課題について考えます。たとえば、機械による管理によって多くの手続き上の権利が脅かされるという問題をどのように解決するか。

コースの最後に、学生は行政機関のさまざまなレベルで人工知能技術をどのように適用できるかを調査するレポートを完成させます。この報告書は超党派の独立機関である米国行政会議に提出され、今後の行政機関の政策に影響を与えることが期待されている。