正義がアルゴリズムを採用したとき、最後に笑うのは正義か、それともテクノロジーか?

2017年4月11日、米国のロバーツ最高裁判所長官は、ニューヨークのレンセラー工科大学の学長との会話の中で、「将来、AI駆動のインテリジェントマシンが裁判所の事実判定を支援したり、さらには司法の判決手続きに物議を醸しながら介入したりする日が来ると予想できますか？」と質問された。

[[190681]]

「その日はすでに来ている」とロバーツ判事は述べた。「司法実務の遂行方法に多大な圧力がかかっている」

最高裁判所長官が語ったのは、最先端のAI技術だけでなく、携帯型スマートデバイスやDNAバイオテクノロジーなどの技術革新が伝統的な証拠に基づく事実の判断に与える影響、そして技術革新という新しい環境における旧時代の時代遅れの法律の適用性と進化についても言及していた。しかし、最も議論を呼んでいるのは、国家機構を統制する司法機関が司法実務において裁量権を行使するために技術を利用、あるいは依存するようになるとき、世界を変える技術進歩と公平や正義などの社会的目標との微妙な関係について人々が考え始めるのは避けられないということだ。

この記事では、Jianfabang 氏がウィスコンシン州最高裁判所の裁判例を用いて、米国の司法制度で広く使用されているリスク評価ツールが直面している手続き上の正義の問題について説明しています。

概要

当初、リスク評価テクノロジー ツールは、犯罪者に対する最善の監督と処罰を決定するために、保護観察局と仮釈放局によってのみ使用されていました。国が再犯率の低減と証拠に基づく司法実務の発展に重点を置いているため、このツールの使用は現在、量刑司法実務にまで拡大しています。しかし、リスク評価ツールは主に再犯を減らすことを目的としているのに対し、司法による量刑には（1）抑止、（2）救済、（3）処罰、（4）隔離など複数の目的があるため、量刑におけるこれらのツールの使用はより複雑です。

量刑に特定の証拠に基づくリスク評価ツールを使用するかどうかが、この事件の中心的な問題です。量刑手続きにおける COMPAS リスク評価ツールの使用が、憲法上の適正手続きの権利を侵害するかどうか (Jianfabang による注記: 適正手続きの権利は英米の法制度に由来し、主に、判決によって権利や利益が影響を受ける当事者が情報提供を受け、意見を述べ、審問を受ける権利を指します) は、ウィスコンシン州控訴裁判所が州最高裁判所に判決を求めた具体的な問題です。これは、COMPAS ツールが独占的かつ機密性が高いため、被告が COMPAS リスク評価の科学的有効性に疑問を呈することができないからです。

被告エリック・L・ルーミス（以下、被告という）は、判決の際に裁判所がCOMPASリスク評価を考慮したことは、被告の適正手続きの権利を侵害したと考えている。

ウィスコンシン州最高裁判所は、適切に使用され、明示的に要求される制限と予防措置に従っている限り、裁判所が量刑においてCOMPASリスク評価を考慮することは、被告人の適正手続きを受ける憲法上の権利を侵害するものではないと結論付けました。

最終的に、裁判所はCOMPASツールのリスクスコアを他の独立した要因の裏付けとともに検討し、技術的ツールの使用は決定的な役割を果たさなかったため、ウィスコンシン州最高裁判所は、被告に懲役6年の刑を宣告する際に裁判所が裁量権を不適切に行使したわけではないと判断しました。

裁判官が判決にアルゴリズム技術ツールを使用した事例

この事件の事実は争いがない。検察官は被告人がドライブバイシューティングの運転手であると信じていた。検察官は被告に対し、（１）第一級故意の危険行為、（２）逮捕逃走、（３）所有者の同意のない自動車の運転、（４）重罪犯による銃器の所持、（​​５）ソードオフショットガンまたはライフルの所持の５つの罪で起訴した。

被告は車から発砲したことへの関与を否認した。被告人は裁判を受ける権利を放棄し、検察官との司法取引で、上記の2番目と3番目の2つの軽い罪状について有罪を認めた。

一審裁判所は被告の有罪答弁を受け入れ、量刑前の捜査を開始するよう判決を下した。政府の判決前調査報告書（「判決報告書」）の付録には、COMPAS リスク評価の付録が含まれています。

COMPAS は、Northpointe が設計したリスク ニーズ評価ツールであり、矯正局が入所の決定、囚人の管理、矯正の計画を行う際に意思決定のサポートを提供するために使用できます。 COMPAS リスク評価は、被告人の犯罪記録と被告人との面談から収集された情報に基づいています。

COMPAS レポートには、再犯を予測するためのリスク評価のほか、雇用、住宅、薬物乱用などの分野でのプログラムのニーズを判断するための個別の評価が含まれています。 COMPAS レポートのリスク評価セクションでは、棒グラフとして表示されるリスク スコアが生成されます。3 つの棒は、裁判前の再犯リスク、一般的な再犯リスク、および暴力的な再犯リスクを表します。各バーは、被告のリスク レベルを 1 から 10 までのスケールで示します。

リスク スコアは、同様の犯罪歴を持つ人が釈放後に再犯する可能性が低くなるか高くなるかという一般的な可能性を予測するように設計されています。ただし、COMPAS リスク評価は、特定の犯罪者が再犯する可能性を具体的に予測するものではなく、特定の個人情報と類似の (人口) データ グループの比較に基づいて予測を提供します。

この事件の被告人の COMPAS リスク スコアは、3 つのバーすべてで再犯のリスクが高いことを示しています。彼の判決報告書には、COMPASリスク評価の使用方法に関する指示、その不適切な使用のリスクに関する警告、そして介入から利益を得られる囚人と監督中に対処するべきリスク要因を特定するために使用すべきであるとの説明が含まれていた。判決報告書はまた、COMPASリスク評価は量刑の範囲や犯罪者が刑務所に収監されるべきかどうかを決定するために使用すべきではないと警告した。

さらに、この事件の COMPAS レポートでは、被告人に対して高いリスクと高い監督の必要性が示されていました。つまり、暴力行為のリスクが高いこと、再犯のリスクが高いこと、公判前リスクが高いことであり、これらは適切な量刑を決定する要素となります。

最終的に、裁判所はCOMPASリスクスコアとその他の量刑要因を参照して保護観察の要求を却下した。「COMPAS評価により、あなたは地域社会に高いリスクをもたらす個人として特定されました。」裁判所は、さまざまな要素を検討した結果、犯罪の重大性だけでなく、被告人の「過去の経歴、監督措置の履歴、使用したリスク評価ツール」のすべてが、被告人が再犯するリスクが極めて高いことを示しているとして、保護観察の請求を却下した。

そのため、裁判所は、被告人が司法取引で有罪を認めた交通警察に捕まった後に逃走した罪と所有者の同意なしに車を運転した罪の2つの容疑について、それぞれ懲役2年と4年、その後の監禁措置を被告人に言い渡した。

次に、被告人は、有罪答弁後の量刑に対する異議を審理するために第一審裁判所に審理を開くよう要請した。彼は、判決を下す際に裁判所がCOMPASリスク評価を考慮したことは、憲法上の適正手続きの権利を侵害したと主張した。

裁判中、裁判所は適正手続きの問題について議論した。被告は、量刑においてCOMPASリスク評価を使用することの問題点を指摘した専門家証人を提出した。専門家の証人は、COMPAS リスク評価は懲役刑を科すかどうかの決定に使用すべきではないと考えています。なぜなら、COMPAS リスク評価はこのような目的のために設計されておらず、裁判所が犯罪者のリスクを過大評価して冤罪を招いたり、無関係な要素に基づいて量刑を決定したりする大きなリスクがあるからです。

専門家証人はさらに、量刑裁判所はCOMPASがリスクをどのように分析するかについてほとんど情報を持っていないと指摘した。「裁判所は、COMPASが被告人の個人履歴を比較対象人口とどのように比較するかを知りません。裁判所は比較対象人口がウィスコンシン州の人口なのか、ニューヨーク州の人口なのか、カリフォルニア州の人口なのかさえ知りません...裁判所はあらゆる種類の情報を持っているわけではなく、私たちが今やっていることは、これらのスコアチャートを裁判官の前に提示し、量刑に使用させることであり、裁判所を誤解させることになります。」

第一審裁判所は、COMPASリスク評価の使用は裁判所自身の判断を検証するためのものであり、量刑プロセスでCOMPASリスクスコアが考慮されたかどうかにかかわらず、裁判所は同じ量刑結果を出すだろうと説明し、最終的に保護観察の要求を却下した。

被告側は控訴し、控訴裁判所は事件をウィスコンシン州最高裁判所に送った。

司法がアルゴリズムを採用する中での適正手続きの権利

量刑における COMPAS の使用は新しい慣行ではありません。以前の訴訟では、ウィスコンシン州控訴裁判所は、下級裁判所が量刑において COMPAS 評価を参照したことを支持し、「COMPAS は裁判所が量刑に使用できるツールにすぎない」と指摘しました。しかし、この訴訟とは異なり、その訴訟では適正手続きを受ける憲法上の権利については言及されていませんでした。

しかし、法曹界では、このツールの役割が過度に強調され、乱用されているのではないかと懸念する疑問の声が多く上がっている。

この場合、刑務局は判決報告書の中でこのツールの限界を認め、「リスクスコアは量刑の範囲や犯罪者が刑務所に収監されるべきかどうかを決定するために使用すべきではないことを覚えておくことが重要です」と述べています。

ウィスコンシン州最高裁判所はこれに同意し、この事件における適正手続きの権利の問題を分析した後、必要な警告を発した（下記参照：アルゴリズムによる量刑は信頼できるか？）。

被告は当初、COMPAS ツールの独占的性質により、リスク評価の科学的妥当性に異議を唱えることはできないと主張しました。したがって、被告は、COMPASリスク評価が判決報告書に添付されていたため、被告は判決報告書から包括的な情報を得る機会を奪われ、正確な情報に基づいた判決を受ける権利を確保できなかったと主張しています。

COMPAS の開発元である Northpointe は、COMPAS は自社の独自ツールであり、企業秘密であると考えています。そのため、同社はリスクスコアがどのように決定され、評価要素がどのように重み付けされるかを公表していません。被告は、COMPAS がこの情報を開示しなかったため、第一審裁判所が判決を下す際に使用したすべての情報を受け取っていないと考え、過去の判例との類推に基づいて、適正手続きを受ける権利が侵害されたと考えました。

言い換えれば、被告は、自らの COMPAS リスク評価結果を反駁または説明するのに最適な人物であると信じていたが、棒グラフに反映されたスコアを見るだけでは、効果的に反駁または説明することができなかった。さらに、被告は、ツールの背後にある要因がどのように測定され、リスクスコアがどのように決定されるかがわからなければ、COMPAS 評価の正確さを検証することはできないと主張しています。

ウィスコンシン州最高裁判所はこれに同意しなかった。裁判所は、被告はCOMPASアルゴリズムがどのようにリスクを計算したかを検討したり疑問視したりすることはできないが、少なくとも量刑報告書の付録に含まれるリスクスコアを検討したり疑問視したりすることはできると指摘した。したがって、この事件の被告には、裁判所が反論、補足、または説明するために依拠した情報を入手する機会がなかったわけではない。

ウィスコンシン州最高裁判所は、リスク スコアでは COMPAS プログラムがリスク スコアを計算するために情報をどのように使用したかは説明されていないが、Northpointe の COMPAS 実践ガイドでは、リスク スコアは主に犯罪歴などの静的な情報と、犯罪仲間や薬物乱用などのいくつかの動的変数に基づいていると説明されていると判断しました。

被告の判決報告書の COMPAS レポートには、次のような 21 の静的情報質問が含まれています。

• この人物は仮釈放中に何回拘留されましたか? 5+
• この人物は保護観察期間中に新たな告発や逮捕を何回受けましたか?
• この人物は何回逮捕されましたか（刑事拘留のみ）？逮捕当時は成人でしたか、それとも未成年でしたか？12

したがって、ウィスコンシン州最高裁判所は、被告のリスク評価はこれらの質問に対する回答と犯罪歴に関する公開データに基づいており、この意味で、被告にはCOMPASレポートに記載されている質問と回答が正確であることを確認する機会が十分にあったと判断しました。裁判所と被告は同じリスク評価レポートを見ることができました。被告には、他の要因または情報を主張してリスクスコアの不正確さに異議を申し立てる機会があります。

アルゴリズムによる判決は信頼できるのか?

COMPAS を使用している米国のいくつかの州では、COMPAS の検証研究を実施しており、COMPAS は十分に正確なリスク評価ツールであると考えています。ニューヨーク州刑事司法局は、COMPAS が評価した再犯対策の妥当性と予測精度を調査する研究を実施し、再犯対策は実用的かつ効果的であり、予測精度において満足のいく結果を達成したと結論付けました。ニューヨーク州や他の州とは異なり、ウィスコンシン州は、ウィスコンシン州の人口に対する COMPAS 統計検証研究をまだ完了していません。

一方、被告らは、リスク評価ツールの正確性に疑問を投げかける他の研究も発見した。例えば、彼は2007年のカリフォルニア州矯正更生局の調査を引用し、COMPASは犯罪誘発性ニーズと再犯リスクを評価しているように見えるが、「これがCOMPASが実際に評価しているものであるという証拠はほとんどない」という結論を出している。

カリフォルニア州の研究はさらに、「COMPAS が異なる評価者によって一貫して採点できるという明確な証拠はなく、また、それが評価するために設計された犯罪誘発性ニーズを評価しているという明確な証拠も、カリフォルニア州矯正更生局の受刑者の間での再犯リスクを予測しているという明確な証拠もない」と結論付けている。最終的に、研究の著者らは、カリフォルニア州矯正更生局が個人に対して COMPAS ツールを使用することを推奨していない。

しかし、カリフォルニア州矯正更生局はその後、カリフォルニア州COMPAS検証研究に関する2010年の最終報告書を公表した。 2010 年の研究では、完璧ではないものの、「COMPAS は信頼できるツールである」という結論が出ています。

これらの問題に加えて、リスク評価ツールが、家族背景、教育、人種など、さまざまな制御できない要因に基づいて、少数派の犯罪者を不当に高いリスクに分類する可能性があるという懸念もあります。

その結果、ウィスコンシン州最高裁判所は、リスク評価ツールを使用する管轄区域は、それらのツールを維持し、その正確性を継続的に監視するためのリソースと能力を確保する必要があることを要求しました。

裁判所が量刑に使用している COMPAS リスク評価の正確性に関する疑問に応えて、ウィスコンシン州最高裁判所は、COMPAS リスク評価の使用は、上記の制限に加えて、特定の予防措置に従う必要があると判断しました。具体的には、COMPAS リスク評価を含む判決報告書には、COMPAS リスク評価の正確性に関する以下の考慮事項を判決裁判所に通知する必要があります。

• COMPAS は独自のものであるため、リスク スコアの決定方法や評価要素の重み付けを公開することはできません。
• リスク評価では被告人を全国のサンプルと比較しているが、ウィスコンシン州の人口に関する相互検証研究はまだ完了していない。
• COMPAS リスク評価スコアに関するいくつかの研究では、少数派の犯罪者が不釣り合いに再犯リスクが高いと特定されているのではないかという疑問が提起されています。
• 人口統計は変化し続けるため、リスク評価ツールは正確性を維持するために継続的に監視および調整する必要があります。このようにして、量刑裁判所はリスク評価の正確性をより適切に判断し、リスクスコアに適切な重み付けを割り当てることができるようになります。

それにもかかわらず、ウィスコンシン州最高裁判所は、COMPAS リスク評価の役割を明確に認め、これらのツールが裁判所が量刑のあらゆる要素を考慮するのに役立つというインディアナ州最高裁判所の意見を引用しました。同時に、COMPAS リスク評価は、特定の高リスク個人ではなく、グループデータに基づいて高リスク犯罪グループを決定するため、量刑裁判所は各被告人に対するすべての量刑要素を考慮する際にこの点に留意する必要があり、COMPAS リスク評価は量刑の決定的な要素となることはできない。

アルゴリズム＝正義？ 袁芳さん、どう思いますか？

科学技術の進歩は、経済、政治、生活など社会のあらゆる側面に影響を与えています。社会の公平性と正義を保つ社会の仕組みである司法制度も例外ではありません。アルゴリズムツールなどの科学技術の成果が司法実務に徐々に浸透し、量刑などの重要な国家行動にまで影響を及ぼすようになると、近い将来、AI駆動型スマートマシンなどの技術ツールが司法機関の法律解釈と執行を支援するだけでなく、徐々により重要な主導的役割を果たすようになるのではないかと人々は必然的に心配し始める。

つまり、人類は仲間の運命や公平性や正義といった核心的価値の実現を、人間が発明したアルゴリズムなどの技術的ツールに委ねることになるのでしょうか。

米国最高裁判所のロバーツ判事は偏見のない人物で、ますます多くの裁判所が技術の進歩を受け入れている。ウィスコンシン州最高裁判所は、この件について楽観的かつ実際的なコメントをしている。

判決プロセスにおける証拠に基づくリスク評価ツールの使用を分析する際には、COMPAS などの技術ツールの変化と進化を考慮する必要があります。今日私たちが直面している懸念は、ツールが改善されるにつれて将来軽減されるかもしれません。刑事司法制度は、今後数年間でさらに多くの研究データが利用可能になり、より優れたさまざまなツールが開発されることを認識すべきである。データが変化すると、司法機関が使用するツールも変化する必要があります。司法は研究に遅れずについていく必要があり、司法実務におけるこれらのツールの使用を継続的に評価する必要があります。

最終的に、好むと好まざるとにかかわらず、司法が技術の進歩を受け入れる未来が到来しました。公正、正義、効率などの社会的価値の目標は、司法が技術を受け入れた後、最終的に繁栄するのでしょうか、それとも不評になるのでしょうか。待って見守ることにしましょう。

袁芳さん、どう思いますか？