顔認識を禁止した後、サンフランシスコは検察官の事件処理を支援するためにAIを活用

最近、海外メディアの報道によると、サンフランシスコ市は7月1日に導入予定の「偏見削減ツール」を発表した。このツールは基本的な人工知能技術を使い、容疑者の人種を特定できる警察報告書の情報を自動的に修正する。

このツールは、誰かを犯罪で起訴すべきかどうかを決定する際に検察官が人種的偏見に影響されないようにするために設計された。

[[267971]]
画像ソース: THE VERGE 所有者: THE VERGE

サンフランシスコ地方検事ジョージ・ガスコン氏は記者会見で、米国の刑務所に収監されている人々の中で有色人種の割合が不釣り合いに高いと述べた。さらに、検察官はヘルナンデスのような名前を見ると、その人物がラテン系であることがすぐにわかり、それが判決結果に影響を与える可能性があると彼は指摘した。

サンフランシスコ市は以前、報告書内の人種関連情報を検察官が閲覧できないようにすると約束していたが、削除したのは報告書の最初の2ページだけだった。検察官は報告書の残りの部分を閲覧するため、偏見を減らすために機械学習を利用したいと考えていた。

サンフランシスコ地方検事局によれば、このツールは人種に関する記述だけでなく、目の色や髪の色などの記述も削除できるという。意図的か否かにかかわらず、検察官に容疑者の人種的背景を知らせる可能性がある名前、場所、コミュニティも削除される。それだけでなく、このツールは、検察官が偶然警官を知っていて報告書に偏りが出る可能性に備えて、バッジ番号を含む警官の詳細情報も削除する。

また、地方検察庁が、この技術が使用されたのは「国内初」であり、これまで人工知能を使用してこれを実行した機関はなかったと述べたことも注目に値する。

米国で初めて使用されるこのツールは、スタンフォード大学計算政策研究所のアレックス・チョーラス・ウッド氏とそのチームによって開発された。ウッド氏によると、この新しいツールは基本的に、いくつかのアルゴリズムを使用して警察の報告書を自動的に編集し、コンピュータービジョンを使用して報告書内の単語を認識し、場所、警官番号などの一般的なバージョンに置き換える軽量のウェブアプリにすぎないという。

さらにウッド氏は、サンフランシスコを拠点とするテクノロジー企業によって無料で開発の最終段階にあるこのツールは、数週間以内に他の企業でも採用できるようオープンソース化される予定だと述べた。

現時点では、警察の報告書でこのシステムが実際に機能しているのを見ていないため、それがどの程度うまく機能するかは不明だ。しかし、記者が、男性が女性の服を着たり、女性が男性の服を着たりした場合でも、このツールはこの情報を修正できるのかと質問すると、ガスコン氏は単に、今日が出発点であり、このツールは今後も開発され続けるだろうと答えた。

さらに、このツールは逮捕後の最初の検討にのみ使用され、検察官の最終決定は依然として完全な編集されていない報告書に基づいて行われます。そして、最初の有罪の証拠がビデオ映像であったとしても、容疑者の人種が何であるかは依然として非常に明白である。

このツールが役に立つかどうかはまだわかっていないが、サンフランシスコが先月、AI 顔認識を禁止する命令を出したばかりであり、世界で初めてそのような禁止令を出した都市となったことは注目に値する。禁止令を出した理由の 1 つは、顔認識技術に人種的偏見があるからだった。

結局のところ、AI が偏りを持つか、偏りを排除できるかは、AI 技術にかかっています。AI は頻繁に議論の的となるため、Leifeng.com は AI 技術の発展にはまだ長い道のりがあると考えています。

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。