「顔の特徴による犯罪者の識別」という論文がNatureに掲載されるのでしょうか？ 1,700人の科学者が共同で反対

1,700人の研究者が、Nature による AI 研究論文の出版をボイコットする請願書に署名した。これは初めてのことだ。

「私たちは、審査委員会に対し、論文承認の決定を公に撤回し、評価に使用した基準を説明するよう求めます。シュプリンガーは、犯罪行為を予測するために刑事司法統計を使用することを公に非難し、この有害な学問を奨励してきた過去の役割を認める必要があります。すべての出版社は、今後同様の研究の出版を控えるべきです。」

長い公開書簡の中で、何千人ものAI研究者が科学出版社シュプリンガー・ネイチャーに論文を出版しないよう求めた。報道によると、この研究では、ある人物が犯罪者であるかどうかを予測できる顔認識システムが提案されたという。この論文はハリスバーグ科学技術大学から提出されました。

どのような研究がこのような論争を引き起こしたのでしょうか? 「画像処理を使用して犯罪を予測するディープニューラルネットワークモデル」と題されたこの論文では、研究者らは、この技術には人種的偏見がなく、写真の顔の特徴に基づいて、その人が犯罪者であるかどうかを80％の精度で予測できると主張している。このディープラーニング手法は、法執行機関向けに開発された。

論文の筆頭著者であるハリスバーグ科学技術大学の博士課程の学生、ジョナサン・コーン氏は、元ニューヨーク市警察官である。論文の共著者であるルーズベ・サデギアン教授は、論文提出時のプレスリリースで次のように述べている。「機械学習技術は、顔認識や感情検出に関連するさまざまなタスクで人間を超えるパフォーマンスを発揮できることがわかっています。この新しい研究は、これらのツールが犯罪を予測する上で非常に重要な画像から微細な特徴を抽出できることを示しており、新しいアプローチの威力を実証しています。」

当初の計画によれば、この論文は Nature の研究シリーズ「Springer Nature – Research Book Series: Transactions on Computational Science & Computational Intelligence」に収録される予定でした。

「偏見なく潜在的な脅威を自動的に特定することで、犯罪防止の目標を達成し、隠れた偏見や感情の影響を受けにくいツールを法執行機関や軍事用途に提供できる」と論文の著者の一人、ナサニエル・アシュビー氏は述べた。 「私たちの次のステップは、このミッションを推進するためのパートナーを見つけることです。」

しかし、物事は著者が期待したほどスムーズには進みませんでした。このニュースが発表されると、「顔を見て犯罪を予測するAI」の研究はたちまち大きな論争を巻き起こした。ソーシャルネットワーク上で業界の専門家らは、効率性、プライバシー、倫理などの原則について合意に達し、この計画は無責任で突飛で「とんでもない間違い」だと非難した。AIが一部の人々を生まれながらの犯罪者と判断するという奇妙な結果につながる可能性があるからだ。

論文の提出後、ハリスバーグ科学技術大学からプレスリリースが発表された。 5月、このニュースは過度の論争のため再び削除されました。

5月に論文提出のニュースが発表されて以来、この研究は科学界で注目され、議論されてきました。最近の公開書簡には、ハーバード大学、MIT、Google、MicrosoftのAI分野の学者や専門家が署名した。彼らは出版社のシュプリンガーに対し、論文の出版を中止するよう求めた。「私たちは科学、学問、人文科学のさまざまな分野の研究者や実践者であり、出版されようとしている論文について深く懸念している」

「刑事司法データは人種的に偏っているため、人種的偏見のない犯罪予測システムを開発するのは不可能だ」と、この書簡の主催者の一人であるオードリー・ビアード氏は電子メールによる声明で述べた。

AI研究者がこのような疑わしい研究を行ったのは今回が初めてではない。

人物の外見に基づいて犯罪の可能性を評価することは、上海交通大学が2016年11月にプレプリント論文プラットフォームarXivに提出した論文「顔画像を使用して犯罪者を自動的に推測する」を思い起こさせる。研究者らは、大量の身分証明書写真でトレーニングすることにより、ニューラルネットワークモデルは犯罪者を識別する際に87％の精度を達成できると主張した。その年、この研究は学界や世論の界隈でも大きな議論を巻き起こした。

昨夜、ネイチャー誌はハリスバーグ科学技術大学の論文はネイチャー誌に掲載されないことを明らかにした。

しかし、一部の人々は依然として疑問を抱いている。「なぜこのような論文がネイチャーの査読プロセスに入るのか？」ディープラーニングの偏りを排除し、それが「悪」の道具となるのを防ぐには、まだやるべきことがたくさんあるようだ。

公開書簡:

https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16 翻訳：