AIが悪事を働いている？人工知能における倫理について考えなければなりません！

この記事は、公開アカウント「Reading the Core」（ID: AI_Discovery）から転載したものです。

AI は自動化を実現し、ゲームで人間に勝ち、人々の生活水準全体を向上させることができるため、多くの人々が AI に熱狂しています。 もちろんこれは議論の余地のない事実ですが、AI には依然として欠陥があり、人間が引き起こしたものかどうかは別として、危険性さえあります。現在でも、AIが人々の生活を脅かしたり、迷惑をかけたりする事例は後を絶ちません。なぜこのようなことが起きているのでしょうか。AIが普及するにつれ、AIのどのような潜在的な特性が社会に破壊をもたらすのでしょうか。

[[346241]]

AIアルゴリズムの倫理的欠陥

AIには倫理的な問題を引き起こす多くの欠陥があります。それらの多くは、情報フィードバック ループ モデルを確立するためのトレーニング データの偏りによるものです。こうした小さなミスが実際の人々にどのような影響を与えるか、いくつかの例を見てみましょう。

1. 顔認識トレーニングデータは偏っている

ある日、あなたが学校から家に歩いて帰る途中、逮捕状を持った警察が現れ、あなたに手錠をかけ、拘置所に連行するところを想像してください。家族や近所の人が見ているのに、自分が何を間違えたのか全く分からないのです。警察署に到着すると、全身検査が行われ、指紋が採取され、写真が撮られ、その後、汚い独房で一晩過ごさせられます。なぜ逮捕されたのかと思いながら、ただそこに座って待つだけです。

[[346242]]

ロバート・ウィリアムとその家族 | 出典: デトロイト・フリー・プレス

ロバートにまさに同じことが起こったのです。彼はアメリカのファーミントンヒルズで理由もなく逮捕された黒人男性だった。警察が尋問したところ、黒人男性が店内で商品を盗んでいる写真が提示された。ウィリアムはそこにいたことを否定し、写真に写っているのは彼ではないと主張した。 もう1枚の写真には、ウィリアムには全く似ていない万引き犯のクローズアップが写っている。彼は「いいえ、これは私ではありません。黒人はみんな同じに見えると思いますか？」と言っている。なぜ警察は間違った人物を逮捕したのだろうか？これはアルゴリズムの問​​題だ。警察は容疑者の捜索に人工知能を使ったが、それは明らかに間違っていた。 AI が間違えるなんてあり得るのでしょうか? AI は非常に正確であるべきではないでしょうか? はい、AI は通常非常に正確ですが、それはトレーニングに問題がない場合に限ります。ウィリアムが容疑者とみなされた主な理由は、トレーニング データの偏りでした。顔認識システムは白人に対してはかなり公平ですが、特定のグループに対しては精度が低くなります。使用されるデータセットは主に白人の顔と他のグループの少数の顔で構成されているため、黒人の認識率は低くなります。

​​

顔認識の精度ギャップ | 出典: FastAI のレッスン 5

「肌の色が濃い男性」は識別しやすいものの、「肌の色が濃い女性」に関しては特に、肌の色が濃い人と薄い人の識別にはまだ大きなギャップがありました。これらの成果は最先端テクノロジー企業のものであり、警察が使用することはできない。

2. YouTubeのフィードバックシステム

皆さんも、ホームページで興味深い動画や人気の動画を見つけて、1 時間経ってもまだそのページから抜け出せず、気づかないうちに他の動画も見ている、という Web サイトを見たことがあると思います。ここで推奨システムが役立ちます。推奨システムは、ユーザーがページに長く滞在できる動画を提供し、より多くの広告収益を獲得します。 「そのプラットフォームに長くいても何の問題もない。誰も傷つかない」と思うかもしれません。いいえ、この推奨アルゴリズムは、フィードバックに有害なコンテンツをもたらす可能性があります。 YouTube の AI フィードバック ループには、非常に恐ろしい問題があります。「この発見には多くの恐ろしい点があります。サイトの推奨アルゴリズムにより、小児性愛者が特定の動画のコメント セクションで児童ポルノを見つけたり共有したりすることが容易になります。動画が商業化されるだけでなく、推奨システムは何千人ものユーザーに児童向け動画を絶えず宣伝しています。」フィードバック ループ システムは単一のパターンを作成する可能性があり、視聴者は常に拒否するコンテンツを見る可能性があります。その結果、反対意見に耳を傾けない人々が現れ、分極化が進むことになります。 さらに、そのようなシステムは陰謀論を助長することになるだろう。陰謀論は人々の意見を二分すると同時に、陰謀論にほんの少ししか興味がなかったり懐疑的だったりする人々でさえも、彼らの言うことを信じさせる。あなたに推奨されるビデオはどんどん増えており、それらはすべて同じメッセージを伝えています。

​​

画像ソース: unsplash

3. AIは医療に要する時間を短縮する

2016年、アーカンソー州の医療システムに新しいアルゴリズムが導入されました。このアルゴリズムは、医療スタッフにリソースと時間をより適切に割り当てるために設計されており、各患者がどの程度の支援を必要としているかを判断するためにいくつかの要素を考慮に入れています。しかし、医療の効率が向上するということは、多くの人の医療時間が短縮されるということでもありますが、これらの人々こそが最も助けを必要としている人々であることが多いのです。

[[346243]]

画像ソース: TheVerge

このソフトウェアは糖尿病や脳性麻痺の人には使えないが、これはバグと誤ったコーディングに起因する問題だ。これは倫理的な疑問を提起します。患者の健康に関する決定を下すために AI を使うべきでしょうか? 政府はなぜエラーを知らずに、またはエラーを検出せずにアルゴリズムを使用したのでしょうか? アルゴリズムが人々の生活にどのような影響を与えるかを示す明確な例は、タミー・ドブスの例です。タミー・ドブさんは、長年脳性麻痺に苦しんだ後、2008年にアーカンソー州に移住しました。彼女は多くの援助を必要とし、自力で車椅子に乗ることができず、手が硬直していました。このため、州の保健当局は彼女に最大限の介護時間、週56時間を割り当てた。

[[346244]]

画像出典: TheVerge

アーカンソー州の医療システムが AI アルゴリズムを導入したとき、すべてが変わりました。ダオ・ボーさんの治療時間は 56 時間から 32 時間に短縮されました。元の 56% にすぎません。この短縮は明らかに彼女の生活に大きな影響を与えました。

AIの不適切な使用

AI が意図的に非倫理的な操作に使用されている例もあり、これは人間以外のコードエラーよりもさらに恐ろしいものです。

1. IBMと大虐殺

はい、IBMは第二次世界大戦で使用されました。 「第二次世界大戦の背後に AI があったのか？」と疑問に思う人もいるかもしれません。似たようなものだと言えます。当時、IBM は分類用の集計関数セットを開発しました。これは、カードをカテゴリに分割する単純なアルゴリズムではなく、通常考えられる人工知能ではなく、多くのメンテナンスを必要とするより複雑なツールです。そうは言っても、AIであろうとなかろうと、テクノロジーの不適切な使用について議論することは重要だと私は思います。

まず、この機械の仕組みを振り返ってみましょう。パンチカードが渡されるので、それを挿入します。機械が情報を読み取り、保存し、最終的に数字を出力します。これらの数字は、人々が送られる強制収容所、囚人の種類、死に方を表しています。 経済戦争の主任調査官ハワード・カーターは次のように書いている。「ヒトラーの経済戦争は、わが国（米国）の企業のひとつによっても実行された。つまり、IBM はナチスと同じ種類の人々であり、全世界は国際的な怪物によって抑圧されているのだ。」

2. 顔の交換

顔を変えることも人工知能の一種です。生成される画像、ビデオ、さらには音声も非常にリアルで、深層学習モデルである生成的敵対的ネットワークを使用しています。娯楽目的で顔交換を利用することには何ら問題はありませんが、実際の危険を伴い、倫理的な問題を引き起こします。 顔の入れ替えが害を及ぼすために使用される一つの方法は、政治です。ツイートが緊張を高める可能性があるなら、動画や音声録音はどうだろうか。他の政界の大物を侮辱する録音はインターネット上で拡散し、分極化を深め、人々がそれを真実だと信じれば状況をさらに緊張させる可能性がある。 社会を混乱させるもう一つの方法は、インターネットに大量の虚偽のコンテンツを流すことです。インターネットにアクセスするとき、自分が見ているものが本物だとどうやってわかるのでしょうか? インターネットやメディアで顔の入れ替えが横行すると、何が事実で何が真実なのか誰もわからなくなってしまいます。テキストも偽って生成されることがあります。あなたが読んでいるものが私が書いたものか、それともロボットがあなたを誤解させているものなのか、どうやってわかるのでしょうか?

[[346245]]

画像出典: MITテクノロジーレビュー

害を及ぼす可能性のある最後の種類の資料はポルノです。 2019年9月の報告書によると、インターネット上の顔変更アプリの96％がわいせつな作品に関連するものだった。フォーブスの記事にはこう書かれている。「顔を入れ替えるポルノ作品は、他人の許可なく有名人や個人的な知り合いのビデオを人工的に合成したものであることが多い。」

倫理的な問題が発生する

恐ろしいことに聞こえるかもしれませんが、さらに悪いことが起こるかもしれません。 AIとテクノロジーは急速に進歩しており、最終的には私たちはオーウェル的な状況に直面することになるでしょう。政府はより大きな権限を持ち、私たちが何をいつ行っているかを把握するために AI を活用するようになります。カメラに組み込まれた顔認識機能があなたのあらゆる動きを監視し、マイクが誰が何を話しているかを識別し、予測アルゴリズムがあなたの次の動きを決定します。

[[346246]]

画像出典: Contexture

これにより、別の問題が浮上します。政府にとって、あなたを追跡することが容易になればなるほど、彼らが憎む人々を排除することが容易になります。次の「ヒトラー」は、迷惑な人たちがどこにいるかすでにわかっており、いつでも見つけることができるので、彼らを探す必要がなくなり、仕事がより効率的になるでしょう。政府は、自分たちに反対する者が誰なのかを突き止め、その反対者をより簡単に処罰することもできる。 説得力のある偽のテキストやビデオが、最も信頼性が低く価値のないメッセージとともに Web に溢れています。私たちはAIに対して警戒を怠ってはなりません。