AIの5つの本当の危険性

偽造品、アルゴリズムの偏り、その他の問題が私たちの日常生活に及ぼす影響

[[323166]]

過去数年間、人工知能は私たちの技術を驚異的な速度で進歩させてきました。 労働集約的な作業の完全自動化から肺がんの診断まで、AI はこれまで不可能と思われていた偉業を達成しました。 しかし、誤って使用されると、アルゴリズムは破壊的な武器になる可能性があります。 悪意のある行為者が社会に大混乱をもたらさないようにするために、私たちはいくつかの重要な課題に取り組まなければなりません。

AIの本当の危険は、SkyNetのような知覚アルゴリズムが世界を支配することではありません。 このシナリオが純粋なSFだとしても、いくつかの正当な疑問が残ります。 テクノロジーを恐れるのではなく、テクノロジーを慎重に見極め、解決する責任を取るべきです。 この記事では、すでに私たちの日常生活に影響を与えている特に重要な 5 つの分野を紹介します。

1. ディープフェイク

現代社会では、情報は無限にあります。 ブラウザを開いて 30 分間 Web を閲覧すると、中世の平均的な人が一生で得る情報よりも多くの情報に出会うことになります。 情報は力です。 地球の反対側で起こっている出来事について、即座に通知されますが、問題があります。何を信じればよいのか、どの情報源が信頼できるのか、どうやって判断すればよいのでしょうか?

以下のビデオをご覧ください。

もちろんこれは完全に偽物ですが、一般の観察者にとっては見分けるのが難しいかもしれません。 これらは「ディープフェイク」と呼ばれ、このようなリアルな偽画像を生成できるアルゴリズムの一種である「ディープラーニング」という専門用語をもじったものです。 この特定の動作はテクノロジーの精巧なデモンストレーションに過ぎなかったが、ニュースフィードに表示される偽ニュースの割合が一定のしきい値に達すると、危険になる可能性がある。 この場合、どの情報が真実で、どの情報がそうでないかを検出することは不可能になります。

驚くことではないが、ディープフェイクとの戦いにおいて非常に有望なツールの 1 つは AI そのものなのだ。 DARPA の MediFor プログラムや Google の Deepfake Detection Challenge など、注目を集めているいくつかの取り組みは、誤情報をフィルタリングする方法の開発を目指しています。

私たちの生活にディープフェイクは存在しませんが、ディープフェイクは確かに最も破壊的なフェイクの 1 つです。

2. アルゴリズムの偏り

過去数年間に仕事に応募したことがあれば、アルゴリズムによる偏見によって、良くも悪くも影響を受けたことがあるはずです。 求職者の選考に AI ベースのアルゴリズムを開発するのは良いアイデアかもしれませんが、これには多くの問題があります。 機械学習では、どの候補者を採用する価値があるかを理解するために履歴データが必要です。 問題は、受け入れと拒否に関するデータが、主に女性や少数派に向けられた人間固有の偏見に大きく影響されていることです。 アルゴリズムは提示された情報から学習するだけであり、以前の採用慣行が差別的であった場合（よくあるケース）、アルゴリズムも同様の動作をすることになります。

最高のフィットネス教育オンライン ゲームのサバイバルは、この現象の優れた示唆に富む例であり、チェックする価値があります。

この問題は、信用スコアの推定、法執行など、他の多くのアプリケーション分野に影響を及ぼします。これらの要素は関係する人々の生活に非常に大きな影響を及ぼすため、公平性を保証できない限り、これらの決定にアルゴリズムを関与させるべきではありません。 これにより、新しい非常に活発な研究分野が生まれました。 性別、人種、および否定的なバイアスの影響を受ける同様の変数からの予測の独立性を確保することに加えて、これらの変数が存在しないデータを生成することが重要です。 この問題を解決するには、さらなる努力が必要です。 データからバイアスを完全に取り除くには、私たちの思考からもバイアスを取り除く必要があります。なぜなら、結局のところ、データは私たちの行動の結果だからです。

3. 集団監視

一時的な安全を得るために基本的な自由を放棄する人は、自由も安全も得る資格がない。 - ベンジャミン・フランクリン

顔認識は数十年にわたってコンピュータービジョンにおける重要な問題となってきました。 しかし、ディープラーニング革命以降、顔をより正確に認識できるようになっただけでなく、瞬時に認識できるようになりました。 スマートフォンが手元にある場合は、カメラ アプリを開いて自撮り写真を撮ってみてください。顔の周囲に境界ボックスが表示され、顔が正常に検出されたことが示されます。 最近の iPhone をお持ちの場合は、顔を電話のパスコードとして使用することもできます。

この技術は、間違った目的で使用されると、それ自体に危険を伴います。 中国では、前例のない大規模監視に利用されている。 最近導入された社会信用システムと組み合わせると、例えば信号無視や特定の活動に参加するだけで自分の行動を評価してポイントを獲得できるため、何も隠すことはできません。

4. 推奨エンジン

YouTube、Facebook、その他のソーシャル メディア サイトを開くたびに、その目的は、ユーザーの関心をできるだけ引き付けておくことです。 つまり、この場合、あなた自身が商品です。時々広告を視聴すれば、サイトを無料で利用できます。 したがって、目的はユーザーに高品質のコンテンツを提供することではなく、ユーザーがスクロールし続け、自動再生を無限に続けることです。

人間の脳の進化の過程を考えると、残念ながら相互作用は強い感情的な反応によって引き起こされます。 たとえば、政治的に過激なコンテンツはこれに特に適していることがわかります。 推奨エンジンは過激なコンテンツを提示することを学習するだけでなく、各ユーザーをゆっくりと過激化させ、ユーザーの好みが変わったときにその仕事を容易にします。 これをパイプラインの過激化と呼びます。

具体的な科学的根拠があります。 たとえば、最近の論文では、YouTube 上の特定のユーザーからの何百万ものコメントを調査し、彼らがどのようにして徐々に極端に過激なコンテンツに移行したかを示しました。

その影響は非常に深刻で、民主的な選挙に重大な影響を及ぼす可能性があります。 2016年の米国選挙中、ウォール・ストリート・ジャーナルはこのテーマについて広範囲にわたる調査を行った。 彼らの調査結果は、Blue Feed、Red Feed でご覧いただけます。 本質的に、ユーザーは意識的に知識バブルに陥り、外の世界に対する自分自身の認識を決して疑問視しません。 考えるのは難しいですが、本能的な反応は簡単です。

5. プライバシーとターゲット広告

必要のないものを買ってしまい、後で後悔したことはありませんか? スーパーマーケットに行ってレジに近づいたとき、キャンディーの束が目に留まり、ためらうことなくカゴに入れてしまったことがあるかもしれません。 本当は必要なかったのに、結局買ってしまった。 驚かれるかもしれませんが、この計画全体は、あなたがそうするように操作されるように注意深く設計されています。 奇妙に聞こえるかもしれませんが、買い物には実際に精神的な資源が必要であり、それは最終的には枯渇してしまいます。 欲望をコントロールする手段が少ないと、（キャンディーなど）体に良くないとわかっていても、どうしても欲しくなるものを衝動買いする可能性が高くなります。 しかし、これは AI とどのような関係があるのでしょうか?

スーパーマーケットは、上記のような基本的な心理学的原則を考慮して設計されています。 これらの設計原則は平均的な人々に適用されます。 どのデザインも、ユーザーごとにパーソナライズされ、完璧に合理化されたエクスペリエンスを提供することはできません。 しかし、市場がオンラインに移行すると、状況は変わりました。 仮想マーケットプレイスは、カスタマイズされたショッピング体験を提供するだけでなく、非常に具体的なデータも収集します。 あなたの閲覧習慣やソーシャル ネットワークに基づいて、あなたの行動を高い精度で予測できます。

これにはいくつかの潜在的な誤用があります。 1 つ目は、オンライン マーケットプレイスで購入できる可能性のあるアイテムを表示することです。 統計アルゴリズムにより、利益を最大化するために、どのアイテムをどこにどのように提示するかが決定されます。 ただし、これは個々の規模に影響します。 さらに大きな問題は、個人データが政治広告のターゲットとして使用され、民主的な選挙の結果に影響を及ぼす可能性があるかどうかだ。 ケンブリッジ・アナリティカがまさにそうしたのであり、その影響は今も世界中で感じられています。

結論は

近年、AI ベースのテクノロジーは間違いなく私たちの生活を変えました。 ゆっくりと私たちの周りのあらゆるものに浸透しているにもかかわらず、メディアでの表現のほとんどは歪んでいます。 それがピンク色の誇大宣伝の霧を通してであろうと、スカイネットが人類を絶滅させる恐ろしいビジョンを通してであろうと。 どれも本物ではありません。 しかし、AI の適用が安全であることを保証するためには、AI がもたらす可能性のある実際の問題を明確に認識する必要があります。 これらの問題は謎ではなく、すでに私たちの生活の中に存在しています。 適切な認識、準備、コミュニティの努力があれば、これらの問題に対処することができます。