アルゴリズムが力を発揮します!なぜ人間と人工知能はますます似てきているのでしょうか?

[[256247]]

アルゴリズムは私たちにどう考えるべきかを教え、それが私たちを変えています。コンピューターが模倣する方法を学ぶにつれて、私たちもコンピューターに似てきていますか?

シリコンバレーは、人々が電子メールにどう反応するか、誰かのインスタグラムの写真にどう反応するかを予測するようになり、人々がどの政府サービスを受ける資格があるかを判断することが増えており、まもなく、近々登場する音声アシスタントの Google アシスタントが、美容院に電話してリアルタイムで予約できるようになるだろう。

私たちは、病院から学校、法廷まで、ほぼあらゆる場所にアルゴリズムを導入しています。私たちは自動化されたシステムに囲まれています。数行のコードで、どんなメディアを見るべきか、誰とデートすべきか、さらには誰を刑務所に送るべきかを司法制度に指示することができます。

これらのプログラムにこれほど多くの意思決定権と管理権を与えるのは正しいことでしょうか?

数学プログラムは、さまざまな複雑な問題に対して迅速かつ正確な答えを生成できるため、私たちは数学プログラムに魅了されています。機械学習システムは、現代社会のほぼすべての分野ですでに使用されています。

アルゴリズムは私たちの日常生活にどのような影響を与えるのでしょうか?絶えず変化する世界において、機械は人間の行動、人間の好み、人間の嫌いなもの、人間にとって最も魅力的なものは何かを迅速かつ見事に学習しています。私たちは今、予測技術が支配する空間に住んでいます。

アルゴリズムは、膨大な量のデータを分析、分類し、関連性のある結果を即座に提供することで、私たちの生活を劇的に変えました。長年にわたり、当社は企業が膨大な量のデータを収集し、当社に推奨事項を提示し、当社にとって何が最善かを決定することを許可してきました。

Google の親会社である Alphabet や Amazon などの企業は、私たちから収集したデータをアルゴリズムに入力し、収集した情報を使用して私たちのニーズに適応し、より人間らしくなるよう人工知能に指示を出しています。しかし、これらの便利な機能に慣れてくると、私たちはコンピューターのように話したり行動したりするようになるのでしょうか?

「アルゴリズムは本質的に不公平です。モデルを構築する人が成功を定義するからです。」— キャシー・オニール、データサイエンティスト

現在の技術発展の速度からすると、近い将来私たちの行動がアルゴリズムによって導かれ、支配されるようになることは想像に難くありません。実際、これはすでに起こっています。

Google は昨年 10 月、メール サービス Gmail 向けに「Smart Reply」と呼ばれるインテリジェントな返信機能を開始しました。この機能は、返信を書いたり、すばやく応答したりすることを支援することを目的としています。それ以来、アシスタント機能はインターネット上で大流行し、多くの人が、そのカスタマイズされた提案は侵入的で機械的なものだとして批判し、その応答が最終的に私たちのコミュニケーション方法に影響を与え、電子メールの規範さえ変える可能性があると主張する人さえいる。

アルゴリズムの主な問題は、アルゴリズムが非常に大きく複雑になると、現在の社会に悪影響を及ぼし始め、民主主義を危険にさらすことになるということです。機械学習システムが社会の多くの分野で一般的になるにつれ、アルゴリズムが世界と私たちの心を支配するようになるのでしょうか?

さて、Facebook が何をしているのか見てみましょう。 2015年には、ニュースフィードの新バージョンが、ユーザーの購読コンテンツをフィルタリングしてパーソナライズされた新聞に変えるように設計され、ユーザーが以前に「いいね！」、共有、コメントしたコンテンツに関連するものを見ることができるようになりました。

「パーソナライゼーション」アルゴリズムの問​​題は、ユーザーを「フィルターバブル」または「エコーチェンバー」に閉じ込めてしまうことです。現実の世界では、ほとんどの人は、混乱を招いたり、不快だったり、間違っていたり、憎しみを感じたりする意見を受け入れる可能性は低いでしょう。 Facebook のアルゴリズムに関する限り、同社はユーザーに見たいものを提供しており、その結果、各ユーザーのフィードは独自の世界、それ自体が独自の現実になります。

フィルターバブルにより、システムの観点からは情報と偽情報はまったく同じに見えるため、公の議論に参加することがますます困難になっています。ロジャー・マクナミーは最近、タイム誌にこう書いている。「フェイスブックでは、事実は絶対的なものではなく、選択であり、最初はユーザーとその友人に委ねられるが、その後、普及とユーザーの関与を促進するためにアルゴリズムによって増幅される。」

フィルターバブルは幻想を生み出します。つまり、誰もが同じことをしたり、同じ習慣を持っていると信じているのです。 Facebook では、アルゴリズムが二極化を助長して問題を悪化させ、最終的には民主主義に害を及ぼしていることは、すでにわかっています。アルゴリズムが英国の国民投票や2016年の米国大統領選挙の結果に影響を与えた可能性があるという証拠がある。

「フェイスブックのアルゴリズムは中立的な情報よりも極端な情報を推奨し、偽の情報が真実の情報に、陰謀論が事実に勝ることを許している。」 - シリコンバレーの投資家ロジャー・マクナミー

常に情報に圧倒されている今日の世界では、情報を精査することは、一部の人にとっては大きな課題となる場合があります。 AI が適切に使用されれば、人々のオンライン体験を向上させたり、増え続けるコンテンツの過負荷を素早く処理するのに役立つ可能性があります。しかし、アルゴリズムが適切に機能するには、現実世界で何が起こっているかに関する正確なデータが必要です。

企業や政府は、アルゴリズムに入力されるデータが偏りがなく正確であることを保証する必要があります。完璧なものなど存在しないため、多くのアルゴリズムにはすでに偏ったデータ推定値が存在し、オンラインの世界だけでなく現実の世界にも危険をもたらします。

私たちが技術的な荒野に陥らないように、より強力な規制枠組みを主張することが必要です。

アルゴリズムに与える権限についても、細心の注意を払う必要があります。アルゴリズムがもたらす透明性の問題、アルゴリズムが下す決定やプロセスの倫理的影響、そして人々の労働生活に影響を与える社会的影響について、人々はますます懸念するようになっています。たとえば、裁判で AI を使用すると、人々が住んでいる地域や犯罪との関連性などの「リスク」要因が考慮されるため、少数派に対する偏見や差別が増加する可能性があります。これらのアルゴリズムは、無実の人間を刑務所に送る壊滅的な体系的エラーを引き起こす可能性があります。

「私たちは人間性を失う危険にさらされているのでしょうか？」

「もしコンピューターに考えさせると、その基礎となる入力データが悪ければ、コンピューターは間違った考えをすることになり、私たちはそれに気付かないかもしれない」と、セキュリティー専門家のブルース・シュナイアー氏は著書「Click Here to Kill Everybody」の中で書いている。

ロンドン大学ユニバーシティ・カレッジの数学者ハンナ・フライ氏は、コンピューターが自由に動作できる世界を切り開きました。彼女は新著『Hello World: アルゴリズムの時代に生きる人間』の中で、国民として私たちはキーボードの背後にいる人々、つまりアルゴリズムを書く人々にもっと注意を払うべきだと主張している。

「機械が私たちに何をすべきか、どう考えるべきかを指示する世界を創る必要はないが、最終的にはそういう世界になる可能性もある」と彼女は語った。本の中で何度も彼女は「私たちは人間性を失う危険にさらされているのだろうか？」と問いかけます。

今は、人間が排除される段階ではありません。私たちの世界における役割は軽視されておらず、今後もそう長くは続かないでしょう。人間と機械は、それぞれの長所と短所を組み合わせて協力することができます。機械には欠陥があり、人間と同じ間違いを犯します。私たちは、どれだけの情報を引き渡し、どれだけの権力を放棄するかを意識する必要があります。結局のところ、アルゴリズムは今や人類の本質的な一部であり、すぐになくなることはありません。