ピュー研究所：アルゴリズム時代の7つの主要テーマとその主な影響

世界的に権威のある調査機関であるピュー研究所は最近、「アルゴリズムの時代」と題する報告書を発表し、1,000人以上の専門家にインタビューし、アルゴリズムが生活のあらゆる側面に与える影響を7つの主要テーマに沿って議論した。このレポートの目的は、来たるアルゴリズム時代に対する人々の現在の見解を客観的かつ包括的に反映することです。その結果、回答者の38%のみがアルゴリズムのプラスの影響がマイナスの影響を上回ると予測し、37%はマイナスの影響がプラスの影響を上回ると考えていました。25%はアルゴリズムの全体的な影響は50%-50%程度にとどまると答えました。アルゴリズムはどこにでも存在するはずです。将来に希望はありますか?

[[184024]]

アルゴリズムとは、問題を解決したりタスクを完了したりするための指示文です。レシピはアルゴリズムであり、数式もアルゴリズムです。コンピュータコードまたはアルゴリズム。インターネットはアルゴリズムに基づいて動作しており、すべてのオンライン検索はアルゴリズムを通じて行われます。アルゴリズムにより、電子メールはどこに送信されるかがわかります。スマートフォンアプリはアルゴリズムに他なりません。コンピューターゲームやビデオゲームはアルゴリズムによって書かれた物語です。オンラインデート、書籍推薦システム、旅行ウェブサイトはアルゴリズムなしでは機能しません。 GPS マッピングシステムは、アルゴリズムを使用して人々を A 地点から B 地点に移動させます。人工知能（AI）もアルゴリズムです。人々がソーシャルメディアで目にするものは、アルゴリズムを通じて提示されます。人々がオンラインで見たり行ったりする事実上すべては、アルゴリズムの産物です。スプレッドシートをソートするたびにアルゴリズムが使用され、今日ではほとんどの金融取引はアルゴリズムによって行われています。アルゴリズムは、デバイスが音声コマンドに応答したり、顔を認識したり、写真を分類したり、車を作成したり運転したりするのに役立ちます。アルゴリズムは、ハッキング、サイバー攻撃、暗号化コードの解読の試みの対象となります。自己学習アルゴリズムや自己プログラミングアルゴリズムが登場しており、将来的には多くのアルゴリズムがアルゴリズムによって記述されるようになるでしょう。

アルゴリズムは、多くの場合、タスクを達成するために利用できる、エレガントで非常に便利なツールです。アルゴリズムはほとんど目に見えませんが、想像もできない方法で人間の生活を向上させます。しかし、善意でアルゴリズムに基づいて作成されたアプリケーションが、意図しない結果につながることもあります。最近の例としては次のようなものがあります。

2016年10月7日、アルゴリズムによって引き起こされた通貨取引の影響もあり、英ポンドの価値は6.1%下落しました。

マイクロソフトは昨年の春、ミレニアル世代とチャットするために「Tay」というTwitterロボットを開発したが、数時間も経たないうちに、Tayは送られてきたコンテンツをアルゴリズムに基づいて「学習」し、それに応じて他のユーザーに返信したため、人種差別的、性差別的、ホロコースト否定的なツイートを頻繁に投稿するようになった。

Facebook は、ニュースフィードに基づいて人気のトピックを強調表示する機能を開始したいと考えています。フェイスブックは当初、編集のために人間を雇ったが、人間の編集者は保守的な見解に対して偏見を持っていると指摘する人がいたため、アルゴリズムに編集を任せたが、アルゴリズムではフェイクニュースを識別できないことがわかった。

『数学的破壊兵器：ビッグデータはいかにして不平等を拡大し民主主義を脅かすか』の著者キャシー・オニール氏は、アルゴリズムに基づく予測分析は貧困層を搾取することが多いと指摘し、著書の中でアルゴリズムによる雇用を例に挙げてこのことを論じている。

善意のアルゴリズムでも悪意のある人物によって破壊される可能性があります。 DNS はインターネットトラフィック処理プログラムです。2016 年 10 月 21 日、ハッカーが DynDNS を攻撃し、情報を大量に送信したため、米国東海岸全域でインターネット速度が低下し、ネットワークデバイスを使用したインターネット攻撃の新たな時代が到来しました。インターネットセキュリティ専門家のブルース・シュナイアー氏は同年9月に「誰かがインターネット全体をダウンさせる方法を学んでいる」と警告した。 2016年の米国大統領選挙の際には、Facebookのニュースフィードアルゴリズムとオンラインフェイクニュースアルゴリズム全般をめぐって大きな論争が巻き起こった。

研究者のアンドリュー・タット氏は、「アルゴリズム FDA」の設立を求めた。タット氏は次のように指摘した。「ますます複雑化するアルゴリズムの出現により、アルゴリズムがもたらす損害をいかにして最善に防止し、阻止し、補償するかについて、批判的に考える必要がある...アルゴリズム関連の規制を策定するには、危険なアルゴリズムが市場に導入されるのを防ぎつつ、イノベーションを阻害しないようにするために、連邦政府による統一的な措置、専門家の判断、政治的独立性、市場投入前の審査が必要となるだろう。」

ホワイトハウスは2016年10月にアルゴリズムと人工知能の発展とそれらに関連する問題への対処計画を詳述した2つの報告書を発表し、12月にはAI主導の自動化が米国の雇用市場と経済に及ぼす潜在的な影響を概説した報告書も発表した。

2017年1月17日、Future of Life Instituteは有益な人工知能の原則に関する23の軍事規則を発表しました。ホーキング、マスク、カーツワイル、そして世界で最も重要な人工知能研究者数百人を含む1,600人以上がこの文書に署名しました。

企業や政府は膨大な量のデータを作成、収集、分析しており、アルゴリズムの使用がますます普及しています。これを「アルゴリズムの時代」と呼ぶ人もおり、機械学習やディープラーニングに関連するこのアルゴリズムの未来により、前例のない速度で社会が進歩すると予測しています。

2016年の米国大統領選挙後、インターネットツールが選挙で果たした重要な役割を踏まえ、これらのツールが将来に革命的な影響を与えるだろうと多くの分析が指摘しました。しかし、Xプライズ財団のCEOであるピーター・ディアマンディス氏は、技術的な内容の点では技術の発展が選挙に影を落とすだろうと予測している。ディアマンディス氏は、コンピューティングとAI、そしてIoTシステムやデバイスに組み込まれたAIエージェントの急速な進化により、有権者のハイパートラッキング、影響力、形成、ハイパーパーソナライズされた広告が可能になり、現実を歪曲し、偽の情報を永続させるまったく新しい方法が生まれるだろうと述べた。

アルゴリズム時代の7つの主要テーマ

テーマ1: アルゴリズムはどこにでもある

目に見える利益と目に見えない利益は、人類の世界に対する理解を深める

アルゴリズムの利点の多くは課題を伴う

テーマ2: アルゴリズム時代のメリット

データ駆動型問題解決がより普及する

コーディングプロセスが最適化され、倫理的問題が解決される

「コードは完璧である必要はなく、人間よりも優れているだけでよい」

将来、世界は善意のAIによって統治されるかもしれない

テーマ3: データと予測モデルが最優先になると、人間性と人間の判断は消える

利益と効率を主な目的として行われるプログラミング活動は脅威となる

アルゴリズムは人間を操作し、結果を操作し、さらには「心を読む」ようになる

これらすべては、欠陥はあるが避けられない論理によって動かされる社会に貢献することになる。

人間は意思決定能力を失い、知性を失うのではないかと心配する人もいます。

複雑なシステムがコードに支配され、人間が取り残されるのではないかと懸念する人もいます。

テーマ4: アルゴリズムで組織化されたシステムにはバイアスが存在する

アルゴリズムはプログラマーの偏見と生成するデータを反映する

アルゴリズムはデータに依存しますが、そのデータは限られていたり、不十分であったり、間違っていたりすることがよくあります。

テーマ5: アルゴリズムによる分類はグループ間の差異を深める

その結果、不平等は深まるだろう

アルゴリズムは、人々を自分のサークル内に制限し、外部の情報へのアクセスを制限するフィルターを作成します。

テーマ6: 失業率が上昇する

よりスマートで効率的なアルゴリズムが多くの人間の仕事を置き換えるだろう

人類の生存を維持するために世界経済を再構築しようとしている人もいる

テーマ7：アルゴリズムに関する知識を普及させ、アルゴリズムの透明性と監督を強化する必要がある

基本的なデジタル情報だけでなく、アルゴリズムの知識を普及させることから始めましょう

責任を割り当て、アルゴリズムのプロセスを規制し、透明性をもって監視する

アルゴリズム規制に対して否定的な見方をする人は多い

スタンフォード大学のアニーシュ・アニーシュ氏のようなアナリストは、今日の「官僚的階層」が、アルゴリズムが公的活動と私的活動を管理する新しい「アルゴクラティック・ガバナンス」によって補完される未来を予見している。ハーバード大学のショシャナ・ズボフ氏らは、人間の経済行動を組織するために一種の「監視資本主義」が出現する未来の「情報文明」について語った。

今後 10 年間のアルゴリズムの潜在的な影響に関する現在の考え方を明らかにするために、ピュー研究所とエロン大学は、技術専門家、学者、ビジネス実務家、政府指導者を対象に大規模な調査を実施しました。この質問に回答した人は 1302 人です:

今後 10 年間でアルゴリズムが個人や社会に与える全体的な影響はプラスになるでしょうか、それともマイナスになるでしょうか?

調査の結果、回答者の38%はアルゴリズムのプラスの影響がマイナスの影響を上回ると予測し、37%はマイナスの影響がプラスの影響を上回ると考えており、25%はアルゴリズムの全体的な影響は50%対50%程度にとどまると答えた。

参加者に回答を説明するよう依頼したところ、大多数が詳細な説明を書き、関連する傾向についての洞察を提供しました。回答者は匿名で回答することができ、回答の大部分は匿名でした。これらの調査結果は、考えられるすべての問題に対する見解を表すものではありませんが、現在の傾向に基づいた貴重な観察結果を示しています。

以下では、回答から浮かび上がった 7 つの主要テーマについて簡単に説明します。紹介の後、インタビュー対象者の何人かの発言を引用し、それぞれのトピックについての彼らの見解を詳しく議論します。

ポジティブな影響

テーマ 1: アルゴリズムはあらゆるところに存在する回答者の間では、アルゴリズムが一般大衆に与える影響は目に見えないことが多く、この影響は今後 10 年間で飛躍的に増大するという見解がほぼ一貫していました。

この見解は、Serre Research および Stream Fuzion の創設者兼社長である Barry Chudakov 氏によって代表されています。彼はこう答えた。

「もしすべてのアルゴリズムが突然機能しなくなったら、私たちが知っている世界は終わってしまうでしょう。」実際、私たちは世界を機械学習とアルゴリズムに委ねています。ここで問題となるのは、これらのアルゴリズムをより良く理解し、管理する方法です。

「アルゴリズムは、映画鑑賞（Affectiva 感情認識）から住宅購入（Zillow.com）、自動運転車（Google）まで、私たちが想像できるほぼすべての分野で人間の意思決定を担う新たな存在です。Deloitte Global は、2016 年末までに世界最大のエンタープライズソフトウェア企業 100 社のうち 80 社が、アルゴリズムを通じて認知技術を自社製品に統合すると予測しています。」

アルゴリズムは「人間の認知そのものと比較するためのより良い基準」を提供し、同じ認知の別の側面、つまり私たちはどのように考えるのか、という考察も促します。そして、アルゴリズム的に考えること、そしてひいては世界を変えることは何を意味するのでしょうか。

「主なプラスの成果は、合理的な決定を下す方法をより深く理解し、それによって自分自身についてより深く理解することです。結局のところ、アルゴリズムは試行錯誤、テスト、観察を通じて数式から導き出されたものであり、判断が難しい選択や問題、特に直感的に結論を出すのが難しい問題に使用できます。」

「アルゴリズムの 2 つ目の良い結果は、接続性です。あらゆるものが他のあらゆるものと接続されるか、接続される可能性があります。アルゴリズムによる接続性により、これまでは人間の操作と思考を必要としていた基本的なプロセスを管理、監視、計測できるようになりました。車は私たちにスピードを落とすように指示できます。テレビは見る映画を勧めてくれます。食料品店は夕食に健康的な肉と野菜の組み合わせを提案してくれます。

「主な悪影響は、シンプルだが現時点では解決されていない疑問に集約される。日々の行動や決断にプログラムされたこれらのアルゴリズムの影響を、私たちはどのように見て、十分に理解するのか？ビジネスモデル、企業、市場を構築する前に、技術的な解決策を生み出すだけでなく、これらの解決策の結果、特にその限界も見極める必要がある。」

チュダコフ氏は、今後 10 年以上にわたって「データ収集と分析、そしてその結果として得られる情報アプリケーションの拡大により、これまで操作されてきたプロセスやオブジェクトに、知能や思考操作のレイヤーが追加されるだろう。その結果、情報ツールや予測ダイナミクスがより広く採用されるようになると、私たちの生活は、それらの固有の結論やプロセスにますます影響を受けるようになるだろう」と付け加えた。

テーマ 2: 明るい未来多くの回答者は、アルゴリズムは大量のデータの意味を理解するのに役立ち、それが科学的な進歩、人々の日常生活における新たな利便性と能力、そして人々が必要とする情報とつながる能力の向上につながると指摘しました。彼らは人間にとって奇跡と思えるような仕事をこなし、これからも人間の知能を大きく高め、偉業を成し遂げる手助けをし続けるでしょう。この見解は、カナダ国立研究評議会の研究者であるスティーブン・ダウンズ氏によって代表されており、彼は次のような前向きな変化を挙げています。

例:

銀行。今日、銀行は非常に不完全なデータに基づいて融資を行っています。実際、今日ローンを借りる資格がある人の多くは、将来ローンを借りることができなくなるでしょう。しかし、銀行が適性を判断するために人種、社会経済的背景、郵便番号などの要素を使用することを拒否しているため、将来的には多くの人々、おそらくはるかに多くの人々がローンを組むことができるようになるだろう。さらに、より多くのデータ（および銀行と顧客間のよりインタラクティブな関係）があれば、銀行はリスクを軽減してより多くの融資を行うことができると同時に、個人の財務状況を個別に指導し、実際に支援するためのさまざまなサービスを提供できるようになります。

医療機関。ヘルスケアは、人々の健康度が高まっているからではなく（実際、社会としてはその逆です）、処方箋、保険、医療施設などのますます複雑化するシステムをサポートする必要があり、多額の費用がかかることから、大きく増加している出費です。新しいテクノロジーにより、医療機関は負担の多くを個人に移管することが可能になり、個人は（個人サポートシステムの助けを借りて）自分の健康をより適切に管理し、自分の個人的なケアを調整および管理し、システムへの負担を軽減できるようになります。全体的な医療費が下がるにつれて、国民全体に単一支払者医療保険を提供することがますます実現可能になり、それが人々の健康に有益かつ効果的な効果をもたらすことはすでにわかっています。

政府。政府の機能のかなりの部分は規制と監視に基づいていますが、自動化された生産・輸送システムやセンサーネットワークの導入により、規制と監視は不要になります。これには、交通違反や民事紛争からビジネスや法的手続きにおける不当な扱いまで、今日の政府との日常的な（そしてしばしば不快な）やり取りの多くが含まれます。簡単な例: 米国における最も根深い政治問題の一つは、現職者に有利になるように選挙区を不当に区割り変更することです。アルゴリズムで作成された選挙区の区分は、この不公平をほぼ排除できる可能性がある（そして、区分が公表され、議論されている場合、結果を修正して改善することができる）。

匿名の回答者からのその他の回答:

「アルゴリズムは従来の方法よりもはるかに速く、自動的に知識を発見します。」

「アルゴリズムはデータベースを十分速く圧縮し、現在進歩を遅らせている煩雑な手続きや官僚主義の一部を軽減できる可能性がある。」

「汚染が減り、人々の健康が改善され、経済の無駄が減るでしょう。」

「アルゴリズムは情報への平等なアクセスを可能にする可能性がある。」

「アルゴリズムの効率性は、創造性と自己表現の向上につながります。

「アルゴリズムは交通問題を軽減することができます。交通渋滞を特定し、代替ルートを計画することができます。」

「自動運転車は毎年の事故件数を大幅に減らし、ほとんどの人々の生活の質を向上させる可能性がある。」

「よりターゲットを絞ったニュース、サービス、広告を提供するため。」

「ソーシャルメディアからデータやクリックの軌跡を収集するアルゴリズムを使用することで、より証拠に基づいた社会科学が生まれています。」

「犯罪を予防し改善できる地域を特定し、より積極的に警察活動を行う。」

「未開発地域が減り、国際的なビジネス交流が増えています。」

「アルゴリズムは意思決定、購入、出荷、その他多くの活動における摩擦を軽減します。」

「ロボットはあなたの指示に基づいて株を買います。デジタルブローカーはあなたが必要とする材料を見つけます。」

「どんなエラーも修正可能です。つまり、アルゴリズムは時間の経過とともに人間のニーズを満たす能力が向上するということです。」

懸念と課題

この調査の参加者は、コード依存の加速による大きなプラスの効果がアルゴリズムの普及を促進し続けるだろうということに強く同意していますが、すべての偉大な技術革命と同様に、この傾向には暗い側面があります。参加者のほとんどが懸念を指摘した。主な懸念事項は、レポートの次の 5 つのテーマにグループ化されており、それぞれにサブテーマがあります。

テーマ 3: データと予測モデルが主流になると、人間らしさや人間の判断力が失われます。アルゴリズムの進歩により、テクノロジー企業や政府は膨大なデータセットを収集、保存、分類、分析できるようになります。

調査の専門家は、これらのアルゴリズムは主に効率を最適化し、収益性を高めるために書かれており、データのモデリングと分析の潜在的な社会的影響についてはあまり考慮されていないと指摘した。これらの回答者は、このプロセスにおいて、人間は現実的で、考え、感じ、常に変化する存在ではなく、「入力」として見られると感じました。

これは欠陥のある論理主導の社会を生み出しており、このプロセスが進化し続けると、つまりアルゴリズムがアルゴリズムを書き始めると、人間は社会のサイクルから取り残され、決定を機械に委ねるようになる可能性があると彼らは言います。

代表的な意見:

クレムソン大学の人間中心コンピューティング助教授、バート・クニネンバーグ氏は次のように答えた。「アルゴリズムは利便性と利益を優先し、特定のグループを差別し、他の人々の蓄積された経験を破壊するでしょう。アルゴリズムの目的は、一部の人々の好みを満たすことですが、必ずしもすべての人の好みを満たすことではありません。本質的に、アルゴリズムは私たちの趣味や嗜好を提示します。私の最大の懸念は、アルゴリズムを「自己実現」させない限り、人々がアルゴリズムの提案に従うことがあまりにも簡単で単純になりすぎることです（つまり、人間がこれらのアルゴリズムが提供する提案を超えることは困難になります）。同時に、人々は徐々にこれらのアルゴリズムを自己正当化する哲学者に変え、ユーザーは消費しやすいアイテムの消費に特化した「ゾンビ」になります。

人々がアルゴリズムの推奨に従うのはあまりにも便利であり（またはそのような推奨を無視するのは難しすぎる）、これらのアルゴリズムは自己達成的予言となり、ユーザーは消費しやすいアイテムの消費に特化したゾンビと化してしまうでしょう。

ある匿名の未来学者はこう言った。「これは産業革命の始まりから起きている。効率や収益性を最適化する人間システムを設計するたびに、労働者の人間性を奪うことになる。この人間性の奪い合いは、今や医療や社会福祉サービスにも広がっている。人間を含むシステムから人間性を排除すると、人間が犠牲者になるのだ。」

別の匿名の回答者は次のように書いている。「個人やそのニーズ、要望、希望、願望を表すために使用されるすべてのデータ要素を捕捉することは不可能です。誰がデータを収集しているのか？何が収集されているのか？データポイントで表される個人はサービス条件を知っているか、または同意しているのか、それとも単に選択の余地がないだけなのか？」

データから利益を得るのは誰でしょうか? 一般の人が自分のデータがどのように使用されているかを知るにはどうしたらよいでしょうか? 何の目的で使用されているのでしょうか? このプロセスでは透明性が欠如しており、監視は茶番劇と化します。すべてが隠されています。私は、データは個人だけでなく、大衆を豊かにし、保護するために使われるべきだと常に信じています。これが私たちが生きている経済システムの根本的な性質です。

このトピックに関する他の回答者のフィードバック:

潜在的可能性は非常に大きいですが、意図的か否かにかかわらず、誤用や乱用の可能性はさらに大きくなります。
企業は社会の利益ではなく利益の最大化を目指します。さらに悪いことに、彼らは利益の追求を社会の利益のための取り組みとして再パッケージ化しています。私たちは波の頂点に近づいていますが、谷の片側には操作、マーケティング、そしてプライバシーのほぼ完全な欠如という新たな倫理観があります。
今日私たちが目にしているのは、現実には「差別価格設定」のようなものは消費者を助けるのではなく、商品を販売する企業を助けるだけであるということです。
法の支配、社会正義、経済が予測可能な損害を被るにつれ、個々の人間は牛のように囲い込まれることになるだろう。
アルゴリズムは、データ生成のギャップと孤立による悪影響を増幅させています。

テーマ 4: アルゴリズム的に編成されたシステムは偏っているここでは 2 つの考え方が関連しています。 1 つはアルゴリズム作成者 (コード作成者) で、彼らは包括的、客観的、中立的であることを目指して努力しているにもかかわらず、自分の意見や価値観を創作物に組み込んでしまいます。もう 1 つは、アルゴリズムで使用されるデータセットに独自の制限と欠陥があることです。数十億の情報を含むデータセットであっても、人々の生活の豊かさや経験の多様性を捉えることはほとんどできません。さらに、データセット自体は、すべての人の入力やすべての人の代表的なサンプルが含まれていないため、完璧ではありません。これらの 2 つのテーマは、次の回答に反映されています。

MIT 教育システム研究所のジャスティン・ライヒ所長は次のように指摘している。「アルゴリズムは主に白人とアジア人によって設計され、データはこれらの特権階級の人々によって選択され、その出発点は彼ら自身のような消費者の利益となるでしょう。特権階級のほとんどの人々は、これらの新しいツールをより便利で安全で役立つと感じるでしょう。新しいテクノロジーの害を最も経験するのは、社会ですでに不利な立場にある人々です。たとえば、広告アルゴリズムは保釈保証人の広告を提供しますが、これは広告を受け取る読者が犯罪者であると想定しています。ローン申し込みの広告は、エージェントを探している人々に配信されますが、これらはすべて人間の民族グループに関連しています。」

「繰り返しますが、すべてのトレーニングデータにはバイアスが含まれています」とソフトウェアエンジニアのダドリーアイリッシュ氏は語ります。「バイアスのほとんどは人種や階級に関連したものです。イマヌエルカントの言葉を借りれば、これらのデータセットの歪んだ木々からは、決して直線は生まれません。」

このトピックに関する他の回答者のフィードバック:

アルゴリズムは、定義上、非個人的なものであり、集計データと一般的な仮定に基づいています。人々が作成するアルゴリズムは、たとえデータに基づいたものであっても、人口の非代表的サブセットにすぎません。
不平等な場所から始めて、アルゴリズムを使用して人/システムの可能な結果を見つけると、不平等が生まれてしまいます。
我々はみな同質の種族として見られることになるが、それは明らかに間違いだ。
その結果、偏見のある有害な決定に対する制度化された言い訳になる可能性があります。つまり、コンピューターが決定を下したので、私たちはそれを受け入れなければならないのです。
アルゴリズムは人々の偏った考え方を反映するでしょう。ゴミを入れればゴミが出る。生活の多くの側面が影響を受けるが、助けられる人はほとんどいないだろう。監督は非常に困難または不可能になります。

テーマ 5: アルゴリズムによる分類は分断を深める多くの回答者の回答から、社会的分断に関する 2 つの関連する点が浮かび上がりました。まず、彼らは、アルゴリズムに支援された未来では、デジタルエリート（主に新しい情報エコシステムで最も裕福で、最も望ましい人々）と、ほとんど接続されていない、または参加できない人々との間の格差が広がると予測しています。第二に、アルゴリズムによる分類によって、人々はメディアや政治のコンテンツを繰り返し、強化するようになるので、社会的、政治的な分裂はアルゴリズムによって推進されるだろうと彼らは言う。 2つの例示的な回答:

Fit to Tweetのオーナー、ライアン・ヘイズ氏は次のようにコメントしている。「20年前、私たちは自宅にパソコンを持っている人と持っていない人、あるいはインターネットにアクセスできる人とアクセスできない人との間の『デジタルデバイド』について語りました。しかし、10年後には、センサーと処理能力を備えた強力なAIによって強化され、膨大な量のデータに接続された人間は、それらのツールを持っていない人やその使い方を知らない人とは異なる能力を持ち、世界に対する理解も異なるでしょう。」

人々の間のこの格差は永続し、能力の低い人は多くの点でより脆弱になります。

ボストン大学の客員研究員アダム・ギスモンディ氏は次のように書いている。「ユーザーがさまざまなイデオロギー領域に隔離されるにつれて、人間の共感力が損なわれるのではないかと心配しています。反対意見に直面したときに、（積極的または受動的に）異なる視点を採用することで他者との衝突を回避できるとしたら、これは私たちの社会に悪影響を及ぼすでしょう。」

大手ソーシャルメディア企業は情報の流れの構造に対して大きな影響力を持っているため、今後数年間でどのような機能を追加するかに注目することは有益でしょう。

他の回答者もこのトピックに回答しています (より包括的なバージョンについては、完全なレポートを参照してください)。

現在の経済秩序が続く限り、データ駆動型アルゴリズムの成長が社会で最も裕福な人々以外の誰かに利益をもたらすとは思えません。
社会的不平等はさらに拡大すると思われます。
主なリスクは、特に 1 つまたは 2 つのサイトまたはプラットフォームに集中している、あまり頻繁に利用しないユーザーが、このようなナビゲーションおよび選択ツールを開発せず、自分自身が不利な立場に立たされることです。
アルゴリズムにより選択がより効率的になります。プラスの影響としては、利益の増加、組織のリスク回避、コスト削減などが挙げられます。マイナスの影響は、すべてのアルゴリズムによってリスクが高い、または収益性が低いとみなされます。
効率性と指揮のメリットは過大評価されています。私たちの生活の中で、ある程度の混沌を維持することは重要です。

テーマ6: 失業率が上昇する

人工知能の普及は大規模な失業やさまざまな悪影響を引き起こす可能性があります。

ある匿名の CEO は、「ある仕事がアルゴリズムによって効果的に表現できるなら、それは機械で簡単に実行できる。私が見ている悪い傾向は、アルゴリズムの台頭により、多くの職種や仕事で人間が機械やコンピューターに置き換えられるということだ。それでは、人間の運命はどうなるのだろうか?」と語った。

このトピックに関する他の回答者のフィードバック:

AIとロボットは労働市場を混乱させ、人間の失業率を100%にまで高める可能性があります。これらはよりスマートで、より効率的で、より生産的で、より低コストなので、企業や商取引はその方向に進むべきです。
自動化は生産能力の爆発的な増加を引き起こし、実践者と資本の間の不平等を拡大するでしょう。
現代の西洋社会は、資本と労働が交換されて経済成長をもたらす社会モデルに基づいています。労働が取引の一部でなくなると、その影響は甚大です。
仕事はなく、人口は増加しており、一般の人々が自律的に機能する必要性は低下しています。これは何の暖かさでしょうか？
アルゴリズムが人間の労働者をほぼ完全に置き換え、彼らに選択の余地がなくなると私は予測しています。
長期的には、これは人間にとって良いことかもしれません。なぜなら、人間は価値の低い反復的な作業を行う必要がなくなり、より高い価値を生み出す意欲が湧くようになるからです。
各国がこの状況に対応し、最低生活賃金とK-12以上の教育の無償化を実施することを期待します。そうでなければ、最も賢い人たちがオンラインリソースを利用してすぐに平均的な個人を追い越し、最も裕福な人たちが経済力を利用してさらに政治的な優位性を獲得することになります。

テーマ 7: アルゴリズムの知識を普及させ、アルゴリズムの透明性と監督を強化する。この調査の回答者は、生活のアルゴリズム化に個人と社会がどのように対処すべきかについて、さまざまなアイデアを提示しました。彼らは、公共生活におけるアルゴリズムの役割についての知識を公教育に取り入れるべきだと主張し、また、アルゴリズムを作成および開発する人々が現在社会に対して説明責任を果たしていないことを指摘し、何らかの形で説明責任を果たすべきだと主張している。

代表者の意見は以下のとおりです。

アルティメーターグループの業界アナリスト、スーザンエトリンガー氏は次のように語っています。「食品や衣類などの商品がどこでどのように生産されたのかを知りたいのと同じように、データや意思決定がどのように行われたのかについても疑問に思うべきです。この情報のサプライチェーンはどのようなものでしょうか。明確なガバナンスと監査証跡はありますか。仮定は不完全な情報、欠陥のある情報源、または無関係なベンチマークに基づいて行われていませんか。データは適切にトレーニングされていますか。適切な関係者が関与しており、間違いから教訓を得ていますか。これらすべてのポイントは、今後 10 年間で組織を管理する方法全体を変える必要があるということです。現実を創造し、変える力は、ごく少数の人しか理解できないテクノロジーに宿ります。したがって、利益のためであれ、人類の福祉のためであれ、あるいはその両方であれ、アルゴリズムを適切に使用するためには、ガバナンスと説明責任の機関が必要です。言うのは簡単ですが、この問題を解決するために産業界と学界の最も優秀な人材が結集する必要があるとすれば、今こそそれを実行するときです。」

『大航海時代』の著者であり、オックスフォード大学マーティンスクールのフェローでもあるクリス・クタルナ氏は、次のように書いています。「アルゴリズムは、明示的なヒューリスティックの一種であり、知覚入力を常に処理しなくてもよいように、定期的に選択や決定を行う方法です。この対処戦略は、人間とともに、そして社会システムやデータ環境全体の複雑さとともに進化してきました。単純化の仮定とヒューリスティックを明確に認識することは、私たちの知性と影響力が成熟する重要なポイントです。現在の違いは、これらのヒューリスティックを明示的にプログラムする能力と、人間の心の外にある機械やプラットフォームでこれらの単純化を実行する能力が向上していることです。この能力を理解し、導くための知恵と倫理を養うには、しばらく時間がかかるでしょう。その間、私たちは、アルゴリズムを適用することがどれだけ安全であるかを本当に知りません。最も重要なことは、アルゴリズムに対する社会の認識、つまり、誰が、どのように、どこでアルゴリズムを適用するかを高めることです。」

このトピックに関する他の回答者のフィードバック:

「資本主義はフィルターバブルやプロファイリング、そして関連する悪影響と戦う意志がない。政府や国際機関も無力だ。」
「監視メカニズムには、より厳格なアクセス契約、情報スチュワードとして任命される前にデジタルスチュワードシップ倫理コードの署名、情報への個別のアクセスのオンライン追跡、オプトアウト機能、アクセス時間の設定、および同意なしにサードパーティの販売の禁止」が含まれます。」
「基礎教育の実際のリテラシーの一部にするためにより多くの努力が払われない限り、2つのクラスがあります。1つはアルゴリズムを使用し、1つはアルゴリズムで使用されます。」
「コンピューターユーザーは、コンピューターの使用についてもっと知り、マスターする必要があります。その使用習慣も注意を払う必要があります。これは、21世紀のコンピューター品質教育の核となるはずです。」
「透明性と結果の評価を可能にするフレームワークを見つけることは、アルゴリズムの「バリューチェーン」と、データが主要なドライバーであり、それがトレーニングするアルゴリズムと同じくらい価値があるという理解を幅広く理解する必要があります。」
「アルゴリズムの説明責任は、理論家、実践者、弁護士、社会科学者、ジャーナリストなどの意見を必要とする大きなプロジェクトです。
「最終的には、ソフトウェア責任法を改革する必要があります。これは、プログラマーが本当に殺人で逃げることができるためです。
「意図しない結果の法則は、アルゴリズムの社会的および技術的複雑さの増加が、予期せぬ壊滅的な出来事を作成することは確実であることを示しています。
「最終的に、私たちは既存のメカニズムを進化させて消費者により大きな制御をもたらします。これは、より大きな理解と信頼につながるはずです。このプッシュは避けられない必要であり、長期的には全員に利益をもたらします。」
「先入観のバイアスを避け、結果に影響を与えるグループ考えを避けるために、ルールを設定するために、ある種の虹の連合が必要です。」
「アルゴリズムは複雑すぎて、完全に透明性がありません。
「アルゴリズムのマイナス効果に対抗しようとするために、メタアルゴリズムが開発されることを期待しています。」

一部の匿名の回答者は、このトピックについて次のように述べています。