分析: 人工知能について私が心配しているのはなぜでしょうか?

1980 年代や 1990 年代に生きていた人なら、今では消え去った「コンピュータ恐怖症」を覚えているかもしれません。

21 世紀初頭になっても、パーソナル コンピュータが私たちの生活、仕事、家庭の一部となったことで、多くの人が経験した不安、恐怖、さらには攻撃的な行動を、私自身も個人的に経験しました。

彼らの中にはコンピューターに魅了され、その可能性に気づいた人もいましたが、ほとんどの人はコンピューターを理解していませんでした。コンピューターはこれらの人々にとって馴染みがなく、混乱を招き、多くの点で脅威となります。彼らはテクノロジーに取って代わられることを恐れている。

ほとんどの人々のテクノロジーに対する態度は、良くても嫌悪感、最悪の場合はパニックです。おそらく、人々はあらゆる変化に対してこのように反応するのでしょう。

私たちの心配のほとんどは根拠のないものであることは注目に値します。

[[226678]]

話を早送りしましょう。コンピューターを心配する人々は、もはやコンピューターなしでは生きていけず、それを自分たちの利益のために利用しています。コンピューターは人間に取って代わったり、大量失業を引き起こしたりはしていない。それどころか、今日ではノートパソコン、タブレット、スマートフォンのない生活は想像できません。これまでの心配は逆の方向に進み、私たちの懸念は現実のものとなりませんでした。

しかし同時に、1980年代と1990年代には、コンピュータとインターネットが、ネットワーク設備や個人データを追跡するハッカーによる遍在的な大量監視、ソーシャルネットワークを通じた人々の心理的疎外、人々の忍耐力と注意力の喪失、オンラインでの政治的または宗教的過激化の影響を受けやすいこと、国家主権を弱体化させるためにソーシャルネットワークを乗っ取る敵対的な外国勢力など、特定の脅威をもたらすだろうと警告する人は誰もいませんでした。

ほとんどの恐怖が非合理的であることが判明した一方で、人々は技術の変化に関する過去の懸念が現実のものとなっていることに気づき始めている。

100年前には、開発中の輸送技術や製造技術が、2つの世界大戦で何千万人もの命を奪った新しいタイプの産業戦争につながるとは、まったく予想できなかったでしょう。ラジオの発明が、イタリアとドイツにおけるファシズムの台頭につながる新しい形態のマスコミュニケーションにつながるとは、私たちはあまり早くは認識していませんでした。

1920 年代と 1930 年代の理論物理学の発展には、これらの理論的発展がすぐに実現して核兵器に発展し、差し迫った破滅に対する世界の恐怖を永続させるのではないかという不安な予見が伴っていませんでした。今日、10年以上にわたって注目を集めてきた気候変動などの深刻な問題でさえ、依然としてほとんどのアメリカ人（44%）によって無視されています。

文明として、私たちは不合理な恐怖からパニックに陥るのと同じように、彼らの将来が良いのか悪いのかを見極めるのに苦労しているようです。

現在、私たちは過去と同様に、根本的な変化の新たな波、つまり「人工知能 (AI)」と要約できる認知自動化の波の真っ只中にいます。これまでと同様に、私たちはこの新しいテクノロジーが私たちに危害を加えるのではないかと心配しています。AI が大量失業を引き起こすのではないか、あるいは AI が独自の機関を持ち、超人的になって私たちを破滅させるのではないか、と。

[[226679]]

画像出典: facebook.com/zuck

しかし、これらの恐怖がかつて考えられていたほど根拠のないものだとしてもどうなるでしょうか。AI の本当の危険性が、現在パニックを煽っている「超知能」や「シンギュラリティ」という物語とはまったく異なるとしたらどうなるでしょうか。

この記事では、人工知能に関して私が最も懸念している問題、つまり、人間の行動を効率的かつスケーラブルに操作する AI の能力と、企業や政府によるその乱用についてお話ししたいと思います。

もちろん、これは唯一の具体的なリスクではありません。特に機械学習モデルの有害なバイアスに関連する問題など、多くのリスクがあります。この問題については、私よりも優れた洞察力を持つ人がいます。

この記事は、大規模な人口抑制の観点からこの問題に取り組むことを選択しました。なぜなら、このリスクは緊急性があり、深刻に過小評価されていると私は考えているからです。

このリスクは今日すでに現実となっており、今後数十年の間に多くのテクノロジーによってリスクがさらに高まる可能性があります。

私たちの生活がますますデジタル化されるにつれ、ソーシャル メディア企業は私たちの生活や考えについてますます深い洞察を得るようになっています。同時に、特にアルゴリズムを通じて、情報へのアクセスを制御する手段がますます多く使われています。彼らは人間の行動を最適化可能な問題、つまり AI の問題と見なしています。つまり、ゲーム AI がゲーム戦略を洗練させるのと同じように、ソーシャル メディア企業は特定の行動を実現するためにアルゴリズムの変数を微調整します。このプロセスにおける唯一のボトルネックはアルゴリズムです。これらすべてが現在起こっているか、または近々起こる予定であり、大手ソーシャル ネットワーキング企業は現在、人工知能技術に注力し、関連プロジェクトに数十億ドルを投資しています。

以下の議論は、上記の問題を分解して詳細に説明するために、次の部分に分かれています。

• ソーシャルメディアは心理的な監獄である
• コンテンツ消費は心理的コントロールの手段である
• ユーザーの行動は最適化すべき問題である
• 現在の状況
• 欠点：AIが私たちにできること
• 反社会的メディアの構築
• 結論：進歩の岐路に立つ

1. ソーシャルメディアは心理的な監獄である

過去 20 年間で、私たちの私生活と公的生活はオンラインに移行しました。私たちは毎日、画面を見つめて過ごす時間が増えています。私たちの世界は、私たちの活動のほとんどがコンテンツの消費、変更、または作成で構成される状態に向かっています。

この傾向の裏側では、企業や政府が、特にソーシャル ネットワークを通じて、私たちが誰とコミュニケーションを取っているか、何を言っているか、写真、映画、音楽、ニュースなどのコンテンツは何を視聴しているか、特定の時間にどのような気分であるかなどを把握するために、私たちに関する膨大なデータを収集しています。結局のところ、私たちに関するほぼすべての情報が、どこかのサーバー上にデータとして記録されることになります。

理論的には、このデータを収集する企業や政府は、個人やグループの非常に正確な心理プロファイルを作成できるようになる可能性があります。あなたの意見や行動は、何千もの「同じような」人たちの共感を呼び、あなたが選んだ主題について、おそらく内省だけで得られる以上の素晴らしい理解が得られるでしょう。

たとえば、Facebook の「いいね！」機能を通じて、友達の性格をよりよく評価できます。膨大な量のデータにより、ユーザーがいつ（誰と）関係を築き、終わらせるか、誰が自殺するか、そして、たとえまだ決めていない場合でも、最終的に選挙で誰に投票するかを数日前に予測することが可能になります。

これにより、個人だけでなく大規模なチームの分析も改善されます (大量のデータがあるとランダム性と外れ値が排除されます)。

2. コンテンツの消費は心理的コントロールの手段である

データの収集はほんの始まりに過ぎず、ソーシャル ネットワークは私たちがアクセスするコンテンツをますます制御するようになっています。

現在、私たちが目にするコンテンツのほとんどはアルゴリズムによって駆動されています。アルゴリズムは、私たちがどんな政治記事を読むか、どんな映画の予告編を見るか、誰と連絡を取り合うか、さらには自分自身についてのフィードバックを誰から受け取るかなど、ますます影響を与え、決定するようになっています。

長年にわたる報告に基づくと、アルゴリズムは、私たちが誰であるか、そして誰になるかなど、私たちの生活に大きな影響を与えます。

Facebook が長期間にわたって、ユーザーが見るニュース (真実か虚偽か)、ユーザーの政治的立場の変化、さらにはユーザーに関するニュースを誰が見るかまで決定できるとしたら、Facebook はユーザーの世界観や政治的信念を効果的にコントロールすることになります。

Facebook のビジネスは、人々に影響を与えて広告主にサービスを提供することです。

Facebook は、ブランドに対する意見やスマートスピーカーを購入するかどうかだけでなく、さまざまなことに影響を与えることができる、微調整されたアルゴリズム エンジンを構築しました。このアルゴリズムが与えるコンテンツを微調整することで、あなたの感情に影響を与え、操作することができます。このアルゴリズムは選挙結果を変えることさえできます。

3. ユーザーの行動は最適化すべき問題である

ソーシャル ネットワークは、私たちに関するあらゆる情報を測定しながら、私たちが消費するものをコントロールすることができ、この傾向は加速しています。

私たちが認識し行動するとき、人工知能の問題を考慮します。

目標の現在の状態を観察し、目標に到達するまで提供される情報を継続的に調整する、行動最適化ループを構築できます。人工知能の分野の大部分、具体的には「強化学習」は、最適化すべき問題を効率的に解決するアルゴリズムを開発し、それによってループを閉じて目標を完全に制御することです。この場合、私たちの生活がデジタル領域に移行することで、私たちは AI に対して脆弱になります。

ヒューマンライン強化学習ループ

人間の心は単純な社会パターンに簡単に影響され、そのため攻撃や支配に対して脆弱になります。たとえば、次の角度:

• アイデンティティの強化: この手法は広告の始まりから使用されており、現在でも有効です。特定のコンテンツをマークアップに関連付けることで、そのコンテンツを制御できるようになります。人工知能が関与するソーシャル メディアでは、アルゴリズムによって、見たいコンテンツ (ニュースや友人のブログ投稿など) だけが表示されるようになります。逆に、アルゴリズムによって、見たくないコンテンツが表示されないようにすることもできます。
• 負の社会的強化: アルゴリズムが望まない意見を表明する記事を公開した場合、システムは反対の意見を持つ人 (知人、見知らぬ人、またはロボットの場合もあります) にのみ記事を推奨することを選択する場合があります。これを繰り返すと、最初の視点からかなり離れてしまう可能性があります。
• 肯定的な社会的強化: アルゴリズムが広めたい意見を表明する記事を投稿すると、アルゴリズムはその記事を「いいね」した人々 (ロボットであっても) に表示することを選択します。これにより、あなたの信念が強化され、多数派の一員であると感じられるようになります。
• サンプルの偏り: アルゴリズムを制御して、あなたの意見を支持する友人 (またはメディア全体) のブログ投稿を表示することもできます。このような情報バブルでは、こうした見解は実際よりも広く支持されるだろうと思われるでしょう。
• パラメータのパーソナライズ: アルゴリズムは、あなたと似た心理的属性を持つ人々も観察する場合があります。結局のところ、「類は友を呼ぶ」のです。すると、アルゴリズムは、あなたと同じような考えや人生経験を持つ人々にとって最も有益なコンテンツを提供します。長期的には、アルゴリズムによって、特にあなた専用の最も効果的なコンテンツをゼロから生成することもできます。

情報セキュリティの観点から見ると、これらは脆弱性、つまりシステムを乗っ取る可能性のある既知の穴と呼ばれます。人間の心に関する限り、これらの穴は決して塞がれることはなく、それは単に私たちの生き方、つまり DNA の中にあるのです。

人間の心は静的で脆弱なシステムであり、私たちが何をし、何を信じているかを十分に理解した AI アルゴリズムによって、私たちが消費するものを完全に制御し始めることで、ますます制御されるようになります。

IV. 現在の状況

情報を取得するプロセスに人工知能アルゴリズムを適用すると、大規模な人口管理、特に政治的管理につながる可能性があり、このプロセスで使用される人工知能アルゴリズムは必ずしも非常に高度なものである必要はないことは注目に値します。

自己認識は必要なく、現在のテクノロジーで十分かもしれません。人工知能は非常に恐ろしい存在です。ソーシャル ネットワーキング企業はこの分野で長年研究を続けており、目覚ましい成果を上げています。

彼らは単に「エンゲージメント」を最大化し、あなたの世界観を操作するのではなく、あなたの購買決定に影響を与えようとしているのかもしれないが、彼らが開発したツールは野党によって政治イベントで使用されている。 2016年のBrexit国民投票や2016年の米国大統領選挙のように、これは私たちが直面しなければならない現実です。しかし、もし今日、理論上、すでに人口の大量制御が可能であるならば、なぜ世界はひっくり返っていないのでしょうか?

全体的には、私たちが AI をうまく使いこなせていないことが原因だと思いますが、それはまた、大きな可能性があることを意味しており、おそらくそれは変わりつつあるのです。

2015 年まで、業界全体の広告関連のアルゴリズムはすべてロジスティック回帰のみで実行されていました。実際、現在でもこれは大部分が当てはまっており、結局のところ、より高度なモデルを使用しているのは業界のリーダーだけです。

ロジスティック回帰は、コンピューターが登場する以前から存在するアルゴリズムであり、パーソナライズされた推奨事項を提供するための最も基本的な手法の 1 つです。オンラインで目にする広告の多くが関連性のないものであるのは、このためです。同様に、野党が世論に影響を与えるために使用するソーシャルメディアボットには人工知能がほとんどなく、その手法は現時点では非常に原始的です。

機械学習と人工知能は近年急速に発展しており、アルゴリズムやソーシャルメディアボットへの応用が始まったばかりです。ディープラーニングがニュース配信や広告ネットワークに適用され始めたのは2016年になってからでした。

次に何が起こるかは誰にも分かりません。

Facebook が AI の研究開発に多額の投資を行い、この分野のリーダーを目指していることは、非常に喜ばしいことです。あなたの製品がニュースフィードである場合、自然言語処理と強化学習はどこに当てはまるのでしょうか?

私たちは、約 20 億人の詳細な心理プロファイルを作成し、多くの人々に主要なニュース ソースを提供し、大規模な行動操作実験を実行し、現在世界に存在しない最先端の人工知能テクノロジーを開発することを目的とした会社を設立しています。そして、個人的には、それが怖いのです。

私の意見では、Facebook はそれほど心配な存在ではないかもしれません。多くの人は、大企業が世界を支配していると想像したがりますが、これらの企業の権力は政府よりもはるかに小さいのです。もし私たちの思考がアルゴリズムによって制御されていたら、企業ではなく政府が悪いものになる可能性が高いでしょう。

さて、私たちはこれに対して何ができるでしょうか? どうすれば自分自身を守れるでしょうか? 技術者として、ソーシャル メディアを通じて大衆によるコントロールを回避するために何ができるでしょうか?

5. マイナス面：人工知能は私たちに何をもたらすのか

重要なのは、たとえこの脅威が存在したとしても、すべてのアルゴリズム戦略が悪い、あるいはすべての広告が悪いというわけではないということです。それらはすべて何らかの価値があります。

インターネットと人工知能の台頭により、情報を取得するためにアルゴリズムを適用することは、避けられない傾向であるだけでなく、理想的な傾向でもあります。

私たちの生活がよりデジタル化され、よりつながり、より情報が濃くなるにつれて、人工知能は私たちと世界をつなぐ架け橋になります。長期的には、教育と自己啓発が AI の最も強力な使用例になるでしょう。これは、ユーザーをコントロールしようとするコンテンツのプッシュにおける悪意のある AI の使用をほぼ完全に反映した動的な変化によって実現されます。アルゴリズムは、個人に力を与え、社会がより良く自らを統治するのを助け、私たちを助ける大きな可能性を秘めています。

問題は AI ではなく、制御です。

コンテンツ配信アルゴリズムがユーザーをコントロールし、政治的見解を左右したり、絶えず時間を無駄にしたりするなど、密かに隠れた目的を達成することを許可するのではなく、ユーザーにアルゴリズムの最適化を任せるべきです。結局のところ、私たちが話しているのはあなた自身のコンテンツ、あなた自身の世界観、あなた自身の友人、あなた自身の生活であり、テクノロジーがあなたに与える影響は当然あなた自身がコントロールできるものであるべきです。

アルゴリズムは、私たち自身の利益に反する目標を達成するために使用できる謎の力になるべきではありません。むしろ、私たち自身の利益に役立つツールであるべきです。娯楽のためではなく、教育、自己マーケティングなど。

アルゴリズムを使用する製品は、次の点に注意する必要があると思います。

• アルゴリズムが現在最適化している目標と、これらの目標がユーザーの情報へのアクセスにどのように影響するかについて透明性を保ちます。
• ユーザーに目標​​を設定するためのシンプルな機能を提供します。たとえば、ユーザーは自分自身と自分のサービスを保護する場所とタイミングを自由に制御できる必要があります。
• ユーザーが現在の製品にどれだけの時間を費やしているかを常に目に見える形で把握します。
• ツールを使用すると、ユーザーは現在の製品に費やす時間を制御できます。たとえば、毎日の時間目標を設定すると、アルゴリズムによってこの目標を通じて自己管理を実現できます。

AIを使ってコントロールを回避しながら自分を守る

人工知能は、利益を上げたり、特定の政治的目標を達成したりするためにユーザーを操作するのではなく、人類に奉仕させるべきです。

アルゴリズムがカジノ運営者やプロモーターのように機能しなかったらどうなるでしょうか?

その代わりに、アルゴリズムが、あなたや何百万もの人々の心理を深く理解している指導者や優秀な司書のような存在だったらどうでしょうか。その上で、アルゴリズムはまさにあなたが探していた本をあなたに勧め、両者は手を取り合って進んでいきます。

この人工知能は、あなたの人生を導き、目標を達成するための最善の道を見つけるのに役立つツールです。

アルゴリズムがすでに何百万人もの人々を分析しているのなら、アルゴリズムが理解する世界のレンズを通して自分自身の人生を眺めることを想像できますか? あるいは、百科事典システムと共著で本を執筆すること? あるいは、現在の人類の知識をすべて把握しているシステムと共同研究すること?

AI に完全に左右される製品では、より高度なアルゴリズムにはプラスの側面があります。脅威となるのではなく、目標をより効果的に達成できるプラスの側面があるでしょう。

6. 反社会的メディアの構築

つまり、将来的には、人工知能が世界とのインターフェースとなり、デジタル情報で構成された世界が実現する。これにより、個人は自分の生活をより良く管理できるようになるが、もちろん、この権利を完全に失う可能性もある。

残念なことに、ソーシャル メディアは現在間違った方向に進んでいます。

しかし、状況を好転させることができるとは思わないでください。まだ時期尚早です。

この業界内では、利益のために、あるいは何らかの政治的目的を達成するために AI を使ってユーザーを操作するのではなく、ユーザーに影響を与えるアルゴリズムに対してユーザーに責任を負わせることにインセンティブが一致する製品カテゴリと市場を開発する必要があります。ソーシャル メディアの反 Facebook となる製品を作成するよう取り組む必要があります。

遠い将来、これらの製品は人工知能アシスタントの形で登場するかもしれません。デジタル メンターは、関係の中で追求する目標をコントロールできるプログラムを通じてあなたをサポートしてくれます。

現在、検索エンジンは、ユーザーをコントロールするのではなく、ユーザーに役立つ人工知能主導の情報のプロトタイプと見ることができます。

検索エンジンは、特定の目的を達成するために意図的に制御されるツールです。受動的にコンテンツを取得するのではなく、検索エンジンに何をすべきかを指示します。検索エンジンは、時間を無駄にするのではなく、質問から回答、問題から解決策に至るまでに必要な時間を最小限に抑えようとします。

検索エンジンは結局のところ、私たちと情報の間にある人工知能レイヤーに過ぎないのではないか、と疑問に思う人もいるかもしれません。検索エンジンが提示する結果には、私たちを支配する偏見があるのでしょうか?

はい、あらゆる情報管理アルゴリズムにはこのリスクが伴います。

しかし、ソーシャル ネットワークとはまったく対照的です。この場合、市場のインセンティブは実際にはユーザーのニーズと一致しており、検索エンジンは可能な限り関連性と客観性を高めるよう求められています。潜在能力が最大限に発揮されない場合、ユーザーはためらうことなく競合製品に切り替えます。重要なのは、検索エンジンはソーシャル コンテンツよりもユーザー心理にあまり影響を与えないということです。

この記事で説明する製品には、次のような脅威があります。

• 感知して行動する: 製品は、ユーザーに表示される内容 (ニュース フィードやソーシャル コンテンツ) を制御するだけでなく、「いいね」やチャット メッセージ、ステータス更新などの機能を通じてユーザーの現在の精神状態を「感知」する必要があります。認知と行動がなければ、強化学習は不可能です。諺にもあるように、「仕事をうまくやり遂げたいなら、まず道具を研がなければならない」。
• 生活の中心: 製品は、一部のユーザーにとって主要な情報源となる必要があり、典型的なユーザーは 1 日に何時間も製品に時間を費やします。補助的かつ専門的な製品やサービス（Amazon の商品推奨など）は、深刻な脅威にはなりません。
• 社会的要素: より広範かつ効果的な心理的制御要因 (特に社会的強化) の活性化。非個人的な内容は私たちの思考のほんの一部を占めるだけです。
• ビジネス上のインセンティブ: ユーザーを操作し、製品をより長く利用してもらうことが目的です。

しかし、ほとんどの AI 駆動型製品は上記の要件を満たしていません。

一方、ソーシャル ネットワークは、恐ろしい力を持つリスク要因の組み合わせです。

技術者として、私たちはこれらの機能を備えていない製品に惹かれ、誤って使用すると潜在的に危険な方法でこれらの機能を組み合わせた製品を拒否するべきです。

ソーシャル ニュースではなく、検索エンジンとデジタル アシスタントを構築してください。これにより、「エンゲージメント」を最大化して時間を無駄にする粗悪なマシンではなく、推奨事項が透明で、構成可能で、建設的になります。

インターフェースとインタラクション、および人工知能などの関連する専門知識に焦点を当て、ユーザーが目的に応じて製品を使用できるように、アルゴリズムの優れた設定インターフェースを構築します。

重要なのは、これらの問題についてユーザーに情報を提供し、教育して、ユーザーが自分自身である程度制御できる製品を使用するかどうかを判断できるだけの十分な情報を持ち、それによって技術的な変化を引き起こすのに十分な市場圧力を生み出すことです。

VII. 結論: 進歩の岐路に立つ

• ソーシャル メディアは、個人や組織によって構築された強力なメンタル モデルについて十分な情報を持っているだけでなく、私たちの情報へのアクセスをますます制御するようになっています。さまざまな効果的な心理的攻撃を通じて、私たちが何を信じ、どのように感じ、何をするかを操作することができます。
• 十分に進歩した AI アルゴリズムは、私たちの精神状態に対する認識とそれによって左右される行動を理解することで、私たちの信念や行動を効果的に制御することができます。
• AIを情報インターフェースとして使用すること自体は問題ではありません。このような人間とコンピュータのインターフェースは、適切に設計されれば、私たち全員に多大な利益と力を与える可能性を秘めています。重要なポイントは、ユーザーがアルゴリズムを完全に制御し、それを自分の目的を追求するためのツールとして使用することです (検索エンジンを使用するのと同じように)。
• 技術者として、私たちには制御不能な製品を拒否し、ユーザーに対して説明責任のある情報インターフェースを構築する責任があります。 AI をユーザーを制御するツールとして使用しないでください。代わりに、ユーザーが AI を自分に役立つツールとして使用できるようにします。

一つの道は私を怖がらせますが、もう一つの道は私に希望を与えてくれます。もっとうまくやれる時間はまだたっぷりあるのです。

これらのテクノロジーを使用する場合は、次の点に留意してください。

あなたには悪意はないかもしれないし、気にも留めていないかもしれないし、自分の将来を共有するよりも制限付き株式の開発を評価する方が簡単だと考えるかもしれない。しかし、あなたが気にするかどうかに関わらず、デジタル世界のインフラストラクチャをコントロールしているのはあなたなので、あなたの選択は他の人に影響を与え、最終的にはあなたが責任を負うことになるかもしれません。