AIが人間を支配するのではないかと心配ですか?人工知能の「怖さ」をどう克服するか？

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

人工知能の応用はますます広範囲に広がり、私たちの日常生活においてますます重要な役割を果たしています。しかし、まさにこのため、それを受け入れるのが難しい、あるいは少なくとも意識的に遠ざかろうとする人もいます。携帯電話が写真に自動的にタグを付ける機能は気に入っているかもしれませんが、その技術が人工知能によって実現されていることを忘れがちです。人々は、よく理解していないテクノロジー、特にそのテクノロジーが少し不気味に聞こえる場合は、信頼したがりません。

[[342776]]

2017年、イーロン・マスク氏は全米知事協会で次のように語った。「私は最先端の人工知能に触れてきたが、人々はこの技術に注目するべきだ。人工知能は人類文明の存在にとって根本的なリスクだ。」

人工知能は、専門家よりも正確に人間の行動を予測できる場合があります。人々は、自分のデータがどのように収集され、使用されるかを制御できないと感じることを好みません。特に、人工知能がそのデータを使用して特定のアクションを取らせる場合はそうです。モデルを作成する際にユーザー エクスペリエンス (UX) が重要な考慮事項であることは周知の事実ですが、多くのデータ サイエンティストは、ポジティブな UX の重要な部分、つまり AI の「不気味な」要素を最小限に抑えることを忘れていません。

「携帯電話が私たちをスパイしている」とAIのその他の陰謀

テクノロジーの進歩とデータの利用可能性の増加により、AI はますます強力になり、より正確になっています。これはテクノロジーを愛する人々にとって刺激的なことですが、同時に恐ろしいことでもあります。今日のアルゴリズムは、より少ない情報（少なくとも入手可能であることがわかっている情報）で私たちについてより多くのことを予測することができ、時には AI が私たちの心を読むことができる、あるいは少なくとも私たちの会話を盗み聞きすることができるようです。

私たちの携帯電話がマーケティング目的で密かに私たちの行動を録音し、スパイしているという考えは、近年インターネット上で最も多く信じられている陰謀説の一つであり、一部の著名な技術専門家やジャーナリストの間でも信じられています。このテーマに関する議論は、BBC から Esquire、Vox まであらゆるところで見ることができます。 2017年には早くもポッドキャストコラム「/reply-all/」で携帯電話監視に関する番組を放送した。自分の携帯電話が広告ターゲティングのために許可なくプライベートな会話を録音しているのではないかと懸念する人が増えています。

携帯電話で録音される音声の量を正確に知ることは不可能ですが、ほとんどのアプリは正確な広告ターゲティングのために録音を使用していないとほとんどの専門家は判断しています。できないからではなく、する必要がないからです。 AI トラッキングは非常に洗練されており、正確なので、オーディオ キャプチャの技術的要件やストレージ要件は必要ありません。人は無意識のうちに自分自身に関する多くの情報を漏らしてしまうため、いずれにせよ標的にされてしまう可能性があるのです。

「我々は監視について、人間が物事について考えるのと同じように考える傾向がある」と、ノースイースタン大学の教授で携帯電話のプライバシーとセキュリティを研究するデイビッド・ジョフェンズ氏は言う。「友人と話している内容を誰かが知っているということは、その人はあなたの話を聞いているということだが、ほとんどの人にとって、自分のオンライン活動について明らかにしていることと、広告を配信できる企業との間の点と点を結び付けるのは難しいと思う」

世界各国の政府が公開した新型コロナウイルス追跡アプリの多くには、ダウンロードすると今後も政府がどこでも追跡できるようになるのではないかと人々が懸念する新たな陰謀が潜んでいる可能性がある。イタリアでは、陰謀説やプライバシーとセキュリティに関する懸念から、「Immuniアプリ」はあまり普及しなかった。人々は人工知能が自分たちを常に監視しているという考えに恐怖を感じており、パンデミックはさらなる恐怖を引き起こしている。

全体像を把握し、すべてを知ることができる人工知能は、現実の完全な複製ではないかもしれないが、だからといって、現在の人工知能のレベルに対する警戒を緩めるべきだというわけではない。私たちは Facebook によるデータ収集と追跡を心配していますが、私たちの生活における AI の最も明白な使用例が監視であるように思えるので、それは理解できます。

AI は人々を驚かせることなくパーソナライズされた推奨事項を提供できるでしょうか?

パーソナライズされた推奨事項は素晴らしいアイデアであり、適切なタイミングで適切な見積もりを得ることは人々にとって非常に役立つだけでなく、オファーを出す企業にとっても同様に役立ちます。一般的に、AI について懸念していると主張する人々であっても、AI が人々の問題をより効率的に解決するのに役立つのであれば、そのテクノロジーを利用することに前向きです。

実際、ほとんどの AI は私たちを怖がらせるものではありません。人々は、日常的に接する AI テクノロジーに気付かないことがあります。それは、AI テクノロジーが煩わしいほど洗練されていないためです。イライラさせるよりも脅迫的な正確な入力にのみ応答するカスタマー サービス チャットボットを見つけるのは難しいでしょう。他の AI は、私たちが使用する機能に非常に統合されていたため、サービスの改善としてしか認識できませんでした。 AppleがiPhoneのロックを解除するために顔認識を発明したとき、ほとんどの人は人工知能の影響を心配するよりも、その利便性に興奮した。

しかし、ほとんどの場合、人々は結果だけを見ているため、AI の使用は気付かれません。人々は AI 自体と直接やりとりすることはなく、AI がいかに自分たちの生活を楽にしてくれるかに気づくだけです。たとえば、Evo Replenish アルゴリズムは予測サプライ チェーンを使用して、新しいシャツや人気のシャツが在庫切れになるのを防ぐため、多くの顧客は必要なアイテムを適切なサイズで購入できることに気付きません。顧客は店舗が在庫をどのように決定するかを知るすべはなく、おそらく気にも留めないでしょう。

棚がいっぱいだと便利ですし、この問題を解消する AI は予測や推奨が個人レベルで行われないので不気味ではありません。ある人が特定の商品を購入するとは言わず、その週に 15 人が購入するとだけ言えば、プライバシー漏洩の心配はありません。

AI による予測やパーソナライズされた推奨に関して最も気がかりなのは、AI が個人についてどのように結論を導き出しているのか、あるいは AI であると明らかにされずに人間に似ているのかを理解できないことです。したがって、オープンで透明性があり、人間中心の設計は、人工知能に関する懸念を大幅に軽減します。

怖くないAIは透明

AI の動作がより透明になればなるほど、恐怖は薄れていきます。人は理解できないものに対して疑念を抱きがちです。理解できないものに直面したのに、それが自分のことをよく知っているように思えるとき、それは疑わしいだけでなく、恐ろしくもあります。現在のテクノロジーの仕組みを理解していなければ、どうやって災害を予見できるでしょうか。透明性がなければ、AI は脅威のように感じられます。結局のところ、それが AI を恐ろしいものにしているのです。

たとえば、Facebook が携帯電話を盗聴していたという主張。この疑惑は、Facebookが人々についてどのような情報を収集し、そのデータを広告のターゲット設定にどのように利用しているかを明らかにすることを拒否していることから生じている。

「フェイスブックは私たちに関する情報収集が非常に上手いので、この問題を引き起こしている」とテクノロジージャーナリストで「Reply All」の共同司会者でもあるPJ・ヴォクト氏は言う。「フェイスブックは収集している情報や収集方法を公表していないので、基本的に人々は盗聴という最も単純で粗雑な情報入手方法を考えるよう強いられているのだ」

透明性とは、データがどのように収集され、処理されるかについても明確であることを意味します。個人を特定できる大量の情報を収集するのは、そのデータがなぜ必要なのかを説明できない場合、常に不気味な行為です。そのため、特定の情報を必要とする理由は率直に述べ、可能であれば匿名で述べる必要があります。

このデータの透明性は AI モデルに悪影響を与えません。 Evo のアルゴリズムは、サプライ チェーンと価格の予測を行うために、現在でも 12 億人以上のデータを処理し続けています。Evo は、個人を特定できる情報がデータベースから完全に除外されるような方法でデータを収集しています。結果として得られる AI の推奨事項は影響を受けませんが、モデルの透明性は高まります。初日から透明性が計画されている限り、結果の正確性を損なうことなく、使用されたデータとその取得方法について正直に説明することができます。

人間中心のAI設計は、ユーザーを怖がらせることなく有用なモデルを構築するのに役立つ

透明性は不可欠ですが、AI が望む結果の達成に役立つ場合、AI が少し怖いと感じる人も大勢いるでしょう。調査によると、問題が発生する前に回避したり、問題を迅速に解決したり、複雑さを最小限に抑えたりすることができれば、約 75% の人が侵入型 AI の使用を気にしないことがわかりました。

AI が、あなたが購入を検討している製品を推奨する広告をさらに表示してくる場合、追跡されていることを知るのは気が重いかもしれませんが、データ侵害について警告する追跡であれば、それほど心配する必要はありません。 AI によって解決される問題が、企業の製品販売を支援するのではなく、人々を助けるものである場合、人々は妥協する意志を持つようになるでしょう。

たとえば、Google マップを見てみましょう。マップが Google カレンダーの ToDo 項目に自動的にナビゲーションをマッピングしても、驚く人はほとんどいません。Google がこれらすべての情報をどこから入手しているかは、誰もが正確に知っています。マップが Gmail から直接会議やイベントの計画を提案し始めたとき、人々はカレンダーにそれをプログラムしていなかったため、不安になり始めました。

それでも、この機能は十分便利なので、文句を言う人はほとんどいないでしょう。地図が時間と習慣に基づいてユーザーの行き先を予測し始めて初めて、人々は本格的に飛び立つでしょう。この推奨事項は、一方では追跡をより明確にするため、より侵入的ですが、他方では必ずしも有用であるとは限りません。こうした道順が必要ない場合は、Google が毎日の移動ルートを把握していることに感謝することはないだろう。

だからこそ、AIを使って問題を正しく解決することがとても重要なのです。人間中心の AI 設計では、エンドユーザーのニーズを優先し、AI が邪魔にならないようにします。 AI とやりとりするすべての人にとっての問題を解決するアルゴリズムを作成すれば、否定的な反応を最小限に抑えることができます。少なくとも、AI は人々のプライバシーとコントロール感覚のニーズを尊重する必要があります。 AI とやりとりする人々を第一に考え、彼らの視点から考えましょう。結果として、人間中心の AI はそれほど不安を感じさせないものとなるでしょう。

人工知能は人々の生活を向上させ続けるでしょうが、それは人々の信頼を獲得できた場合に限られます。そのひどさを最小限に抑えなければ、その潜在能力を最大限に発揮することはできません。人々を潜在的な悪影響から守ることで失われる利益は、想像されるよりもはるかに小さい。

人工知能は複雑だが、不可解なわけではない。企業秘密を漏らすことなく、AI がどのように機能し、どこからデータを取得するかを正直に説明できます。真にユーザーの視点から考えられ、透明性を持って運用されれば、AI はそれほど「怖い」ものではなくなり、生活はより楽になります。