ビッグデータと人工知能がもたらす危機：テクノロジーの巨人は私たちの生活を台無しにしてしまうのか？

01 ハイテク時代の失業ゼロ

半世紀以上前、有名な数学者ジョン・フォン・ノイマンは、機械を製造するコストは、他の機械がその機械の製造方法を学んで製造する機械を製造する「労働者」を雇用または訓練するコストよりも低くなるかもしれないと提唱しました。企業の観点から見ると、人間の労働を機械に置き換える主な理由は、機械によって生産性が向上するということだけではありません。人的資源を管理するよりも、機械を設計、構築、管理する方がはるかに簡単で安価です。

例えば、機械は人間のようにストライキを起こすことはなく、人々のニーズに対応するために特別な人事部を設置する必要もなく、感情的な要因に左右されることもありません。先ほど、放射線科医が機械に置き換えられるという例を挙げましたが、ノイマン氏の予測は現実になりつつあります。過去 5 年間の人工知能の進歩を考えると、機械に置き換えられる仕事の範囲と種類は、今後も加速度的に拡大し続けるでしょう。

一部の分野では、人工知能の進歩は労働に取って代わるのではなく、人々の作業効率を向上させるでしょう。このタイプのイノベーションは、しばしばインテリジェント支援イノベーションと呼ばれます。このようなイノベーションは社会の労働需要を高め、人々の賃金を引き上げることができます。過去には多くの技術革新がインテリジェント支援による革新でしたが、私はこれについては楽観的ではありません。

雇用問題はこれまでも非常に深刻であり、将来さらに悪化する可能性が高い。関連する経済文献は、技術革命が「二極化」した形で発展する可能性があることを示唆しています。つまり、社会における将来の雇用成長は、1つは技術的障壁が非常に高い仕事であり、もう1つは技術的障壁が非常に低く、賃金が比較的低い仕事の2つのカテゴリーに分かれるということです。

機械生産が労働に取って代わると失業率が上昇します。私たちが陥るであろう苦境を完璧に描写した伝説があります。フォードの幹部と労働組合の代表らは並んで新車工場を見下ろしていたが、そこではほとんどの作業が機械で行われていた。 「どうやってあの機械たちに組合費を払わせるつもりだ？」とフォード幹部は皮肉を言った。「彼らはあなたたちの仲間にはならないだろう。」組合長は「どうやって彼らに車を買わせるつもりだ？」と答えた。

雇用機会の喪失は消費者需要の低下につながり、強力な政府介入がなければ経済は長期にわたって停滞する可能性がある。大きな皮肉は、もしこれが起こった場合、技術の進歩は全人類に利益をもたらすのではなく、むしろ経済を破壊する可能性が高いということです。

大恐慌前のアメリカでまさに同じことが起こったと主張する人もいます。農業技術の急速な発展により、一部の商品の価格が急落し、大恐慌勃発のきっかけとなった。その結果、1929年から1932年の間に、農業純収入は実に70パーセント以上も減少しました。

農民の収入は急速に減少し、それに応じて彼らの富も減少しました。その後、農村部の土地や家屋の価値が下落し、ひどい悪循環が始まりました。失業した農民は都市部に移住する余裕がなく、収入が減ると、より一生懸命働いて生産量を増やす必要があり、それが逆効果となり、農産物の価格がさらに下落しました。

さらに、収入が減ったため、これらの農民は車など都市で生産された商品を購入することができません。そのため、農民の苦しみはすぐに都市に広がり、都市部の所得水準の低下が農産物に対する都市部の需要の減少につながり、それが再び農産物の価格を下げ、農民への負担をさらに増加させるという、新たな苦痛の悪循環が始まった。

このサイクルが繰り返され、経済は第二次世界大戦の産物である低レベルの均衡の罠に陥ります。戦後、政府は農民の農村から都市への移住を積極的に推進し、彼らを訓練して都市で働けるようにし、それによって第二次世界大戦後の繁栄をもたらした。

上記の経験から得られる教訓は、科学技術革新のペースを適切に制御できなければ、技術の進歩は人類に繁栄をもたらさないだけでなく、想像を絶する災害を引き起こすことになるということである。現在、比較的良好な経済環境のもと、私たちは技術革新に直面する経済の管理についてより深い理解を持っています。

労働市場における完全雇用の維持は最優先事項です。積極的な金融政策（金利の引き下げや信用供給の増加など）が機能しない場合は、積極的な財政政策（つまり、税金の引き下げや政府支出の増加、特に公共投資の増加）を使用してこの目標を達成できます。金融政策と財政政策はどちらも総需要を刺激し、十分な刺激がある限り、経済は必ず完全雇用に戻ります。

02 市場力と人工知能

前回の記事では、市場支配力が米国経済の多くの分野を蝕んでおり、市場支配力の拡大は経済効率の低下や社会的不平等の拡大につながる可能性があることを強調しました。こうした問題とその影響は、ハイテク業界で特に顕著です。

ビッグデータ技術により、Google、Amazon、Facebookなどのテクノロジー大手は顧客に関する膨大なデータにアクセスできるようになり、人工知能により市場力はさらに拡大しました。これらの企業がデータの独占を維持する限り、自社の顧客を誰よりもよく知ることになります（そして、そのデータを他の誰かと共有する動機はありません）。ビッグデータ技術の支持者は、企業は収集したデータに基づいて顧客のニーズをよりよく満たす製品を設計し、各顧客の要件に応じてカスタマイズできると考えています。

彼らはまた、ビッグデータがヘルスケアを進歩させ、すべての人にカスタマイズされた医療サービスを提供できると信じています。検索エンジン企業は、このデータを使用することで広告をより正確にターゲティングできるため、人々は必要な情報をより簡単に入手できると主張している。上記はビッグデータのプラス面です。しかし、大手テクノロジー企業はこのデータを活用して市場力を強化し、顧客を犠牲にして人工知能技術を通じてより多くの利益を得ることもできます。

これらの新興テクノロジー大手が持つ潜在的な市場力は、20 世紀初頭の独占企業が持つ市場力よりもはるかに大きく、危険である。かつては、スイフト、スタンダード・オイル、アメリカン・タバコ、アメリカン・シュガー・リファイニング・カンパニー、USスチールなどの独占企業が、市場支配力を利用して、食品、石油、タバコ、砂糖、鉄鋼の価格を自由に操作することができました。

しかし、商品の価格を上げるだけで済むという単純なものではなくなってきています。

Facebook はアルゴリズムを変更することで顧客が見る情報に影響を与えることができ、これは市場の力の影響を示しています。新しいアルゴリズムによって、メディアが急速に衰退する可能性もありますが、より幅広い視聴者を持つ新しいメディア (Facebook Live など) が誕生する (あるいは最終的には消滅する) 可能性もあります。

これらのテクノロジー大手の市場支配力はあまりにも大きいため、競争当局は対策を講じなければならない。従来の独占禁止法の措置では、現状に対処するにはもはや不十分だ。市場支配力の拡大に取り組んでいるこれらの大手企業に対し、政府は彼らの「イノベーション」のペースに追いつく必要がある。

たとえば、以前にも述べたように、米国はWhatsAppとInstagramをFacebookから分離することを検討する時期に来ています。同時に、米国は、グーグルのオンラインストアが同社のプラットフォーム上で広告を出す商人と競合する際に生じる利益相反を制限するなど、利益相反の範囲を制限すべきだ。

米国は、データへのアクセスや使用権の制限など、ハイテク技術の管理をさらに強化する必要がある。次に、参考となるアイデアをいくつか紹介します。

03 ビッグデータと顧客ポジショニング

人工知能とビッグデータは消費者の嗜好や支払ってもよいと考える価格に関する情報を収集するため、企業は価格差別化を図り、製品に高い価値を置く消費者や選択肢が少ない消費者に高い価格を請求する力を持つことになる。

価格差別は不公平であるだけでなく、標準的な経済理論は非差別的な価格設定に基づいているため、経済運営の効率を妨げます。同じ製品であれば、誰もが同じ価格を支払うべきですが、人工知能とビッグデータにより、人によって支払う価格が異なる場合があります。

その結果、ビッグデータと人工知能によってハイテク企業がより大きなシェアを獲得できるようになり、一方で社会の残りの人々（一般消費者など）の状況はより困難になります。例えば、ステープルズは、特定の郵便番号の住民の近くに同じ種類の店舗があるかどうかを把握しており、その地域に店舗がない場合はオンライン注文に高い料金を請求できることが分かっています。

保険会社は顧客の郵便番号も把握しており、郵便番号に基づいて異なる保険料を請求します。顧客の郵便番号に応じて異なる手数料を請求するだけでなく、市場力を利用してより多くの利益を上げています。実際、上記のような郵便番号による価格差別の事例は、主にマイノリティをターゲットにしており、人工知能とビッグデータは人種差別を実施するための新たなツールであることが証明されています。

21 世紀のデジタル経済により、企業はターゲットとなる消費者グループに対する影響力を拡大し、消費者の弱点を簡単に見つけられるようになりました。たとえば、人工知能はギャンブル依存症になりやすい人を特定することができ、人々は不純な動機を持つ組織に誘われてラスベガスや近くのカジノ（ギャンブルのため）に行くことになるかもしれません。

社会学者ゼネップ・トゥフェクチが繰り返し強調しているように、人工知能は、新しい靴やハンドバッグ、海辺への旅行などに対する人々の非合理的な欲求を利用し、消費者に的を絞った情報を提供して、消費者に贅沢にお金を使わせ、感情的な自己が理性的な自己を圧倒できるようにする可能性がある。

ノーベル賞受賞者のリチャード・セイラーは、研究の中で、人々の感情的な自己と理性的な自己との間の葛藤について説明しました。新しいテクノロジーは人間の弱点を拡大してきましたが、さらに心配なのは、ビッグデータと人工知能によって、企業が人間の弱点をほぼ完璧に把握し、それに応じて将来の戦略の方向性を調整して、利益をさらに最大化できるようになることです。

ビッグデータは多くの科学研究分野でも非常に価値があります。ゲノミクス企業が収集するデータが増えるほど、人の DNA をより正確に分析し、特定の遺伝子配列を検出できるようになります。利益の最大化を目指す企業は、可能な限り多くの個人データを収集し、それを他者と共有することを拒否する傾向があります。次の話が示すように、利益の追求においては、命の喪失は単なる付随的被害の1つにすぎません。

ヒトゲノム計画は 1990 年に始まり、ヒトの遺伝子配列を解読することを目的とした大規模な国際プロジェクトです。このプロジェクトは2003年に成功裏に完了しました。しかし、一部の民間企業は、プロジェクトを有利に進めれば、解読した遺伝子コードの特許を取得し、莫大な利益を得ることができると気づいた。

たとえば、ユタ州に拠点を置くミリアド社は、BRCA1 遺伝子と BRCA2 遺伝子の特許を取得し、両方の遺伝子の保因者を検出するための遺伝子検査を開発しました。これらの遺伝子を持つ女性は乳がんを発症するリスクが高いため、この検査は価値があります。ミリアドは法外な料金を請求し始め、診断料金は2,500ドルから4,000ドルに値上がりした。後者はゲノム全体の配列を決定するコストに相当した。

高額なため、多くの人が手が届かないが、ミリアドの診断は高価なだけでなく、他の検査技術と同様に、その技術は不完全である。同時に、イェール大学の科学者たちは、より正確であると主張する検査技術を開発し、低価格で一般の人々に遺伝子診断サービスを提供する用意がある。

しかし、特許の「所有者」であるミリアド社は、そうすることを望んでいませんでした。同社が拒否したのは、単に利益が失われるからではなく、データが必要だったからだ。

幸いなことに、この物語はハッピーエンドです。分子病理学協会は、天然遺伝子は特許を受けるべきではないと主張してミリアド社を訴えた。 2013年6月13日、米国最高裁判所は歴史的な判決を下し、ミリアド社の遺伝子特許を全会一致で却下した。

それ以来、遺伝子診断検査の価格は下がり、品質は向上しました。この例は、特許が技術革新に与える悪影響を如実に示しています。

もちろん、顧客の好みを理解し、各顧客から最大限の価値を引き出すためには、企業は大量のデータにアクセスする必要があり、それは人々の個人的なプライバシーを失うことを意味します。

恥ずかしいことをしなければプライバシーの有無は関係ないと考える人もいるかもしれませんが、この考えは間違いなく間違いです。他人に関するデータを大量に収集する個人（または組織）は、情報の一部を漏洩する可能性が高いため、個人情報のセキュリティが脅かされます。今日では、ビッグデータと情報技術の進歩により、企業や政府は巨大な電子アーカイブを簡単に構築できるようになりました。

これに感謝している人もいる。なぜなら、アメリカのビッグデータ技術は政府ではなく、Google、Facebook、Amazonなどの民間企業の手に握られているからだ。サイバーセキュリティに関しては、公的と私的の境界線が非常に曖昧になるため、これは良いことではないと思います。

エドワード・スノーデン氏の暴露により、米国政府がすでに大量の個人情報を保有しており、国家安全保障局が民間企業の所有するデータに簡単にアクセスできることが人々に知らされた。また、Facebook が膨大な量の顧客データを収集しようとしていたこと、そのデータの一部を他社 (Cambridge Analytica など) に開示していたこと、そのデータを保護するために講じたセキュリティ対策について、恐ろしい話もあります。

つまり、個人のプライバシーには注意を払わなければならないのです。この時代において、プライバシーと権力は切り離せないものです。ビッグデータ技術を持つ企業はこの真実をずっと以前から理解してきましたが、そのターゲットである消費者のほとんどはそれに気づいていないようです。

この技術的覇権はさまざまな形をとります。 Facebook、Amazon、Google などの情報大手は、情報面での優位性を活用して市場シェアを強化し、競合他社を排除し、さまざまな分野に市場力を浸透させていることが指摘されています。

これらの企業はデータに関して絶対的な優位性を持っているため、競合他社が市場に参入する余地はほとんどありません。経済理論と過去の歴史は、「古い」独占企業には革新の意欲が欠けていることを示しています。彼らは、他者により良いサービスを提供する方法を研究することにエネルギーを費やすよりも、市場力を強化し拡大することに関心があります。

04 規範データとその利用

大量のデータが少数の企業の手に渡ると、市場支配力、個人のプライバシー、セキュリティの問題が生じ、社会不安を引き起こすことになります。これは我々の懸念を引き起こすはずです。これらの問題に対処するにあたり、データ所有権をより合理的に分配したり、データの利用を規制したりするなど、政府には実際に行動を起こす余地が大いにある。

同様の試みはヨーロッパですでに始まっている。一部のハイテク大手は、欧州当局がこうした措置を講じているのは「反米的」だからだと不満を漏らしている。そのような解釈は当然間違っています。欧州が措置を講じたのは、欧州の法律により各国政府が競争的な市場を維持することが義務付けられており、また欧州全域で個人のプライバシーが非常に重視されているためである。米国はこの点で遅れをとっているが、少なくともその一因はテクノロジー大手の政治的影響力にある。

ハイテク大手による独占力と権力の乱用を制限する方法として、個人データの所有権を個人に直接与えるという提案があります。つまり、企業がこの個人データを利用したい場合、データの所有者に一定の料金を支払う必要があり、また、データ所有者は、企業がデータを入手して搾取するのを防ぐために、企業の要求を拒否することもできます。

これは、データの価値の少なくとも一部がテクノロジー企業ではなく個人に属することも意味します。欧州では、Google が顧客のデータを使用する前に明示的な同意を得る必要があるなど、個人に個人データに対する一定の権限を与えようとする同様の措置のテストを開始しています。自由市場支持者は、顧客に自分で決めさせるという別の解決策を支持しています。

そのため、一部のインターネット企業は、顧客がデータの使用を許可すれば、その顧客に少額の割引を提供するという提案をし、ほとんどの顧客もこの提案を快く支持しました。ある会社の社長はかつて私に、いかにして貴重なデータを安価に入手し、最終的にそれを大金に変えることに成功したかを自慢していました。

このような状況に直面して、「そのままにしておこう」と言う人もいます。誰もが自分のデータを他の人が使用できるかどうかを自由に決定できます。しかし、社会生活の多くの分野において、私たちは社会として個人の選択に制約を課しています。

場合によっては、私たちの社会は、ねずみ講への参加や臓器の売買など、自分自身にのみ害を及ぼす行為を個人が行うことを厳しく禁止しています。同じことは個人データの使用権にも当てはまり、特にある人のデータが他の人のデータと組み合わされ、企業が消費者を搾取しやすくなる環境が作られる場合には特に当てはまります。

消費者は、自分のデータの価値を実際には理解していません。自分のデータが悪意のある人々によって使用された場合に何が起こるかについて考えたことがありません。企業がプライバシーとセキュリティをどの程度無視しているかについては、さらに認識が浅いのです。ほとんどの人は、製造物責任法が何であるか、あるいはデータが侵害された場合にどのような結果になるかさえ知りません。

米国の現在の法制度は不公平であるため、正義を実現するには多大な犠牲を払う必要がある。エキファックスのスキャンダルはアメリカ企業の偽善を暴露した。

同社は顧客の許可なく大量の個人データを収集し、2017年に大規模なデータ侵害に遭った。システム侵入により、1億5000万人のアメリカ人の個人情報が一瞬にしてハッカーに盗まれました。さらにひどいのは、アイケフェイがデータのセキュリティを確保できなかっただけでなく、データ漏洩自体から金儲けをしようとしたことだ。被害者が自分のデータが漏洩したかどうかを知りたい場合は、免責同意書に署名しなければならない。

企業におけるデータ規制の実装にはさまざまな形があります。ソフトな規制では、透明性が求められるだけで、企業が公開しているプラ​​イバシーとセキュリティのポリシーを審査して、その正確性を確保します。厳格な規制には、顧客データの販売や使用の禁止など、より強力な監督と禁止措置が必要であり、それによって少なくとも顧客が自分のデータがどのように使用されているかを知ることができるようになります。さらに、データの集約には制限を設ける必要があります。

企業が保有するデータの総量が増えるにつれて、個人のプライバシーや権利が侵害される可能性が高くなることを人々は認識しなければなりません。データの使用に関して「インフォームドコンセント」システムを導入することは可能ですが、問題は、データがどのように合理的に使用されるべきかを定義し、個人の希望が完全に尊重されるようにする必要があることです。

たとえば、Facebook で設定したプライバシー レベルはすでに非常に高いと考えている人が多いですが、実際には Facebook は依然としてユーザーの個人データを高い自由度で使用できます。

政府は、企業が個人データを使用する際に支払う必要のある最低価格を規定したり、企業が顧客の個人情報を一定期間を超えて保管することを禁止したりするなど、規制をさらに強化することもできます。

レビュープロセスを設定するのは良い選択肢かもしれません。大量の個人データを保有する企業は、その情報をどのように使用しているかを審査委員会に開示することが義務付けられます。一部のテクノロジー大手の誠実さに関する記録が悲惨であることを考えると、いかなる欺瞞行為も厳しく処罰されなければならない。

データの使用や保管に対する税金も検討される可能性があります。大量のデータを収集、保存、使用できるようにするテクノロジーにより、税金の徴収も容易になります。データは「集約」形式でのみ存在し、保存されたデータには個人識別子がないこと（つまり、匿名データの形式で保存されること）を要求できます。これにより、研究者は消費者の行動パターンを分析するために関連データを収集できますが、そのデータを特定の個人に直接関連付けることはできません。

さらに一歩進んで、データを公共財として扱い、保存されているすべてのデータ（処理されているかどうかに関係なく）を社会に公開することを義務付けることで、テクノロジー大手がデータの優位性を活用して確立してきた独占を弱めることができます。

しかし、このアプローチはプライバシー問題に関する議論を引き起こすだろう。少数の大手テクノロジー企業がビッグデータを利用して市場力を強化しているが、人々がデータを公開することで行き詰まりを打破したいと思えば、やがて巨大な「パブリックデータプール」が出現するだろう。

しかし、これは人々のプライバシーがより深刻に脅かされることを意味し、企業がそれを利用する機会も増えることになります。市場に参入する企業は、消費者を搾取するために上記のようなさまざまな手段を使ってデータを収集するなど、公開情報を利用して自社の利益を拡大しようと躍起になり、その結果、企業がデータを悪用する可能性が高まります。したがって、すべてのデータを公開する場合でも、政府はデータの利用に制限を設け、過度なデータの集中化を避けなければなりません。

Facebook は「自然独占」に近いため、規制が難しい。おそらく唯一の解決策はFacebookを株式公開することであり、それによってFacebookは厳しい世間の監視を受け入れざるを得なくなるだろう。