AIが「自由意志」を持つとき

人工知能が盛んに使われる一方で、この技術に伴う問題や潜在的な脅威も現れつつあります。 AI技術の「価値」問題について真剣に議論すべき時が来ています。

最近、AIに関するネガティブなニュースが頻繁に報道され、魔術的な色合いも強くなっていることに気づいた人も多いのではないでしょうか。

11月20日、韓国の13歳の天才囲碁プレイヤー、キム・ウンジさんは、9月末にオンライン囲碁大会でAIが推奨したチェスの記録を使って不正行為をし、キャリアを台無しにするところだったと認めた。 11月27日、イランの核兵器専門家モフセン・ファクリザ氏がAI制御の自動機関銃による攻撃で殺害された。これはAI兵器としての精密な顔認識技術が人間の殺害に関与していることを意味する。

[[357558]]

中国に戻ると、少し前までは、不動産開発業者に精密な顔認証によって「常連客」として「虐殺」されることを避けるために、ヘルメットをかぶって営業所に家を見に行く人がいた。顔認証の悪用問題はすでに私たちの前に立ちはだかっている。

さらに不条理なのは、不動産会社が政府機関のオンラインサービスプロセスを悪用し、売り手に知らせずに顔認証システムを通じて簡単に住宅を買い手に譲渡し、取引金を懐に入れていたことが最近明らかになったことだ。本来は国民に利便性を提供するために設計されたAIサービスが、悪意ある者たちの共犯者となってしまった。

「人を殺すのはナイフではなく人間だ」これは「道具には道徳的価値はない」と主張する古くからの理由であり、道具には独自の道徳的価値があることを確認するために人間が行った誇らしげな発言でもある。同じ理由が、上で述べた AI の否定的な事例にも当てはまるようです。ここでの AI 技術は、人間が使用するツールに過ぎず、実際の発起者は依然として人間であると言えます。

あらゆる技術的発明は人類に大きな利益をもたらす可能性がある一方で、潜在的に災害をもたらす可能性があり、その逆もまた真なりであるため、このように言うのは合理的であるように思われます。例えば、ノーベルが発明した爆発物は、地雷を掘り、山を動かすために使うことができますし、戦場で人命を奪うために使うこともできます。核技術は、世界を滅ぼすための原子爆弾を作るために使うこともできますし、国民の利益のために原子力発電所を建設するために使うこともできます。合理的な楽観主義者は、人類が技術の進歩を通じて美しい新しい世界を創造し、技術の悪影響を克服できると常に信じています。

しかし、この人工知能技術革命の特徴は、それが人類を真に変えるということである、ということに注目すべきです。これまでの技術革命は、人間の肉体的、精神的側面における専門能力を高めるだけでしたが、今回のAIは、人間の尊厳と価値を支えるいわゆる「自由意志」という人間の核心的な本質に直接到達することになります。

「オオカミ少年」の話は何度も聞かれているので、ほとんどの人はそのような大きな問題を根拠のない心配として無視するだろう。人工知能が人類の地位に及ぼす脅威について警告する多くの要人も、「言っていることとやっていることが違う」という感じがするが、いずれも自らの分野でAI技術の進化と活用を推進している。

しかし、人間社会の礎である「自由意志」自体が、脳神経科学や社会学の観点から厳しく問われており、人工知能が人間の意思決定をシミュレートして導く能力は大きく向上しています。このように、人間の自由が計算可能な生理学的メカニズムに還元され、AIの計算能力が人間の計算能力を超えるという、人類の運命の変化の交差点に近づいています。

この時点で、私たちはぬるま湯の中の蛙のようであり、茹でられる運命を受け入れることしかできません。 AI テクノロジーによってこうした無害な問題がますます明らかになってきていますが、私たちは依然として AI に対して警戒する必要があります。

つまり、AI が「自由意志」を持つ場合、AI は価値中立的になれるのでしょうか?

テクノロジーの価値中立性を確立することは困難であり、AIについても同様である。
「技術は価値中立的であるかどうか」という議論では、現在、ほとんどの人が「技術中立性」という見方を支持する傾向にあります。

私たちは通常、技術の道徳的価値はそれを使用する人にあると信じています。たとえば、ナイフが料理に使われるか、犯罪に使われるかを判断する鍵は、ナイフを持っている人の考えにあります。技術の価値はそれ自体にあるのではなく、それを使用する人の目的にあります。たとえば、映画「神は狂っている」では、アフリカの原始部族の人々が一杯のコカコーラの瓶を手に入れました。現代社会のこの普通の消費財は、最初は全能の神と見なされていましたが、後に民族紛争を引き起こす悪魔になりました。このコカコーラの瓶の価値は先住民の手に渡って劇的に変化しました。
この仮定の利点は、人間の尊厳が維持されることです。どのテクノロジーを何の目的で使うかは私たち自身の選択であり、最終的な結果に対しては私たちが責任を負います。

しかし、これは本当にそうなのでしょうか?

人類が火を起こすという最も基本的な技術を習得し始めた頃から、部族の女性たちは体力の数万倍ものエネルギーを放出することができた。なぜなら、たった一つの火で広大な森林を焼き尽くし、逃げる暇もなかったその土地の生き物の肉を収穫し、後には次々と農地を開拓することができたからだ。今日のアマゾンの熱帯雨林について考えてみてください。世界的な消費者貿易ネットワークで食用作物を栽培するために、ブラジルの農民によってほぼ完全に焼き払われてしまいました。火自体には目的がありませんが、火を使う人は火の特性と力を知っており、火の範囲と用途を制御することができます。人間の火と自然の火の違いは、火自体にすでに人間の意志と目的が含まれていることです。

AI が「自由意志」を持つようになると、それ以降に人間が発明するあらゆるツールやテクノロジーには、多かれ少なかれ発明者自身の目的が含まれるようになると考えられます。鋭利な石のナイフには、切る機能と殺傷能力の両方があります。銃が発明されると、当然、殺傷効果はより高くなります。銃を購入する人は、自己防衛のために使用するか、他人を傷つけるために使用するかに関係なく、このことをよく知っています。技術の発明には必ず理由があり、その理由の背後には目的と方向性があり、それがその技術の主観的な価値を暗示しています。

人間のテクノロジーツールがより複雑かつ高度になるにつれ、テクノロジーの目的がユーザーに与える影響は大きくなります。さらに、私たちはこれらのテクノロジーにますます慣れてきました。バッテリーやインターネットなしでは生きていけないのと同じように、これらのテクノロジーは私たちの選択や判断を微妙に変えてきました。私たちは自分の選択が自由だと思っていますが、実際にはそのほとんどはツールによって訓練され、変更されています。

最も典型的な現代のテクノロジーは、さまざまなインターネット アプリケーションやゲームであり、その中でも最も典型的なのは短いビデオです。没入型ディスプレイ、無制限のスクロールによるページ切り替え、好みの推奨アルゴリズムなどを活用したショートビデオは、携帯電話ユーザーにとって「暇つぶし」ツールとなり、気づかないうちに何十分も費やしてしまう人も多い。少し考えてみると、この一連の推奨技術には、人間の弱点や中毒のメカニズムを利用してユーザーの時間を稼ぐという価値傾向があることがわかります。

これらの企業とその非常に優秀なエンジニアたちは、人々の心を操作しようという悪意を持っていないかもしれないことは分かっていますが、彼らは商業的な成功を達成することだけを動機としており、人々の心を操作するための技術を追加し続けるでしょう。そして今回、エンジニアには最高のアシスタント、人工知能が誕生しました。

AIアルゴリズムの本来の目標は、敵対的学習で最高のスコアを獲得すること、画像認識で最高の認識率を獲得すること、嗜好推奨において常にユーザーの嗜好を満たすこと、可能な限り多くの類似コンテンツを見つけることなど、ある人間の目的を反映することでなければなりません。人工知能は、いくつかの分野で優れたパフォーマンスを発揮するだけでなく、人間の意思決定を上回る計算能力も備えています。

「不十分な」AIから「誤用された」AIへ
AI脅威論についてはこれまで何度も多くの人が語ってきましたが、ここで私たちが言いたいのは「AIが人間を支配する」とか「AIが人間の仕事を奪う」といった一般的な見解を繰り返すことではありません。なぜなら、この見解は、AIが人間から独立した新しい種になるということを言っているように思われるが、現状では、そのようなAIがいつ実現されるかは不明であり、あるいはまったく実現されない可能性もあるからだ。

ここで強調したいのは、これまでの機械的、化学的、生物学的技術が単に人間の局所的な能力を向上させるだけであったのに対し、今回の AI 技術は人間の知覚、判断、意思決定能力に取って代わり、人間の合理的行動の「レプリカ」となるということです。

AI テクノロジーのこの「非中立的」な性質は、必然的に次のような結果につながります。

1. AI アルゴリズムは、モデル設計やデータサンプルの不足などの問題により、データトレーニング中に必然的にバイアスが生じます。

例えば、2018年の報告書では、アマゾンのAI採用システムが女性に対して組織的に差別していると指摘された。履歴書に「女性」という言葉があると、応募者のスコアが下がる。また、女子大学2校と記された履歴書は、順位が下がることも判明した。人工知能による重み付けの決定は、過去 10 年間の Amazon の履歴書データを学習することによって行われます。どうやら、この 10 年間に採用された候補者の大半は男性であり、技術職の採用における人間の人事担当者の好みが、AI に同じ戦略を採用することを教えたようです。

[[357559]]

より一般的な顔認識の分野では、性別や人種差別に基づく明らかなアルゴリズムの偏りが出現しています。米国のNIST（国立標準技術研究所）が2019年12月に発表した報告書によると、米国の顔認識システムでは、黒人の顔のエラー率は白人の顔の100倍である。アジア人と比較した場合も、黒人の顔のエラー率は前者の10倍である。法執行機関の顔画像ライブラリでは、ネイティブアメリカンの認識エラー率が最も高い。さらに、女性や高齢者の顔も認識しにくくなります。この研究のデータソースは、米国のビザ申請および交通機関のデータベースにある 1,800 万枚の顔写真であり、189 の顔認識アルゴリズムがテストされました。研究結果は、ほとんどの商用アプリケーション アルゴリズムの結果を表しています。

今年公開された「コード化された偏見」というストリーミング映画は、この問題を暴露している。人工知能が人々の情報、安全、機会、さらには自由を奪いつつある中、人々がこれらのアルゴリズムの偏見や差別を正さなければ、AI技術は、少数派の若者が誤認逮捕されたり、女性従業員がアルゴリズムによって無能と判断されたり、10代の若者がスパムメールに囲まれたりするなど、より悪い世界を作り出すことは避けられないだろう。

もちろん、これは AI テクノロジーが十分ではないという事実の単なる一例にすぎません。多くの人は、アルゴリズムを継続的に調整し、データサンプルを増やすことで、これらの低レベルのエラー、アルゴリズムによる識別などの問題を解決できると考えています。偏見を排除し、アルゴリズムを最適化することができれば、私たちはどのような状況に直面することになるのでしょうか?

第二に、データ集約の規模と技術競争の排他性により、AI技術は少数のテクノロジー企業や政府の手に渡り、技術的特権を持つ人々や組織が揺るがすことのできない権力と富を獲得するのを助け、この傾向を強める可能性があります。

AI技術が必ずしも全体主義や独占を助長するとは言えませんが、そうした兆候は現れてきています。

一般の人々は、インターネット上のさまざまな操作を通じて、自分の習慣嗜好や消費データを提供するだけでなく、ウェアラブルデバイスなどの情報を通じて、自分の生理指標データも入手するようになりました。いかなる AI アルゴリズム システムも、これら 2 種類のデータを同時に保持し、それらの間の対応する相関関係を確立できれば、このシステムは真に人々の心を全面的に操作する能力を獲得することになります。

私たち人間のあらゆる決定は、さまざまな生理的、心理的、行動的データに変換でき、AI技術を使用してこれらすべての背後にある因果関係を解明したいからこそ、AIは人間のためにこの使命を達成する大きなチャンスがあるのです。良い方向に進めば、AIは人間の知能に取って代わり、前例のない生産性を発揮します。悪い方向に進めば、AI技術は想像を絶する破壊力も生み出します。

例えば、核の冬による抑止力の後に、AI兵器の開発により精密な殺害が可能になります。熱い武器による大規模な紛争はある程度回避できますが、このような普及したAI兵器や殺人ロボットの脅威の下では、各国は極めて敵対的になるでしょう。これらのAI兵器が過激派組織に利用されれば、大量破壊兵器となり事件を引き起こす可能性が高くなります。たとえば、AI アルゴリズムは特権を持つ少数派の意志のみを代表し、大多数の人々は AI の進化のためのデータソースになるという傾向がより起こり得ます。

AIが人間を直接支配することは不可能ですが、AIが人間に悪用され、人間の不平等を形成する共犯者になる可能性は非常に高いです。

今、より重要なのは、AI技術の客観性や中立性という幻想を捨て、AIアルゴリズムが私たちの意思決定に及ぼす強力な操作に警戒することです。同時に、人工知能の普遍的な使用を促進することに尽力する必要があります。これが私たちが次にすべきことです。

AIの自由意志を拒否する権利
ここで私たちが指摘しているのは、人工知能には独自の価値があり、その価値の源泉は突然の「自己覚醒」からではなく、人間から対応する価値を継承し、いわゆる人間の「自由意志」を「複製」することから来ているという問題です。

AIアルゴリズムが十分に強力でない場合、人間の認知エラーや偏見を継承する可能性があります。しかし、AIアルゴリズムが十分に強力になると、「客観的で中立的」になることはなく、むしろ、極限まで押し進められた人間の道具的合理性の価値、つまり、より集中した権力、より多くの富、そして継続的な自己強化とアップグレードを体現することになります。

この価値観を一般の人間個人に適用すると、2つの結果が生じる可能性があります。1つは、AIアルゴリズムと共進化し、知的にも肉体的にも絶えず自分自身をアップグレードし、AIの発展のトレンドをコントロールするスーパーヒューマンになることです。もう1つは、一般大衆がAI技術の動作ロジックを理解できず、自律的な意思決定に参加する方法がなく、人生の決定をアルゴリズムに任せてしまうことです。

人間の生物学的進化の速度は、AIの計算能力の成長に追いつくのが非常に難しいため、人間の知識は世代から世代へと線形サイクルでしか受け継がれませんが、AIは指数関数的に成長します。これは、ほとんどの人が独自の意思決定メカニズムしか提供できず、AIが私たちのさまざまなアイデアの成功確率を判断することを意味します。

今日、この問題は非常に隠れた形で現れています。多くの人が自分の内なる声に耳を傾けるべきだと信じていますが、これらの内なる要求のどれが私たちの「自由意志」が望むものであり、どれがさまざまな価値観によって形作られているのかはわかりません。 AI アルゴリズムが、あらゆる広告推奨、あらゆるコンテンツ審査、あらゆる自撮り写真の美化、あらゆる行動追跡を通じて、すでにあなたのニーズを植え付け始めていることがわかっています。

人工知能が飛躍的に進歩しているここ数年、私たちは実は「AIは人類に利益をもたらす」という壮大な物語に焦点を合わせすぎていた。結局、私たちはこの新しいテクノロジー業界に過大な期待を寄せすぎていたのだ。しかし、現在個人のプライバシーの分野で立ち上げられているAIアプリケーションは、人々のあらゆるデータを把握するために最善を尽くしているように見えますが、実際には私たちはこの傾向に備えていません。

最近、一部の業界や場面で顔認識技術が広く悪用されているため、一部の地域では関連部門が是正規制を導入し、これらの AI デバイスの解体を要求し始めていることにも気付きました。今後も人工知能の応用範囲をめぐる綱引きは続くだろう。

しかし、将来の長期的なゲームでは、たとえ少しの利便性を犠牲にしたとしても、私たちは冷静さを保ち、選択の権利を放棄して人工知能に委ねる際に、AIに「ノーと言う」力を持たなければなりません。