若者がAI倫理について語り始めるとき

サイバーパンク映画では、次のようなアイデアがよく見られます。

社会は財閥グループによって支配され、人工知能は統治の道具として機能してきました。人間の行動はすべて機械の論理に従い、アルゴリズムのルールに従わなければなりません。そして社会の底辺に生きる主人公は、その抜け穴を見つけ、操られる運命から逃れようとする。

おそらくほとんどの人々の認識では、同様のディストピアの世界は、私たちからまだ遠いところにあるのでしょう。しかし、人工知能技術が象牙の塔から現実世界へと移行するにつれ、AI倫理に関する問題が徐々に学界での議論の焦点となり、若者の中にもアルゴリズムの倫理やリスクについて考え始めている人たちも現れてきました。

例えば、ビリビリの有名ビデオブロガー「在下小蘇」が制作した動画では、ディープフェイクや人間と機械の愛といったテーマが議論された。ディープフェイクなどのブラックテクノロジーがいたずらや悪事に利用されるようになったら、私たちは人工知能に対してどのような態度をとるべきだろうか。「技術中立性」がますます多くの人に批判されるようになったら、私たちは新時代の人間と機械の関係にどう向き合うべきだろうか。

AI倫理という概念は少しマクロかもしれませんが、誰にとっても密接に関係するものなのです。

普遍的なアルゴリズムによる差別

人工知能は私たちにとって遠い存在ではありません。

情報アプリを開くと、アルゴリズムがあなたの好みに基づいて自動的にニュースを推奨します。電子商取引プラットフォームで買い物をすると、アルゴリズムがあなたの習慣に基づいて対応する製品を推奨します。仕事に応募すると、アルゴリズムが最初に履歴書を処理して審査することもあります。治療のために病院に行くと、医師がアルゴリズムモデルを使用して病気の可能性を判断することがあります...

アルゴリズムは前例のない速さで私たちの生活に浸透しています。支持者の目には、アルゴリズムはいくつかの決定における人間の介入を減らし、それによって決定の効率と正確性を向上させることができると映っています。批判的な観点から見ると、アルゴリズムは人間の偏見を持っているのでしょうか? 人々の運命はアルゴリズムによって左右されるのでしょうか?

残念なことに、アルゴリズムによる差別は、多くの場合、アルゴリズムの実際の適用から派生したものです。

アマゾンは2014年に、採用時に人事部門が履歴書を審査するのを支援する「アルゴリズム審査システム」を開発した。開発チームは500のアルゴリズムモデルを作成し、履歴書に記載された5万の用語をアルゴリズムに認識させ、応募者のさまざまな能力に重み付けを割り当てた。

結局、開発チームは、アルゴリズムが明らかに男性の応募者を優先していることを発見しました。履歴書に女子サッカークラブや女子校などでの経験が含まれていると判断された場合、その履歴書に比較的低いスコアが付けられます。このアルゴリズムモデルは最終的にロイターによって暴露され、アマゾンはやがてこのアルゴリズムの使用を中止した。考えさせられるのは、「価値観のない」アルゴリズムがなぜ偏りを持つようになったのか、ということだ。

偶然にも、2018年にIGが優勝したという朗報がネット上で沸き起こったとき、チームオーナーの王思聡はすぐに微博で抽選会を開催した。結果は予想外だった。優勝者リストには女性優勝者が112人、男性優勝者が1人いた。女性優勝者の比率は男性優勝者の112倍で、参加ユーザーの男女比は1:1.2だった。

その結果、多くのネットユーザーが抽選アルゴリズムの公平性に疑問を呈した。一部のネットユーザーは自ら抽選アルゴリズムをテストし、当選者数を参加者数より多く設定したが、それでも多数のユーザーが当選できなかった。その理由は、これらのユーザーはアルゴリズムによって「ロボット」と判断され、宝くじに当たるチャンスがまったくないからです。

アルゴリズムのブラックボックスの前では、ほとんどの場合、結果しか見えず、意思決定のプロセスを理解することはできません。同様のケースはたくさんあるかもしれませんが、それに注意を払う人はほとんどいません。

最も直接的な教訓はインターネットです。インターネットはシリコンバレーの自由な法律の下で誕生したため、いくつかの原罪は人々によって選択的に無視され、最終的に20年以上経ってから、インターネットに対する一連の批判が生まれました。ニューヨークタイムズ紙が「インターネットの縮小こそが唯一の答え」という記事で述べたように、インターネットは全体主義的なイデオロギーを持つ技術とみなされ、インターネット企業は技術を推進する「悪魔」の集団として描写されている。

インターネットに対する批判によって人々のインターネット利用が減る可能性は低いが、インターネットはなぜ誰もが賞賛する産業から社会ののけ者に変わってしまったのか、という疑問が浮かぶ。アルゴリズムの適用とアルゴリズムによる差別が制限されない場合、将来どれほど大きな波を起こすことになるだろうか。

根本的な原因は人間の偏見にある

もちろん、アルゴリズムの「偏り」については合理的な説明が不足しているわけではありません。

1 つの議論は、機械学習の結果の偏りは、アルゴリズムの「技術的な中立性」ではなく、データセットの偏りによるものだというものです。よく知られている支持者の一人は、「畳み込みニューラル ネットワークの父」として知られる LeCun Yang です。よくある議論は、誰かが包丁で人を切った場合、包丁の製造業者の責任なのか、それとも「包丁」の責任なのか、というものです。

もう 1 つの説明は、データの量が少なすぎるということです。アルゴリズムが学習するデータの量が多いほど、アルゴリズムのエラーが少なくなり、結果がより正確になる傾向があります。たとえ、偏りのないデータをアルゴリズムに取り込むスクリーニング システムが開発されたとしても、絶対的な公平性は達成できません。結局のところ、「主流」には常により多くのデータがあり、アルゴリズムは最終的に多数派を優遇し、「非主流」に対するいわゆる差別をもたらすことになります。

実際、この 2 つの文は同じことを語っています。コンピューター分野には GIGO と呼ばれる有名な略語があり、これは Garbage in, Garbage Out (Garbage in, Garbage Out) の略です。中国語に翻訳すると、入力がゴミデータの場合、出力もゴミ結果になるという意味になります。アルゴリズムは現実世界の鏡のようなもので、社会の人々の意識的または無意識的な偏見を反映します。社会全体が特定のトピックに対して偏見を持っている場合、アルゴリズムの出力は当然差別的なものになります。

ドイツの哲学者ヤスパースはかつて「原子爆弾と人類の未来」の中でこう書いています。「技術そのものは善でも悪でもないが、善にも悪にも使える。技術自体には概念がない。完璧という概念も、破壊という悪の概念もない。それらはすべて、人間自身という別の源泉から来ている。」

言い換えれば、アルゴリズムによる差別の根本的な原因は人間の偏見にある。「アルゴリズムの中立性」などの見解は本質的に人間の偏見を隠蔽するものであり、まさにそれが人工知能を恐ろしいものにしている。

あらゆるテクノロジーの出現には、「手段性」と「目的性」という 2 つの側面があり、その選択は実際には人間自身に委ねられています。しかし、人間の本性はしばしばその試練に耐えられない。制限なく人々に「道具」が渡されたとき、どれほどの悪事が行われるかは想像しがたい。

動画内で「Xiao Su」が言及したDeepFakeアルゴリズムと同様に、2017年にデビューした際に大きなセンセーションを巻き起こした。Deepfakesというユーザーがワンダーウーマンを演じたガル・ガドットの顔をアダルト映画のヒロインの顔に置き換え、その本物そっくりの効果が大きな論争を巻き起こした。

DeepFake アルゴリズムの出現により、檻から飛び出した獣のように、本来はプロの映画制作組織が一定期間の学習期間を経て初めて完成させたタスクを、一般の人々が習得できるようになりました。ガボンのアリー・ボンゴ大統領の新年のスピーチは DeepFake を使用して合成されましたが、誤って軍の反乱を引き起こしました。マレーシアの経済大臣と男性のビデオを DeepFake を使用して合成した人がいて、政府に多大な問題を引き起こしました。世界の数え切れないほどの隠れた場所で、詐欺や脅迫に DeepFake を使用する人もいます...

アルゴリズムがあらゆるところに存在するこの世界で、私たちは自分自身とどう向き合うべきでしょうか?

獣を鉄の檻に入れろ

新しい時代の「火付け役」として、私たちは人工知能を拒否することはできないかもしれない。

人工知能の応用により、品質検査ラインの作業員は、強い光の下で製品をじっと見つめて目で欠陥を見つける必要がなくなりました。人工知能の応用により、現場の医師も検査結果に基づいて患者の状態を正確に診断できるようになりました。人工知能の応用により、入力方法を知らない高齢者グループも音声を使用してインターネットの世界に入ることができます...

しかし、すべての良いことの前提条件は、まず獣を鉄の檻に入れることです。

おそらく私たちは、「Qvod事件」について論評する際の人民日報の視点を借りることができるだろう。テクノロジーは必然的に価値を運ぶだけでなく、倫理的に「運ぶべき」「良い」価値も運ぶ、つまり法律と慣習の安定性を維持し、破壊と転覆から遠ざかるという価値も運ぶのだ。この原則に違反するテクノロジーはすべて恥ずべきものとして烙印を押されるでしょう。

これは、テクノロジーが現実から独立したユートピアであってはならないということだ。科学技術の発展は、必要な監督から切り離すことはできない。法律や規制でテクノロジーの応用に明確な境界を描き、テクノロジーの中立性に倫理的な制約を課すことは、人工知能テクノロジーの長期的な発展の前提条件であると言える。

同時に、コードと法律の関係について議論する学者が増えており、アルゴリズムが既存の人間社会法の基本的な枠組みを揺るがすのではないかと懸念し、「アルゴリズム規制」という概念を提唱している。これは、アルゴリズムによる意思決定を手段として用いる規制統治システムであり、アルゴリズムによる統治を容易にするツールとして理解できる。

これらの防御メカニズムに加えて、別の可能性もあるかもしれません。それは、アルゴリズム開発者に適切な「AI倫理」教育を提供し、「ロボットは人間に危害を加えることはできない」という鉄則のように、アルゴリズムの「基本原則」を確立して、アルゴリズムの悪用を根絶することです。

「Zaixia Xiaosu」に代表されるビデオブロガーは良い入り口です。 「在下小蘇」のAI倫理プログラムはMegviiとの協力疑惑を否定していないが、人工知能企業が若者をターゲットにしたインタラクティブ分野に参入し、若者が慣れ親しんでいる文脈と表現でAI倫理の概念と自社のAI倫理実践を対外的に伝えることは、啓蒙の有効な手段ではない。

現在、中国社会科学院、清華大学、復旦大学、上海交通大学などの科学研究機関や大学がAI倫理に関する関連研究を開始しています。世界人工知能会議や北京知源会議などの業界トップサミットでも AI 倫理が議論されています。人工知能の普及に主導的な役割を果たしてきた企業は、AI倫理を普及させ、若者にAIの最初の授業を提供する義務も負うべきだ。

100年以上前、米国最高裁判所判事のルイス・ブランダイスは「日光は最高の消毒剤だ」と言ったことがあります。人工知能教育にも同じ原則が当てはまります。若者に人工知能を使って世界を変えることを教えると同時に、善悪や限界、限界を理解させなければなりません。

先ほどの例を続けると、包丁は設計時に目的が定められていました。人工知能についても同じことが言えます。人工知能は制御不能なブラックボックスの中に放置されるのではなく、理解できる範囲内で制御されるべきです。AI倫理はその上限の1つです。

最後に

人工知能の大規模な産業応用に伴い、前例のない人間と機械の衝突が徐々に表面化し、予測可能で制約があり、慈悲深い人工知能ガバナンスメカニズムを見つけることが人工知能時代の最重要命題となっていることは否定できない。

あまり落ち込む必要はないのかもしれません。木を削って火を起こす原始時代からコンピューター時代まで、人類は技術を学び、使い、制御する道を歩んできました。この間、いくつかの回り道をしましたが、最終的には良い選択をして、火を制御する正しい方法を見つけました。 AI倫理における「AIの最初の教訓」を学ぶことは、AIが悪の側に転じるのを防ぎ、AIを合理的に制御するための正しいスタートです。

Z 世代の若者が AI 倫理について議論している今、完璧な AI ガバナンス ルールを構築することはもはや不可能ではありません。