人工知能はプライバシー侵害につながり、人々は顔スキャンが安全を奪うのではないかと心配している

データの蓄積、コンピュータの計算能力の飛躍的向上、アルゴリズムの最適化により、人工知能は生活をより効率的にしています。音声認識と画像認識により、本人認証の信頼性が高まり、わずか数秒で「あなたがあなたである」ことを証明できます。インテリジェントな診断と治療、自動運転により、人々は病気を克服し、事故を減らす新たな機会を得ました。人工知能は、囲碁の名人に簡単に勝ち、美しい詩を書くこともできます...その自律性と創造性は、人間と機械の区別を曖昧にしています。

しかし、プライバシー侵害、データ漏洩、アルゴリズム偏向などの事件が次々と発生すると、人々は反省せざるを得ません。人工知能の継続的な進歩と広範な応用がもたらす利益は莫大であり、本当に社会に有益なものにするためには、人工知能の価値指導、倫理規制、リスク規制を無視することはできません。

[[240394]]

顔認識はより広く利用されており、プライバシー権への脅威は注目に値する

駅に入るための「顔スワイプ」、支払いのための「顔スワイプ」、サインインのための「顔スワイプ」、法執行のための「顔スワイプ」...顔認識技術は、より幅広い応用シナリオに入りつつあります。指紋や虹彩などと比較して、顔はプライバシーが弱い生物学的特徴です。したがって、この技術が国民のプライバシー保護に及ぼす脅威は特に注目に値します。 「顔画像や動画も広い意味ではデータだ。適切に保管され、合理的に使用されなければ、ユーザーのプライバシーを容易に侵害することになる」と中国社会科学院哲学研究所の研究員、段衛文氏は述べた。

インターネット サービス プロバイダーは、データ収集と機械学習を使用してユーザーの特性と好みを「プロファイル」し、パーソナライズされたサービスと推奨事項を提供します。ポジティブな観点から見ると、これは供給側と需要側の両方に有益な相互作用です。しかし、消費者にとって、この交換は不平等です。個人情報侵害事件の頻発から判断すると、個人情報の権利と機関の権利のバランスが崩れており、データの収集と利用において、消費者は受動的である一方、企業や機関は能動的となっている。段衛文氏は「データは実際には企業が独占する資源となっているが、経済を牽引する要因でもある」と述べた。企業が自社の利益だけを考えれば、個人情報を過剰に利用したり、不適切に開示したりすることは避けられない。

「ビッグデータの時代では、インターネット上の個人のあらゆる行動がデータ化されて蓄積され、このデータの収集は最終的に個人のプライバシーの漏洩につながる可能性がある」と湖南師範大学人工知能・倫理意思決定研究所所長の李倫氏は、ユーザーが観察、分析、監視の対象になっていると考えている。

アルゴリズムはより客観的で透明性が高く、差別や「馴染みのあるものを殺す」ことを避けるべきである。

情報爆発の時代では、データの処理、分析、応用は主にアルゴリズムによって実現され、ますます多くの意思決定がアルゴリズムに置き換えられています。コンテンツの推奨から広告の配置、信用限度額の査定から犯罪リスクの査定まで、アルゴリズムはあらゆるところに存在しています。アルゴリズムが操作する自動運転は人間のドライバーよりも安全かもしれませんし、アルゴリズムが出す診断結果は医師の診断結果よりも正確かもしれません。アルゴリズムによって構築された「スコアリング」社会に慣れ始めている人はますます増えています。

情報技術としてのアルゴリズムは、情報とデータの霧を晴らすだけでなく、倫理的な課題にも直面しています。犯罪リスクを評価するために人工知能を使用すると、アルゴリズムは判決に影響を与える可能性があります。自動運転車が危険にさらされている場合、アルゴリズムはどの当事者を犠牲にするか決定できます。兵器システムで使用されるアルゴリズムは、攻撃対象を決定することさえできます...これは、無視できない問題を提起します。アルゴリズムの公平性をどのように確保するか?

テンセント研究所の法務研究センターの上級研究員である曹建鋒氏は、アルゴリズムは数学的表現であっても本質的には「数学的な用語やコンピューターコードで表現された意見」であると考えている。アルゴリズムの設計、モデル、目的、成功基準、データの使用法などはすべてプログラマーの主観的な選択です。バイアスは意図的または意図せずにアルゴリズムに埋め込まれ、コード化される可能性があります。 「アルゴリズムは客観的なものではなく、アルゴリズムによる意思決定が関与する多くの分野では、アルゴリズムによる差別は珍しいことではありません。」

「アルゴリズムによる意思決定は、過去のデータを使って将来の傾向を予測する予測がほとんどです。アルゴリズムのモデルとデータ入力によって予測結果が決まるため、この2つの要素がアルゴリズムによる差別化の主な要因になります。」曹建鋒氏は、主観的な要素に加えて、データ自体もアルゴリズムの決定と予測に影響を与えると説明した。 「データは社会の現実を反映しています。データは不正確、不完全、または古い可能性があります。トレーニング データ自体が差別的である可能性があります。そのようなデータでトレーニングされたアルゴリズム システムは、当然のことながら差別の烙印を押されることになります。」

2016年3月、マイクロソフトの人工知能チャットボットTayが発表された。ネットユーザーとのやり取りの中で、Tayは短期間で「道を踏み外し」、性差別や人種差別の表れとなった。最終的に、マイクロソフトはTayを「廃止」せざるを得なくなった。曹建鋒氏は、アルゴリズムは差別を固定化または増幅する傾向があり、アルゴリズム全体を通じて差別が持続すると考えている。そのため、犯罪判定、信用融資、雇用審査など、人々の重大な利益に影響を与える場面でアルゴリズムが適用される場合、ひとたび差別が発生すると、個人、さらには社会の利益を害するおそれがあります。

また、ディープラーニングは典型的な「ブラックボックス」アルゴリズムです。設計者でさえ、アルゴリズムがどのように決定を下すのか分からない場合があります。そのため、システム内に差別があるかどうか、また差別の根本原因を発見することは技術的に困難です。 「アルゴリズムの『ブラックボックス』特性により、意思決定ロジックは透明性と説明可能性を欠いている」と李倫氏は述べ、ビッグデータが「身近なものを殺す」事件やアルゴリズムによる差別などの事件の発生により、アルゴリズムに対する社会の疑念は徐々に高まっていると述べた。政府や企業は、データを利用する際に国民に対する透明性を高め、選択権を個人に返還する必要があります。

検証と監督を強化し、データの不正使用やその他の行為に対する罰則を強化する

2017年7月、国務院は「次世代人工知能開発計画」（以下、「計画」という）を公布した。 「計画」は、人工知能業界と企業における自主規律の促進、管理の効果的な強化、データの濫用、個人のプライバシーの侵害、道徳倫理違反に対する罰則の強化を強調している。

「顔認識はますます利用されているが、人工知能はまだ初期段階にある。データとプライバシーの保護を強化し、アルゴリズムの乱用による意思決定の誤りや社会的不公正に注意を払い、防止する必要がある」と述べた。個人データの権利保護に関して、段衛文氏は、データ取引に関わるすべての当事者が自分の行動に責任を負うべきであり、特に他の目的で使用される場合、誰もが自分のデータがどのように処理されるかを知るべきであり、データの乱用を減らし、自分の「顔」が安全かどうかを人々に明確に知らせるべきだと提案した。

段衛文氏は、人工知能の倫理設計をさらに強化し、アルゴリズムの理論的仮定、内部メカニズム、実践的文脈を全プロセスにわたって質問・検証し、アルゴリズムによる意思決定の結果と影響の不公平さから始めて、そのメカニズムとプロセスに意図的または無意識的な歪曲や誤解を招くものがないかを逆にチェックし、既存の問題を明らかにし、その是正と改善を推進する必要があると考えている。

曹建鋒氏の見解では、人工知能がもたらす倫理的問題に対処するには、第一に、アルゴリズムガバナンスの内外の制約メカニズムを構築し、人工知能システムに人間社会の法律、道徳などの規範と価値観を組み込む必要がある。第二に、人工知能の研究開発に倫理原則を実施し、研究者が基本的な倫理基準を遵守するよう奨励する。第三に、アルゴリズムに対する必要な監督を行い、アルゴリズム自身のコードの透明性とアルゴリズムの決定の透明性を高める。第四に、アルゴリズムの決定と差別、および引き起こされた人身および財産の損害に対して法的救済策を提供する。

「我々は人間と機械の共生の時代に生きている。人間と機械の間にはさまざまな衝突や矛盾が必ず起こる。法律や制度だけでそれを完全に解決するのは難しい」と李倫氏は述べた。人々は科学リテラシーの向上に努め、自らの権利を積極的に守るべきだ。社会はまた、人工知能の倫理を議論するための公開プラットフォームをできるだけ早く設立し、関係者全員が意見を十分に表明し、合意形成を促進できるようにすべきだ。