人工知能時代の倫理的枠組み

[[195229]]

1. 英国の国民保健サービス（NHS）は、健康・医療ビッグデータプラットフォームであるcare.dataが閉鎖された際にこの「ライセンス」を失った。 NHSの記録を活用して医療サービスを改善するという考え方は幅広い支持を得ていたが、NHSのデータ保護問題の取り扱いが世論の激しい反発を招き、最終的に計画は頓挫した。
2. データ駆動型の自動化された意思決定は、認識されたリスクと責任のレベルに基づいて評価されます。たとえば、Amazon のショッピング提案​​は、自動運転車の推奨よりもはるかに注目度が低い。
3. 人工知能には2つの異なる発展展望がある。1つは「プールモデル」と呼ばれ、人工知能の「プールの水」が全世界に溢れ出るというもの。2つ目は彼が予測した「穴モデル」であり、人工知能の「水滴」があらゆるものに滴り落ちるが、特定の「穴」のみを埋めるというものである。

元の翻訳:

最近、YouTubeでテロを宣伝する人々、ビッグデータ企業ケンブリッジ・アナリティカがFacebookの投稿を利用してキャンペーンをパーソナライズする、配車アプリのUberが終わりのないスキャンダルに巻き込まれるといったメディア報道があり、データ倫理が主流になってきている。

私たちが従う原則や規制は、もはや技術の発展のペースに追いつくことができません。英国の技術ロビー団体TechUKは、コンプライアンスを確保する方法について議論するため専門家委員会を招集した。最近の技術の進歩により、インフォームドコンセントとプライバシーに関する倫理的概念が拡大しており、データ保護の基準を確立するための新しい枠組みが必要とされています。

「革新には確実性をもたらす基準が必要だ」と英国王立統計協会の事務局長ヘタン・シャー氏は言う。「国民の信頼を失えば、運営許可を失うリスクがある」

英国の国民保健サービス（NHS）は、健康・医療ビッグデータプラットフォームであるcare.dataが閉鎖された際にこの「ライセンス」を失った。 NHSの記録を活用して医療サービスを改善するという考え方は幅広い支持を得ていたが、NHSのデータ保護問題の取り扱いが世論の激しい反発を招き、最終的に計画は頓挫した。

データ利用に対する国民の態度

データの使用をめぐる最近のスキャンダルにより、国民の信頼は低下している。王立協会は最近、国民に対して、ある機関をどの程度信頼しているか、また、その機関にデータを提出する場合、どの程度信頼するかを尋ねる調査を実施した。

「2番目は常に1番目より信頼性が低い」とシャー氏は言う。「あなたのデータを持っている機関を、持っていない機関より信頼することは決してできない。信頼の欠如があり、それは社会的な問題だ」

王立協会の科学政策ディレクター、クレア・クレイグ氏は、さまざまな社会経済的背景を持つ英国国民にデータの使用に関する意見を尋ねる調査に参加した。この定性調査により、一般大衆のリスク判断基準は動機の認識から始まることが明らかになりました。

「主なメッセージは、文脈が重要であるということです」とクレイグ氏は言う。「特定のデータ応用のリスクと利点を判断するために使用する基本的な基準は、動機の認識から始まります。」

「彼らは、新しい技術が導入される理由、新しいアプリケーションが存在する理由、データの内容、目的は何なのかを本当に気にしています。また、受益者のことも気にしています。特に、それが自分たちや自分たちのような人々、自分たちのようなグループ、そしてより広いコミュニティの役に立つとわかれば、彼らの態度はより支持的になります。」

結局のところ、消費者には直接的な利益が必要です。これが人々の役に立つなら、利益が出るかどうかは問題ではありません。

データ駆動型の自動化された意思決定は、認識されたリスクと責任のレベルに基づいて評価されます。たとえば、Amazon のショッピング提案​​は、自動運転車の推奨よりもはるかに注目度が低い。

人々は、より多くの対人交流を可能にするテクノロジー アプリケーションをサポートします。たとえば、テクノロジーによって時間を節約し、ユーザーは友人や家族とより多くのコミュニケーションをとることができます。

テクノロジーに過度に依存すると、過去の世代が習得したスキルが永久に失われる可能性があります。

テクノロジーは人間の能力を低下させるのではなく、向上させるものであることが示される必要がある。専門家がより重要なタスクのために時間を節約するのに役立つテクノロジーは広く支持されるでしょうが、人間の労働に取って代わる可能性のある自動化テクノロジーに対して人々が警戒するのも不思議ではありません。

「人々は自分が置き換えられることを心配しており、仕事の将来について多くの不安がある」とクレイグ氏は語った。「潜在的な新しい仕事はどこにあるのだろうか？」

テクノロジーが私たちを非人格化への避けられない道へと導き、人間であることの本質と価値に挑戦するにつれて、これらの懸念は実存的な恐怖に発展する可能性があります。コンピューターが人間よりもあらゆることをうまくこなせるなら、アルゴリズムが人間の選択を決定する力を持つなら、キャリア、教育、経済的支援などの分野での自由の制限は避けられない結果であるように思われます。

信頼の構築

データの有益な使用が、データの否定的な使用と同じようにメディアで取り上げられることはほとんどありません。ラスベガスのカジノは、データサイエンスを活用して支出限度額を推定し、その限度額に達したら飲み物を提供して、引き続き支出を続けてくれることを期待するかもしれません。しかし同時に、Streams のようなアプリケーションも登場しており、患者のデータをスキャンすることで急性腎障害のリスクを予測し、医療成果を向上させ、看護師の日々の作業負荷を軽減しています。

ロンドン交通局がオープンデータを使用してバスの到着時間を予測したり、食品基準庁がソーシャルネットワークを使用してノロウイルスの拡散を監視したりするなど、肯定的な使用事例を公表することで、国民の信頼を築くことができます。

コンサルタント会社フロンティア・エコ​​ノミクスの最近のレポートでは、AIが2035年までに英国経済に8,140億ドルをもたらし、成長率を2.5%から3.9%に押し上げると予測されている。

「これらは目に見える形では素晴らしい数字だが、分析やAIなどのデータ駆動型テクノロジーが経済と生活のあらゆる側面に良い変化をもたらし、より豊かで健康的、そしてクリーンなコミュニティの構築に本当に役立つということを、まだ十分に反映していない」と、マイクロソフトUKの政府関係担当マネージャー、オーウェン・ラーター氏は述べた。

米国の医療制度では、すでにパターン認識を実行できるアルゴリズム技術を適用し、がんと心臓病に次いで死亡原因の第 3 位となっている病院での予防可能なエラーに対処しています。データ駆動型のパターン認識テクノロジーは、医師向けに確立された臨床ベストプラクティスにおける異常を警告し、これらのエラーが重大な損害を引き起こすのを防ぐことができます。

現在、英国は高齢化社会の医療費など、数多くの課題に対処する倫理的責任を負っており、今日のNHSは明日には存続できなくなるだろう。

テックUKの副最高経営責任者アントニー・ウォーカー氏は、私たちが活用しているデータの宝庫には人命を救う力があると考えているが、それはその潜在能力が解き放たれた場合に限られる。

「将来の世代に無料の医療制度を提供したいのであれば、私たちは彼らに対して倫理的な責任を負っている」とウォーカー氏は語った。「それを実現する唯一の方法は、データを活用することだ」

コンピュータ コードに関しては説明責任が課題となる可能性がありますが、プロセスを監査可能にし、仕組みを説明することで、国民の信頼を築くことができます。クレイグ氏は、国民の懸念にも応える必要があると考えています。

「透明性は必要だが、効率性ではないことは確かだ」と同氏は語った。「何が起こっているかを知ることは、単なる出発点にすぎない」

説明責任、責任、賠償責任は複雑な三角形です。最後のものは会社に大きな損害を与える可能性があり、違反を是正する必要があります。

プライバシー、ガバナンス、インフォームドコンセントに関する上記の問題に加えて、データの公平性と偏りに関する国民の懸念も続いています。アルゴリズムも人間の感情や偏見の産物であるにもかかわらず、人間の意見よりも信頼されることが多いです。

データ サイエンスはまだ比較的新しい分野であるため、科学者はデータ倫理と標準に関する包括的なトレーニングを受ける必要があります。彼らが設計したアルゴリズムの結果は、透明性とセキュリティを確保するために監査される必要があります。

「アルゴリズムのブラックボックスを覗き込むのは難しい」とシャー氏は語った。

彼は独立したデータ倫理委員会を設立したいと考えており、新たな規制当局を作るよりも、既存の規制当局に追加の権限を与えることを望んでいる。

未来へ向かって

オックスフォード大学の哲学と情報倫理学の教授であるルチアーノ・フロリディ氏は、データの将来とそれが今後数年間にもたらす倫理的影響について研究している。

彼は人工知能の2つの異なる発展展望を説明した。1つ目は「プールモデル」と呼ばれるもので、人工知能の「プールの水」が全世界に溢れ出るというもの。2つ目は自らが予測した「穴モデル」で、人工知能の「水滴」があらゆるものに滴り落ちるが、特定の「穴」のみを埋めるというものだ。

「これらの穴を繋ぐ作業は、AI がすべて行うわけではありません。それは人間が行うことになります」とフロリディ氏は言う。「AI アプリケーションと他の AI アプリケーション、あるいは接続が必要な他のシステムとをどう接続するかについては、解決すべき倫理的な問題がたくさんあります。これらすべてをどう接続するかは、まったく未知の領域です。」

新しいテクノロジーは常に犯罪行為の新たな機会をもたらすため、民間企業、公的機関、法執行機関が追いつくのに時間がかかる場合があります。ユーロポールの2016年インターネット組織犯罪脅威評価には、存在するさまざまな種類のサイバー犯罪に特化した章がありますが、人工知能についてはほとんど言及されていません。

「組織犯罪と戦うために機械学習や AI を使うことについては多くの人が話していますが、組織犯罪が同じ技術を使う可能性について話している人はいますか?」とフロリディ氏は尋ねた。「オペレーティング システムに脆弱性が見つかった場合、誰かが AI システムを使ってその脆弱性を悪用するところを想像できますか? 私の知る限り、このことについて話しているのは自動車業界だけです。」

アルゴリズムにはコンピューターのセキュリティを向上させる可能性があると人々は考えていますが、そのセキュリティを弱体化させる力も持っています。自動化によってこれらのアルゴリズムが同じシステムに導入されると、ハッカーは攻撃を仕掛ける際に各車のコンピューターを一つずつハッキングする必要がなくなります。

しかし、民間部門ではいくつかの前向きな動きが見られます。企業は、特にスタートアップ企業から大企業へと成長するにつれて、データ倫理を貴重な資産とみなすようになっています。

避妊薬が一般大衆に先駆けて性革命を引き起こしたように、テクノロジーは倫理を変えることができます。データが持つ変革の可能性を最大限に実現するには、一連の倫理基準を確立し、保護を提供するための倫理的枠組みを構築する必要があります。新しいシステムが完全に実施できるかどうかは、政府と業界次第です。