人工知能とプライバシーの議論: AIの透明性の長所と短所を理解する

AI がますます多くの業界で採用されるようになるにつれ、AI のユーザーは、実用性を効果的に維持しながらユーザーのプライバシーを保護するという微妙なバランスを取ろうとしています。 AI の一般的なベストプラクティスは、AI がどのように使用され、特定の結果がどのように達成されるかについて透明性を確保することです。しかし、この透明性には良い面と悪い面の両方があります。ここでは、知っておくべき AI の透明性の長所と短所、そしてこの難しいバランスをとるための可能な解決策を紹介します。

[[334389]]

利点

AI は効率性を向上させ、イノベーションを活用し、プロセスを合理化します。仕組みや結果の計算方法を透明化することで、次のような社会的およびビジネス上の利点がいくつかもたらされます。

正義

過去数年間、人工知能の用途は増加し続けています。 AIは司法制度にも進出し、交通違反切符の処理から陪審員よりも公平に裁判を検討するまで、あらゆることを行っています。

企業が AI の使用について透明性を保つと、ユーザーの司法へのアクセスが向上します。 AI がどのように重要な情報を収集し、特定の結果に到達するかを確認できます。 AI がない場合よりも多くのテクノロジーと情報にアクセスできるようになります。

差別を避ける

AI の本来の欠点の 1 つは、AI を使用してパターンを検出し、収集したデータに基づいてユーザーについて推測を行うと、差別的な結果が生じる可能性があることです。

しかし、現在では AI はより高度化しており、差別の検出にも利用されています。 AI により、すべてのユーザーの情報が含まれ、ユーザーの声が聞かれることが保証されます。この点で、AI は優れたイコライザーになり得ます。

信頼を築く

AI ユーザーが AI の使用方法を事前に理解し、その使用方法を顧客ベースに説明すると、信頼感を植え付ける可能性が高くなります。人々は企業が特定の結果をどのように達成するかを知る必要があり、透明性は企業と顧客の間の溝を埋めるのに役立ちます。

顧客は AI を受け入れる用意があります。 Salesforce の「コネクテッド コンシューマーの現状」調査で調査された消費者の 62% が、エクスペリエンスを向上させるために AI を導入することに前向きであり、企業もその需要に応える用意があると回答しました。

最近のアクセンチュアの調査によると、経営幹部の 72% が AI の透明な使用を通じて自社の製品やサービスに対する顧客の信頼と自信を獲得したいと回答しています。 AI の使用とユーザーデータを保護するためのセキュリティ対策について透明性のある企業は、この透明性の向上から恩恵を受ける可能性が高いでしょう。

より賢明な決断

人々は、AI システムが人間であると騙されているのではなく、AI システムと対話していることを知っている場合、必要な情報を得るために行動を適応させることができる場合が多くあります。

たとえば、チャット ボックスでは完全な文章ではなくキーワードが使用される場合があります。ユーザーは、これらのシステムの長所と限界をより深く理解し、AI システムと対話するための意識的な決定を下すことができます。

欠点

透明性は、上記のような良い結果をもたらす可能性がありますが、次のような欠点もあります。

プライバシーの欠如

AIとその透明性に対する大きな反論は、プライバシーが欠如する可能性があるという点です。 AI は通常、ビッグデータを収集し、独自のアルゴリズムを使用してそのデータに値を割り当てます。ただし、結果を得るために、AI は多くの場合、あらゆるオンライン アクティビティを追跡し (身元調査は無料で受けられます)、ビジネス Web サイトを追跡、検索、使用します。この情報の一部は第三者に販売される場合もあります。

さらに、AI は人々のオンライン行動を追跡するためによく使用され、そこから次のような個人に関する重要な情報を識別することができます。

• 人種
• 政治的信念
• 宗教的信仰
• 性別
• 性的指向
• 健康状態

たとえ人々がこの機密情報をオンラインで誰にも提供しないことを選択したとしても、AI の機能により情報が失われる可能性があります。さらに、AI は公開されている情報を追跡する場合もあります。しかし、この情報の正確さを誰も確認しないと、ある人の情報が別の人の情報と混同される可能性があります。

クラッキング手順

企業が AI の解釈を公開すると、ハッカーがこの情報を利用してシステムを操作する可能性があります。たとえば、ハッカーはコードや入力に小さな変更を加えて不正確な結果を得ることができる可能性があります。

そうすれば、ハッカーは企業自身の透明性を逆手に取ることができる。

ハッカーが AI の背後にある理由を理解すると、アルゴリズムに影響を与える可能性があります。一般的に、この手法を詐欺の検出に使用することは推奨されません。したがって、利害関係者が他のアクションを取らない場合、システムの運用が容易になる可能性があります。

知的財産の盗難

企業が AI の使用について透明性を保つ場合に発生する可能性があるもう 1 つの問題は、ハッカーが企業の独自の企業秘密や知的財産を盗む可能性があることです。これらの個人は、企業の解釈を閲覧し、独自のアルゴリズムを再現して、ビジネスに損害を与える可能性があります。

攻撃に対して脆弱

オンラインで入手できる情報が膨大にあるため、7,800万人のアメリカ人がオンラインセキュリティを懸念していると述べています。企業が AI をどのように利用しているかを明らかにすると、ハッカーが消費者の情報にアクセスしやすくなったり、1 億 4,800 万人のアメリカ人の個人情報が漏洩した悪名高い Equifax のデータ侵害のように、個人情報の盗難につながるデータ侵害を引き起こしたりする可能性があります。

規制への敏感さ

AIに関する情報開示は、より厳しい規制など、他のリスクをもたらす可能性があります。 AI がわかりにくく、使いにくい場合、規制当局はそれを理解できないか、規制できない可能性があります。しかし、企業が AI の役割について透明性を保つと、AI とその使用方法に関するより重要な規制枠組みが生まれる可能性があります。このようにして、革新者はその革新に対して罰せられる可能性があります。

訴訟の対象になりやすい

企業が透明性を重視して消費者のデータをどのように保護するかを明確にすると、消費者から情報が不適切に使用されたと主張する法的請求に対して、無意識のうちに脆弱になる可能性があります。賢明な弁護士は、AI の透明性に関する情報を慎重に検討し、企業による AI の利用に関する革新的な法的理論を構築することができます。

たとえば、企業が消費者のプライバシーを保護するために何をしていないかに焦点を当てるかもしれません。その後、この情報を使用して、企業の行為または不作為が過失であったと主張する可能性があります。さらに、多くの AI システムはより単純なモデルで動作します。アルゴリズムについて透明性のある企業でも、あまり洗練されていないアルゴリズムを使用している可能性があり、特定の情報を無視したり、特定の状況でエラーを引き起こしたりする可能性があります。経験豊富な弁護士であれば、AI によって引き起こされるその他の問題を特定し、企業に対する法的請求を立証できる可能性があります。

AIとプライバシーに関する真実

ターミネーター映画（基本的には終末映画）を見た人なら誰でも、最も崇高な理由で開発された技術であっても、兵器として利用されたり、社会に究極的な損害をもたらすために使われたりする可能性があることを知っています。

危害が及ぶ可能性があるため、特定の企業に AI の使用に関する透明性を求める多くの法律が制定されています。たとえば、金融サービス会社は、個人の信用度を判断する際に使用する主な要素と、融資の決定において不利な措置を取る理由を開示する必要があります。

立法者は積極的に他の法律を提案し、検討している。

これらの法律が可決されれば、情報をどのように収集するか、AIをどのように使用するか、事前に消費者の同意を得る必要があるかどうかなど、企業が従わなければならない新たな義務が確立される可能性がある。 2019年には、連邦政府機関にAIの開発と保守にリソースを投資するよう指示し、プライバシーと国家安全保障を保護する方法で連邦政府機関がAI技術を規制できるようにするためのガイドラインと基準の策定を求める大統領令が法律として署名されました。

企業に AI の使用に関する透明性がまだ求められていなくても、すぐに選択の余地がなくなる可能性があります。こうした結果に備えるため、一部の企業は AI をテストし、AI を取り巻く倫理的問題を特定するための社内審査委員会を積極的に設立しています。

また、法務部門や開発者と協力して、特定した問題に対する解決策を作成することもできます。義務的な開示の前に潜在的なリスクを慎重に評価し、問題の解決策を特定することで、企業は AI の透明性に関連するリスクをより適切に回避できる可能性があります。