AI設計においてデータプライバシーを優先する必要がある理由

• 人工知能はヘルスケア、テクノロジー、その他の分野の発展に不可欠ですが、データのプライバシーがどのように規制されるかについては懸念があります。
• データのプライバシーは、技術の進歩に対する国民の信頼を得るために不可欠です。

データ プライバシーは、消費者データに基づく人工知能 (AI) モデルに関連付けられることが多いです。当然のことながら、ユーザーは、機密情報が含まれる可能性のあるデータを取得して使用する自動化されたテクノロジーに警戒します。 AIのおかげで

モデルはデータの品質に依存して重要な結果を出すため、モデルが存続し続けるためにはプライバシー保護が設計の不可欠な部分となることが必要です。

適切なプライバシーとデータ管理の実践は、顧客の不安や懸念を和らげるだけの手段ではありません。企業の中核となる組織の価値、ビジネス プロセス、セキュリティ管理と深く関係しています。プライバシーの問題は広く研究され公表されており、プライバシー認識調査データによると、プライバシー保護は消費者にとって重要な懸念事項です。

これらの問題には状況に応じて対処することが重要であり、消費者向け AI を使用する企業には、AI によく伴うプライバシーの懸念に対処するのに役立つアプローチとテクノロジーがいくつかあります。

一部の製品やサービスではデータが必要ですが、誰かのプライバシーを侵害する必要はありません。

人工知能を利用する企業はすでにプライバシーに関して世間の懐疑的な見方に直面している。欧州消費者機構による2020年の調査によると、ヨーロッパ人の45～60%がAI

これにより、個人データの悪用がさらに増加し​​ます。

大規模なデータセットを利用して AI を学習し、改善する人気のオンライン サービスや製品は数多くあります。

アルゴリズム。これらのデータセットの一部のデータは、プライバシーをあまり意識していないユーザーにとってもプライベートであるとみなされる可能性があります。 Web、ソーシャル メディア ページ、携帯電話、その他のデバイスから流入するデータにより、企業が機械学習システムのトレーニングに使用する情報量が増加します。一部の企業による個人データの過度な使用や不適切な管理により、プライバシー保護は世界中で公共政策上の問題になりつつあります。

当社が収集する機密データのほとんどは、AI 対応プロセスの改善を目的としています。分析されるデータの多くは機械学習の採用によっても推進されており、これらのデータセットに基づいてリアルタイムで意思決定を行うには複雑なアルゴリズムが必要です。検索アルゴリズム、音声アシスタント、推奨エンジンは、実際のユーザーデータに基づく大規模なデータセットを活用するテクノロジーのほんの一例です。

AI に関するいくつかのソリューション。

大規模なデータベースにはさまざまなデータが含まれている可能性があり、最も差し迫った問題の 1 つは、このデータが個人を特定できる機密情報である可能性があることです。実際、アルゴリズムに意思決定を教えることは、データが誰に関係しているかを知ることに依存しません。したがって、このような製品を開発する企業は、データセットを非公開に維持し、ソースデータ内でユーザーを識別する方法を少なくし、リバースエンジニアリングや識別を回避するためにアルゴリズムからエッジケースを排除する対策を講じることに重点を置く必要があります。

データのプライバシーと人工知能の関係は非常に繊細です。特定のアルゴリズムではプライベートなデータが必要になることは避けられないかもしれませんが、より安全で邪魔にならない方法でそれを使用する方法があります。以下のアプローチは、個人データを使用する企業がソリューションの一部となる方法のほんの一部です。

プライバシーを考慮した AI の設計

悪意のある人物がAIを発見するリバースエンジニアリングの問題について議論した。

モデル内のギャップを特定し、モデルの出力から潜在的に重要な情報を特定します。リバース エンジニアリングは、この課題に直面してデータベースと学習データを変更および改善することが AI の使用にとって重要である理由です。

例えば、機械学習のプロセス（敵対的学習）で矛盾するデータセットを組み合わせることは、AIを他のものと区別するための重要なアプローチです。

アルゴリズム出力の欠陥や偏りに対する適切な選択肢です。実際の個人データを使用しない合成データセットを使用するオプションもありますが、その有効性には疑問が残ります。

ヘルスケアは、特に機密性の高い個人データを扱う際に、AI とデータ プライバシー ガバナンスの先駆者です。また、医療処置とデータ処理の両方において同意に関する多くの取り組みを行っており、その重要性は高く、法的に強制されている。

AI 製品とアルゴリズムの全体的な設計においては、匿名化と集約を通じてユーザーからデータを切り離すことが、ユーザー データを使用して AI モデルをトレーニングする企業にとって重要です。

AI 企業のプライバシー保護を強化できる考慮事項は数多くあります。

• プライバシーを最優先: 開発者はプライバシー保護を重視し、セキュリティを効果的に強化する方法を見つけます。
• すべての個人識別子と固有のデータ ポイントを削除して、データセットを匿名化して集約します。
• 社内の誰が特定のデータ セットにアクセスできるかを厳しく管理し、データへのアクセス方法を継続的に監査してください。これは、過去に発生したデータ侵害の原因となってきたからです。
• より多くのデータが常に最善の解決策であるとは限りません。最小限のデータでアルゴリズムをテストし、ユースケースを実行可能にするために収集して処理する必要がある最小限のデータ量を把握します。
• ユーザーの要求に応じて個人データを消去するための簡略化された方法を提供する必要があります。ユーザーデータを疑似匿名化するだけの企業は、最新のデータを使用してモデルを継続的に再トレーニングする必要があります。
• 完全に匿名化された集計および合成データセット、アルゴリズムのトレーニング、監査、品質保証のための不可逆な識別子などの強力な匿名化戦略を活用します。
• 第三者から重要な情報を取得して使用する方法を再考し、データ ソースを慎重に精査して、ユーザーの明示的な同意を得てデータを収集したものだけを使用するようにすることで、ユーザーの自律性とプライバシーを保護します。
• リスクを考慮してください。攻撃により、AI システムの出力からユーザーのプライバシーが侵害される可能性がありますか?

データプライバシーと AI の将来はどうなるのでしょうか?

AI システムは大量のデータを必要とし、トップクラスのオンライン サービスや製品の中には、AI アルゴリズムをトレーニングするための個人データがなければ機能しないものもあります。ただし、アルゴリズム自体と全体的なデータ管理の両方において、データの取得、管理、使用を改善する方法は数多くあります。プライバシーを尊重する AI には、プライバシーを尊重する企業が必要です。

著者: CUJO AI の CEO 兼創設者、Einaras von Gravrock