機械学習システムの弱点: 保護が必要な 5 つの理由

[[345683]]

日々の努力の究極の目的は、生活をより楽に、より便利にすることです。これが人類の歴史の発展です。機械学習は、Spotify が過去のプレイリストに基づいて提供するおすすめから、スパムやフィッシング メールのフィルタリングまで、利便性を向上させる力の 1 つです。

機械学習は高度なテクノロジーの賜物ですが、悪名高いマルウェアや攻撃に常に屈してきました。あらゆる企業の発展は、顧客と投資家の信頼と切り離せません。この信頼は、顧客のデータが侵害されず、プライバシーが維持される場合にのみ維持できます。

しかし、データが新たな「燃料」となり、これは困難な作業になりました。規模の大小を問わず、すべての組織は、データ侵害から自社と顧客を守るために時間と競争しています。この投稿では、機械学習システムを保護する必要がある 5 つの理由について説明します。

データ盗難

電子商取引はまもなく 1 兆ドルの水準を超え、デジタル詐欺が急増することは明らかです。 Juniper Researchのレポートによると、非対面型カード詐欺（CNP）は2023年までに1,300億ドルに達すると予想されています。もう一つの憂慮すべきニュースは、電子商取引企業の約50%がこの被害に遭っていることだ。

知的財産の盗難

特許は、あなたの創造性と職人技に対する「法的独占権」のようなものです（米国の特許法と商標法の有効期間は最長 20 年です）。企業内での知的財産権をめぐる争いは、エミネムとイギー・アゼリアの争いよりも深刻になる可能性がある。さまざまな業界に存在する知的財産権侵害の形態の一部を次に示します。

• 技術者: 従業員はコンピューティング ソリューションを盗んだり、仕事を外注したりして、2 倍の給料をもらいます。
• ヘルスケア: 医療スタッフと薬剤師が許可能力を超えて処方する。
• 教育: 偽の学生ローンを申請する人々。
• 財務: 架空の取引の請求書を偽造する。

不遵守

サイバーセキュリティ法の施行は、さまざまな抑制と均衡を伴う企業責任に等しい。

• 完全なプライバシー ポリシー: 2004 年のカリフォルニア州オンライン プライバシー保護法に基づき、オンライン ビジネスや Web サイトを運営したり、顧客情報を収集したり (追跡や調査の目的で) するカリフォルニア州 (および現在では米国のほぼ全土) の企業は、Web サイトでプライバシー ポリシーを可能な限り詳細に記載する必要があります。法律では、収集される情報の範囲と、第三者と共有される目的が説明されています。
• 個人データは、個人情報や個人を特定できる情報（同じ意味で使用されますが、それぞれに特定の法的分類があります）とは大きく異なるため、連邦取引委員会（FTC）でさえプライバシー法を制定し、サポートする必要があります。
• 米国外で視野を広げる計画を立てますが、弁護士との面談を忘れないようにしてください。米国以外の国の個人情報保護法は、米国の法律と一致していません。たとえば、欧州連合のGDPRでは、企業が取得した情報を収集および削除する権利が国民に与えられていますが、中国の個人情報保護法では、政府が介入してソフトウェアパッケージのソースコードのコピーを保存することが認められています。

サービス品質 (QoS) の低下

サービス品質はコンピューティング サービスの完全なパフォーマンスを明らかにしますが、攻撃者はこれを悪用して、システム内で大量の最適化された許可を簡単に転送することができます。これにより、攻撃者はサービスの品質を低下させたり、人間のオペレーターへのエスカレーションを強制したりすることができます。

QoS をサポートするネットワークは、別の形式の攻撃、つまり QoS 攻撃に対して脆弱です。差別化サービス ネットワークなどの QoS をサポートするネットワークは、異なるコストで異なるクラスのサービスを提供します。この料金の違いにより、一部のユーザーが帯域幅やその他のネットワーク関連リソースを盗む動機が生じる可能性があります。

中毒分析

データ汚染は、あらゆる AI ベースのセキュリティ システムの脆弱性につながる可能性があるため、金融業界にとって最大の潜在的脅威です。これは非常に操作性が高く、気付かれにくく、継続的にデータを危険にさらし、顧客の信頼を損ないます。法医学の専門家は、このような複雑でありながら脆弱な状態ベクトルを追跡することは極めて困難であることも発見しました。これは、クラウドベースのインフラストラクチャにも熟練したセキュリティ モジュールが必要であることを示しています。

サービスを楽しむだけでなく、潜在的な脅威にも注意する必要があります。潜在的な脅威を常にセキュリティで保護し、フィルタリングすることは、現代のデータ剣闘士のようなものです。機械学習システムのセキュリティ確保の緊急性について、より一層ご理解いただけたかと思います。

この記事はWeChatの公開アカウント「Reading the Core」から転載したもので、以下のQRコードからフォローできます。この記事を転載する場合は、Duxinshu の公開アカウントにご連絡ください。