AIが使われるようになった今、データセキュリティではこれら4つの大きな問題を避けることはできない

「今日ではビデオ監視や顔認識のアプリケーションが非常に多く、データセキュリティの保護は緊急の課題となっています。」

イベント 1 : 9 月初旬、教育シナリオに関するコンセプトのデモンストレーション イベント中に、ある企業が展示した教室での行動分析画像が、テクノロジーの乱用についてネットユーザーの間で論争を巻き起こしました。同社はその後、テクノロジーを善のために利用し、人工知能がすべての人に利益をもたらすという原則を常に順守していると述べた回答声明を発表した。当社は、人工知能技術のさまざまな場面において、正当性やデータプライバシー保護などの中核原則を遵守し、社会からの幅広いアドバイスと監督を受け入れます。

教育省科学技術部の雷超子部長は9月5日のインタビューで、AIがキャンパスに入り込み、生体認証技術がキャンパスで徐々に応用されつつある現象について、「（顔認識技術の応用を）制限し、管理する必要がある。今は学校がこうした技術ソフトウェアを非常に慎重に使用することを望んでいる」と語った。

レイ・チャオジ氏は、学校での顔認識の導入は、データセキュリティと個人のプライバシーの両方の問題を引き起こすと指摘した。「教育部はこの問題に注目し始めており、専門家を組織して調査を行っています。」 「学生の個人情報の収集には細心の注意を払わなければなりません。収集を避けられるのであれば、そうすべきです。特に個人の生体認証情報に関しては、収集は最小限に抑えるべきです。」

[[278072]]

出来事2 ：今年2月、オランダのセキュリティ研究者Victor Gevers氏は、ある企業内のMongoDBデータベースがインターネット上に公開されたとSNSで発表した。データベース内の250万人以上の個人情報データには、IDカードデータ、写真、勤務情報など、制限なくアクセスできる状態だった。

さらに、データベースには個人の位置情報を動的に記録できます。2月12日から2月13日までの24時間だけで、680万以上の位置情報が記録されました。

近年、人工知能などの新技術の推進により、情報漏洩は「データ」をめぐって起こっています。これらのデータには、あらゆる物、オブジェクト、人、企業、政府部門などが含まれており、関係者の関連する生物学的特徴や行動特性も含まれており、データ漏洩の形で現れることもあります。

これらのデータが違法かつ悪意を持って使用されると、少なくとも国民の個人情報のセキュリティと財産の安全が危険にさらされる可能性があり、特定の企業や業界の業務上のセキュリティ、さらには国家の安全保障さえも危険にさらされる可能性があります。

先進技術の出現はそれぞれ人類社会の発展を促進する上で大きな役割を果たすでしょう。

先端技術自体には善悪の属性はありません。顔認識技術を例に挙げましょう。公安部門は逃亡者の逮捕や行方不明者の捜索に、交通部門は違反行為の管理に、企業は出席確認に、鉄道輸送部門は切符のチェックに使用しています。しかし、有名人の顔を入れ替えたり、ポルノビデオに埋め込んだり、他人のアカウントに違法に侵入したりする人もいます。

非伝統的な安全保障リスクの分野では、人工知能などの新興技術を中心とした先進技術が、プラスの価値効果を増幅させる一方で、マイナスの効果も増幅させるでしょう。

鍵となるのは、誰がその高度な技術を使用しているかということです。使用目的は何ですか？それはどのような手段で実行されるのでしょうか?どのように監督するのですか?

これらの問題に対応するため、Leifeng.comは広州市セキュリティ協会の楊勇事務局長にインタビューした。同氏の意見では、セキュリティや教育などの業界で顔認識などの技術を将来的に導入するには、まだ4つの大きな欠陥があるという。

[[278073]]

1. 顔データの収集には参入障壁が欠如している。

産業プロジェクトや商業プロジェクト、消費者プロジェクトやエンターテイメントプロジェクトなど、あらゆるタイプの企業がさまざまなチャネルを通じて大量のデータを収集できます。

収集プロセスには、大量の個人のプライバシー情報、肖像権の保護、さらには機密性の高い人物の保護が関係します。

では、顔データの収集には参入基準を設けるべきでしょうか?このアクセスメカニズムは、研究目的を持つ科学研究機関と商業的利益を目的とする企業とをどのように区別するのでしょうか?業界によってアクセスメカニズムはどのように異なるべきでしょうか?

2. 顔データの適用時に機密性に対する意識が欠如しています。

さまざまなチャネルを通じて収集された多次元データは、人工知能技術によって処理され、ビッグデータの衝突と収束を通じて分析され、より多くの深いデータが生成され、ユーザーポートレート、ナレッジグラフなどの結果を達成できます。これらの結果はそれ自体が非常に価値があり、一部は機密です。

しかし、現在のところ、これらのデータの適用においては明確な機密保持のルールや対策は存在しません。専門業界プロジェクトの構築においては、公安ユーザー管理部門は機密保持意識が強いですが、商業、消費者、娯楽、民生などのプロジェクトの構築においては、これらのデータの応用における機密保持意識は基本的に空白です。人気の顔を変えるアプリシステムにおける有名人の顔の侵害や、ユーザーの顔データの間接収集などのその他の侵害は言うまでもありません。

3. 顔データ等の保管において機密保持対策が不十分であるか、機密保持が図られていない。

典型的なケースとしては、企業のデータベースがパブリックインターネット上に公開されるケースが挙げられます。

顔データがローカルサーバーに保存されるかサイバースペースに保存されるかにかかわらず、関連企業はこれらのストレージメディアのセキュリティをどのように確保するのでしょうか?特定のプロジェクトでは、顔データベースはどのように暗号化され、アクセスおよび抽出権限はどのように設定されますか?

[[278074]]

4. 違法な顔認識アプリケーションの動作を監視および制御することは困難です。

セキュリティや汎ビデオアプリケーションへの人工知能の応用ビジネスでは、各企業がさまざまな目的を持っています。大多数の企業は、人工知能技術の機会を捉え、さまざまな革新的なビジネスやアプリケーションの実現を促進して、商業的利益を実現したいと考えています。ユーザーは、人工知能技術を導入することで、より革新的なアプリケーションを実現し、管理効率を向上させ、産業の変革とアップグレードを実現したいと考えています。

しかし、一部の企業やユーザーが、違法または犯罪的な利益を追求するために、人工知能技術を違法または犯罪的な活動に利用している可能性も否定できません。現在、さまざまなニュースで報じられている事例は、ほんの始まりに過ぎないかもしれません。

したがって、関連するシステムプロジェクトの構築時には、運用中の違法行為や異常行為の監視を含め、その適用目的を監督・評価する必要があります。社会公共の利益を目的として関連する技術システムを監督する組織はどれですか?営利目的で構築される場合、対象となる一般大衆の知る権利や同意の権利などの権利は、どのように効果的に保護されるのでしょうか。これらはすべて考慮する必要がある問題です。

また、一部のプロジェクトシステムの応用では、顔データが公共のインターネット上で送信される（本質的にはインターネット上で裸で走るのと同じ）、一部の人工知能企業は海外から導入されたオープンソースのアルゴリズムに基づいて二次開発を行っており、基礎となる技術やソースコードなどを習得していないなど、これらの現象はすべて潜在的なリスクが発生するノードです。

現在、多くの省市のデジタルシティTOG建設計画文書には、インフラ建設を含むデータ生成、応用、保存のセキュリティ保護に関する規定が比較的明確に規定されている。例えば、デジタル広東の文書では、「包括的で多レベルかつ一貫したセキュリティ保護システムを構築し、データのセキュリティ保護を強化し、「デジタル政府」情報インフラ、プラットフォーム、アプリケーションシステムの円滑で効率的かつ安全な運用を効果的に確保する。セキュリティ管理、セキュリティ保証、セキュリティアプリケーションの3次元保護機能を強化し、物理、ネットワーク、プラットフォーム、データ、アプリケーション、管理に基づく6層の3次元セキュリティ保護システムを改善する」ことが求められている。

対照的に、客観的に見ると、セキュリティやビデオアプリケーションにおける人工知能技術の現在のホットなプロジェクト構築では、コア技術、製品システム、構築、操作、使用、監視などの主要な対象をカバーできる体系的なメカニズムやルールがまだ欠けています。

これまで、ビデオ映像を中核としたセキュリティシステムの構築には、中国画像グラフィック学会のビデオ監視・セキュリティ委員会や公安部セキュリティ技術・リスク評価重点実験室学術委員会などの専門家グループが参加し、上から下まで比較的完備した法律、法規、標準、規範文書の体系を確立してきた。

人工知能技術がセキュリティやビデオアプリケーションに急速に導入されている新しい時代では、関連する管理メカニズム、標準と仕様、保護戦略、技術サポートなどのセキュリティ保護システムの構築を推進し、結果として生じるデータセキュリティ保護の問題に対処する時期が来ています。