2020年が過ぎようとしていますが、これらの新しいテクノロジーがもたらした問題は依然として残っています。

2020年、疫病による経済的、社会的不確実性にもかかわらず、人工知能技術は加速的に発展し続けました。ガートナーは今年、生成AI、複合AI、責任あるAI、組み込みAI、AI強化設計など、AI技術成熟曲線にいくつかの新しい技術カテゴリーを追加しました。

その中で、生成AIが初めて「成熟曲線」に登場しました。これは、「ディープフェイク」動画やデジタルコンテンツの作成によく使われる技術です。悪意のある行為者の中には、生成 AI を使用して「ディープフェイク」コンテンツを作成しようとする者もいます。これは、新しいテクノロジーであっても、それに応じたトラブルや問題が発生することを反映しています。

01 顔認証の闇市場の裏に潜む情報漏洩

顔認識は最も広く使用され、成熟した技術です。テクノロジーが広く普及するにつれ、その背後にある問題も生じます。昨年は顔写真3万枚がわずか8元で売られ、話題になった。さらに恐ろしいのは、誰が顔写真を集めているのかわからないし、これらの顔写真が何に使われるのかもわからないことです。

昨年、Synced は顔認識グループに潜入し、その背後にある業界チェーンを調査した。ブラック業界やグレー業界の実務家は、高解像度の正面顔写真や身分証明書を持った人物の写真を「資料」と呼んでいる。 「素材」に基づいて、特定の顔認識技術セット（通常は顔アニメーションソフトウェアとハ​​ードウェアの組み合わせ）が使用され、支払い、ソーシャル、ライフサービスアプリの顔認識に合格します。

近年、インターネット市場では顔認証アプリケーションが広く利用・宣伝されており、そこから利益を得るブラック産業やグレー産業も出現している。この産業チェーンでは、上流の需要グループは実名認証アカウントを利用して現金化（利益の享受）、プロモーション、実名アカウントの転売を行っており、中流の技術サービスプロバイダーは「顔認証の代行」で生計を立てており、その中には顔認証サービスやソフトウェアを提供している「師弟」スタジオや自営業者が多数存在し、下流は各種身分証明書、顔写真などの情報の提供者である。

「技術が良ければ（顔認証を代行する）、投資コストは低く、利益はかなり大きい。市場が好調な時は、月に3万元を稼ぐのも問題ない」。ブラック業界とグレー業界の実務家はかつて、顔認証技術を教えることで生計を立てているとMachine Heartに語った。APPの顔認証技術セットは800元という低価格で販売されており、教えてくれることは保証されている。そのうち、身分証明書の表裏と半身写真の費用は極めて安く、通常は5元以下ですが、APPの顔認証に合格するには少なくとも40元かかります。原価を除外し、運営手数料を無視すると、注文ごとに少なくとも35元を稼ぐことができます。認証が難しいアプリの中には、利益を上げる余地が大きいものもあります。

顔認識技術は多くの業界や複数の端末に適用されていますが、規制レベルやプライバシーレベルでの効果的な監視が不足しているため、多くの詐欺事件が発生しています。南方都市報によると、今年、広西チワン族自治区南寧市では、10人以上の住宅販売業者が「顔認証による住宅販売」で1000万元以上をだまし取られた。不動産業者が、物件のファイルを確認するという名目で売主の顔認証を実施した。その後、住宅の売り手は、その住宅が買い手によって第三者に抵当に入れられていたことを発見しました。ナンドゥ記者による公開データの調査によると、全国で顔認識技術を使った詐欺事件が多数発生している。

この事件は、顔に代表される個人の生体認証情報が、ユーザーの個人情報として非常に機密性が高く、プライバシー漏洩や情報セキュリティ上の一定のリスクをもたらすことを示しています。ジュニパーリサーチの新しい調査レポート「モバイル決済認証：生体認証、規制、予測 2019-2024」によると、iPhoneのFace IDなどの顔認識ハードウェアは、スマートフォンの生体認証ハードウェアの中で最も急速に成長するコンポーネントとなり、出荷台数は2019年の推定9,600万台から2024年には8億台以上に達する見込みです。

顔認識技術はどこにでもあります。ディープラーニング技術と生体認証技術の統合により、ディープフェイクに基づく顔認識技術も大きな論争を巻き起こしています。 AI 顔変換を例に挙げると、名前が示すように、AI 顔変換は画像やビデオ内のある顔を別の顔に置き換えることです。

さまざまなタイプの「顔を変える」技術により、大量の偽のビデオが作られ、それに応じたブラック産業チェーンが形成されました。業界のチェーンは次のようになります。上流ではソフトウェアとチュートリアルを提供し、中流ではビデオと写真のカスタマイズを提供し、下流では完成したビデオを販売することで、業界の技術的閾値と偽造コストを大幅に削減します。

ディープフェイク技術の他に「アンチフェイク」技術もあり、両者は攻守の綱引き状態にある。この技術は、情報プライバシーの漏洩以外にも、他の問題ももたらします。最大の難点は、ディープフェイクの生体認証情報を判断するための成熟した手段と根拠がないことです。

02 「制御不能」なスマートデバイス

モノのインターネット、車両のインターネット、5Gなどの技術の発展により、私たちの周りのあらゆるデバイスがインテリジェント化していますが、隠れたリスクも生じています。特にリモートワークが普及している昨今、セキュリティの弱いスマートホーム製品がハッカー攻撃の主な標的となっている。

最近、ケンブリッジ大学の研究者らは、スマートスピーカーや携帯電話など、音声コマンドを受信できるスマートデバイスは、聞くだけで近くのスマートフォンに入力されたパスワードなどの大量の情報を推測できることを発見した。

調査によると、オーディオ キャプチャ デバイスがもたらすプライバシーの脅威は、プライベートな会話の盗聴だけにとどまりません。物理キーボードや携帯電話のタッチ スクリーン キーボードで入力された情報は、監視から逃れることはできません。研究者らは、いわゆるハッカー攻撃者が、半メートル離れた場所にある音声アシスタントによって収集された録音からPINコード（SIMカードの個人識別番号）とテキストメッセージを抽出できることを確認した。

IoT技術は人々の生活に利便性をもたらしますが、安全性や信頼性が無制限に確保されるわけではありません。このリスクは通信技術の分野でも発生しています。 GeekPwn2020 国際セキュリティオタクコンテストで、テンセントセキュリティの Xuanwu Lab の上級研究員である Li Guancheng 氏と Dai Ge 氏が、5G セキュリティ研究の成果を披露しました。 5G通信プロトコルの設計により、ハッカーは、さまざまなテキストメッセージの送受信や、APPとサーバー間の通信など、同じ基地局でカバーされているすべての携帯電話のTCP通信を「ハイジャック」することができます。

この研究は、ハッカーが5G通信プロトコルのバグを悪用して、トロイの木馬が埋め込まれたリンクを被害者に送信するなど、さまざまな形態の攻撃を実行できることを意味している。リンクをクリックすると、被害者の銀行カード情報が盗まれる可能性がある。あるいは、被害者の携帯電話番号を偽造して、家族にテキストメッセージを送信し、送金やその他の要求を依頼することも可能だ。

通信技術のアップグレードと反復により、5G は全体的にセキュリティが向上していますが、この技術のセキュリティがさらに向上するわけではありません。技術自体の未熟さに加えて、他の固有のセキュリティ問題も引き起こす可能性があります。

あらゆるものが知的な存在へと発展すると、プライバシーへの被害はさらに大きくなります。車両のインターネットにおける自動運転車の頻繁な衝突と情報漏洩は、最も典型的な事例です。

今年5月、中国国内のテスラ車のオーナーが微博に、テスラアプリに大規模な障害が発生し、携帯電話が車に接続できず、車両情報を取得できないと投稿した。

テスラが発売されて以来、多くの人が、モバイルアプリを使ってロック解除やロックが可能な、車輪の付いたAndroidスマートフォンだと説明してきました。少なくとも、車両のインターネットの時代においては、インターネットの利便性によって車両の知能化が可能になります。車載OSやクラウドプラットフォームなど、スマートコネクテッドカーの重要コンポーネントがサイバー攻撃を受けると、少なくともデータや情報の漏洩が発生し、最悪の場合、車両の制御が失われる可能性があります。

同様の「制御不能」は、安全訓練の「教材」としてよく使われます。 2020年のGeekPwnカンファレンスでは、このような人為的なテスラ モデル3の衝突事故が発生しました。セキュリティ研究者が、モデル3のミリ波レーダー検出を妨害し、車両システムが正確にブレーキをかけられなくなることで、人為的な自動車事故を引き起こす小型のレーダー妨害装置を開発した。

現実世界では、このような人為的な交通事故は多くありませんが、自動運転車の安全上の抜け穴も明らかになります。自動車のインターネットの構築が成熟し、自動運転機能を備えた車両の数が増加するにつれて、このようなセキュリティの脆弱性によってもたらされるリスクはますます大きくなります。

03 攻撃されやすいが防御が難しい企業データ

企業のデジタル変革が加速する中、データは重要な要素として企業の生命線とみなされるようになりました。それでも、ハッカー技術の継続的な侵入により、企業データの盗難は珍しいことではありません。

今年初め、国内のAI医療画像会社が流行中に開発したCOVID-19のデータがハッカーに盗まれた。同社が過去2カ月間に開発したAI支援システムと、同社が蓄積したCOVID-19トレーニングデータは、ハッカーによって4ビットコインで公開販売された。当時、同社はハッカーが入手したデータにはソースコードや顧客データは含まれていないと回答した。損失は​​限定的だったが、警鐘となった。

COVID-19の流行中、多くのハッカー集団が「COVID-19」を誤解を招く話題として利用し、医療機関や医療従事者のコンピューターにサイバー攻撃を仕掛け、脅迫や情報窃盗などの目的を達成した。

データによると、2020年上半期には、セキュリティ保護能力が弱い自治体、医療、製造業がサイバー攻撃の最も大きな被害を受けた分野となり、COVID-19パンデミック中の医療施設への攻撃はさらに大きな被害をもたらしました。欧州最大の民間病院運営会社であるフレゼンラスでさえ、ランサムウェア攻撃を受けました。

Cyber​​MDX の調査によると、ほとんどの病院ではさまざまな理由から、脆弱なデバイスの 40% 以上にパッチを適用していません。医療機器メーカーと医療機関の 80% は、安全な開発と関連する製品情報セキュリティ テスト手順に関する知識とトレーニングが不足しているため、機器を保護するのが非常に難しいと述べています。

04 結論

インターネット科学技術の発展に伴い、5G、AI、プライバシーコンピューティング、インテリジェントアルゴリズム、モノのインターネット、ビッグデータなどの技術の応用が人々の生活や生産活動に浸透している一方で、これらの熱く議論されている社会的トピックを通じて、AI時代の新技術と新問題の共存についても再検討する必要があります。

新しい技術が新しい問題をもたらしたとしても、私たちは新しい技術の使用をあきらめたり、開発をやめたりすることはできません。科学技術の発展のあらゆる段階で、さまざまな問題が生じ、これらの問題が今度は社会の発展を促します。楽観的な観点から見ると、AIによる顔変換や顔認識のブラック産業の出現により、セキュリティとプライバシーに関する議論が増加し、立法上の検討が促進され、スマートコネクテッドカーの頻繁な故障により、自動運転技術の変化が余儀なくされました。

AIアプリケーションの普及により、プライバシー保護、データセキュリティ、倫理などのセキュリティと倫理上のリスクが深刻化しています。しかし、さまざまなネットワークセキュリティ製品やソリューションが絶えず登場しており、ネットワークセキュリティの問題解決に注力するセキュリティベンダーも努力を続けています。

テンセントセキュリティ戦略研究部とテンセントセキュリティ共同実験室がこのほど共同で発表した「産業インターネットセキュリティのトップ10トレンド（2021年）」では、2021年の産業セキュリティとセキュリティ業界の発展特性が、法規制、産業発展動向、主要なセキュリティリスクなど、多面的に議論されている。

現在の産業デジタル変革のノードでは、大量のデータが収集されており、セキュリティをいかに確保するかが産業デジタル化における重要な課題となっています。産業用インターネットの基盤としてのセキュリティは、それ自体が急速な変化と進化の段階にあります。

まず、政策・規制体制が徐々に整備され、「民法」「データセキュリティ法（草案）」「個人情報保護法（草案）」などの法律が相次いで公布され、セキュリティ構築の方向性が明確化されました。

第二に、セキュリティシナリオが増加しており、サプライチェーンの協調セキュリティ、5Gアプリケーションのセキュリティ、ブラックとグレーの生産のエコシステムが企業のデジタル化プロセスにおける重要な課題となっている。

3つ目は、技術革新と概念革新が活発であることです。プライバシーコンピューティング、ゼロトラストアーキテクチャ、人工知能、クラウドネイティブセキュリティなどがセキュリティの分野で加速しており、企業のセキュリティ保護システムの構築をサポートしています。

特にインダストリアルインターネットの時代においては、企業がデジタルビジネスをクラウドに移行することが標準になるでしょう。しかし同時に、クラウドにおけるセキュリティの脅威の規模は急速に拡大しており、パブリッククラウドプラットフォームを使用するブラック業界やグレー業界による攻撃はさらに脅威となっています。

一方、クラウドネイティブセキュリティは、セキュリティサービスのライフサイクル全体にわたる保護を構築し、ビジネス構築の初期段階でセキュリティ基盤を強化し、セキュリティツール、製品からサービスまでを体系化して、ビジネス開発の全プロセスに付随します。

一方、クラウド セキュリティ製品はモジュール性、俊敏性、弾力性へと進化しており、高強度の攻撃に対応する一方で、安定期には余剰コンピューティング パワーを解放し、エンタープライズ アプリケーション コストを削減して全体的なセキュリティ レベルを向上させるなど、コスト、効率、セキュリティを考慮した「最適なソリューション」となっています。

産業のデジタル化に伴い、スマートヘルスケア、産業用インターネット、自動車のインターネットなどの新しいアプリケーションやシナリオが次々と登場しています。これらの伝統的な産業におけるデジタルビジネスのセキュリティは、人々の生命と財産の安全、そして国家の情報セキュリティに直接関係します。企業にとっては、ビジネス構築の初期段階でセキュリティとプライバシーをより考慮し、リスクを回避してセキュリティ問題の解決コストを削減する必要があります。

クラウドネイティブのセキュリティに頼るだけでなく、企業自身もトップレベルのセキュリティ思考を確立する必要があります。セキュリティに対する意識は、企業自身の努力だけでなく、社会のセキュリティ意識のレベルまで拡大し、ネットワークの脅威、個人データのセキュリティ、プライバシーなどに対する一般ユーザーの注意を強化する必要があります。

新しい技術の加速的な発展は新たな力を意味しますが、人々にさまざまな新たな問題をもたらします。新しい問題を解決するには、新しいテクノロジーが必要です。調和しているように見えて、実際には互いに対立しており、それは実際には大きな試練です。