周洪義：人工知能には多くのセキュリティ上の弱点がある

3月5日、中国人民政治協商会議全国委員会委員で、360グループ会長兼CEOの周鴻毅氏は、今年の「両会」に向けた3つの提案を発表した。国家サイバーセキュリティ頭脳の構築、スマートカーのサイバーセキュリティ、人工知能のセキュリティリスクなど、注目のセキュリティトピックを網羅した。

国家サイバーセキュリティ頭脳の構築に関する提案の中で、周洪一氏は国家サイバーセキュリティ頭脳を主要な国家工学プロジェクトとして位置付けることを提案した。国家サイバーセキュリティ頭脳プロジェクト全体ワーキンググループ、専門家グループ、エンジニアリング推進グループを設立し、それぞれトップレベルの設計と全体計画、システム設計、エンジニアリング構築を担当することを推奨します。新たな国家システムを活用し、国家サイバーセキュリティ頭脳の構築を加速します。関係する国家部門の主導のもと、インターネット情報弁公室、工業情報化、公安、科学技術などの部門や部署と連携し、国有企業、民間企業、研究機関の幅広い参加を組織します。

周洪毅氏は次のように語った。「10年以上ネットワークセキュリティに携わってきたが、私たちのネットワークセキュリティ防御には大きな問題があると感じている。つまり、各部隊は基本的に単独で戦い、自分の「3エーカーの土地」を守り、「自分の家の前の雪を掃く」だけだ。誰もが自分のローカル情報しか持っていないため、高度な攻撃をタイムリーに検出することができないのだ。」

彼は、これらの脅威と課題に直面したとき、最優先事項はネットワークの脅威をタイムリーに検出できることであり、これを実現する唯一の方法はセキュリティ ビッグ データの組み合わせに頼ることだと考えています。統合データを備えた国家サイバー空間国土防衛システム、つまり国家サイバーセキュリティ頭脳を構築することは、世界的なサイバーセキュリティの状況が厳しい今日、特に重要です。

周鴻毅氏はスマートカーのネットワークセキュリティに関する提案の中で、強制的な生産基準を策定し、ネットワークセキュリティをスマートカーの標準機能にすることを提案した。まず、安全なネットワークモジュールをインストールしてネットワーク保護機能を向上させ、安全なインターフェースを確立し、車の制御セキュリティ保護を強化して制御のハイジャックを防ぐ。 2つ目は、義務的な安全性テストです。車両が市場に投入される前にサイバーセキュリティ評価を実施するためのテストおよび評価システムを確立します。 3つ目は、メーカーのセキュリティ運用プラットフォームを構築し、セキュリティ運用能力を向上させ、ハッカーの攻撃を迅速に検知してブロックすることです。

「我々の目標は、スマートカーが無防備な状態で走行するのを防ぐことだ。今日、コンピューターを無防備な状態で走らせようとする人はいないし、携帯電話にはセキュリティ対策ソフトが搭載されている。スマートカーにもネットワークセキュリティ保護システムが搭載されるべきだ。我々は、ネットワークセキュリティシステムを『シートベルト』のようにスマートカーの標準機能にし、スマートカーが安全で信頼性が高く、制御可能なものにしなければならない」と彼は語った。

周紅一氏は、自動車の将来的な発展はインテリジェント化、ネットワーク化、電動化、共有化へと進み、その電子・電気アーキテクチャは世界を揺るがすような変化を遂げるだろうと考えている。車のインテリジェント運転システム、インフォテインメントシステム、シャーシ制御システム、電力制御システムはすべてインターネットに接続され、データ転送やソフトウェアのアップグレードはネットワークを通じて実行されます。インターネットに接続すると、ネットワークセキュリティのリスクが発生します。ハッカーはインターネットを通じて自動車を乗っ取り、人身傷害、大量死傷者、その他の安全事故を引き起こし、さらにはテロ攻撃に利用され、個人の安全、社会の安全、国家の安全を脅かす可能性があります。

周洪毅氏は、人工知能のセキュリティリスクに関する提案の中で、セキュリティが人工知能の発展の基盤と前提条件となるべきだと示唆した。しかし、AIサイバーセキュリティの問題は極めて複雑であり、さまざまなリソースを統合し、共同で推進・解決するためのオープンイノベーションプラットフォームの構築が急務となっています。国は新世代の人工知能オープンイノベーションプラットフォームの構築を非常に重視しています。自動運転、都市脳、医療画像、インテリジェント音声、インテリジェントビジョンの5つの主要分野で人工知能のオープンイノベーションプラットフォームの構築が承認されましたが、人工知能ネットワークセキュリティの分野ではまだギャップがあります。人工知能の健全かつ秩序ある発展を確保するために、国はサイバーセキュリティ人工知能に関する国家レベルのオープンイノベーションプラットフォームの構築をできるだけ早く支援することを推奨します。

「現段階では、人工知能自体のセキュリティに焦点が当てられています。人工知能にはセキュリティ上の『弱点』が数多くあります。フロントエンドセンサーが妨害されたり、トレーニングデータが汚染されたり、内部アルゴリズムが欺かれたり、システム内に未知の脆弱性が多数存在する可能性があります。人工知能は間違いなく、次の技術革命の焦点です。技術が急速に発展する中、この技術をより安全に保つ方法が極めて重要です」と周紅一氏は述べた。

周洪一氏は、人工知能は経済、社会、国防などとの深い融合を加速しており、ますます顕著な「先鋒」効果を発揮していると述べた。しかし同時に、人工知能自体が直面するサイバーセキュリティのリスクもますます顕著になってきています。 「例えば、AIセンサーが妨害されるリスクがある。トレーニングデータが汚染され、知能ロボットが破損するリスクがある。不完全な確率判断システムが車両の破壊や人の死につながる可能性がある。AIはソフトウェアを通じて実装されており、脆弱性があり、ハッカーに悪用される可能性がある。」

「このことから、人工知能自体にセキュリティ上の問題があれば、攻撃に対して脆弱になり、深刻な結果を招くことがわかります。一方では、人工知能システムが乗っ取られ、大量の重要なトレーニングデータが漏洩する可能性があります。他方では、人工知能を使用する無人システムが制御を失ったり、深刻な結果につながる可能性があります。たとえば、現在、兵器システムの引き金は兵士の手にあり、判断して引き金を引くのは人間です。将来、人工知能が導入されてインテリジェント兵器システムが形成されると、引き金はコンピューターシステムの手にあります。ハッカーに制御されると、武器は遠隔操作され、無差別に罪のない人々を撃ち殺すことができます」と彼は言いました。