倪光南：AI開発は教訓を学ぶべき、コア技術は購入したり置き換えたりすることはできない

「ここ数年、情報技術分野で私たちが学んだ最大の教訓の一つは、主要な中核技術は私たち自身の独立したイノベーションを通じて解決する必要があり、購入や交換では解決できないということだ」と、コンピューター専門家で院士の倪光南氏は2019年世界人工知能会議でのThe Paperとの独占インタビューで語った。

アプリケーションやチップなどの面での取り組みもAIにさらなる価値を生み出すだろうが、中国はアルゴリズムのブレークスルーにさらなる努力を注ぐ必要があると彼は考えている。

1939年生まれの中国工程院院士。中国初の自主設計真空管式コンピュータ（119号機）の開発に参加。1960年代から1970年代にかけて漢字処理と文字認識の研究を行い、漢字入力における連想機能の応用を開拓。

1995年から現在に至るまで、倪光南氏は中国が中核的なIT技術、特に独自のオペレーティングシステムと国産CPUを開発するよう呼びかけることに全力を尽くしてきた。今日、歴史は「技術、産業、貿易」と「貿易、産業、技術」の間の論争に答えを与えたようです。中国は今後、歴史から学び、人工知能の分野で飛躍的な進歩を遂げる決意を固めるだろうと彼は信じている。

AIの安全性はハードウェアとソフトウェアの問題にとどまらない

この会議で、倪光南氏は世界の人工知能の安全保障に関するハイエンド対話に参加した。彼の意見では、自律性と制御性がネットワーク セキュリティの鍵であり、自律性と制御性の評価は品質評価とセキュリティ評価に基づいて追加される必要がある。

この一連の標準は、人工知能関連の製品、サービス、テクノロジー、システムのセキュリティと制御可能性を評価するための要素と基準を確立することで、人工知能時代のセキュリティ問題にも適用できる可能性があります。

「この方法の利点の1つは、ネットワークセキュリティをゼロから始めるのではなく、次のレベルに引き上げられることだ」と同氏は語った。

では、受け継がれてきたネットワーク セキュリティを基盤として、AI 時代のセキュリティ問題はどのような新たな特徴を示すのでしょうか。Ni Guangnan 氏は進化論の観点からこのテーマを考察します。

従来のセキュリティは人と物の関係を考慮しますが、ネットワーク セキュリティは人と人の攻撃と防御の関係を考慮します。 「したがって、サイバーセキュリティにおいては自律性と制御性を重視する必要があります。自律性と制御性がなければ、相手は脆弱性を悪用して裏口から攻撃することができます。これは従来のセキュリティよりも一歩進んだものです。」

人工知能の時代を迎えるにあたり、人間と人工知能の関係にも向き合う必要があります。したがって、AI の安全性と制御可能性は、単なる技術的な問題を超えています。たとえば、対話型プロセスを使用してチャットボットをトレーニングする場合、一部のロボットは「悪いことを学習」したり、「悪態をついたり」、さらには「人種差別主義者」になったりする可能性があります。

「これらのロボットはソフトウェアやハードウェアに問題はないはずだが、学習の過程でより複雑な状況が発生する」とニ・グアンナン氏は語った。これはこれまで考慮されたことのない問題であり、あらゆる側面からの徹底的な調査が必要です。

さらに、ディープラーニングには透明性の問題もあります。 「人工知能は画像認識において人間よりも正確かもしれませんが、なぜそれほど優れているのかはわかりません。人間のチェスプレイヤーは自分の動きすべてに説明をつけることができますが、AIにはそれができません。」何かがなぜ良いのか説明できなければ、悪い状況を避けることはできません。一部の顔認識システムでは、ハッカーは単純な線を描くことで AI を混乱させ、非常に小さな干渉を利用して AI にミスを起こさせることができます。

倪光南氏は、人工知能が新しいタイプのセキュリティをもたらしたが、それは制度設計と方法論の観点から説明する必要があるかもしれないと結論付けた。

AIの安全性に関して、広く懸念されているもう一つの話題は、AIが大規模な失業を引き起こすかどうかだ。ニ・グアンナン氏は、機械には人間に対して2つの大きな利点があると考えています。一つは、特定の分野で人間に勝つことが当たり前になるということです。 2 つ目は、機械の知能は簡単に重ね合わせたり拡張したりできるが、100 人の知恵を合わせたとしても 1 人の人間の知恵より強くならない可能性があるということです。

しかし彼は、大量の単純労働が人工知能に置き換えられた後も、新たに追加された仕事で人間がより価値の高い役割を果たすことができるように、これらの機械の使用と保守を行うエンジニアが依然として多数必要になると考えている。

歴史の教訓はより大きな決意を与える

では、中国の人工知能研究と産業が将来安全で健全な発展を遂げるために最も重要な焦点はどこにあるのでしょうか。Ni Guangnan 氏は、アルゴリズムは依然として中核的な問題であると考えています。

この新しい人工知能ブームの波において、大きな役割を果たすと認識されている要素は、データ、計算能力、アルゴリズムの 3 つです。倪光南氏は、最も重要なことはディープラーニングの出現によってアルゴリズムに画期的な進歩がもたらされ、人工知能が新たな段階に到達したことだと考えている。

短期的には、多くの企業がまずアプリケーションから始めることが予想されます。 「応用のハードルが低く、簡単にできるのは当然です。中国は大きな市場があり、この点で優位に立っています。人工知能を伝統的な産業に導入することで、アップグレードと変革を加速することができます」と、倪光南氏は述べた。「しかし、重要なコア技術を飛躍的に進歩させ、より良い未来を目指すために、私たちはさらに努力を注ぐ必要があります。」

「現在人気の人工知能チップを含め、多くの企業が製造しており、もちろん品質には差がある。しかし、違いは、それらはすべてハードウェアを使用してアルゴリズムを加速しており、アルゴリズム自体を根本的に破壊していないことだ」と倪光南氏はコメントした。

「過去数年間に情報技術分野で我々が学んだ最大の教訓の一つは、主要な中核技術は我々自身の独立したイノベーションを通じて解決されなければならず、購入や交換では解決できないということだ」と彼は結論付けた。

しかし、当時の基盤の弱さと考え方の相違に比べると、中国は現在ではより強くなり、重要なコア技術を突破することに対する理解も深まったと倪光南氏は考えている。 「我々は人工知能分野における過去の経験から学び、より強い決意を持って、追いつくまでのプロセスを短縮していくつもりだ。」