人工知能技術は急速に発展しています。AIの信頼問題をどのように解決するのでしょうか?

人工知能技術は急速に発展しています。AIの信頼問題をどのように解決するのでしょうか?

[[441503]]

【グローバルネットワークテクノロジー記者 王楠】AIといえば、まず何を思い浮かべますか? 九段の天才チェスプレイヤー柯潔とAlphaGoの戦いでしょうか? 自動運転でしょうか? それとも、ある話題について友達と話していると、数秒で携帯電話にプッシュされるのと同じ種類の広告でしょうか? それとも、親でさえも認識できない「変装ツール」でしょうか?

1950 年のチューリングの疑問から今日の急成長産業に至るまで、人工知能技術はすでに人々の生活のあらゆる側面に浸透しています。しかし、急速な発展の裏では、「ブラックボックスモデル」による技術的な制御不能、データセキュリティ、プライバシー漏洩などの問題が頻繁に発生しています。人工知能技術の「万能性」に対する人々の態度は、当初の全面肯定から、落ち着いた後の混乱、不安、反省へと変化したようだ。科学技術の急速な発展によってもたらされた信頼の危機に人々はどう対処すべきでしょうか?

まず、信頼できるAIとは何かを理解する必要がある。「信頼できるAIは、基礎となる技術フレームワークを通じて、人工知能の応用プロセスに存在する可能性のあるさまざまな問題を実際に解決し、信頼できる人工知能エコシステムを確立します。」中国情報通信研究院華東支部人工知能・ビッグデータ部門のディレクターである陳俊燕氏は、12月14日に開催された「クラウドとAIについて語る」テクノロジー業界サロンで述べた。

実際、近年では顔認証が闇産業の標的になったり、プライバシー情報の売買など、ユーザーの個人プライバシーデータをめぐるさまざまなセキュリティ問題がニュースで頻繁に取り上げられるようになり、プライバシー保護やデータセキュリティといった問題に対する世間の関心も高まっています。 「現在、情報は複数の情報源から来ており、短期間で追跡することはできない。データの使用に規制の抜け穴があれば、個人のプライバシーの漏洩や直接的な金銭的損失につながるだろう」と陳俊燕氏はさらに、現在のAI技術に対する信頼の危機を分析した。

同時に、AI信頼危機は、より深刻な個人の安全問題を引き起こす可能性もあります。 「AI技術はブラックボックスモデルに基づいているため、医療診断、自動運転、その他の生命に関わる産業など、いくつかの重要な分野で信頼の危機が発生した場合、非常に恐ろしい結果をもたらすだろう」と、JD Discovery Instituteのアルゴリズム科学者であるHe Fengxiang氏は分析し、これらの危機は業界の発展とアプリケーションの実装に大きな影響を与えるだろうと述べた。

このような状況において、人工知能の時代においてプライバシー保護、政府規制、商業的要求のバランスをとることは、産業界、学界、研究界のあらゆる部門が取り組む必要のある緊急の課題となっています。華空青教情報技術(北京)有限公司の標準責任者兼戦略ディレクターの王雲和氏は、信頼できるAIの構築にはすべての関係者の共同の取り組みが必要だと考えています。 「法的な観点から見ると、現在、データセキュリティを保護するためのデジタルセキュリティ法と個人保険法があり、これらは信頼できるAIのためのハード対策です。次のステップは、信頼できるAIのためのソフト対策と言える業界標準化の向上です。この2つは不可欠であり、互いに補完し合っています。」

近年、世界における信頼できるAIに関する関連政策や基準の実施状況について、陳俊燕氏は次のように結論付けた。「現在、国際社会は主にガイドラインや法律の形で人工知能の信頼性を規制しており、例えば2018年の『信頼できる人工知能の倫理ガイドライン草案』や2019年の『信頼できる人工知能の倫理規定』の発表などがある。また、人工知能管理フレームワークの構築や信頼できるAIの監督による信頼性の向上など、基準設定の模索も行われている。例えば、今年発表された『人工知能における差別の識別と管理の基準に関する提案』や『人工知能リスク管理フレームワーク』などだ」。海外の信頼できるAIは法律や基準を先に実現しているが、柔軟性が足りず、「画一的」な問題に陥りやすい。

これについて何鳳翔氏は、信頼できる人工知能の概念が徐々に世界的なコンセンサスとなっているため、信頼できるAIの技術研究と標準開発の面で、京東研究院とCAICT白書の考えは一致していると指摘した。人工知能の公平性、説明可能性、安定性、プライバシー保護を確保するとともに、アルゴリズムが信頼できることを保証する必要がある。これは、将来、人工知能産業が健全に発展するための唯一の道にもなるだろう。 「JD.comは、基礎理論に基づいて最先端の問題を研究し、これらの理論的問題と理論的結果に基づいて新しい信頼できるAIアルゴリズムを設計し、これらのAIアルゴリズムを製品に適用して、テクノロジーの最終的な実装を完了しようとしています。」

会議に出席した専門家は皆、信頼できるAIは理論研究と産業実践の両面でまだ長い道のりがあると述べた。 「信頼できるAIには、幅広い分野と複雑な実務タスクが関わっています。単一の企業や組織が単独で質の高いイノベーションを起こし、飛躍することは困難です。そのため、生産、教育、研究、応用のフルチェーンコラボレーションが鍵となります。今後、業界は成熟したオープンなエコシステムを構築する必要があります。すべての関係者の力を結集して初めて、テクノロジー、標準、実践においてさらなる飛躍がもたらされるのです」と何鳳翔氏は語った。

全体として、我が国は現在、「国家新世代人工知能標準システム構築ガイドライン」や「信頼できる人工知能の発展を促進するイニシアチブ」などの文書を発表するなど、信頼できるAIの構築において、政策、生態学、法律、標準設定の面で総合的な努力を行っています。規制当局の一致団結した努力に加え、中国情報通信研究院やJD.comに代表される重要な機関や大手企業も、業界の取り組みや標準の策定などの推進に全力を尽くしており、今後さらに前向きな進展が見られることは間違いないだろう。

<<:  最新の3D GANは3次元の幾何学データを生成できます!モデル速度が7倍に向上

>>:  Google が AI で利益を上げている秘密は何でしょうか?

ブログ    
ブログ    

推薦する

自社開発のAIチップのトレンドが始まっており、テクノロジー依存からの脱却は始まりに過ぎない

大規模な AI モデルへの熱狂に後押しされ、AI チップの分野ではついに百家争鳴の時代が到来しました...

コンピュータービジョン技術によって変革が期待できる3つの業界

コンピューター ビジョン テクノロジー (マシン ビジョンとも呼ばれます) により、機械は周囲の世界...

電荷ベースの原子シミュレーションのための事前学習済み汎用ニューラルネットワーク CHGNet

複雑な電子相互作用の大規模シミュレーションは、原子モデル化における最大の課題の 1 つです。古典的な...

...

MySQL: データ構造とアルゴリズムの原則

[[190898]]この記事では、MySQL データベースを研究対象として取り上げ、データベース イ...

Oracle データベース初期化パラメータの分析: システム構成を最適化するための究極のガイド!

Oracle データベースでは、初期化パラメータは非常に重要な構成項目であり、データベースのパフォ...

Python 補間アルゴリズムの完全な説明

[[411126]]この記事はWeChatの公開アカウント「Python Chinese Commu...

ResNet仮説は覆されたか? Redditの人:長年誰もその原理を理解していなかった

[[429626]] 2015 年に、画期的なニューラル ネットワーク モデル ResNet がリ...

切り抜きや着色を超えて、人工知能がデザインに及ぼす影響をご覧ください

人工知能の時代では、ARデザインとスマートハードウェアデザインが徐々に発展しています。デザイン改革で...

ワクチン生産を加速するには?答えは医学ではなくテクノロジーにある

世界各国の政府は新型コロナウイルス感染症の流行に対抗するためさまざまな対策を講じているが、世界的な流...

...

遺伝的アルゴリズムとPython実装におけるいくつかの異なる選択演算子

序文この論文では、遺伝的アルゴリズムにおけるいくつかの選択戦略についてまとめています。比例ルーレット...

AI、機械学習、RPA業界への期待

毎年、IT 業界メディアの eWEEK では、新製品、革新的なサービス、開発動向など、IT 業界の今...

LLaVA: GPT-4V(ision) のオープンソース代替品

LLaVA (Large Language and Vision Assistant) は、画像翻訳...

GoogleとOpenAIがマシンビジョンアルゴリズムをより良く研究するための新しいツールを開発

AIの世界はどのようなものになるのでしょうか?研究者たちは何十年もの間、これに困惑してきましたが、近...